2015-03-16から1日間の記事一覧
非正規化数のFZ(FTZ)とDAZの違い こういうモードがあるのは知らなかった。 極小同士の乗算でも普通にやるとゼロになってしまうものが、非ゼロ判定ができたりする。 いまどきのmatmul 行列の乗算の高速化。すごい。ロードと演算とストアがフル稼働。 TLBの…
非正規化数のFZ(FTZ)とDAZの違い こういうモードがあるのは知らなかった。 極小同士の乗算でも普通にやるとゼロになってしまうものが、非ゼロ判定ができたりする。 いまどきのmatmul 行列の乗算の高速化。すごい。ロードと演算とストアがフル稼働。 TLBの…