fortran66のブログ

fortran について書きます。

2021-10-27から1日間の記事一覧

【メモ帳】最近のニュース

Tesla の短精度実数など AI 用途では、どこかでステップ関数様の非線形計算が入るので、仮数部は短くても良し、指数部を増やしてダイナミックレンジを広げた方が良いらし。 .@Tesla #Dojo TechnologyA Guide to Tesla’s Configurable Floating Point Formats…