Tesla の短精度実数など AI 用途では、どこかでステップ関数様の非線形計算が入るので、仮数部は短くても良し、指数部を増やしてダイナミックレンジを広げた方が良いらし。 .@Tesla #Dojo TechnologyA Guide to Tesla’s Configurable Floating Point Formats…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。