Tesla の短精度実数など
AI 用途では、どこかでステップ関数様の非線形計算が入るので、仮数部は短くても良し、指数部を増やしてダイナミックレンジを広げた方が良いらし。
.@Tesla #Dojo Technology
— HPC Guru (@HPC_Guru) 2021年10月27日
A Guide to Tesla’s Configurable Floating Point Formats & Arithmetic - #CFloat8 & #CFloat16 https://t.co/vpAy6rxEWH #HPC #AI pic.twitter.com/S5AvmEcZgs
Thread by @jamesdouma:
— HPC Guru (@HPC_Guru) 2021年10月27日
CFP8 & CFP16 address many shortcomings of existing formats and allow for 2x to 4x increase in performance and capacity of training hardware, with concomitant improvements in hardware size, cost, complexity, efficiency https://t.co/8VJ4vcqNGM #AI #HPC
中国は Exa 機を２台隠し持っている噂ｗ
今年の春の Top 500 の頃から噂が流れており、先日の Dongarra も触れていましたが、この秋の Top500 に米国が Exa 記録を出しそうなので水を差しにリークを開始したようです。量子コンピュータのシミュレーションをしてるらし。まぁ中国の消息筋の話なので話半分ですが、まぁありえなくも無しｗ
孫子の兵法にも大国を自称している国はおだてて無駄な事業をやらせて財力を疲弊させるべしとあるので、LINPACK でおだてるのが良し。
Big #HPC news via @NicoleHemsoth in @TheNextPlatform confirming what many suspected#China has already broken the (true/LINPACK) #exascale barrier in 2021—on more than one machine
— HPC Guru (@HPC_Guru) 2021年10月26日
It seems they decided NOT to submit to #Top500 due to political issues https://t.co/1qoSc0ThYN
米 NSA が最高性能スパコン隠し持ってるけど、NSA の存在自体が否定されていた時代もあったし。
【メモ帳】後漢書 独行伝
李善：疫病が流行り主家の一族全滅。生後間もない乳児だけが残る。これを殺して李家の財産を奪おうとする奴婢たちから赤ん坊を守って背負って逃走。赤ん坊にだましだまし乳を含ませるうち、乳首から乳汁が出るようになったｗｗ さすが中国！
蘇武も羝（牡羊）のおっぱいを吸っていれば、羝が乳して帰国条件を満たせたかもしれないｗｗ
