SC17 での Gustafson
Gustafson & Mullin の共著記事が結構面白かったです。
www.hpcwire.com
PFD版 Gustafson & Mullin
https://arxiv.org/ftp/arxiv/papers/1709/1709.09108.pdf
話題は昔ばなしから始まり、近頃流行りの AI テンソル計算、結合則を満たす厳密計算など話題を二転三転させながら、最後は IEEE754 の悪口で終わるワイドスクリーンバロック調で、読んで面白い記事でした。
八だよ、七だよ、六だよ、五
四だよ、三だよ、ニだよ、一
≪もっと引っぱる、≫いわくテンソル
≪もっと引っぱる、≫いわくテンソル
緊張、懸念、不和が来た
- 作者: アルフレッド・ベスター,沼沢洽治
- 出版社/メーカー: 東京創元社
- 発売日: 1965/04/30
- メディア: 文庫
- 購入: 2人 クリック: 14回
- この商品を含むブログ (43件) を見る
特に興味を引いたのは、「The Rise of the Installer Program」の段落で、従来のコンパイラ＝リンカ＝ローダー的な枠を崩して、コンパイラ（ないし「プリプロセッサ」）が中間言語を生成し、その後ハードウェアの構成に合わせたデータ構造を与える「インストーラ」が実行バイナリを構成するというアイデアです。
JIT 的な発想ですが、加速器ハードウェアが多様化しつつある今、特定のハードウェア構成やネットワーク・トポロジーに最適化された個別のソース・プログラムを書かざるおえない現状への面白アイデア提起かと思いました。
The End of Error: Unum Computing (Chapman & Hall/CRC Computational Science)
- 作者: John L. Gustafson
- 出版社/メーカー: Chapman and Hall/CRC
- 発売日: 2017/06/26
- メディア: Kindle版
- この商品を含むブログを見る
この他に気に入った部分として、データの順序を考えないで無構造な集合としてデータを与えるプログラムモデルもあります。言語側がデータをハードウェア上に最適に配置するのとセットになっているアイデアです。
最近イテレータにとらわれ過ぎて、本来順序のない（並列処理が自明な）構造にまでわざわざ順序を導入し全順序集合にしたあとで、逐次処理を結合則を利用して並列化出来ると言ったりしていますが、どこか狂ってると思います。
*本文で引用されていた記事
John Gustafson The Vector Gravy Train
ベクトル機はぼったくり
The Vector Gravy Train
