ミーハーなミーもRaspberry Pi B+買ってしまいましたザンス。
よく分からなかったので、最初は素直に初心者入門に倣ってUSBキーボードとマウス、USB無線、HDMIで接続して設定しました。
一旦動くようになった後は、全部引っこ抜いてダルマさん状態にして、かわりにLANケーブルを突っ込んで Windows machine に有線接続して問題ないようです。どうすればよいかもわからず、何をしたいかもわからず（笑）、見よう見まねで３時間くらいで Fortran が動くところまで来れました。
設定は、http://www.myu.ac.jp/~xkozima/lab/raspTutorial1.html ここを丸写し状態で問題なくいけました。Windows には、（まず teraterm でダム端末接続して、VNCサーバーを起動した後）VNCクライアントでつなげています。
[追記：
fortran66.hatenablog.com
]
Win8.1 には bonjour が元々入っていたと思いますが、起動しないようにしていたので少し躓きました。
fortran は sudo apt-get install gfortran で使えるようになります。早速 Mandelbrot 図形のBMPを書かせてみました。
ここに従って Numpy/Scipy/Matplotlib on Raspberry Pi | WyoLum Blog matplotlib を使えるようにして、図も書いてみました。動作は死ぬほど遅いです。
Mathematica はデフォで入っていました。
