とりあえず動作したので，メモ。
まずは最新のTeXシステムをダウンロードして解凍。現時点でのバージョンでは，以前のようなTeXMFなどという環境変数は使用しないため，単にパスが通ればよい。USBのポータブルHDDは今のところ Hドライブになっているため，H:\Applications\Win32TeX 以下にTeXシステムをインストール。プログラム類は H:\Applicaions\Win32TeX\bin に入っている。パスを通さずとも，コマンドラインにフルパスを記述すれば使える。例えば，H:\Documents\tex\sample.tex というファイルをコンパイルするには，そのディレクトリーに移り，
H:\Documents\tex ＞ H:\Applicaions\Win32TeX\bin\platex sample.tex
とコマンドラインから入力すればよい。ついで，これを dvipdfmx にてPDFに変換すればAdobe Readerで読めるようになる。
以上で，最低でもコマンドラインから使えるが，統合環境の WinShell を使うと簡単。ちなみに，現在のバージョン WinShell 3.2 では，WinShellプログラムが入っているフォルダーに Settings というフォルダーを作ると，ポータブル化できるらしい。おそらくはレジストリーなどに書き込んでいた初期設定などをこのフォルダーに書くことでポータブル化が実現したと思われる。
さて，WinShellの設定だが，オプションからフォント，エンコード(Shift JIS)などを決めていく。LaTeXプログラムとして H:\Applications\Win32TeX\bin\platex，DVIをPS (ホントはPDFなのだが，ここの名称が何故か変更できないので・・・) に変換するプログラムとして H:\Applications\Win32TeX\bin\dvipdfmx を選ぶ。あとはLaTeX文書をWinShellで開き，アイコンあるいはメニューからコンパイルなどの動作をさせればよい。
これで，とりあえずは何とかなった。まだ，dviout や GhostScript 関係の設定が済んでないが，一応はコンパイル＆プレビューできる。問題は，よそのパソコンを借りるとき，ドライブが H: になるとは限らないこと。この部分だけ毎回変更しなくてはならないかも。ドライブ文字を取得できる方法が次の課題。WinShellをランチャーなどに登録すれば何とかなるのだろうか。