ubuntu7.10の64bit版でビルドして動かしてみました。
まぁ、かなりフォームが酷い状態になっているわけですがね(W

HandBrakeのWindows版のGUIって、VC#で書かれているのですが、
monoと言う.NET環境をLinuxで動かしてしまう互換のソフトウェアで、
ubuntu7.10のapt-getで入るバージョンは、.NET Framework2.0のAPIに対応しているものの、
実装が不完全で、実際今回ビルドしたもの、幾つかサポートしていないAPIをコメントアウトして
動作させている感じだったりします。
ということで、サポートしていないAPIの部分の機能を削れば、Linux上でもまともなGUIで
操作することができそうです。
一応、Linux用にHandbrakeGTKというのもあるにはあるのですが、
どうも完成度が低く、PSPで再生できるファイルを作ってくれません。
一応、GUIの開発ツールとして、monodevelopと言うツールもあり、
もう少し完成度が上がればいい感じになると思います。
最終的な目標としては、GUIでHandbrekeのコマンドを発行してキューに貯められ、
64bitでコンパイルしたhandbrakeでエンコード出来たら良いかなぁと思います。