Hi!
Ich schätze mal eher, dass das Problem nicht am Output sondern am Input und der Verarbeitung liegt.
Meiner Meinung nach ist ein Centrino Notebook nicht ausreichend, um einen FireWire-Stream in Echtzeit zu verarbeiten und zu komprimieren.
Über den USB-Anschluss kommt natürlich eine bedeutend niedrigere Datenraten rein, die der PC auch leichter Verarbeiten kann.
Und um so niedriger Du die Output-Bandbreite setzt, desto mehr Kompressionsarbeit hat der Prozessor natürlich und es kommt zu Aussetzern.
Professionelle Streams bekommst Du mit etwas üppigerer Hardware und z.B. dieser Software hin:
http://www.apple.com/quicktime/products/broadcaster/