Jakou verzi VirtualDubu máš? Na záložce Audio zatrhneš "Full processing mode" a pak se ti zaktivuje položka Compression. A tam nastavíš kodek komprese zvuku (například mp3) a bitrate.