Déjà le message d'erreur que tu cites dit que t'as rien pour décompresser l'AC3.

Deuxièmement, il faudrait savoir si tu utilises VirtualDub original ou VirtualDubMod ou même Nandub.

Si tu utilises VirtualDubMod/Nandub et que tu obtiens encore le message d'erreur, va te chercher AC3Filter, un filtre directshow pour décoder l'AC3: http://ac3filter.sourceforge.net/
Après l'avoir installé, tu devrais être capable de joindre le son à la vidéo.