...
desafortunadamente, tal y como lo dice el enlace que te di... no mencionas que tarjeta de captura utilizas, a que formato capturas, que resolucion y sistema, etc etc.
Si dices que con una version 'modificada' del virtualdub, las capturas te salen en blanco y negro, pero con la version original (ingles) salen en color... entonces... ya te diste la solucion.