YouTube aplica una codificación a todos los vídeos que se suben a su servidor. Esa compresión conlleva una pérdida de calidad respecto al original, pérdida que será mayor o menor dependiendo de por ejemplo cuánto quieras que ocupe el vídeo resultante.

Si el mismo vídeo se descarga de YouTube y se vuelve a subir constantemente, va acumulando compresiones que degradan la imagen y el sonido cada vez más. A cada una de esas compresiones se le llama generación. Originalmente lo hacían con el codec de Adobe Flash (flv); actualmente se usa h.264 (mp4) y se espera que en un futuro se emplee el h.265.

El artista Ontologist ha hecho esta prueba subiéndolo y bajándolo 1000 veces, y el resultado es grotesco.

Esta es la demostración empírica de lo que causa la compresión en los vídeos. Cuando más agresiva sea ésta, mayor será la pérdida de calidad. Si quieres bajar un vídeo de YouTube y conservar su calidad, te recomiendo descargarlo directamente en mp4 sin convertirlo, con herramientas como Video Downloadhelper. Es el procedimiento más lógico y rápido puesto que YouTube ya almacena los vídeos en formato mp4 (codec h.264).

Si tu idea es descargarlo para editarlo después, te aconsejaría que lo hicieras con un software capaz de trabajar en nativo con múltiples formatos de vídeo, como Final Cut Pro X (para Mac). Si por el contrario sólo quieres convertir cualquier formato a mp4 y no tienes mac, puedes hacerlo con software gratuíto como Avidemux o HandBrake. Ambos son multiplataforma Win / Mac.