Вот от этого и пляшите - VGA разрешение - это 640х480, а стандартный размер кадра для DVD 720х576.
И 30 кадров в сек. - это стандарт NTSC.
Берете
Canopus ProCoder и через него прогоняете свое видео, чтобы на выходе получить нормальный размер, а уже потом работаете с ним.