RGB и YCbCr бывают разные - у разных стандартов разное маппирование в цветовой треугольник, Studio и Computer RGB отличаются диапазоном используемых значений. Определись какие тебе нужны RGB и YCbCr. http://www.opencores.org/projects.cgi/web/matrix3x3/overview