Выделение доминирующего цвета с использованием законов восприятия для создания окружающего освещения, получаемого из видеоконтента
Иллюстрации
Показать всеИзобретение относится к области создания и настройке эффектов окружающего освещения с использованием множества источников света. Техническим результатом является создание способа для обеспечения имитирующего окружающего освещения посредством выделения доминирующего цвета из выбранных видеообластей с использованием экономичного потока данных, который кодирует усредненные или характеристические значения цветов. Предложен способ выделения и обработки видеоконтента, который включает: квантование цветового видеопространства; выполнение выделения доминирующего цвета с использованием моды, медианы среднего или взвешенного среднего пиксельных цветностей; применение законов восприятия для дальнейшего получения доминирующих цветностей посредством преобразований цветностей; взвешенного среднего с использованием пиксельной весовой функции, на которую влияет контент сцены; и расширенного выделения доминирующего цвета, где пиксельное взвешивание уменьшается для мажоритарных пикселей; и преобразования выбранного доминирующего цвета в цветовое пространство окружающего света с использованием трехцветных матриц. Интересующий цвет может быть дополнительно проанализирован для создания правильного доминирующего цвета, причем прошлые видеокадры могут управлять выбором доминирующих цветов в будущих кадрах. 3 н. и 17 з.п. ф-лы, 43 ил.
Реферат
Область техники, к которой относится изобретение
Настоящее изобретение относится к созданию и настройке эффектов окружающего освещения с использованием множества источников света и обычно основано на или связано с видеоконтентом, например, из видеодисплея. В частности, изобретение касается способа для выделения информации о доминирующем цвете, в сочетании с законами восприятия, из дискретизированного или субдискретизированного видеоконтента в реальном времени и для выполнения преобразований для цветового отображения из цветового пространства видеоконтента в пространство, которое наилучшим образом позволяет возбудить множество источников окружающего света.
Предшествующий уровень техники
Инженеры давно стремятся расширить опыт восприятия, получаемый при потреблении видеоконтента, например, путем увеличения размеров просмотровых экранов и проекционных площадей, модуляции звука для создания реалистичных трехмерных эффектов и улучшения качества видеоизображений, включая расширение цветовых гамм, увеличения разрешающей способности и форматных соотношений для изображений, например, как в случае с цифровым телевидением и видеосистемами высокой четкости (HD). Кроме того, продюсеры кино, телевидения и видео также пытаются повлиять на опыт восприятия зрителя, используя аудиовизуальные средства, например, путем искусного использования цвета, быстрой смены сцен, углов обзора, периферийных декораций и компьютеризованных графических представлений. Сюда также относится освещение театральной сцены. К примеру, эффекты освещения обычно прописаны в сценарии (синхронизированы с видео- или игровыми сценами) и воспроизводятся с помощью некоторого механизма или компьютера, запрограммированного с использованием соответствующих сценариев для сцен, которые закодированы по требуемым схемам.
При существующих цифровых технологиях нелегко обеспечить гармоническую автоматическую адаптацию освещения к быстрым изменениям в сцене, включая незапланированные или не прописанные в сценарии сцены, в значительной степени из-за непроизводительных издержек, связанных с необходимостью использования в существующих системах больших битовых потоков с высокой пропускной способностью.
Philips (Нидерланды) и другие компании предложили средства для изменения окружающего или периферийного освещения с целью повышения качества видеоконтента для типовых домашних или бизнес-приложений с использованием отдельных источников света, отдаленных от видеодисплея, а также для многих приложений с предварительным программированием или кодированием желаемых эффектов освещения. Было установлено, что окружающее освещение в дополнение к видеодисплею или телевизору уменьшает утомляемость зрителя и повышает реалистичность и глубину восприятия.
Опыт восприятия естественно зависит от аспектов человеческого зрения, в котором используется исключительно сложный сенсорный и нейронный механизм для создания ощущений цветовых и световых эффектов. Человек в состоянии различать, по всей видимости, 10 миллионов отдельных цветов. В человеческом глазе для восприятия цвета или дневного зрения имеется три набора, состоящих из примерно 2 миллионов сенсорных тел, называемых колбочками, которые имеют распределения поглощения, достигающие максимума на длинах цветовых волн 445, 535 и 565 нм с большим перекрытием. Эти три типа колбочек образуют то, что называют по историческим причинам трехцветной системой, то есть B (синий), G (зеленый) и R (красный); причем указанные пики необязательно соответствуют каким-либо основным цветам, используемым в дисплее, например, обычно используемым RGB люминофорам. Также имеется взаимодействие, обеспечивающее телами, называемыми палочками, для скотопического или так называемого ночного зрения. Человеческий глаз обычно имеет 120 миллионов палочек, которые определяют опыт восприятия видеоизображений, особенно в условиях слабой освещенности, как, например, в домашнем кинотеатре.
Цветное видео основано на принципах человеческого зрения, и хорошо известные теории трехцветных и противоположных каналов человеческого зрения стали составной частью нашего понимания того, каким образом воздействовать на глаз, чтобы он видел желаемые цвета и эффекты, отличающиеся высокой точностью воспроизведения по отношению к исходному или заданному изображению. В большинстве цветовых моделей и пространств для описания зрительного опыта человека используют три размера или координаты.
Цветное видео полностью основывается на метамерии, которая позволяет создать цветовое восприятие с использованием небольшого количества эталонных раздражителей, а не действительный свет желаемого цвета и характера. Таким образом, в человеческом сознании воспроизводится полная гамма цветов с использованием ограниченного количества эталонных раздражителей, например, широко известные системы RGB с тремя раздражителями (красный, зеленый, синий), используемые во всем мире при воспроизведении видеоизображений. Хорошо известно, например, что почти все видеодисплеи отображают желтый свет сцены путем создания примерно в равных пропорциях красного и зеленого света в каждом пикселе или элементе изображения. Пиксели малы по отношению к пространственному углу, которому они противолежат, и глазу кажется, что он воспринимает желтый цвет; при этом он не воспринимает зеленый или красный, который в действительности транслируется.
Существует множество цветовых моделей и способов задания цветов, в том числе широко известные системы цветовых координат CIE (Международный комитет по освещению), используемые для описания и задания цвета для воспроизведения видео. Используя настоящее изобретение, можно применить любое количество цветовых моделей, в том числе приложение для нетонированных, противоположных цветовых пространств, например, системы CIE L*U*V* (CIELUV) или CIE L*a*b* (CIELAB). В 1931 году Комиссия CIE установила основу для управления и воспроизведения всех цветов, результатом чего стала диаграмма цветности, в которой используются три координаты x, y и z. График этой трехмерной системы с максимальной яркостью используется универсальным образом для описания цвета в координатах x и y, причем считается, что этот график, называемый «диаграмма цветности x, y, 1931» способна описать все цвета, воспринимаемые человеком. Это противоречит цветовому воспроизведению, при котором для «обмана» глаза и мозга используют метамерию. В настоящее время используется множество цветовых моделей или пространств для воспроизведения цвета на основе использования трех основных цветов или люминофоров, в число которых входят Adobe RGB, NTS C RGB и т.д.
Однако важно отметить, что диапазон всех возможных цветов, создаваемых видеосистемами с использованием упомянутых систем с тремя раздражителями, ограничен. Система RGB Национального комитета по телевизионным стандартам (NTSC) имеет относительно широкий диапазон доступных цветов, но эта система может воспроизводить лишь половину от всех цветов, воспринимаемых человеком. Множество оттенков синего и фиолетового, сине-зеленого и оранжевого/красного адекватно не воспроизводятся при использовании доступных возможностей традиционных видеосистем.
Кроме того, зрительная система человека наделена свойствами компенсации и распознавания, понимание механизма действия которых необходимо для разработки любой видеосистемы. Цвет человека может появляться в нескольких режимах, в том числе в объектном режиме и в осветительном режиме.
В объектном режиме световые раздражители воспринимаются в виде света, отраженного от объекта, который освещен источником света. В осветительном режиме световой раздражитель виден в виде источника света. Осветительный режим включает в себя раздражители в комплексном поле, которые гораздо ярче, чем другие раздражители. Сюда не относятся раздражители, известные как источники света, например видеодисплеи, чья яркость или светимость равна или ниже общей яркости сцены или поля зрения, с тем чтобы раздражители выглядели, как в объектном режиме.
Заметим, что существует много цветов, которые появляются только в объектном режиме, в число которых входят коричневый, оливковый, красно-коричневый, серый и бежевый телесный тон. Не существует такой вещи, как источник коричневого света, например светофор коричневого цвета.
По этой причине установки окружающего освещения для видеосистем, которые пытаются добавить объектные цвета, не могут это сделать, используя прямые источники яркого света. Ни одна комбинация источников яркого красного и зеленого света в узком диапазоне не может воспроизвести коричневый или красно-коричневый, и это значительно ограничивает возможный выбор. Только спектральные цвета радуги при изменении интенсивностей и насыщения могут воспроизводиться путем непосредственного наблюдения ярких источников света. Это подчеркивает необходимость точного управления системами окружающего освещения, с тем чтобы обеспечить низкую яркость от источников света, обращая особое внимание на управление цветовыми тонами. В настоящее время не уделяется внимания точному управлению, которое дает возможность обеспечить быстроизменяющееся и тонкое окружающее освещение при существующих архитектурах данных.
Видеопредставление может принимать множество форм. Представление спектральных цветов позволяет точно воспроизводить распределения спектральной мощности исходных раздражителей, но это нельзя реализовать при видеопредставлении, в котором используется три основных цвета. Точное представление цвета может дублировать трехцветные значения зрительной системы человека, создавая метамерическое соответствие оригиналу, но условия просмотра в целом для изображения и оригинальной сцены должны быть аналогичными, чтобы обеспечить аналогичный вид. Все условия для изображения и исходной сцены включают в себя стягиваемый угол изображения, яркость и цветность окружения и блики. Одной из причин, по которой часто невозможно достичь точного воспроизведения цвета, являются ограничения на максимальную яркость, которая может быть достигнута на цветном мониторе.
Колориметрическое воспроизведение света обеспечивает полезную альтернативу, где трехцветные значения пропорциональны соответствующим значениям в исходной сцене. Координаты цветности воспроизводятся точно, но с пропорционально уменьшенными яркостями. Колориметрическое воспроизведение цвета является хорошим эталонным стандартом для видеосистем в предположении, что оригинал и воспроизведенные опорные белые имеют одинаковую цветность, условия обзора одинаковы, и система имеет единичное значение общего показателя гамма. Эквивалентное воспроизведение цвета, когда цветность и яркость соответствуют оригинальной сцене, не может быть достигнуто из-за ограниченной яркости, создаваемой в видеодисплеях.
В большинстве случаев при воспроизведении видео на практике пытаются достичь соответствующего воспроизведения цветов, где воспроизведенные цвета выглядят так же, как выглядели бы цвета в оригинале, если бы они были освещены для создания того же самого среднего уровня яркости и той же самой цветности опорного белого, как при воспроизведении. Однако многие утверждают, что для дисплейных систем на практике предпочтительной конечной целью является цветовое воспроизведение, при котором точность воспроизведения цвета зависит от предпочтений зрителя. Например, предпочтительным для обычного реального цвета кожи считается цвет загорелой кожи, а небо предпочтительно сделать более голубым, а листву более зеленой, чем они выглядят на самом деле. Даже если соответствующее воспроизведение цвета принято в качестве проектного стандарта, некоторые цвета являются более важными, чем другие, например телесные тона, подвергающиеся специальной обработке во многих системах воспроизведения, таких как видеостандарт NTSC.
При воспроизведении света сцены важна хроматическая адаптация для достижения баланса белого. При правильно настроенных камерах и дисплеях белые и нейтральные серые цвета обычно воспроизводятся с цветностью D65 дневного света в стандарте CIE. Путем постоянного воспроизведения белой поверхности с одной и той же цветностью система подстраивается под зрительную систему человека, которая по сути адаптирует восприятие так, что белые поверхности всегда выглядят одинаково, какой бы ни была цветность освещения, так что белый лист бумаги будет выглядеть белым независимо от того, находится ли он на пляже в яркий солнечный день или в сцене в помещении, освещенном электрической лампой накаливания. При воспроизведении цвета регулировка баланса белого выполняется с помощью элементов управления усилением по каналам R, G и B.
Световой выход типового приемника цвета обычно является нелинейным, а скорее подчиняется степенной зависимости от приложенных напряжений видеосигнала. Световой выход пропорционален напряжению возбуждения видеосигнала в степени гамма, где показатель гамма обычно составляет 2,5 для цветной электронно-лучевой трубки (CRT) и 1,8 для источников света других типов. Компенсация этого показателя обеспечивается тремя основными гамма-корректорами в усилителях обработки видеосигнала камеры, так что основные видеосигналы, которые кодируются, передаются и декодируются, в действительности представляют собой не R, G и B, а R1/(, G1/( и B1/(. Колориметрическое воспроизведение цвета требует, чтобы результирующий показатель гамма для видеовоспроизведения, включая камеру, дисплей и любые электронные схемы для гамма-регулировки, составлял единицу, но при попытке воспроизведения соответствующего цвета яркость окружения имеет преимущественное значение. Например, тусклое окружение требует, чтобы показатель гамма составлял порядка 1,2, а темное окружение требует, чтобы показатель гамма составлял порядка 1,5 для оптимального цветового воспроизведения. Показатель гамма является важным вопросом реализации для цветовых пространств RGB.
В большинстве случаев при кодировании для воспроизведения цвета используют стандартные цветовые пространства RGB, такие как sRGB, ROMM RGB, Adobe RGB 98, Apple RGB и видеопространства RGB, например, которые используются в стандарте NTSC. Обычно изображение фиксируется в пространстве устройства-датчика или устройства-источника, которое специфично для конкретного устройства и изображения. Оно может быть преобразовано в пространство нетонированных изображений, которое является стандартным цветовым пространством, описывающим колориметрию оригинала (смотри раздел Определения).
Однако видеоизображения почти всегда непосредственно преобразуются из пространства устройства-источника в пространство тонированных изображений (смотри раздел Определения), которое описывает цветовое пространство некоторого реального или виртуального выходного устройства, например видеодисплея. Большинство существующих стандартных цветовых пространств RGB являются тонированными пространствами изображений. Например, пространства источника и выходные пространства, созданные камерами и сканерами, не являются цветовыми пространствами на базе CIE, а являются спектральными пространствами, которые определяются спектральными чувствительностями и другими характеристиками камеры или сканера.
Тонированные пространства изображений являются цветовыми пространствами, привязанными к конкретному устройству на основе колориметрии характеристик реального или виртуального устройства. Изображения могут быть преобразованы в тонированные пространства из тонированных либо не тонированных пространств изображений. Сложность этих преобразований варьируется и может включать в себя усложненные алгоритмы, зависящие от изображения. Преобразования могут являться необратимыми, причем часть информации кодированной исходной сцены отбрасывается или сжимается для согласования с динамическим диапазоном и гаммой цветов конкретного устройства.
В настоящее время имеется только одно нетонированное цветовое пространство RGB, находящееся в процессе стандартизации - это ISO RGB, определенное в стандарте ISO 17321, которое чаще всего используется для описания цветовых характеристик цифровых фотокамер. В большинстве современных приложений изображения преобразуются в тонированное цветовое пространство для архивирования и пересылки данных, включая видеосигналы. Преобразование из одного пространства тонированных изображений или цветового пространства в другое может привести к появлению серьезных искажений изображения (артефактов). Чем больше несогласованных гамм цветов и белых точек между двумя устройствами, тем сильнее отрицательные эффекты.
Один из способов их преодоления в существующих системах отображения окружающего света, состоящий в выделении из видеоконтента репрезентативных цветов для трансляции окружающего света может оказаться проблематичным. Например, цветовое усреднение цветностей пикселей часто приводит к появлению оттенков серого, коричневого или другого цвета, которые не искажают правильное цветовое восприятие видеосцены или изображения. Цвета, полученные на основе простого усреднения цветностей, часто выглядят грязноватыми и выбранными ошибочно, в частности, когда они контрастируют с такой особенностью изображения, как, например, яркая рыба, или доминирующим фоном, таким как голубое небо.
Другой проблемой существующих систем отображения окружающего света является то, что не задан конкретный способ обеспечения синхронной работы в реальном времени для преобразования тонированных трехцветных значений из видео в соответствующие параметры источников окружающего света, чтобы предоставить соответствующую колориметрию и вид. Например, выходной сигнал светодиодных источников окружающего света часто является очень ярким и отличается ограниченными или перекошенными цветовыми гаммами, причем тон и цвет, как правило, трудно оценить и воспроизвести. Например, патент США № 6611297, выданный Akashi и др., посвящен обеспечению реалистичности окружающего освещения, но в нем не предложен конкретный способ, гарантирующий правильную и приятную для глаза цветность, а принципы патента Akashi не позволяют анализировать видео в реальном времени, а предполагают обязательное наличие сценария или его эквивалента.
Вдобавок, настройка источников окружающего света с использованием гамма-скорректированных цветовых пространств из видеоконтента часто приводит к ослепительным, ярким цветам. Другой серьезной проблемой существующего уровня техники является большой объем передаваемой информации, которая необходима для возбуждения источников окружающего света в зависимости от видеоконтента в реальном времени и для адаптации к быстроменяющейся среде окружающего освещения, где требуется глубокоосмысленный выбор цвета.
В частности, усредненные или иные цветности, выделенные для использования в эффектах окружающего освещения, часто оказываются невоспроизводимыми (например, коричневые цвета) или не подходят по причинам восприятия. Например, если в качестве доминирующего цвета указан, например, коричневый, система окружающего освещения, действующая согласно этому указанию, может по умолчанию создать другой цвет, например ближайший цвет в своем световом пространстве, который она способна создать (например, розовый). Однако этот цвет, выбранный для создания в системе, может оказаться неподходящим, так как он, возможно, будет неправильно восприниматься или быть неприятным.
Также включение окружающего света во время темных сцен часто оказывается ослепляющим, слишком ярким и не передает цветность, соответствующую цветности контента сцены. Включение окружающего света во время светлых сцен может привести к созданию окружающего цвета, выглядящего слабым и не имеющим достаточного цветового насыщения.
Кроме того, может оказаться, что для выделения доминирующего цвета целесообразно использовать некоторые аспекты сцены, например голубое небо, чтобы проинформировать систему окружающего освещения, когда другие объекты, например облачный покров, могут быть менее предпочтительными. В известных системах также отсутствует механизм для непрерывного исследования элементов сцены, отвлекающих внимание от большинства или большого количества пикселей, чья цветность не является предпочтительной с точки зрения предпочтений восприятия. Другой проблемой известного уровня техники является то, что вновь появившиеся особенности видеосцены часто не представляются или не полностью представляются при выделении и выборе доминирующего цвета. На сегодняшний день не существует способа приложения законов восприятия для разрешения этих проблем.
Следовательно, выгодно расширить возможную гамму цветов, создаваемых окружающим освещением, наряду с типовой трехцветной видеодисплейной системой при использовании характеристик человеческого глаза, например изменения относительной визуальной яркости различных цветов в функции уровней освещения, путем модуляции или изменения характера цвета и света, предоставляемого зрителю, с применением системы окружающего освещения, которая с выгодой использует эффекты компенсации, чувствительность и другие особенности человеческого зрения и обеспечивает окружающее освещение, которое не только правильно извлечено из видеоконтента, но также обеспечивает искусное использование множества потенциальных доминирующих цветов, которые присутствуют в сцене.
Также выгодно создать качественную окружающую атмосферу, свободную от эффектов искажения из-за показателя гамма. Кроме того, желательно иметь возможность обеспечить способ для обеспечения имитирующего окружающего освещения посредством выделения доминирующего цвета из выбранных видеообластей, с использованием экономичного потока данных, который кодирует усредненные или характеристические значения цветов. Еще желательно уменьшить требуемый объем потока данных и дать возможность применять законы восприятия для улучшения видимости и точности воспроизведения, а также дать возможность осуществлять прерогативы восприятия при выборе цветностей и яркостей, отобранных для трансляции окружающего освещения.
Информацию о разработке видео- и телевизионных систем, технологиях сжатия, пересылке и кодировании данных, человеческом зрении, научных знаниях о цветах и их восприятии, цветовых пространствах, визуализации колориметрии и изображений, включая воспроизведение видео, можно найти в следующих работах, содержание которых целиком включено сюда по ссылке: [1] Color Perception Alan R. Robertson, Physics Today, December 1992, Vol. 45, No 12, pp. 24-29; [2] The Physics and Chemistry of Color, 2ed, Curt Nassau, John Wiley & Sons, Inc., New York © 2001; [3] Principles of Color Technology, 3ed, Roy S. Berns, John Wiley & Sons, Inc., New York © 2000; [4] Standard Handbook of Video and Television Engineering, 4ed, Jerry Whitaker and K. Blaier Benson, McGraw - Hill, New York © 2003.
Сущность изобретения
Способы, предложенные для различных вариантов осуществления изобретения, включают в себя использование статистики уровней пикселей или ее функциональный эквивалент для определения или выделения одного или нескольких доминирующих цветов таким образом, который связан по возможности с минимальной вычислительной нагрузкой, но в то же время обеспечивает приятные для глаза и подходящие цветности, выбранные в качестве доминирующих цветов согласно законам восприятия.
Изобретение относится к способу для выделения доминирующего цвета из видеоконтента, закодированного в тонированном цветовом пространстве, для получения, с использованием законов восприятия, доминирующего цвета для его эмуляции источником окружающего света. Возможные шаги способа включают в себя: [1] выполнение выделения доминирующего цвета из пиксельных цветностей из видеоконтента в тонированном цветовом пространстве для создания доминирующего цвета путем выделения любого из: [а] моды пиксельных цветностей; [b] медианы пиксельных цветностей; [c] взвешенного среднего по цветности пиксельных цветностей; [d] взвешенного среднего пиксельных цветностей с использованием пиксельной весовой функции, которая является функцией любого из: местоположения пикселей, цветности и яркости; [2] дополнительное извлечение цветности доминирующего цвета согласно закону восприятия, причем закон восприятия выбирается из любого из: [a] простого преобразования цветности; [b] взвешенного среднего с использованием пиксельной весовой функции, дополнительно сформулированной так, чтобы представлять влияние контента сцены, который получают путем оценки цветности или яркости для множества пикселей в видеоконтенте; [c] расширенного выделения доминирующего цвета с использованием взвешенного среднего, где пиксельная весовая функция сформулирована в виде функции контента сцены, который получают путем оценки цветности или яркости для множества пикселей в видеоконтенте, причем пиксельная весовая функция дополнительно сформулирована таким образом, что взвешивание по меньшей мере уменьшается для мажоритарных пикселей; и [3] преобразование доминирующего цвета из тонированного цветового пространства во второе тонированное цветовое пространство, сформированное так, чтобы дать возможность возбуждения источника окружающего света.
При желании можно выполнить квантование пиксельных цветностей (или тонированного цветового пространства), причем это можно сделать несколькими способами (смотри раздел Определения), где целью является облегчение вычислительной нагрузки путем попытки сокращения возможных цветовых состояний, например, в результате присваивания большего количества цветностей (например, пиксельных цветностей) меньшему количеству присвоенных цветностей или цветов; или уменьшение числа пикселей путем процесса выбора, который отбирает выбранные пиксели; или сохранения для создания репрезентативных пикселей или суперпикселей.
Если это квантование тонированного цветового пространства выполняется частично путем сохранения пиксельных цветностей по меньшей мере в одном суперпикселе, то созданный таким образом суперпиксель может иметь размер, ориентацию, форму или местоположение, сформированные в соответствии с особенностью изображения. Присвоенные цвета, использованные в процессе квантования, могут быть выбраны в виде регионального цветового вектора, который необязательно находится в тонированном цветовом пространстве, например во втором тонированном цветовом пространстве.
Другие варианты осуществления способа включают в себя вариант, в котором при простом преобразовании цветности выбирается цветность, обнаруженная во втором тонированном цветовом пространстве, используемом для создания окружающего света.
Также можно сформулировать пиксельную весовую функцию, с тем чтобы обеспечить поддержку темноты путем [4] оценки видеоконтента для демонстрации того, что яркость сцены в контенте сцены низкая; а затем [5] выполнения любого из: [a] использование пиксельной весовой функции, дополнительно сформулированной для уменьшения веса ярких пикселей; и [b] трансляция доминирующего цвета, полученного с использованием уменьшенной яркости по отношению к яркости, которая была бы создана в противном случае.
В альтернативном варианте осуществления можно также сформулировать пиксельную весовую функцию с тем, чтобы обеспечить поддержку цвета путем: [6] оценки видеоконтента для демонстрации того, что яркость сцены в контенте сцены высокая; а затем [7] выполнения любого из: [a] использование пиксельной весовой функции, дополнительно сформулированной для уменьшения веса ярких пикселей; и [b] выполнение шага [2] [c].
Расширенное выделение доминирующего цвета может быть повторено отдельно для разных особенностей сцены в видеоконтенте, чтобы сформировать множество доминирующих цветов, причем шаг [1] может быть повторен, где каждый из множества доминирующих цветов обозначен в виде пиксельной цветности. Затем при желании вышеуказанный шаг [1] (извлечение доминирующего цвета) может быть повторен отдельно для пиксельных цветностей во вновь появившейся особенности сцены.
Для формирования распределения присвоенных цветов может быть предпринято квантование по меньшей мере некоторых пиксельных цветностей из видеоконтента в тонированном цветовом пространстве, и во время шага [1] из распределения присвоенных цветов можно получить по меньшей мере несколько пиксельных цветностей. В альтернативном варианте квантование может содержать сохранение пиксельных цветностей по меньшей мере в одном суперпикселе.
Если распределение присвоенных цветов выполнено, то по меньшей мере один из присвоенных цветов может представлять собой региональный цветовой вектор, который необязательно находится в тонированном цветовом пространстве, например региональный цветовой вектор, лежащий во втором тонированном цветовом пространстве, используемом для возбуждения источника окружающего света.
Способ может также дополнительно содержать установку по меньшей мере одного интересующего цвета в распределении присвоенных цветов с последующим выделением присвоенных им пиксельных цветностей для получения правильного доминирующего цвета, подлежащего обозначению в конце концов как доминирующего цвета.
Доминирующий цвет может в действительности содержать палитру доминирующих цветов, каждый из которых получают, применяя данный способ.
Способ может также выполняться после квантования тонированного цветового пространства, а именно квантования по меньшей мере некоторых пиксельных цветностей из видеоконтента в тонированном цветовом пространстве, для формирования распределения присвоенных цветов, так что выделение доминирующего цвета на шаге [1] дает распределение присвоенных цветов (например, [a] мода распределения присвоенных цветов и т.д.). Затем аналогичным образом может быть сформулирована пиксельная весовая функция, с тем чтобы обеспечить поддержку темноты путем: [4] оценки видеоконтента для установления того, что яркость сцены в контенте сцены низкая; и [5] выполнения любого из: [a] использование пиксельной весовой функции, дополнительно сформулированной для уменьшения веса присвоенных цветов, приписываемых ярким пикселям; и [b] трансляция доминирующего цвета, полученного с использованием уменьшенной яркости по отношению к яркости, которая была бы создана в противном случае. Аналогичным образом для поддержки цвета может быть сформулирована пиксельная весовая функция, с тем чтобы обеспечить поддержку цвета путем: [6] оценки видеоконтента для установления того, что яркость сцены в контенте сцены высокая; и [7] выполнения любого из: [a] использование пиксельной весовой функции, дополнительно сформулированной для уменьшения веса присвоенных цветов, приписываемых ярким пикселям; и [b] выполнение шага [2] [c]. Другие шаги могут меняться местами в соответствии с использованием присвоенных цветов.
Способ также может, но необязательно, содержать: [0] декодирование видеоконтента в тонированном цветовом пространстве во множество кадров и квантование по меньшей мере некоторых пиксельных цветностей из видеоконтента в тонированном цветовом пространстве для формирования распределения присвоенных цветов. Вдобавок, способ может, но необязательно, содержать: [3a] преобразование доминирующего цвета из тонированного цветового пространства в нетонированное цветовое пространство; а затем [3b] преобразование доминирующего цвета из нетонированного цветового пространства во второе тонированное цветовое пространство. Этому могут способствовать [3c] матричные преобразования основных цветов тонированного цветового пространства и второго тонированного цветового пространства в нетонированное цветовое пространство с использованием первой и второй трехцветных матриц основных цветов и получение преобразования цветовой информации во второе тонированное цветовое пространство путем матричного умножения основных цветов тонированного цветового пространства, первой трехцветной матрицы и обратной второй трехцветной матрицы.
Как только из распределения присвоенных цветов выбран доминирующий цвет, можно, так сказать, вернуться назад, чтобы получить действительные пиксельные цветности для очистки доминирующего цвета. Например, как упоминалось выше, можно установить по меньшей мере один интересующий цвет в распределении присвоенных цветов и выделить присвоенные пиксельные цветности для получения правильного доминирующего цвета, обозначаемого как доминирующий цвет. Таким образом, хотя присвоенные цвета могут представлять собой грубую аппроксимацию видеоконтента, правильный доминирующий цвет может обеспечить правильную цветность для распределения окружающего света еще и с сокращением объема вычислений, которые потребовались бы в противном случае.
Пиксельные цветности на шаге [1] можно получить из области выделения, имеющей любую форму, размер или местоположение, а также один транслируемый окружающий свет доминирующего цвета от источника окружающего света по соседству с областью выделения.
Эти шаги могут быть скомбинированы множеством способов для выражения различных одновременно применяемых законов восприятия, например путем установки множества критериев, которые должны совместно существовать и бороться за приоритет при выделении и выборе доминирующего цвета. Нетонированное цветовое пространство, которое можно использовать для преобразования в окружающее второе тонированное цветовое пространство, может представлять собой одно из пространств: CIE XYZ; ISO RGB, определенное в стандарте ISO Standard 17321; Photo YCC; CIE LAB; или любое другое нетонированное пространство. Шаги, предпринимаемые для выполнения выделения доминирующего цвета и применения законов восприятия, могут фактически выполняться синхронно с видеосигналом, причем при трансляции окружающего света от или вокруг видеодисплея используется цветовая информация во втором тонированном цветовом пространстве.
Перечень фигур чертежей
Фиг.1 - элементарный вид передней поверхности видеодисплея, где показаны области выделения цветовой информации и соответствующая трансляция окружающего света от источников окружающего света согласно изобретению;
Фиг.2 - вид сверху (частично схематический и частично в виде поперечных сечений) помещения, в котором окружающий свет от множества источников окружающего света создается с использованием изобретения;
Фиг.3 - система согласно изобретению для выделения цветовой информации и выполнения преобразований цветового пространства, позволяющих возбуждать источники окружающего света;
Фиг.4 - уравнение для вычисления усредненной цветовой информации из области выделения видео;
Фиг.5 - известное матричное уравнение для преобразования тонированных элементов RGB в нетонированное цветовое пространство XYZ;
Фиг.6 и 7 - матричные уравнения для отображения тонированных цветовых видеопространств и окружающего освещения соответственно в нетонированное цветовое пространство;
Фиг.8 - решение, использующее известное обращение матриц для получения трехцветных значений R'G'B' окружающего света из нетонированного цветового пространства XYZ;
Фиг.9-11 - известный вариант получения трехцветной матрицы М основных цветов с использованием метода белых точек;
Фиг.12 - система, аналогичная показанной на фиг.3, которая дополнительно содержит шаг гамма-коррекции для трансляции окружающего света;
Фиг.13 - схема общего трансформационного процесса, используемого в изобретении;
Фиг.14 - шаги процесса для получения коэффициентов матрицы преобразования для источника окружающего света, используемого в изобретении;
Фиг.15 - шаги процесса для выделения оцениваемого видеоизображения и воспроизведения окружающего света с использованием изобретения;
Фиг.16 - схема выделения видеокадра согласно изобретению;
Фиг.17 - шаги процесса для сокращенной оценки цветности согласно изобретению;
Фиг.18 - шаги выделения, показанного на фиг.3 и 12, с использованием декодера кадров, установкой частоты выделения кадров и выполнением выходного вычисления для возбуждения источника окружающего света;
Фиг.19 и 20 - шаги процесса для извлечения и обработки цветовой информации согласн