Этот ИИ на световой энергии может обнаруживать дипфейки с точностью почти 98%

Исследователи Калифорнийского университета в Лос-Анджелесе (UCLA) создали оптико-нейронный процессор, который использует свет для быстрого и точного выявления дипфейков. В отличие от обычных систем, обычно анализирующих видео последовательно на цифровом оборудовании, технология UCLA может анализировать 15 и более видеопотоков одновременно. Система достигает почти 98% точности обнаружения и описывается как высокопроизводительный, устойчивый к атакам первый уровень защиты для проверки больших объемов сфабрикованного и сгенерированного ИИ видео.

Рост генеративного ИИ делает синтетические видео все более реалистичными, поэтому нужны точные и масштабируемые детекторы. Многие современные детекторы требуют огромных цифровых вычислений: один анализ может включать сотни миллиардов операций с плавающей запятой, а видео часто обрабатываются последовательно, из-за чего время и энергопотребление растут пропорционально. Кроме того, злоумышленники могут незаметно изменять поддельные видео, чтобы запутать детектор. Гибридная цифро-оптическая система UCLA решает эти проблемы: легкий цифровой кодер собирает пространственные, спектральные и временные признаки каждого видео, преобразует их в фазовый шаблон на программируемом пространственном модуляторе света, после чего оптический волновой фронт проходит через пассивный оптический декодер в свободном пространстве, а парные оптические детекторы выдают оценку подлинности каждого видео.

В экспериментах с видимым светом процессор одновременно проверял 15 видео Celeb-DF за один оптический проход и показал среднюю точность 97,79%, чувствительность 99,86% и специфичность 95,72%; чувствительность соответствует средней доле ложноотрицательных результатов около 0,14%. При увеличении емкости до 18 видео за один проход средняя точность осталась на уровне 96,13%. Добавление двух оптимизированных пассивных дифракционных слоев повысило точность примерно на 6,8% на более сложных манипуляциях без существенного роста энергопотребления или задержки, а на ранее не виденных видео Google VEO-3 при минимальной донастройке система достигла 94,80% точности и 97,61% чувствительности. Процессор также показал устойчивость к black-box состязательным атакам, встроенную защиту от white-box атак и надежность при шуме, размытии, JPEG-сжатии и рассогласованиях. Его предлагают использовать как высокочувствительный первый этап системы обнаружения: массовые видеопотоки сначала проходят оптическую проверку, а подозрительные материалы затем направляются в более требовательные цифровые модели.