YouTube запускает инструмент для обнаружения deepfake

YouTube внедрил инновационный инструмент, позволяющий обнаруживать манипуляции лицами в видео с использованием искусственного интеллекта. Эта функция направлена на борьбу с распространением нежелательного deepfake-контента и его удаление с платформы. Об этом сообщает Engadget.
На данный момент доступ к новому инструменту имеют только участники партнерской программы YouTube. Система определяет случаи, когда искусственный интеллект изменяет лицо человека, но изменения голоса без согласия владельца пока не фиксируются.
Чтобы воспользоваться этой защитой, пользователям необходимо подтвердить свою личность: загрузить копию государственного документа и короткое видео-селфи. Также потребуется предоставить исходные материалы для проверки.
Система работает по принципу, похожему на Content ID, который используется для обнаружения защищенного авторским правом аудио. Она анализирует загруженные видео, находит потенциальные совпадения и позволяет владельцу лица просматривать результаты и отмечать нарушения для последующего удаления.
Запуск этого инструмента происходит на фоне растущей озабоченности по поводу распространения технологий генерации видео, особенно после появления новых моделей, таких как Sora 2 от OpenAI.