Комментарий эксперта ContentGuard
Сегодня в России нет единого закона об ИИ. Правила только начинают формироваться через отдельные стратегии и стандарты. Именно по этой причине вопрос маркировки так важен.
Технологии развиваются быстрее, чем правила, а пользователи не замечают разницы и не могут отличить сгенерированный контент от настоящего. Это формирует новую уязвимость.
Маркировка ИИ-контента нужна, если она работает на практике. Простые визуальные метки и водяные знаки легко удаляются, и мошенники с целью обмана обойдут их за секунды. Настоящая ценность проявится в комплексной системе, которая позволит проверять происхождение контента.
Как вариант, разработчики внедряют криптографические метки и хэш-идентификаторы, платформы их проверяют, а пользователи через жалобы могут инициировать проверку. При этом платформа может самостоятельно помечать контент как сгенерированный или удалять его.
В рамках действующего законодательства организаторы распространения информации (ОРИ) уже обязаны содействовать в ограничении доступа к запрещенной информации и сотрудничать с регуляторами. Этот принцип можно расширить, закрепив ответственность платформ за маркировку и контроль распространения сгенерированного контента. Такой подход создаст реальную возможность быстро определить, что перед пользователем дипфейк.
Это важно, потому что финансовый и репутационный ущерб перестал быть гипотетическим. Ярким примером рисков дипфейков стал случай с британской инженерной компанией Arup. В одном из видеозвонков злоумышленники использовали клонированные голоса и образы руководителей, чтобы убедить сотрудника перевести крупные суммы. Подобные атаки уже приобретают масштабный характер во всем мире. По данным медиа, основанных на Q1 2025 Deepfake Incident Report, общий ущерб, нанесенный мошенничествами с дипфейками в первом квартале 2025 года, превысил 200 млн долларов, на основании 163 задокументированных инцидентов.
Данные говорят сами за себя, дипфейки перестали быть абстрактной угрозой.
Введение штрафов не остановит преступников, но значительно усложнит им возможность вводить людей в заблуждение. Таким образом, задача штрафов состоит в том, чтобы создать прозрачные правила для остальных участников, снижая риск манипуляций. Следовательно, если разработчики создают защищенные метки, платформы проверяют их, система работает и защищает всех участников сети.