Ваши глаза и уши могут ошибаться: как мошенники используют ИИ для подделки голоса и лица

Страна Лайф

Подделка голоса и лица в реальном времени уже не выглядит как редкий спецэффект. Комментарий ContentGuard: на что смотреть вместо артефактов видео и как заранее договориться о проверке в семье.

Комментарий эксперта ContentGuard

Визуальные и звуковые дефекты могут насторожить, но сегодня ни их наличие, ни отсутствие сами по себе не позволяют надежно определить дипфейк. Привычные признаки вроде рассинхронизации губ, неестественной мимики, пауз уже нельзя считать надежным способом проверки. Поэтому важнее проверять не отдельный кадр или голос, а саму ситуацию: кто вышел на связь, почему возникла срочность, что именно от человека требуют и пытаются ли ему помешать проверить информацию.

Срочность, страх, давление и условие никому не сообщать о происходящем должны настораживать не меньше, чем дефекты видео или голоса.

Эксперт ContentGuard.ruИИ и цифровые продукты

Мошеннику не всегда нужен безупречный ролик. Иногда достаточно нескольких секунд знакомого голоса или изображения, чтобы человек доверился собеседнику и совершил нужное действие. Особенно уязвимы дети, поскольку им сложнее критически оценить обращение от знакомого взрослого и распознать ситуацию, в которой доверие используют для давления или манипуляции.

Знакомое лицо, голос и даже видеозвонок уже нельзя считать достаточным подтверждением личности. Подмена возможна и в режиме реального времени.

Эксперт ContentGuard.ruИИ и цифровые продукты

Отдельного внимания требует семейная безопасность. Схема может работать в обе стороны. Взрослому звонят голосом ребенка, а к ребенку обращаются от имени родителя, учителя или другого знакомого взрослого. С ребенком важно заранее разбирать такие ситуации и учить его перепроверять информацию, особенно когда просьба касается его безопасности или безопасности семьи, требует куда-то приехать, с кем-то встретиться, передать сведения или выполнить необычное поручение. Родителям важно заранее объяснить, что подозрительный контакт нужно прекратить и сразу связаться с доверенным взрослым.

Полезно договориться внутри семьи, что просьбы о деньгах, кодах и банковских данных всегда требуют дополнительного подтверждения. Контрольный вопрос или кодовое слово могут помочь, но для них не стоит использовать сведения, доступные в социальных сетях или переписке. Чем меньше открытой информации о членах семьи, их связях, привычках и повседневной жизни, тем меньше данных получает мошенник для подготовки убедительного сценария.

Видеозвонок стоит воспринимать как канал общения, но не как способ подтверждения личности. Онлайн-детекторы могут быть дополнительным инструментом, однако их вывод нельзя считать окончательным подтверждением подлинности. Более надежную проверку дают сведения о происхождении контента и техническая аутентификация, когда они предусмотрены сервисом или устройством. Для обычного пользователя основным способом защиты остается проверка личности и самого запроса.

При подозрительном видео или звонке стоит действовать последовательно. Не выполнять просьбу сразу. Прекратить текущий контакт. До подтверждения личности не передавать деньги, данные и не выполнять другие просьбы. Самостоятельно связаться с человеком через проверенный канал. Уточнить обстоятельства разговора. Сохранить сообщение, аккаунт, номер и другие сведения о контакте. При попытке хищения или иной угрозе обратиться в соответствующую организацию или правоохранительные органы.

Читать публикацию в Страна Лайф