В зарубежных соцсетях очередная волна фейков - аккаунты, где нейросетью сделано вообще всё: сценарий, лицо, голос, монтаж... но на этот раз это врачи. Индустрия поставлена на поток: человек в белом халате красиво что-то объясняет, а под роликом призыв написать волшебное слово чтобы получить что-то полезное. Думаю что практически каждый из вас уже встречал такое - схема с подарком за комменты у нас в стране тоже распространена, но тут суть не в этом.
Афера оказалась настолько большая, что BBC с бразильской CTRL+Z решили разобрать, как она устроена. В результате они начали несколько десятков аккаунтов на 70 млн просмотров, все ведутся ИИ-врачами, а ещё, как минимум, 50 каналов, которые рассказывают на девяти языках, как делать такие ролики. Позднее ребята, какие выявляют фейки, нашли 1046 каналов с ИИ-аватарами врачей, суммарно на 23,7 млн подписчиков и почти 1,84 млрд просмотров, в них более 96 400 видео, три четверти из них появились после января 2025 года, 45% таких каналов монетизированны площадкой, контент ведется на 33 языках и размещён более чем в 54 странах. То есть это уже даже не единичная схема, а полноценная франшиза с подробным обучением, как дурить людей.
Формула у контента во всех одинаковая: белый халат, приятный голос, страшилка про привычный продукт, лекарство, обещание вылечить (даже неизлечимое), а потом рассказ про какое-нибудь незаслуженно забытое средство и простое решение в виде чек листа или чего-то подобного. Активисты по борьбе с фейками отобрали 20 таких каналов, которые прямо обещали вылечить рак, и отправила жалобы, но через 72 часа ни одно видео не было удалено, в совокупности ролики набрали 1,7 млн просмотров при 145 тысячах подписчиков на каналах - то есть трафик на них шел из рекомендаций. Получается что платформа не просто не удаляет такой контент, а, наоборот, разгоняет его.
В обучающих этой схеме роликах советуют придумывать заголовки, которые вызывают страх и подталкивают зрителей действовать, например: «Перед сном будьте осторожны с этим. Следите за тем, чтобы не умереть во сне» или «Четыре сыра, которые могут разрушить ваше здоровье после 60».
Те, кто всему этому обучают, тоже зарабатывают неплохо, набирая похожую на сетевой маркетинг схему и обещая ученикам доход до 6000 баксов за месяц. Ставку по аудитории для фейков делают на людей в возрасте: у них больше свободного времени на просмотр видео, меньше срабатывает критическое мышление, есть деньги на покупки и большинство из них даже не подозревает о том, каких возможностей достиг искусственный интеллект в современном мире - практически идеально для мошенников.
Журналисты собрали около тридцати тысяч комментариев под такими видео с благодарностями, в которых, не смотря на пометку «создано с помощью ИИ», люди всё равно были уверены, что перед ними настоящий врач.
Монетизация выстроена на просмотрах, цифровых товарах, платных подписках, донатах и БАДах, часть которых даже не зарегистрирована. Главный товар подобран безупречно: обычно это гайд или чек-лист, то, что можно быстро отдать и забыть. Лицензия не нужна, общаться с покупателем не требуется, а за итог отвечает он сам. Точнее, не отвечает никто: в лучшем случае эффекта просто не будет, в худшем такое «лечение» навредит здоровью. Юридически всё выверено практически идеально: деньги берут за факт скачивания контента, за подписку, донат или каналы получают их напрямую от платформы. В остальных случаях продажи осуществляются через скрытые каналы или в доступе по платной подписке.
Отдельная история тут именно с клонированием реальных людей, например, ИИ-аватар одного известного врача из Бразилии, у которого почти 300 тысяч подписчиков, использовали как минимум пять чужих каналов, но сам он был не в курсе этого, теперь разбирается вместе с полицией, кто за этим всем стоит.
Доверие много лет строилось на атрибутах эксперта, но все эти атрибуты теперь генерируются за пять минут. У настоящего эксперта остаётся только то, что не генерируется: проверяемый след (реестр, лицензия, публикации, конференции, коллеги, которые его знают), живое общение (эфиры, ответы в комментариях, настоящие приёмы пациентов) и, главное, несовершенство и оговорки про важность анализов или отказ ставить диагноз по фото. А вот нейроэксперт никогда не скажет такого - он ни за что не отвечает.
История, к сожалению, не закончилась: часть каналов после публикаций и жалоб всё же удалили, но большинство продолжают существовать и набирать новые просмотры.
Пока основная волна этих фейков на английском и португальском, но ниши, где людям страшно (медицина, юридические вопросы, деньги) есть везде и везде они одинаковые, так что до наших площадок это тоже дойдёт быстро, тем более на русском такому тоже уже обучают (именно после того, как я увидела в одной из социальных сетей информацию о подобном обучении, я решила более подробно изучить этот вопрос и написать этот пост-предупреждение).
Обязательно расскажите ещё раз своим старшим родственникам, почему нельзя верить всему тому, что они видят в интернете. Можете, конечно, забить, но я почему-то уверена, что при помощи ИИ в ближайшие пару лет мошенничество выйдет на новый уровень - поддельные голоса, видео с лицами знакомых, фальшивые сообщения от банков, государственных служб и родственников в беде будут выглядеть всё убедительнее. Так что это не единственный вариант развода, буду ещё писать про разные схемы, возможно, кому-то такая информация поможет вовремя остановиться, перепроверить данные и не потерять деньги.
А вы ловили себя на том, что досмотрели ролик до конца и только потом поняли, что человека на экране не существует?
Нет комментариев
Комментарии доступны после входа