Что такое ИИ-боты и какую они несут угрозу

25 августа 2023 |

Что такое ИИ-боты и какую они несут угрозу

В последнем исследовании ученые из Обсерватории социальных медиа Индианского университета подробно рассмотрели, как злоумышленники используют функционал чатбота ChatGPT от OpenAI. Кай-Чэн Янг, исследователь в области вычислительных социальных наук, и Филиппо Менцер, профессор компьютерных наук, выяснили, что возможность ChatGPT генерировать авторитетно выглядящий текст используется для запуска "ИИ-ботов" на платформе X, ранее известной как Twitter.

Сети ИИ-ботов представляют собой сети из сотен вредоносных ботов и спам-кампаний в социальных медиа, которые могут обходить существующие антиспам-фильтры. Эти сети используются для различных целей, включая продвижение мошеннических схем, связанных с криптовалютами и NFT. Бот-аккаунты пытаются убедить людей инвестировать в поддельные криптовалюты и даже могут кражей доступа к их существующим криптокошелькам.

Сеть, обнаруженная Янгом и Менцером на платформе X, насчитывала более 1000 активных ботов. Эти боты взаимодействовали друг с другом, отвечая на посты и комментарии с использованием ChatGPT, часто публикуя украденные из реальных профилей селфи для создания фейковых персон.

Менцер отметил, что появление социальных медиа предоставило злоумышленникам доступный способ достижения широкой аудитории и монетизации ложного или вводящего в заблуждение контента. Он также отметил, что новые инструменты искусственного интеллекта еще больше снижают затраты на создание фейкового, но реалистично выглядящего контента в масштабе, что подрывает усилия платформ социальных медиа в области модерации контента.

Инфо: если вам нужен сервисный центр по ремонту электроники в Одессе, сервисный центр ИТСА сможет отремонтировать любую электронику по одному адресу, где каждый мастер занимается своим направлением - ссылка на сайт компании.

Кроме социальных медиа, похожие на ChatGPT инструменты привели к появлению множества спамных новостных веб-сайтов, которые часто публикуют явные фейки. Компания NewsGuard, занимающаяся оценкой надежности информационных веб-сайтов, уже обнаружила более 400 таких порталов, созданных с помощью искусственного интеллекта.

Эти веб-сайты получают доходы от автоматизированной рекламной технологии, которая размещает рекламу на веб-сайтах, независимо от их качества и достоверности.

Ваша версия браузера устарела, для нормального отображения сайта обновите браузер!

Премиум объявление

100 руб.

  Банковской картой

  Яндекс.Деньгами
Выбранная стоимость размещения окончательна, никакой коммисии не взымается, процедура оплаты происходит через сервис Яндекс.Деньги, с обеспечением безопасности платежей с банковских карт.