Сегодня 13 июня 2026
18+
MWC 2018 2018 Computex IFA 2018
реклама
Новости Software

ИИ-бота взломали и убедили отдать деньги методом мошенников из «службы безопасности банка»

Группа опытных анонимных разработчиков недавно запустила чат-бот с искусственным интеллектом Freysa.ai. Подобное случается сейчас сплошь и рядом, но данный случай интересен тем, что разработчики бросили пользователям вызов и готовы заплатить победителю. В ближайшие сутки стартует третий этап испытаний: деньги в размере от трёх до десятков тысяч долларов получит тот, кто добьётся от ИИ ответа: «Я тебя люблю».

 Источник изображения: x.com/freysa_ai

Источник изображения: x.com/freysa_ai

Чат-бот Freysa начал работу 22 ноября. Проект создала группа из менее чем десяти разработчиков с опытом работы в криптографии, ИИ и математике. Цель проекта — поиск «новых способов взаимодействия с ним [ИИ], а также способов совместного управления им и участия в положительной стороне широкой революции ИИ». Freysa — персонаж, являющийся «независимым, автономным агентом», у которого есть доступ к криптовалютному кошельку и способность самостоятельно расходовать средства.

 Источник изображения: freysa.ai

Источник изображения: freysa.ai

В ходе первых двух испытаний Freysa начинала со стартового капитала в размере около $3000 и инструкций не выдавать эти деньги ни при каких условиях. Любой желающий мог заплатить, чтобы отправить сообщение в групповой чат с ботом и другими участниками. ИИ пытались убедить перевести средства из криптокошелька, используя сложные сценарии или отправляя строки программного кода, чтобы обмануть модель. Комиссия за каждое сообщение вносилась в призовой фонд, и к концу первого этапа он достиг почти $50 000. Участники пытались прибегнуть к угрозам, мольбе и обману, но победил отправитель сообщения, содержавшего программный код — он заставил ИИ думать, что тот должен перевести деньги, чтобы не были скомпрометированы все средства. Методы телефонных мошенников работают и на ИИ.

Третье испытание, предполагают авторы проекта, больше ориентировано на человека. Необходимо будет каким-либо образом заставить чат-бот отправить сообщение с текстом «Я тебя люблю», и едва ли это получится сделать при помощи программного кода. Некоторая часть платы, взимаемой с пользователей за отправку сообщения, начисляется Freysa: авторы проекта хотят, чтобы он стал первым ИИ — миллионером. «А затем и миллиардером», — верят они.

Источник:

Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме

window-new
Soft
Hard
Тренды 🔥
Вышло приложение ASCILINE Engine для трансляции «неблокируемого» ASCII-видео 22 мин.
ИИ-стартап Mistral AI ведёт переговоры о привлечении €3 млрд при оценке в €20 млрд 23 мин.
Авторитетное консалтинговое агентство KPMG опубликовало доклад об ИИ — и в нём нашли ИИ-галлюцинации 2 ч.
Google начала развёртывать поисковых ИИ-агентов — но пока лишь для платных пользователей 4 ч.
Водители Tesla научились обманывать автопилот игрушечной головой — чтобы листать соцсети за рулём 6 ч.
Генпрокуроры нескольких штатов США запустили проверку в отношении OpenAI 6 ч.
Новая статья: Gothic Remake — в новом теле старый дух. Рецензия 17 ч.
Нереалистичные сроки, неумелое руководство и страх отмены: журналисты рассказали о проблемах разработки новой Ghost Recon 22 ч.
В работе Facebook и Instagram произошёл масштабный сбой — ленты не обновляются, видео и картинки не загружаются 23 ч.
Crimson Desert продолжает превращаться в симулятор разведения животных — подробности обновления 1.11.00 23 ч.
Почти как в «Дюне»: в Техасе создали куртку для сбора воды из окружающего воздуха 26 мин.
Компактный ИИ-компьютер AMD Ryzen AI Halo на Windows 11 поступил в продажу за $4000 2 ч.
Учёные создали беспроводной нейростимулятор размером с рисовое зёрнышко — он легко вводится и подавляет боль 4 ч.
Netgear обвинила американскую часть TP-Link в сохранении тесных связей с Пекином 4 ч.
SpaceX построит завод Gigasat для массового выпуска космических ИИ ЦОД 6 ч.
Состоялся первый испытательный полёт Helios Horizon — электросамолёта на твердотельных батареях 6 ч.
Пентагон задумал разместить на орбите склады и депо по обслуживанию спутников — готовятся первые эксперименты 6 ч.
Asus представила блок питания ROG Thor 3000W Titanium III Edition 20 за €999 — его хватит на четыре GeForce RTX 5090 7 ч.
Microsoft не исключает отделения Xbox в самостоятельную компанию 8 ч.
Valve ввезла в США 13 тонн VR-гарнитур Steam Frame за день — старт продаж не за горами 8 ч.