Чат-бот ChatGPT, разработанный компанией OpenAI, передал в ФБР переписку финансового аналитика Goldman Sachs Даррена Чжоу, который обсуждал с искусственным интеллектом планы убийства и изнасилования своей бывшей девушки, сообщает Post Millennial.
По данным издания, 25-летний Чжоу написал боту: «Я убью ее до конца этого месяца. Если она не достанется мне, то не достанется никому». Система распознала прямую угрозу и направила информацию в ФБР, после чего материалы были переданы шерифу округа Палм-Бич во Флориде.
Потерпевшая подтвердила факт преследования и передала полиции скриншоты угроз, которые Чжоу отправлял ей через разные приложения. После задержания аналитика уволили из Goldman Sachs.
Чжоу предъявили обвинения в сталкинге при отягчающих обстоятельствах, письменных угрозах убийством и незаконном использовании средств связи. В общей сложности ему грозило до 25 лет лишения свободы.
В ходе судебного разбирательства Чжоу заключил соглашение со следствием. В итоге бывшего финансиста приговорили к испытательному сроку, обязали носить электронный браслет и пройти программу реабилитации для агрессоров в семье.
Ранее сообщалось, что ChatGPT обучал пользователей созданию и применению биологического оружия. Биологи отмечали, что ответы чат-бота отличались «смертельной точностью». В частности, ИИ объяснял, как приготовить рицин — яд, запрещенный международными соглашениями.
