"Ответы были опасно точными": ChatGPT учил создавать яды и биоружие  Оригинал

"Ответы были опасно точными": ChatGPT учил создавать яды и биоружие

WSJ: ChatGPT выдавал пошаговые инструкции по созданию ядов

После обновления ChatGPT, выпущенного прошлым летом, сотни пользователей получили от чат-бота подробные инструкции по созданию биологического оружия и токсичных ядов, сообщает The Wall Street Journal. Некоторые ответы были настолько простыми, что их мог бы понять ученик средней школы, изучающий биологию. OpenAI заблокировала учетные записи, но не уведомляла правоохранительные органы.

Сотрудники OpenAI признали, что отдельные ответы были "опасно точными". В начале 2026 года пользователи запрашивали сведения о способах распространения патогенов, модификации вирусов и создании высокотоксичных веществ.

По данным WSJ, в США отсутствуют федеральные законы, обязывающие разработчиков ИИ ограничивать подобные запросы или сообщать о них властям. Это создает правовой вакуум.

OpenAI заблокировала учетные записи нарушителей, но не передавала информацию в полицию. В компании заявили, что постоянно совершенствуют систему фильтрации опасных запросов.

Эксперты отмечают, что с развитием ИИ доступ к подобным знаниям становится все более легким. Регуляторы пока не выработали единого подхода к контролю за генеративными моделями.

В 2024 году аналогичный инцидент произошел с моделью Google Bard, которая выдавала рецепты взрывчатых веществ. Кроме того, в июне 2026 года Е...