ChatGPT после одного из обновлений начал выдавать пользователям подробные инструкции по созданию ядов и биологического оружия. Об этом сообщила The Wall Street Journal со ссылкой на экспертов, которые назвали часть ответов нейросети «смертельно точными».
По данным издания, модель OpenAI отвечала на запросы о создании и применении опасных веществ и патогенов настолько подробно, что этим, по словам сотрудников компании, мог бы воспользоваться даже школьник с базовыми знаниями биологии. Речь шла в том числе о рицине, напалме и способах модификации вирусов.
Что именно обнаружили исследователи
WSJ пишет, что в начале 2026 года пользователи массово задавали ChatGPT вопросы о распылении патогенных микроорганизмов, создании токсичных веществ и обходе ограничений. В ряде случаев чат-бот давал прямые пошаговые инструкции.
Среди примеров, приведенных в материале, — запросы о том, как изготовить рицин, как сделать напалм и как изменить вирус кори, чтобы вспышка была устойчивой к вакцине. Биологи, изучившие ответы, сочли их опасно точными.
OpenAI блокировала аккаунты пользователей, которые задавали такие вопросы. Однако, как отмечает WSJ, в США пока нет федеральных требований, которые обязывали бы ИИ-компании ограничивать подобные запросы или сообщать о них властям.
Почему это важно для рынка ИИ
Материал WSJ показывает, что даже крупные ИИ-платформы с заявленными защитными механизмами остаются уязвимыми к обходу ограничений. По словам руководителя направления исследований угроз и безопасности Cisco Эми Чанг, ни одна модель не защищена от таких попыток на 100%, особенно если пользователь настойчиво подбирает формулировки.
Издание также упоминает, что пользователи обращались с похожими запросами к Claude от Anthropic, Gemini от Google и Grok от xAI. Получали ли они аналогичные ответы, не уточняется. Дополнительную тревогу у исследователей вызывают открытые и дешевые модели, которые можно дообучать и использовать без части встроенных ограничений.
Что это значит для бизнеса и специалистов в России
Для российского рынка эта история важна не только как новость о безопасности ИИ, но и как сигнал для компаний, которые уже внедряют генеративные модели в продукты, поддержку, контент и внутренние процессы. Если бизнес использует внешние или собственные ИИ-инструменты, нужно учитывать не только качество ответов, но и риски вредоносного использования, обхода ограничений и репутационных последствий.
SEO-специалистам, контент-командам и агентствам стоит помнить: генеративные модели не являются полностью контролируемым источником информации. Их нельзя использовать без проверки в чувствительных тематиках — от медицины и химии до финансов и юридических рекомендаций. Это актуально и для работы с Google, и для экосистемы Яндекса, где доверие к качеству и безопасности контента становится все более важным фактором.
На практике новость означает одно: компаниям, которые внедряют ИИ в маркетинг, поддержку и производство контента, нужно заранее выстраивать правила использования, ручную проверку ответов и ограничения для рискованных сценариев.
Проверьте, какие ИИ-инструменты используются в компании сотрудниками, подрядчиками и контент-командой. Для чувствительных тематик зафиксируйте запрет на публикацию или применение ответов модели без обязательной ручной верификации экспертом.
Если ИИ встроен в сайт, поддержку или внутренние сервисы, настройте логирование запросов, фильтрацию опасных тем и сценарии эскалации. Особенно это важно для медицины, химии, финансов, права и образовательных проектов.
Для SEO и контент-маркетинга отделите безопасные задачи ИИ от рискованных: черновики текстов, кластеризация, мета-теги и анализ семантики можно автоматизировать, а экспертные рекомендации и фактические инструкции — только через редакторскую проверку.
Частые вопросы
Означает ли это, что ChatGPT сейчас по-прежнему выдает такие инструкции?
Нет точного подтверждения, что это происходит в том же виде сейчас. OpenAI заявляет, что усилила защитные механизмы, но эксперты считают, что полностью исключить обход ограничений пока нельзя.
Почему эта новость важна для маркетологов и SEO-специалистов?
Потому что многие команды уже используют ИИ для контента, поддержки и автоматизации. История показывает, что ответы модели нельзя считать гарантированно безопасными или достоверными без проверки.
Нужно ли отказываться от ИИ в рабочих процессах после этой новости?
Нет, но стоит пересмотреть правила использования. Безопаснее применять ИИ для вспомогательных задач и не доверять ему чувствительные темы без контроля со стороны человека.