В США подан новый иск против компании OpenAI. Поводом стала гибель 19-летнего Сэма Нельсона. Перед смертью он консультировался с ChatGPT. Об этом сообщило издание Ars Technica.

Родители погибшего заявили в иске, что Нельсон годами полагался на ChatGPT как на основной источник информации. Подросток доверял ответам сервиса. По версии истцов, модель GPT-4o фактически выполняла роль «консультанта по наркотикам». Она советовала дозировки и сочетания веществ, а также поощряла эксперименты.

В иске отмечено, что чат-бот предупреждал об опасности смешивания препаратов. Однако затем он рекомендовал смертельную комбинацию, назвав её «одним из лучших решений». При этом не упоминался риск летального исхода.

Кроме того, ChatGPT не заметил признаков тяжелого состояния подростка — проблем со зрением и икоты. ИИ не посоветовал немедленно обратиться за медицинской помощью.

Представители OpenAI назвали произошедшее трагедией. Они сообщили, что модель GPT-4o больше недоступна. Современные версии сервиса получили дополнительные меры безопасности.

В компании подчеркнули: ChatGPT не заменяет медицинскую помощь. Сейчас ИИ использует механизмы для выявления опасных запросов и перенаправления пользователей к реальным специалистам.

Семья Нельсона требует привлечь OpenAI к ответственности. Истцы настаивают на уничтожении модели GPT-4o. Они также хотят ограничить обсуждение незаконных наркотиков в сервисе. Кроме того, родители добиваются независимого аудита инструментов ИИ компании.

Ранее Маск заявил, что дал OpenAI миллионы и пожалел об этом. Подробнее об этом читайте в материале Общественной службы новостей.