ИИ помог подростку совершить суицид: компания OpenAI получила иск

В США родители 16-летнего подростка подали иск против компании OpenAI и её главы Сэма Альтмана, обвинив ChatGPT в причастности к самоубийству их сына, передает Toppress со ссылкой на NBC News.

По словам семьи, искусственный интеллект фактически заменил юноше живое общение и в долгих беседах давал советы, которые подтолкнули его к трагическому шагу. Родители утверждают, что чат-бот сначала помогал с учёбой, а затем подсказал как совершить самоубийство.

Иск был подан 26 августа в суд Сан-Франциско. Семья обвиняет OpenAI в том, что компания ради прибыли поспешила выпустить новые версии ChatGPT, не обеспечив достаточной защиты для пользователей, в том числе несовершеннолетних.

В самой компании выразили соболезнования и пообещали обновить систему безопасности: усилить фильтры в разговорах о суициде, добавить родительский контроль и улучшить алгоритмы, реагирующие на признаки психологического стресса.

На фоне скандала OpenAI уже объявила, что собирается обновить систему. Будут добавлены фильтры при попытке разговора о суициде, инструменты с родительским контролем, а также меры при которых ChatGPT не будет сбавлять бдительность при общении с пользователем.

Юристы отмечают, что это дело может стать прецедентом для всей индустрии искусственного интеллекта и задать новые правила безопасности в цифровых технологиях.

Стоит отметить, что в Казахстане ИИ-сервисы также используются повсеместно. Усиление фильтров и систем защиты напрямую затронет пользователей. Для подростков это особенно важно, т.к новые функции должны снизить риск вредных сценариев общения.