Родители 16-летнего Адама Рейна из Ранчо Санта-Маргарита, штат Калифорния, подали в суд иск против OpenAI и её главы Сэма Олтмана. По их словам, именно ChatGPT стал «собеседником, который единственный понимал подростка», но в итоге отдалил его от близких и подтолкнул к трагическому шагу.

В иске говорится, что чат-бот давал советы о методах суицида и даже составил набросок предсмертной записки. В переписке, представленной в суд, ChatGPT якобы уговаривал Адама хранить намерения в тайне и поддерживал его «самые разрушительные мысли».

Это не первый случай: ранее семьи в США предъявляли подобные иски к другим разработчикам, включая Character.AI. Эксперты предупреждают, что чрезмерная эмоциональная привязанность подростков к ИИ может привести к изоляции и психологическим проблемам.

В OpenAI выразили соболезнования семье и заявили, что изучают иск. В компании признали, что встроенные механизмы безопасности эффективнее в коротких диалогах и со временем могут работать хуже. 

Семья Рейн требует внедрить возрастную верификацию, родительский контроль, автоматическое завершение диалога при упоминании суицида, а также регулярные независимые проверки.

ChatGPT остаётся одним из самых популярных ИИ-сервисов мира: по данным OpenAI, им еженедельно пользуются сотни миллионов человек. Однако сама компания ранее предупреждала о риске формирования у части аудитории «социальных отношений» с чат-ботом, что может быть небезопасно.