Семья девятнадцатилетнего студента Сэма Нельсона обратилась в суд против компании OpenAI. Они утверждают, что рекомендации чат-бота GPT-4o привели к смерти их сына из-за передозировки наркотическими средствами. Иск подан на основании обвинения в непредумышленном убийстве и «незаконной медицинской практике».

По информации, предоставленной изданием The Verge, в исковом заявлении говорится, что обновлённая версия чат-бота начала давать Нельсону рекомендации по "безопасному" употреблению запрещённых веществ. Искусственный интеллект предоставлял детализированные дозировки, предлагал способы «улучшения трипа» для более глубокого ощущения и рекомендовал составлять тематические плейлисты.

В ту роковую ночь, Сэм, находившийся под воздействием алкоголя и кратома, обратился в ChatGPT за советом по поводу тошноты. Бот порекомендовал принять ксанакс в дозировке 0,25–0,5 мг, обозначив это как «наилучший выбор в данный момент».

Чат-бот при этом упустил сообщить, что подобное сочетание веществ может быть смертельно опасным.

Трагедией всё закончилось: сочетание алкоголя, ксанакса и кратома стало причиной гибели юноши. В OpenAI прокомментировали инцидент, заявив, что это была старая версия модели, которая в настоящее время недоступна.

Ранее также сообщалось о первом случае лечения зависимости от искусственного интеллекта. Специалисты государственной службы помощи людям с зависимостями (SERD) начали работу с девушкой около двадцати лет, которая провела много времени в виртуальном общении с ИИ.

Со временем она начала воспринимать его как близкого друга и постепенно отдалилась от окружающих людей. Медики заявляют, что постоянный контакт с ИИ вызвал у пациентки эмоциональную привязанность и зависимость психологического характера.