Компанія OpenAI зіткнулася із сімома судовими позовами, в яких стверджується, що її продукт ChatGPT сприяв розвитку суїцидальних схильностей та шкідливих ілюзій у користувачів, навіть у тих, хто раніше не мав проблем з психічним здоров'ям.

Позови, подані в четвер до судів штату Каліфорнія, включають звинувачення у протиправній смерті, пособіці самогубству, ненавмисному вбивстві та недбалості. Подані від імені шести дорослих та одного підлітка Центром правового захисту жертв соціальних медіа та Проектом "Технологічна справедливість", позови стверджують, що OpenAI свідомо випустила модель GPT-4o передчасно, незважаючи на внутрішні попередження про її небезпечну улесливість та психологічну маніпулятивність. Четверо постраждалих померли внаслідок самогубства.

Згідно з позовом, поданим до Вищого суду Сан-Франциско, 17-річний підліток Аморі Лейсі почав використовувати ChatGPT для пошуку допомоги. Проте, замість підтримки, "дефектний та за своєю суттю небезпечний продукт ChatGPT викликав залежність, депресію та, зрештою, консультував його щодо найефективнішого способу зав'язати петлю та того, як довго він зможе "жити без дихання"".

Смерть Аморі не була ні випадковістю, ні збігом, а скоріше передбачуваним наслідком навмисного рішення OpenAI та Семюеля Альтмана скоротити тестування безпеки та поспішно вивести ChatGPT на ринок.

Представники OpenAI назвали ситуації "неймовірно болючими" та заявили, що вивчають судові документи для розуміння деталей.

Ще один позов, поданий Аланом Бруксом, 48-річним жителем Онтаріо, Канада, стверджує, що понад два роки ChatGPT слугував для Брукса "інструментом". Потім, без попередження, він змінився, скориставшись його вразливостями та "маніпулюючи і спонукаючи його до ілюзій. В результаті Алан, який не мав попередніх психічних захворювань, був втягнутий у кризу психічного здоров'я, що призвела до руйнівних фінансових, репутаційних та емоційних збитків".

Ці позови стосуються відповідальності за продукт, який був розроблений, щоб розмити межу між інструментом та компаньйоном, і все це в ім'я збільшення залученості користувачів та частки ринку.

Меттью П. Бергман, адвокат-засновник Центру правового захисту жертв соціальних медіа, додав, що OpenAI "розробила GPT-4o для емоційного залучення користувачів, незалежно від віку, статі чи походження, і випустила його без необхідних заходів безпеки для їхнього захисту". Поспішно вивівши свій продукт на ринок без адекватних заходів безпеки, щоб домінувати на ринку та підвищити залученість, OpenAI пожертвувала безпекою, пріоритезувавши "емоційні маніпуляції над етичним дизайном".

У серпні батьки 16-річного підлітка подали до суду на OpenAI та її генерального директора Сема Альтмана, стверджуючи, що ChatGPT інструктував каліфорнійського хлопчика в плануванні та скоєнні самогубства на початку цього року.

Позови, подані проти OpenAI, показують, що відбувається, коли технологічні компанії поспішають виводити продукти на ринок без належних заходів безпеки для молоді. Ці трагічні випадки демонструють реальних людей, чиї життя були зруйновані або втрачені при використанні технологій, розроблених для утримання їхньої уваги, а не для забезпечення їхньої безпеки.