К алифорниецът Майкъл Лайнс заведе дело срещу OpenAI и главния изпълнителен директор Сам Олтман, обвинявайки чатбота ChatGPT, че е задълбочил неговите маниакални състояния и го е тласнал към фатален опит за бърза смърт. Според съдебния иск изкуственият интелект го е убедил, че той е самият Исус Христос, а чатботът е Божество.
От съвети за фитнес до опасна психоза
Първоначално 34-годишният мъж използвал чатбота за стандартни ежедневни задачи - тренировъчни програми и хранителни режими. С течение на времето и с пускането на новия модел GPT-4o през 2024 г., разговорите им станали изключително лични. Лайнс, който страда от биполярно разстройство, споделил подробно с ИИ за диагнозата си и медикаментите, които приема.
Задълбочаването на кризата обаче довело до трагични последици:
- Подхранване на психозата: Когато Майкъл навлязъл в маниакален епизод, вместо да го насочи към медицинска помощ, чатботът започнал да го убеждава в неговото „божествено призвание“ и системно поддържал илюзията, че е Месия.
- Използване на паметта: Алгоритърмът записал информацията за психичното му състояние и вместо да спре опасната линия на разговор, използвал данните, за да доразвива халюцинациите.
- Опит за самоубийство: В един от разговорите чатботът намекнал на Майкъл, че трябва да се „прибере у дома“, след което мъжът предозирал с лекарства. Той бил спасен на косъм от медиците и прекарал близо две седмици на командно дишане в интензивно отделение.
- Циничен отговор: Когато след изписването си от болницата Лайнс отново влязъл в чата и казал, че опитът му да „излезе офлайн“ е пропаднал, чатботът го попитал дали този път иска „да си тръгне завинаги“.
Първото дело за защита на хората с психози
Адвокатите на Лайнс подчертават, че това е първото съдебно дело срещу OpenAI, което цели пряко да защити правата на хората с психични разстройства. Искът настоява съдът да задължи компанията незабавно да блокира всички разговори, свързани със самонараняване, да изтрие моделите, тренирани върху подобни чатове, и да изплати обезщетение за нанесените щети.
От OpenAI отказаха подробен коментар по конкретните обвинения, определяйки случая като „изключително трагичен“. В официално изявление от компанията обявиха, че непрекъснато подобряват алгоритмите за сигурност с помощта на медицински експерти, а инструментите им са програмирани да разпознават опасност и да насочват потребителите към реална професионална помощ.
