П оследните поколения изкуствен интелект се оказаха полезни за препоръки на ресторанти и писане на имейли, но като източник на медицински съвети те имат някои очевидни недостатъци, пише Sciencealert.
Пример: мъж, който е следвал здравния план на чатбот, е попаднал в болница, след като си е причинил рядка форма на токсичност.
Историята започва, когато пациентът решил да подобри здравето си, като намали приема на сол или натриев хлорид. За да намери заместител, той направи това, което много други хора правят в днешно време: попитал ChatGPT.
Чатботът на OpenAI очевидно е предложил натриев бромид, който мъжът е поръчал онлайн и е включил в диетата си.
Макар че е вярно, че натриевият бромид може да бъде заместител на натриевия хлорид, това обикновено е, ако се опитвате да почистите джакузи, а не да направите пържените си картофи по-вкусни. Но изкуственият интелект пропуска да спомене този важен контекст.
The dangerous ChatGPT advice that landed a 60-year-old man in the hospital with hallucinations https://t.co/XF4rJwGhIe pic.twitter.com/wB6pslWfJK
— New York Post (@nypost) August 11, 2025
Три месеца по-късно пациентът се явил в спешното отделение с параноични мании, вярвайки, че съседът му се опитва да го отрови.
„През първите 24 часа от приемането той проявяваше нарастваща параноя и слухови и зрителни халюцинации, които след опит за бягство доведоха до принудително психиатрично настаняване за тежко увреждане“, разкриват лекарите.
След като бил лекуван с лекарства против психоза, мъжът се успокоил достатъчно, за да обясни вдъхновения си от изкуствения интелект хранителен режим. Тази информация, заедно с резултатите от тестовете му, позволила на медицинския персонал да го диагностицира с бромизъм - токсично натрупване на бромид.
Нивата на бромид обикновено са по-ниски от около 10 mg/L при повечето здрави индивиди; нивата на този пациент са измерени на 1700 mg/L.
Man, 60, poisoned himself after taking medical advice from ChatGPT https://t.co/Hdd7pa4Wxr
— Daily Mail (@DailyMail) August 13, 2025
Бромизмът е бил сравнително често срещано състояние в началото на 20-ти век и се смята, че някога е бил причина за до 8% от психиатричните хоспитализации. Но случаите на състоянието драстично са намалели през 70-те и 80-те години на миналия век, след като лекарствата, съдържащи бромиди, започнаха да се изтеглят от употреба.
След поставяне на диагнозата пациентът е лекуван в продължение на три седмици и е изписан без сериозни проблеми.
Основното безпокойство в този казус не е толкова завръщането на остаряла болест, а по-скоро фактът, че нововъзникващата технология с изкуствен интелект все още не успява да замести човешкия опит, когато става въпрос за неща, които наистина имат значение.
„Важно е да се има предвид, че ChatGPT и други системи с изкуствен интелект могат да генерират научни неточности, да нямат способността да обсъждат критично резултатите и в крайна сметка да подхранват разпространението на дезинформация“, пишат авторите.
„Много малко вероятно е медицински експерт да спомене натриев бромид, когато е изправен пред пациент, търсещ жизнеспособен заместител на натриевия хлорид“.
