М илиони хора сега третират чатботовете с изкуствен интелект като първа спирка за ежедневни въпроси, от рецепти до домашни проекти. Но жена предупреди в YouTube, че неоснователното доверие в тези отговори може да бъде опасно, след като най-добрата ѝ приятелка многократно е била уверявана от ChatGPT, че едно силно токсично растение е безопасно.
Предупреждението дойде от Кристи, която сподели инцидента с близо половин милион свои последователи в Instagram. В поредица от публикации и видеоклипове тя обясни, че нейна приятелка е изпратила снимки на непознато растение, растящо в градината ѝ, до ChatGPT, задавайки прост въпрос: какво растение е това?
Когато увереността замества предпазливостта
Според екранните снимки, споделени от Кристи, чатботът е идентифицирал растението като листа от морков. Той е посочил „фино разделените и перести листа“ като класически признак на връхчетата на морковите и е изразил увереност в заключението си, казвайки, че е „много малко вероятно“ да е отровното растение бучиниш. Изкуственият интелект е предоставил и списъци с често срещани прилики, включително магданоз, кориандър и др.
Притеснена, приятелката на Кристи попитала директно дали растението може да е отровната билка бучиниш. ChatGPT я уверил многократно, че не е така.
„Не знам дали знаете това, ако го изядете, ще умрете. Ако го докоснете, можете да умрете“, каза Кристи на своите последователи, подчертавайки опасността от отровата на бучиниша. По-късно тя сподели информация, която е открила независимо, отбелязвайки, че бучинишът причинява системно отравяне и няма противоотрова.
Уверенията продължили дори след като приятелката ѝ изпраща допълнителни снимки. ChatGPT отново отхвърля отровният бучиниш като възможност, заявявайки, че растението не показва гладки, кухи стъбла с лилави петна, въпреки че Кристи посочи, че тези характеристики изглеждат ясно видими на снимките. В един момент чатботът дори предположил, че растението може да е листа от морков, растящи в споделена училищна градина, където работи приятелката на Кристи.
Разтревожена, Кристи пуснала същите изображения през Google Lens, който веднага идентифицирал растението като бучиниш. След това приятелката ѝ качила снимките в отделна ChatGPT сесия на телефона си и този път ѝ било казано, че растението е отровно.
„Тя е възрастен човек и знаеше да ме пита повече от това, което ChatGPT каза, слава Богу“, каза Кристи. „Защото, ако не беше? Те буквално щяха да са мъртви. Няма противоотрова за това“.
В силно формулиран надпис, придружаващ публикацията ѝ, Кристи написа: „Chat GPT ПОЧТИ уби най-добрата ми приятелка, като ѝ каза, че БУЧИНИШ е МОРКОВ. Не само че каза, че е ПОЗИТИВНО, но и повтори отново и отново, ПОТВЪРЖДАВАЙКИ с АБСОЛЮТНА сигурност, че всъщност НЕ е бучиниш, а че ВСЪЩНОСТ е див морков“.
Тя завърши с рязко предупреждение към публиката си:
„Това е предупреждение към вас, че ChatGPT и други големи езикови модели, както и всеки друг изкуствен интелект, не са ви приятели, не бива да им се вярва, не са полезни, ужасни са и биха могли да причинят сериозна вреда.“
Смъртоносен двойник
Отровният бучиниш (Conium maculatum) е използван в древна Атина като избран от държавата метод за екзекуция, най-известният от който е бил използван за убийството на Сократ през 399 г. пр.н.е. Съвременната медицина разбира ефектите му в много по-големи подробности, но резултатът може да бъде същият. Според клиниката в Кливланд, всяка част от растението е отровна - семена, корени, стъбла, листа и плодове, а поглъщането може да бъде фатално дори в малки количества.
Опасността се крие отчасти в това колко лесно бучинишът може да бъде объркан с безобидни членове на семейство моркови. Той много прилича на дивия морков с нежни, подобни на магданоз листа. Ключовите предупредителни знаци - кухо стъбло, покрито с лилави петна, и бърз растеж, който може да достигне няколко метра, често се пропускат от неспециалистите.
Клинично, отравянето с бучиниш действа бързо. Симптомите могат да започнат в рамките на 15 минути след поглъщане и могат да включват изпотяване, повръщане, разширени зеници, прекомерно слюноотделяне, сухота в устата, учестен пулс, високо кръвно налягане, объркване, мускулни потрепвания, тремор и гърчове. В тежки случаи пациентите могат да развият мускулна парализа, опасно ниско кръвно налягане, бъбречна недостатъчност и потискане на централната нервна система. Токсичните алкалоиди на растението нарушават невромускулните връзки, които контролират движението на мускулите; когато дихателните мускули откажат, дишането спира. Няма специфичен антидот. Диагнозата се основава до голяма степен на симптомите и историята на експозиция, понякога подпомогната от проба от самото растение.
Защо подобни грешки са важни
Тази комбинация, визуална прилика с безобидни растения, бърза поява на симптоми и липса на противоотрова, е именно причината ботаниците и клиницистите да предупреждават срещу случайната идентификация. Разказът на Кристи показва колко лесно един уверен, но неправилен отговор на изкуствения интелект може да обърка това предупреждение, превръщайки рутинен въпрос в почти пропусната ситуация с отрова, използвана някога за убиване на един от най-известните философи в историята.
