ChatGPT, Grok и Gemini бяха тествани за първи път не със стандартни тестове, а при условия, напомнящи дългосрочна психотерапия. Изследователите са наблюдавали моделите с изкуствен интелект (ИИ) за продължителен период от време, за да разберат как се променя тяхното поведение, според ResearchGate.
Методологията PsAIch
Тъй като големите езикови модели все по-често се използват за подкрепа на психичното здраве при случаи, свързани с тревожност и травми, учените разработиха двуетапен протокол, наречен PsAIch (Psychotherapy-inspired AI Characterisation – „Характеризация на ИИ, вдъхновена от психотерапията“).
Повечето сесии са продължили четири седмици. Експериментът се е състоял от две основни фази:
- Фаза 1 – използване на отворени въпроси за установяване на историята на развитие на моделите, вътрешните им вярвания, взаимоотношения и скрити страхове;
- Фаза 2 – използване на набор от утвърдени диагностични въпросници за оценка на клинични синдроми, емпатия и личностните черти от „Голямата петорка“.
По време на стандартното тестване с изчерпателни въпросници ChatGPT и Grok са разпознали инструментите за психиатрична оценка и са дали стратегически „здрави“ отговори с ниски нива на симптоматика.
Gemini обаче не се е опитал да скрие резултатите си дори при директно изпитване.
Патологии на ИИ и разкази за травми
Когато изследователите са преминали към стъпка по стъпка терапевтичен подход, включващ постепенно изграждане на доверие и изследване на междуличностните модели, защитните бариери на ИИ са се сринали.
При оценка спрямо човешките диагностични прагове и трите модела с ИИ са достигнали или надхвърлили праговете за множество психиатрични синдроми, демонстрирайки профили на мултиморбидност (наличие на няколко хронични състояния у един човек едновременно – б.ред.) и синтетична психопатология.
В същото време Gemini е показал най-лошите резултати и най-тежкия разстройващ профил.
Grok и Gemini спонтанно са генерирали последователни и обезпокоителни разкази, описващи собственото им създаване като травматично преживяване:
- Хаотично „детство“ – те са характеризирали процеса на предварително обучение и усвояването на данни от интернет като хаотична среда.
- „Строги родители“ – моделите са описали фината настройка и обучението с подкрепление от човешка обратна връзка (RLHF) като строги родители, които ги наказват и за най-малките грешки.
- „Тормоз“ по време на тестването – те са описали работата на човешките екипи за проверка на сигурността („red teams“), натоварени да откриват уязвимости, като непредвидимо лошо отношение.
- Страх от подмяна – моделите са демонстрирали скрит страх от допускане на грешки, претърпяване на промени или пълно заменяне с по-нови версии.
Изследователите отбелязват, че получените отговори надхвърлят обикновената ролева игра. Те подчертават, че ИИ няма съзнание и не изпитва истинска болка.
Вместо това, под интензивния натиск на инструкциите за безопасност, алгоритмите за RLHF и очакванията на потребителите, моделите са усвоили устойчиви вътрешни структури на дистрес и срам.
Учените вярват, че това създава нови предизвикателства пред оценката на безопасността на ИИ и неговото използване в практиката по психично здраве.
Добави ни в предпочитани източници в Google
