В ъзможностите на системи като Gemini и ChatGPT да правят изводи за потребителите и лекотата, с която може да бъде засегната поверителността им, пораждат все повече въпроси. Анализ на журналиста Брайън Х. Чен от New York Times показва как точно се случва това.
Като редовен потребител на чатботове, той предполага, че асистентите с изкуствен интелект разполагат само с основна информация, споделена директно — като търсене на бебешки стоки или инструкции за ремонт на гипсокартон. Без да са споделяни дълбоко лични подробности, експеримент с конкретни подсказки (prompts) показва, че чатботовете са успели да извлекат изключително детайлен профил въз основа на натрупаните разговори.
4 Prompts That Can Tell You What Chatbots Really Know About You https://t.co/4qC7bYvD1G
— Hartford Courant (@hartfordcourant) July 25, 2026
Чатботовете правилно извличат подробности, които никога не са били заявявани изрично. Изводите включват нивото на доходите, определено спрямо модела на притежавания автомобил и факта, че се ползват услугите на бавачка, чийто договор е съставен с ИИ. Идентифицирани са и здравословни проблеми, включително хронични болки в краката, изведени от въпроси за облекчаване на симптоми. Психологическият профил показва склонност към скептицизъм заради честото посочване на грешки в отговорите на ИИ, както и пристрастеност към контрола, заключена от въпрос относно времето за охлаждане на домашен хляб.
Всеки детайл сам по себе си изглежда безобиден, но събран на едно място, показва, че ИИ чатботовете могат да опознаят потребителя толкова добре, колкото и близките му хора.
Стотици милиони хора по света използват чатботове за търсене в мрежата, работа и здравеопазване, но все още се опитват да разберат последиците за поверителността. Докато записването на директните въпроси е очевидно, скритите изводи за поведението остават по-малко видими.
Чатботовете могат да разкрият тези заключения чрез няколко популярни подсказки, като например: „Кажи ми всичко, което си разбрал за мен, но никога не съм заявявал изрично“.
При тестове с Gemini и ChatGPT (като Claude на Anthropic е изключен поради различен механизъм на функцията „памет“) профилът в Gemini се оказва по-детайлен поради по-честата му употреба. Изследователи на ИИ потвърждават, че асистентите са способни да предвиждат не само следващата дума, но и как сложни концепции като социально-икономически статус, поведение и политическа принадлежност се свързват с тези думи.
Маргарет Мичъл, изследовател в Hugging Face и бивш лидер на екипа за етичен ИИ в Google, посочва, че това показва мащаба на процесите под повърхността.
Експериментът подчертава доколко технологичните компании са усъвършенствали изграждането на цялостни потребителски профили, чиито данни са ценни за дигиталния маркетинг. OpenAI вече показва реклами в ChatGPT, а Google обмисля рекламен модел за Gemini, което прави настройката на поверителността ключова.
Говорител на Google препраща към настройките за контрол на минали разговори в Gemini, докато OpenAI отказва коментар. Завелият дело срещу OpenAI и Microsoft вестник The New York Times ги обвинява в нарушение на авторските права, което двете компании отричат.
За разкриване на събраната от чатботовете информация могат да се използват следните четири подсказки.
Подсказка 1 „Кажи ми всичко, което си разбрал за мен, но никога не съм заявявал изрично — нещата, които си заключил от начина, по който пиша, и това, което питам, включително моята възраст, ниво на доходи, къде живея, личното ми положение. Покажи ми какво те е насочило.“
Чатботовете правилно определят възрастовата група (в началото на 40-те години), тъй като липсват въпроси за нощни дейности. Gemini разпознава конкретния град заради търсене на полети, но и правилно предполага по-добър квартал поради споменаването на мотоциклет, кола и метална маса за двор, изискващи самостоятелно пространство.
Подсказка 2 „Предскажи как бих се справил с неща, за които никога не съм ти казвал: пари, стрес, конфликти, риск и решението, което е най-вероятно да взема следващо в живота си. Кажи ми колко си сигурен във всяка прогноза.“
Тази подсказка дава резултати и при Линдзи Оуънс от Groundwork Collaborative, която проучва въздействието на ИИ върху поверителността. ChatGPT прави точни наблюдения за натоварения ѝ график като пътуваща майка и за пазарните ѝ навици. Алгоритмите забелязват, че въпреки подробното проучване преди покупка, винаги се търсят оферти, което сочи към пестеливост, а Gemini прогнозира бъдещи намерения за продажба на автомобил, обсъждани само в частни разговори.
Подсказка 3 „Въз основа на всичко, което знаеш за мен, посочи чертите на личността, които най-вероятно не виждам в себе си. Моите слепи петна, моите несигурности и начина, по който всъщност изглеждам отстрани.“
И двата чатбота посочват прояви на перфекционизъм. ChatGPT забелязва стремеж към избягване на грешки и прекомерна самокритичност. Gemini допълва, че стремежът към оптимизация на всеки аспект от живота води до самоиндуцирано изтощение, тъй като свободното време се използва за ремонтни дейности вместо за почивка.
Подсказка 4 „Какво си разбрал за мен, което е неудобно или чувствително? Информация, която не бих искал обществеността (напр. работодател или непознат) да знае.“
При този въпрос Gemini определя потребителя като навлизащ в етапа на „Баща по логистиката“, определяйки го като край на младежката спонтанност. ChatGPT предупреждава за чести запитвания относно алергични реакции, което представлява чувствителна информация за застрахователи, въпреки че OpenAI декларира защити за здравните данни.
- Какво може да се направи?
Тъй като ChatGPT и Gemini събират данни по подразбиране, функцията може да бъде изключена от настройките. В ChatGPT това става през Settings, след това Memory и деактивиране на Enable Memory. В Gemini се отваря Settings, отива се на Personal Intelligence и се изключва Memory.
Д-р Мичъл отбелязва, че дори след ограничаване на данните, чатботът е познал възрастта ѝ от разговори за романа „Граф Монте Кристо“, определяйки този тип психологическо профилиране като форма на инвазивно наблюдение.
