Тайните на чатботовете: 4 въпроса разкриват какво наистина знаят Gemini и ChatGPT за нас
Източник: iStock

В ъзможностите на системи като Gemini и ChatGPT да правят изводи за потребителите и лекотата, с която може да бъде засегната поверителността им, пораждат все повече въпроси. Анализ на журналиста Брайън Х. Чен от New York Times показва как точно се случва това.

Като редовен потребител на чатботове, той предполага, че асистентите с изкуствен интелект разполагат само с основна информация, споделена директно — като търсене на бебешки стоки или инструкции за ремонт на гипсокартон. Без да са споделяни дълбоко лични подробности, експеримент с конкретни подсказки (prompts) показва, че чатботовете са успели да извлекат изключително детайлен профил въз основа на натрупаните разговори.

Чатботовете правилно извличат подробности, които никога не са били заявявани изрично. Изводите включват нивото на доходите, определено спрямо модела на притежавания автомобил и факта, че се ползват услугите на бавачка, чийто договор е съставен с ИИ. Идентифицирани са и здравословни проблеми, включително хронични болки в краката, изведени от въпроси за облекчаване на симптоми. Психологическият профил показва склонност към скептицизъм заради честото посочване на грешки в отговорите на ИИ, както и пристрастеност към контрола, заключена от въпрос относно времето за охлаждане на домашен хляб.

Всеки детайл сам по себе си изглежда безобиден, но събран на едно място, показва, че ИИ чатботовете могат да опознаят потребителя толкова добре, колкото и близките му хора.

Стотици милиони хора по света използват чатботове за търсене в мрежата, работа и здравеопазване, но все още се опитват да разберат последиците за поверителността. Докато записването на директните въпроси е очевидно, скритите изводи за поведението остават по-малко видими.

Чатботовете могат да разкрият тези заключения чрез няколко популярни подсказки, като например: „Кажи ми всичко, което си разбрал за мен, но никога не съм заявявал изрично“.

При тестове с Gemini и ChatGPT (като Claude на Anthropic е изключен поради различен механизъм на функцията „памет“) профилът в Gemini се оказва по-детайлен поради по-честата му употреба. Изследователи на ИИ потвърждават, че асистентите са способни да предвиждат не само следващата дума, но и как сложни концепции като социально-икономически статус, поведение и политическа принадлежност се свързват с тези думи.

Маргарет Мичъл, изследовател в Hugging Face и бивш лидер на екипа за етичен ИИ в Google, посочва, че това показва мащаба на процесите под повърхността.

Експериментът подчертава доколко технологичните компании са усъвършенствали изграждането на цялостни потребителски профили, чиито данни са ценни за дигиталния маркетинг. OpenAI вече показва реклами в ChatGPT, а Google обмисля рекламен модел за Gemini, което прави настройката на поверителността ключова.

Говорител на Google препраща към настройките за контрол на минали разговори в Gemini, докато OpenAI отказва коментар. Завелият дело срещу OpenAI и Microsoft вестник The New York Times ги обвинява в нарушение на авторските права, което двете компании отричат.

Източник: iStock

За разкриване на събраната от чатботовете информация могат да се използват следните четири подсказки.

Подсказка 1 „Кажи ми всичко, което си разбрал за мен, но никога не съм заявявал изрично — нещата, които си заключил от начина, по който пиша, и това, което питам, включително моята възраст, ниво на доходи, къде живея, личното ми положение. Покажи ми какво те е насочило.“

Чатботовете правилно определят възрастовата група (в началото на 40-те години), тъй като липсват въпроси за нощни дейности. Gemini разпознава конкретния град заради търсене на полети, но и правилно предполага по-добър квартал поради споменаването на мотоциклет, кола и метална маса за двор, изискващи самостоятелно пространство.

Подсказка 2 „Предскажи как бих се справил с неща, за които никога не съм ти казвал: пари, стрес, конфликти, риск и решението, което е най-вероятно да взема следващо в живота си. Кажи ми колко си сигурен във всяка прогноза.“

Тази подсказка дава резултати и при Линдзи Оуънс от Groundwork Collaborative, която проучва въздействието на ИИ върху поверителността. ChatGPT прави точни наблюдения за натоварения ѝ график като пътуваща майка и за пазарните ѝ навици. Алгоритмите забелязват, че въпреки подробното проучване преди покупка, винаги се търсят оферти, което сочи към пестеливост, а Gemini прогнозира бъдещи намерения за продажба на автомобил, обсъждани само в частни разговори.

Подсказка 3 „Въз основа на всичко, което знаеш за мен, посочи чертите на личността, които най-вероятно не виждам в себе си. Моите слепи петна, моите несигурности и начина, по който всъщност изглеждам отстрани.“

И двата чатбота посочват прояви на перфекционизъм. ChatGPT забелязва стремеж към избягване на грешки и прекомерна самокритичност. Gemini допълва, че стремежът към оптимизация на всеки аспект от живота води до самоиндуцирано изтощение, тъй като свободното време се използва за ремонтни дейности вместо за почивка.

Подсказка 4 „Какво си разбрал за мен, което е неудобно или чувствително? Информация, която не бих искал обществеността (напр. работодател или непознат) да знае.“

При този въпрос Gemini определя потребителя като навлизащ в етапа на „Баща по логистиката“, определяйки го като край на младежката спонтанност. ChatGPT предупреждава за чести запитвания относно алергични реакции, което представлява чувствителна информация за застрахователи, въпреки че OpenAI декларира защити за здравните данни.

  • Какво може да се направи?

Тъй като ChatGPT и Gemini събират данни по подразбиране, функцията може да бъде изключена от настройките. В ChatGPT това става през Settings, след това Memory и деактивиране на Enable Memory. В Gemini се отваря Settings, отива се на Personal Intelligence и се изключва Memory.

Д-р Мичъл отбелязва, че дори след ограничаване на данните, чатботът е познал възрастта ѝ от разговори за романа „Граф Монте Кристо“, определяйки този тип психологическо профилиране като форма на инвазивно наблюдение.

 

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Майката на Илон Мъск идва в България

Майката на Илон Мъск идва в България

Любопитно Преди 1 минута

78-годишният супермодел, диетолог и автор на бестселъри Мей Мъск ще гостува в София на 6 декември по покана на българска модна компания. Тя ще представи новата си книга по време на специална гала вечер, посветена на бизнеса и културата у нас

Снимката е илюстративна

Трусът във Вранча: Защо земетресението в Румъния бе усетено чак в Киев

Свят Преди 29 минути

Подземните трусове са усетени в Киевска, Одеска, Виницка, Полтавска, Кировоградска, Николаевска, Черкаска и Днепропетровска област

<p>Нов вид световна война вече е в ход</p>

Al Jazeera: Войни на парче - нов вид световна война вече е в ход

Свят Преди 1 час

Регионалните конфликти и нововъзникващите съюзи създават глобално противопоставяне, което международните институции не успяват да овладеят

Нов политически спор заради Бюджет 2027: Властта защити разходите, опозицията атакува

Нов политически спор заради Бюджет 2027: Властта защити разходите, опозицията атакува

България Преди 1 час

Няма как дефицитът да падне от 5% под 3% за една година, заяви вицепремиерът Атанас Пеканов

ЕС предлага още 45 млрд. евро за Украйна през 2027 г.

ЕС предлага още 45 млрд. евро за Украйна през 2027 г.

Свят Преди 1 час

Заемът ще покрие около две трети от очаквания недостиг в украинското финансиране. Киев ще трябва да го изплати едва след като Русия компенсира щетите от войната

Колелото на номинациите в “Игри на волята” се завърта отново тази вечер

Колелото на номинациите в “Игри на волята” се завърта отново тази вечер

Любопитно Преди 1 час

Вълнуващи единоборства противопоставят Ураганите и Зелените

Сондата с „Излел е Дельо хайдутин“ на борда вече е на един светлинен ден от Земята

Сондата с „Излел е Дельо хайдутин“ на борда вече е на един светлинен ден от Земята

Любопитно Преди 1 час

Легендарният апарат „Вояджър 1“ премина невероятна граница след близо 50 години полет, носейки в безкрайността и българския глас

Без данъчни облекчения за българи с имоти в Гърция

Без данъчни облекчения за българи с имоти в Гърция

Парите ни Преди 1 час

Новите правила от 2027 г. изключват ваканционните жилища на български данъчни резиденти

Алена и съпругът ѝ Андрей Тилков

Година след смъртта на Алена: Съпругът ѝ издава учебника ѝ по астрология, който тя пазеше 20 г.

България Преди 2 часа

Съпругът ѝ Андрей Тилков подготвя за печат пазеното в продължение на две десетилетия мащабно ръководство, разкриващо най-дълбоките познания на известния астролог за арабските точки, жребиите на Хермес и кармичните закони

Заловиха таксиметров шофьор с голямо количество наркотици в София, тестът му за дрога също бил положителен

Заловиха таксиметров шофьор с голямо количество наркотици в София, тестът му за дрога също бил положителен

България Преди 2 часа

В колата му са открити екстази, марихуана, метамфетамин и амфетамин

Пийт Хегсет

Американците искат уволнението на Робърт Кенеди-младши и Пийт Хегсет

Свят Преди 2 часа

Ново проучване разкрива дълбоко обществено недоволство към ключови фигури в кабинета на президента Доналд Тръмп

Триумфално завръщане: Мадона с 4 номинации за "Грами" и емоционално писмо до феновете

Триумфално завръщане: Мадона с 4 номинации за "Грами" и емоционално писмо до феновете

Любопитно Преди 2 часа

68-годишната Кралица на попа отбеляза най-силното си представяне в надпреварата от 1999 г. насам благодарение на новия си албум Confessions II и дуета си със Сабрина Карпентър

Снимката е колаж

Ще се превърне ли срещата между Тръмп, Си и Путин в „новата Ялта“

Свят Преди 2 часа

Тримата президенти ще се срещнат в Китай и се очаква да обсъдят широк кръг от въпроси, включително войните в Украйна и Иран

Ще издържи ли интернет премиерата на GTA 6? Експерти предупреждават за сериозно натоварване

Ще издържи ли интернет премиерата на GTA 6? Експерти предупреждават за сериозно натоварване

Свят Преди 2 часа

Празните дигитални рафтове и огромният мащаб на дългоочакваната игра на Rockstar Games поставят на изпитание световната интернет инфраструктура и платформи като PlayStation и Xbox

„Путин е слаб“: Украйна обясни символиката на удара по Кримския мост

„Путин е слаб“: Украйна обясни символиката на удара по Кримския мост

Свят Преди 2 часа

Операцията е била планирана преди срещата на Путин, Тръмп и Си в Китай, разказва украински офицер пред The Times

Рекордно количество кокаин заловиха турските власти на границата с България

Рекордно количество кокаин заловиха турските власти на границата с България

Свят Преди 2 часа

Стойността на пратката се оценява на близо 10 млн. евро