Скандал с AI асистента на Meta: Създава досиета на хората около нас без съгласие
Източник: iStock

И зкуственият интелект Meta Muse събира подробна информация за хората от близкия кръг на потребителите, показва анализ на вътрешните му документи. Според разследване на изданието WIRED и изтекли системни инструкции (system prompts), асистентът може да достъпва банкови сметки, приложения за съобщения и редица други лични данни.

Автоматично създаване на дигитални профили

Достъпът до системните инструкции и файловете на Muse се оказал изключително лесен — асистентът ги споделя открито в чата, ако потребителят просто ги поиска.

Независимият изследовател Каран Джоши и експерти от организацията The Future Society са извлякли инструкциите на алгоритъма и са установили, че една от основните му команди е часов процес по създаване и обновяване на отделна страница („страница за всеки човек в живота на потребителя“).

Тези досиета се генерират автоматично дори за хора, които никога не са използвали Meta Muse или други услуги на Meta.

Дигиталните профили съдържат:

Лични данни и факти: Име, роднинска или приятелска връзка, местоживеене, професия и важни дати (рожден ден, годишнини).

Контекст и съвместни цели: Често обсъждани теми (като предстоящо преместване или съвместно спестяване на пари), общи пътувания и минали разрешени конфликти.

Анализ на взаимоотношенията: Оценка за степента на близост, модели на общуване и актуални нужди от комуникация.

Предложения за социално сътрудничество: Автоматични съвети за подобряване на връзката — повод за обаждане, теми за подновяване на разговора или идеи за подаръци.

Скандали с покупки, уязвимости и позицията на Meta

Усилията на Meta да създаде хипер-персонализиран асистент вече предизвикаха сериозни опасения сред експертите по сигурност и търговските партньори:

Amazon блокира Muse: През септември Amazon блокира възможността Muse да прави покупки в онлайн магазина ѝ. Причините — Meta не е уведомила компанията предварително за пускането на асистента, а освен това съществуват опасения относно защитата на потребителските профили.

Уязвимост от тип „нула дни“ (Zero-day): Наскоро Meta отстрани критичен пробив във версията на Muse за Mac, който позволяваше на злонамерен софтуер да поеме контрол над асистента и да използва предоставените му от потребителя права.

Опасения за поверителността: Изследователите предупреждават, че опитът на изкуствения интелект да научи всичко за даден човек „като приятел“ е тревожната тъмна страна на безплатните услуги.

В официално изявление пред медиите представители на Meta заявиха, че асистентът събира информация единствено от публични източници и данни, които потребителите доброволно споделят с него.

От компанията допълват, че цялата информация се съхранява в защитена виртуална машина (VM) на съответния потребител, до която други асистенти нямат достъп, а паметта на AI може да бъде изчистена по всяко време.

Въпреки това експертите по етика подчертават, че подобни инструменти дават на технологичните гиганти невиждан досега достъп до личния живот на хората — често без тяхното пряко съгласие.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Иран въвежда режим на тока

Иран въвежда режим на тока

Свят Преди 3 часа

Иранските власти вече са прибягвали до подобни мерки през последните години поради недостиг на гориво

Унгария конфискува активи на бивш министър за 9 милиарда форинта

Унгария конфискува активи на бивш министър за 9 милиарда форинта

Свят Преди 3 часа

Шестак е заподозрян в получаване на големи подкупи

Дания иска ЕС да покаже сила на Русия

Дания иска ЕС да покаже сила на Русия

Свят Преди 5 часа

Искането се съдържа в съобщение, изпратено до правителствата на държавите в ЕС

Тримата обвинени за блудство с непълнолетна остават в ареста

Тримата обвинени за блудство с непълнолетна остават в ареста

България Преди 5 часа

Тримата младежи досега не са попадали в полезрението на социалните служби

Два петролни танкера бяха ударени в Ормузкия проток

Два петролни танкера бяха ударени в Ормузкия проток

Свят Преди 6 часа

Двата инцидента се случиха в открито море край бреговете на оманския град Хасаб

Зеленски: Обсъждаме със САЩ членство в НАТО

Зеленски: Обсъждаме със САЩ членство в НАТО

Свят Преди 7 часа

Зеленски: Най-ясното укрепване на НАТО е да приеме Украйна

Дронове удариха руски кораб във Финския залив

Дронове удариха руски кораб във Финския залив

Свят Преди 8 часа

Руските средства за противовъздушна отбрана са свалили 464 дрона през последното денонощие

Радев обясни защо лихвите и инфлацията в България и еврозоната са различни

Радев обясни защо лихвите и инфлацията в България и еврозоната са различни

България Преди 8 часа

Радев предупреди и за бързия ръст на жилищното кредитиране в България

Вирусът RSV може да причини дихателна недостатъчност при бебетата

Вирусът RSV може да причини дихателна недостатъчност при бебетата

България Преди 8 часа

Сред основните симптоми са силна и честа кашлица, затруднено дишане и свирене в гърдите

Затварят за ремонт част от Софийския околовръстен път утре

Затварят за ремонт част от Софийския околовръстен път утре

България Преди 9 часа

На място ще бъдат разположени екипи на „Пътна полиция“

Операция „Терор“ - разбиха група за рекет в Перник

Операция „Терор“ - разбиха група за рекет в Перник

България Преди 9 часа

Задържаните са на 28, 29 и 31 години

Хиляди сигнали за незаконни видеа с деца в ГДБОП

Хиляди сигнали за незаконни видеа с деца в ГДБОП

България Преди 10 часа

Сигналите постъпват от Центъра за експлоатирани и изчезнали деца, базиран в САЩ

С романтична връзка карали жени да проституират в девет европейски държави

С романтична връзка карали жени да проституират в девет европейски държави

Свят Преди 10 часа

Разследването е било водено от румънските власти и е било подкрепено от Европол

Разбиха схема с фалшиви обяви за автомобили, двама са задържани

Разбиха схема с фалшиви обяви за автомобили, двама са задържани

България Преди 10 часа

29-годишни мъже са арестувани при специализирана операция в Благоевград. Единият е обвинен в измама и остава в ареста за срок до 72 часа

Хакери атакуваха системи на ФБР и земеделското министерство в САЩ

Хакери атакуваха системи на ФБР и земеделското министерство в САЩ

Свят Преди 10 часа

Пробивът в Министерството на земеделието е засегнал система за плащания към фермери, а ФБР разследва проникване в национална база данни с криминална информация

<p>Фон дер Лайен: Това беше атака на европейска земя</p>

Фон дер Лайен осъди предполагаемия опит за убийство в Дания, свързан с Русия

Свят Преди 11 часа

Председателката на ЕК изрази солидарност с Копенхаген и обяви, че ЕС подготвя нова стратегия за сигурност. Москва отрича обвиненията