И зкуственият интелект Meta Muse събира подробна информация за хората от близкия кръг на потребителите, показва анализ на вътрешните му документи. Според разследване на изданието WIRED и изтекли системни инструкции (system prompts), асистентът може да достъпва банкови сметки, приложения за съобщения и редица други лични данни.
Автоматично създаване на дигитални профили
Достъпът до системните инструкции и файловете на Muse се оказал изключително лесен — асистентът ги споделя открито в чата, ако потребителят просто ги поиска.
Независимият изследовател Каран Джоши и експерти от организацията The Future Society са извлякли инструкциите на алгоритъма и са установили, че една от основните му команди е часов процес по създаване и обновяване на отделна страница („страница за всеки човек в живота на потребителя“).
Тези досиета се генерират автоматично дори за хора, които никога не са използвали Meta Muse или други услуги на Meta.
Дигиталните профили съдържат:
Лични данни и факти: Име, роднинска или приятелска връзка, местоживеене, професия и важни дати (рожден ден, годишнини).
Контекст и съвместни цели: Често обсъждани теми (като предстоящо преместване или съвместно спестяване на пари), общи пътувания и минали разрешени конфликти.
Анализ на взаимоотношенията: Оценка за степента на близост, модели на общуване и актуални нужди от комуникация.
Предложения за социално сътрудничество: Автоматични съвети за подобряване на връзката — повод за обаждане, теми за подновяване на разговора или идеи за подаръци.
Скандали с покупки, уязвимости и позицията на Meta
Усилията на Meta да създаде хипер-персонализиран асистент вече предизвикаха сериозни опасения сред експертите по сигурност и търговските партньори:
Amazon блокира Muse: През септември Amazon блокира възможността Muse да прави покупки в онлайн магазина ѝ. Причините — Meta не е уведомила компанията предварително за пускането на асистента, а освен това съществуват опасения относно защитата на потребителските профили.
Уязвимост от тип „нула дни“ (Zero-day): Наскоро Meta отстрани критичен пробив във версията на Muse за Mac, който позволяваше на злонамерен софтуер да поеме контрол над асистента и да използва предоставените му от потребителя права.
Опасения за поверителността: Изследователите предупреждават, че опитът на изкуствения интелект да научи всичко за даден човек „като приятел“ е тревожната тъмна страна на безплатните услуги.
В официално изявление пред медиите представители на Meta заявиха, че асистентът събира информация единствено от публични източници и данни, които потребителите доброволно споделят с него.
От компанията допълват, че цялата информация се съхранява в защитена виртуална машина (VM) на съответния потребител, до която други асистенти нямат достъп, а паметта на AI може да бъде изчистена по всяко време.
Въпреки това експертите по етика подчертават, че подобни инструменти дават на технологичните гиганти невиждан досега достъп до личния живот на хората — често без тяхното пряко съгласие.
