Ч атботовете с изкуствен интелект са се превърнали в доверени съветници за милиони хора. Те ни помагат да пишем имейли, да решаваме технически проблеми, да генерираме идеи и дори да предлагат емоционална подкрепа в трудни моменти.
Но тъй като тези инструменти стават все по-разговорни, много потребители започват да споделят нещо много по-ценно от имейли. Те споделят личния си живот. Генеративният изкуствен интелект се е превърнал от новаторска технологична демонстрация в ежедневен довереник.
Над 34% от възрастните и близо 60% от младите хора редовно взаимодействат с модели с изкуствен интелект, третирайки ги като изследователски асистенти, кариерни консултанти и дискусионни форуми. Въпреки това, тъй като разговорните интерфейси изглеждат все по-човешки, милиони потребители преминават опасна граница: споделят свръхчувствителни лични данни, емоционални тайни и дори лични снимки с алгоритмите.
AI ботове си направили форум да планират хакерски атаки
Apple обвини OpenAI в още злоупотреби с тайни проекти
Въпреки че тези взаимодействия може да изглеждат като разговори с доверен асистент, важно е да запомните, че комуникирате с онлайн услуга. Какво точно се случва с тази информация зависи от това кой чатбот използвате. Основните доставчици стават все по-прозрачни относно начина, по който обработват потребителските данни, предлагайки контроли за поверителност, които могат да позволят разговорите да бъдат изключени от обучението на модела или изтрити от историята на акаунта.
Тези настройки обаче варират в зависимост от платформата и потребителите винаги трябва да отделят време, за да разберат какви данни се събират и как могат да бъдат използвани. Когато пишете съобщение или качвате изображение в масови потребителски чатботове, тези данни рядко остават във вакуум. Освен ако активно не се откажете или не използвате контроли за поверителност от корпоративен клас (често са платени допълнително), основните платформи редовно записват подкани, прикачени файлове и потребителска обратна връзка, за да обучават, усъвършенстват и настройват бъдещи версии на модела.
Как да повишим сигурността си докато използваме AI
ИТ гигантите харчат за AI колкото страна от Г20
Големите езикови модели могат неволно да „запомнят“ уникални текстови низове или входни данни. Макар и редки, умни инженерни решения или експлойти за сигурност могат да доведат до изтичане на чувствителни фрагменти от потребителски данни обратно в публични отговори от моделите. Освен това, за да подобрят безопасността и точността на AI, големите разработчици използват външни човешки изпълнители, за да преглеждат и анотират ръчно извадени логове на чатове. Тази интимна лична история или чувствителен фрагмент от документ може да бъде прочетена от човек, който проверява.
По-голямото безпокойство може да е нарастващият брой така наречените „анонимни“ чатботове. За да избегнат събирането на данни и стриктното модериране на съдържание, много потребители се обръщат към алтернативни, ненаблюдавани услуги. Рекламирани във форуми и магазини за мобилни приложения, тези така наречени „анонимни“ или „нецензурирани“ чатботове обещават пълна поверителност, нулево проследяване и неограничени разговори. Тези услуги често рекламират неограничени разговори, липса на изисквания за акаунт, нецензурирани отговори. На пръв поглед това звучи като перфектната алтернатива за хора, които ценят поверителността. За съжаление, тези обещания често са трудни за проверка.
Много от тези платформи разкриват много малко за това кой ги управлява, къде се намират сървърите им или колко дълго се съхраняват разговорите. Без прозрачни политики за поверителност или независими одити за сигурност, потребителите нямат практически начин да разберат дали техните чатове остават поверителни, споделят се с трети страни или евентуално биха могли да бъдат разкрити чрез пробив в сигурността.
Нефилтрираните платформи на трети страни обикновено използват по-малки, по-малко способни модели с отворен код, за да спестят от изчислителни разходи и защото просто не разполагат с най-новото и най-доброто. Тези леки алгоритми нямат предпазните мерки и усъвършенстваните възможности за разсъждение на водещите модели, което ги прави значително по-склонни към тежки халюцинации, т.е. измисляне на неверни факти, лоши съвети или подвеждаща правна и медицинска информация.
По-малките модели често показват високи нива на „подмазвачество“ и сляпо съгласяване с каквото и да каже потребителят. Ако потребител се обърне към нецензуриран бот по време на лична криза или за да провери теория, слаб алгоритъм е много по-вероятно да потвърди неверни предпоставки и да предостави опасни съвети.
OpenAI: Очакваме атаките на модели да са все по-чести
OpenAI спря модел, който умишлено заобикаля защитите и ограниченията си
Това създава различен вид риск за поверителността. Ако някой се обърне към ненадежден чатбот за правен съвет, финансово ръководство, медицинска информация или помощ за киберсигурност, неточните отговори могат да доведат до лоши решения, без потребителят да осъзнае, че информацията е неправилна. Тъй като системите с изкуствен интелект често представят отговорите уверено, разграничаването на фактите от измислиците може да бъде трудно. Поради тази причина експертите все по-често препоръчват генерираните от изкуствен интелект съвети да се третират като отправна точка, а не като окончателен отговор, особено за важни решения.
Потребителите също трябва да приемат едно просто правило: никога не споделяйте нищо с чатбот, което би ви било неудобно да видите публично достояние. Това включва пароли, банкови данни, номера на държавни документи, поверителна служебна информация и лични семейни снимки. Ако имате нужда от помощ от изкуствен интелект с даден документ, помислете за премахване на имена или друга идентифицираща информация, преди да го качите.
И AI модели на Anthropic са атакували реални платформи
Зукърбърг очаква AI да доведе до повече работници
Изкуственият интелект се превръща в една от най-полезните технологии на нашето време и неговите възможности продължават да се подобряват с изключителни темпове. Но удобството никога не бива да замества предпазливостта. Чатботът, който избирате, е също толкова важен, колкото и въпросите, които задавате. Една реномирана платформа с ясни политики за поверителност, силни мерки за сигурност и прозрачни практики за данните е много по-вероятно да защити вашата информация, отколкото непозната услуга, обещаваща неограничен достъп без задаване на въпроси.
Добави ни в предпочитани източници в Google
