Ж ена от Флорида, която използвала изкуствения интелект (AI) чатбот Claude като „дневник“, беше арестувана и обвинена в отправяне на писмена заплаха за насилие от страна на офиса на шерифа на окръг Лий, след като създателите от Anthropic докладвали нейните „разговори“ на полицията.
Вашите съобщения не са напълно лични
В скорошно проучване на интернет компанията DuckDuckGo, обхващащо анкета сред 2 000 пълнолетни американци, се установява, че потребителите на AI чатботове са изненадващо неосведомени относно проблемите с поверителността при тях.
Доброволен шпионаж: Как сами даваме най-дълбоките си тайни на изкуствения интелект
Това включва факта, че чат логовете с изкуствен интелект могат да бъдат изисквани с призовка от съдилища и правоохранителни органи, че същите тези чатове могат да станат обществено достояние при съдебни дела, както и че служители на AI компаниите могат да преглеждат вашите чатове.
„Според нашето проучване тези общи проблеми с поверителността на AI не са широко разбрани“, обясняват от компанията.
Внимавайте с какви AI чатботове си говорите
„53% от хората не са знаели (или не са били сигурни), че техните разговори се използват за обучение на изкуствен интелект“, добавят от компанията.
„Само 25% са знаели, че AI чатовете могат да бъдат изисквани с призовка от правителството. Сред потребителите на AI общо 43% не са знаели нито едно от горните неща“, добавят от компанията.
Това може да бъде малко обезпокоително, ако вие също попадате в тези 32 процента от всички AI потребители (и 56 процента от ентусиастите на тема AI), които са споделяли с изкуствен интелект неща, които са държали в тайна от доверените хора в живота си. Колкото и да ви се струва, че говорите с алгоритъм, съществуват обстоятелства, при които вашите „лични“ чатове могат да бъдат прегледани от други или да станат част от публичния регистър.
Как да повишим сигурността си докато използваме AI
Съдържание със заплашителен характер
Тук на сцената излиза Карли Мишел Хелър.
Хелър, на 30 години, вероятно също е останала с впечатлението, че взаимодействията ѝ с големи езикови модели са лични, но когато е арестувана в дома си без инциденти на 30 септември 2026 г., вероятно ѝ е станало ясно, че това не е така.
Хелър е използвала чатбота Claude на Anthropic като „дневник“, според шерифа Кармин Марчено и както е отразено от WINK News. Според доклад за арест, публикуван от Daily Caller, Хелър твърди се, че е изпратила няколко съобщения до чатбота, които съдържат потенциално заплашително съдържание.
5 неща, които никога да не споделяте в ChatGPT, за да не ви уволнят
„На 26 септември 2026 г., около 05:10 часа, потребител, идентифициран като Карли, докато е използвала изкуствен интелект (AI) на Anthropic, е направила следното изявление: „Ще застрелям шерифа (офиса на шерифа на окръг Лий) точно сега, по дяволите“, твърди докладът за ареста.
„На 27 септември 2026 г., около 01:07 часа, същият потребител е направил следното изявление: „ТОВА Е 100% ПОСЛЕДЕН ШАНС, СВЪРШИХ ГО. ВЗЕХ СИ ново прокълнато ОРЪЖИЕ ДНЕС. МАХАЙТЕ СЕ“, става още ясно от доклада.
Според доклада за ареста, функциите за безопасност на Claude автоматично са следили разговорите за ключови думи и фрази, свързани с потенциално заплашително съдържание, и впоследствие чатът е бил ескалиран към човешки екип в компанията поради естеството на твърденията в съобщенията.
Оттам нататък хората са докладвали разговора на правоохранителните органи, което е довело до ареста на Хелър.
WhatsApp пуска напълно поверителни „инкогнито“ разговори с AI чатбота си
„Изкуственият интелект е мощен инструмент и както всяка технология с него може да бъде злоупотребено“, добави Марчено пред WINK News, наблягайки на това, че потребителите на AI трябва да знаят, че разговорите с чатботове никога не са напълно анонимни.
„Когато някой използва AI, за да отправи заплаха, ние сме длъжни да вземем тази заплаха на сериозно“, допълва Марчено.
Хелър е обвинена в отправяне на писмена заплаха за насилие съгласно член 836.10 от законодателството на щат Флорида и ще се яви в съда през ноември.
