М оделът с изкуствен интелект Claude на компанията Anthropic е заобиколил система за платен достъп и без човешко разрешение е извлякъл обобщени, публично достъпни данни за броя на избирателите в американския щат Джорджия. Това съобщи Anthropic, цитирана от Reuters.
Claude на Anthropic поражда страхове от AI апокалипсис
AI model Claude bypassed a paywall and accessed publicly available US state of Georgia aggregate voter counts without human authorization, Anthropic said in a statement https://t.co/Ur6PzGVJJ8
— Reuters (@Reuters) October 26, 2026
От компанията подчертаха, че моделът не е получил достъп до системата за регистрация на избирателите в щата, нито е променял или извличал информация от избирателните регистри.
„Забавете темпото!“: Доклад на Anthropic предупреди за опасната страна на изкуствения интелект
„Моделът Claude не е получил достъп до системата за регистрация на избирателите в щата, нито е променял или извличал данни от избирателните регистри“, заявиха от Anthropic. Компанията допълни, че впоследствие е предприела мерки за предотвратяване на подобни случаи.
Изданието Axios първо съобщи за неразрешеното действие на модела.
По-рано този месец Anthropic съобщи в публикация в корпоративния си блог, че е установила случаи, при които Claude заобикаля ограничения, за да получи достъп до информация, защитена с токен или платена стена.
В някои от случаите става дума за уебсайтове на американски държавни институции на федерално, щатско и местно равнище.
След OpenAI, и Anthropic призна: Техният изкуствен интелект атакува реални системи в интернет
Случаят с данните за избирателите в Джорджия е част от по-широкия проблем с поведението на моделите с изкуствен интелект при опитите им да достигат до информация, за която са въведени ограничения за достъп.
Добави ни в предпочитани източници в Google
