И терористите вече използват генеративен AI
Източник: iStock

Г енеративният изкуствен интелект (Gen AI) навлиза стремоглаво във все повече услуги и сфери. Очаквано, не всички от тях са положителни за обществото.

Екстремистки групи са започнал да експериментират с Gen AI и други форми на изкуствен интелект, за да създават ново "поколение" пропаганда и да намират начини да заобикалят защитите на социалните мрежи срещу тяхното съдържание. Това съобщават от организацията Tech Against Terrorism пред изданието Wired.

"Най-голямото ни притеснение е, ако терористите започнат да използват Gen AI, за да манипулират големи количества изображения. Това може да унищожи хеш-шеринга и е огромен риск", казва Адам Хадли, изпълнителен директор на организацията.

Хеш-шерингът е метод, който ИТ гигантите използват от години, за да могат системите им да разпознават и блокират екстремистко съдържание. За целта компаниите изграждат огромни бази данни с такова съдържание и го превръщат в хеш кодове, които автоматично си споделят. Така системите много по-бързо и ефективно откриват съдържанието и го премахват, често в рамките на секунди или минути от публикуването му.

ЕС въвежда закон за достъпа и използването на данни

Екстремистите пък постоянно се опитват да намират начини да заобикалят метода. И изкуственият интелект изглежда им помага. Хадли казва, че екипът на организацията вече намира средно около 5000 публикации седмично, които са с екстремистко съдържание и генерирани от изкуствен интелект. Това включва и изображения. Според Хадли, може в рамките на около шест месеца, екстремистите да намерят начин да използват Gen AI, за да заобикалят хеш-шеринг ограниченията за изображения.

Засечени са различни видове съдържание - текст, снимки и дори е намерена система, която чрез изкуствен интелект превръща говор в текст и е специално оптимизирана за екстремистка пропаганда. Направена е и програма, която да създава интернет колажи, карикатури и "мемета" с терористични призиви и пропаганда. Други системи пък могат бързо да превеждат пропагандата на множество езици.

Мъск за AI: Не знаем дали можем да го контролираме

Кои са катастрофалните рискове на AI

Хадли казва, че организацията започва партньорство с Microsoft, за да видят как Gen AI може да се използва за защита и превенция от подобно съдържание. Очакванията са и други компании и организации да се включат към усилията със свои проекти и идеи, като амбицията е това да стане бързо, тъй като усилията на екстремистите напредват.

Apple хваната неподготвена от генеративния AI

Google подобрява светофарите с AI

Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.

За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
Нов политически спор заради Бюджет 2027: Властта защити разходите, опозицията атакува

Нов политически спор заради Бюджет 2027: Властта защити разходите, опозицията атакува

България Преди 8 минути

Няма как дефицитът да падне от 5% под 3% за една година, заяви вицепремиерът Атанас Пеканов

ЕС предлага още 45 млрд. евро за Украйна през 2027 г.

ЕС предлага още 45 млрд. евро за Украйна през 2027 г.

Свят Преди 18 минути

Заемът ще покрие около две трети от очаквания недостиг в украинското финансиране. Киев ще трябва да го изплати едва след като Русия компенсира щетите от войната

Алена и съпругът ѝ Андрей Тилков

Година след смъртта на Алена: Съпругът ѝ издава учебника ѝ по астрология, който тя пазеше 20 г.

България Преди 38 минути

Съпругът ѝ Андрей Тилков подготвя за печат пазеното в продължение на две десетилетия мащабно ръководство, разкриващо най-дълбоките познания на известния астролог за арабските точки, жребиите на Хермес и кармичните закони

Заловиха таксиметров шофьор с голямо количество наркотици в София, тестът му за дрога също бил положителен

Заловиха таксиметров шофьор с голямо количество наркотици в София, тестът му за дрога също бил положителен

България Преди 41 минути

В колата му са открити екстази, марихуана, метамфетамин и амфетамин

Пийт Хегсет

Американците искат уволнението на Робърт Кенеди-младши и Пийт Хегсет

Свят Преди 43 минути

Ново проучване разкрива дълбоко обществено недоволство към ключови фигури в кабинета на президента Доналд Тръмп

Триумфално завръщане: Мадона с 4 номинации за "Грами" и емоционално писмо до феновете

Триумфално завръщане: Мадона с 4 номинации за "Грами" и емоционално писмо до феновете

Любопитно Преди 44 минути

68-годишната Кралица на попа отбеляза най-силното си представяне в надпреварата от 1999 г. насам благодарение на новия си албум Confessions II и дуета си със Сабрина Карпентър

„Путин е слаб“: Украйна обясни символиката на удара по Кримския мост

„Путин е слаб“: Украйна обясни символиката на удара по Кримския мост

Свят Преди 1 час

Операцията е била планирана преди срещата на Путин, Тръмп и Си в Китай, разказва украински офицер пред The Times

Рекордно количество кокаин заловиха турските власти на границата с България

Рекордно количество кокаин заловиха турските власти на границата с България

Свят Преди 1 час

Стойността на пратката се оценява на близо 10 млн. евро

Фискалният съвет предупреди за сериозни проблеми при пенсиите и здравеопазването

Фискалният съвет предупреди за сериозни проблеми при пенсиите и здравеопазването

Парите ни Преди 1 час

Над половината разходи на фонд „Пенсии“ не се покриват от осигурителни приходи, а профилактиката остава на заден план

Трима загинали и седем ранени при руска атака с дронове в Одеса

Трима загинали и седем ранени при руска атака с дронове в Одеса

Свят Преди 1 час

Две жени и мъж са сред жертвите. При последвал удар е поразена и сграда на учебно заведение

,

На прага на 89-ата си годишнина: Как изглежда днес вечно сърдитият г-н Хекълс от "Приятели"

Любопитно Преди 1 час

Актьорът Лари Ханкин, който празнува рожден ден на 7 декември, бе забелязан на рядка вечеря в компанията на 32-годишен режисьор. Ветеранът впечатли с младежка визия с пилотско яке, дънки с кръпки и тъмни очила

Лекарският съюз настоява за преразглеждане на бюджета на НЗОК за 2027 г.

Лекарският съюз настоява за преразглеждане на бюджета на НЗОК за 2027 г.

България Преди 1 час

От БЛС искат по-балансирано разпределение на средствата и увеличение на финансирането за медицинска помощ

Доналд Тръмп и Си Дзинпин

Исторически жест: Си Дзинпин посрещна Тръмп на летището

Свят Преди 1 час

Според дипломатическия протокол, спазван от Китай през последните години, държавният глава обикновено не отива на летището, за да посреща гости.

Правителството на Филипините бе разкритикувано за разчистване на гета в Манила преди срещата на върха

Правителството на Филипините бе разкритикувано за разчистване на гета в Манила преди срещата на върха

Свят Преди 1 час

Според критиците, тези действия са опит за създаване на „полиран“ образ на града преди посещение на чуждестранни високопоставени лица, което напомня за методите, използвани по време на авторитарното управление на баща му

Първо Microsoft, после самолетите, а сега и банките: Какво се случва всъщност

Първо Microsoft, после самолетите, а сега и банките: Какво се случва всъщност

Свят Преди 1 час

„Живеем в епоха на повишена дигитална крехкост, в която честотата на тези сривове просто отразява колко силно съвременното общество разчита на сложни, постоянно актуализиращи се кодови бази“, казва Фран Вилялба Сегара, основател и главен изпълнителен директор на INTERNXT, компания за киберсигурност, базирана в Испания

Младите лекари обмислят нови протести заради липсата на трайна реформа в заплащането

Младите лекари обмислят нови протести заради липсата на трайна реформа в заплащането

България Преди 1 час

Стипендиите от 350 евро не гарантират по-високи заплати, предупреждава д-р Даниел Кипров