И терористите вече използват генеративен AI
Източник: iStock

Г енеративният изкуствен интелект (Gen AI) навлиза стремоглаво във все повече услуги и сфери. Очаквано, не всички от тях са положителни за обществото.

Екстремистки групи са започнал да експериментират с Gen AI и други форми на изкуствен интелект, за да създават ново "поколение" пропаганда и да намират начини да заобикалят защитите на социалните мрежи срещу тяхното съдържание. Това съобщават от организацията Tech Against Terrorism пред изданието Wired.

"Най-голямото ни притеснение е, ако терористите започнат да използват Gen AI, за да манипулират големи количества изображения. Това може да унищожи хеш-шеринга и е огромен риск", казва Адам Хадли, изпълнителен директор на организацията.

Хеш-шерингът е метод, който ИТ гигантите използват от години, за да могат системите им да разпознават и блокират екстремистко съдържание. За целта компаниите изграждат огромни бази данни с такова съдържание и го превръщат в хеш кодове, които автоматично си споделят. Така системите много по-бързо и ефективно откриват съдържанието и го премахват, често в рамките на секунди или минути от публикуването му.

ЕС въвежда закон за достъпа и използването на данни

Екстремистите пък постоянно се опитват да намират начини да заобикалят метода. И изкуственият интелект изглежда им помага. Хадли казва, че екипът на организацията вече намира средно около 5000 публикации седмично, които са с екстремистко съдържание и генерирани от изкуствен интелект. Това включва и изображения. Според Хадли, може в рамките на около шест месеца, екстремистите да намерят начин да използват Gen AI, за да заобикалят хеш-шеринг ограниченията за изображения.

Засечени са различни видове съдържание - текст, снимки и дори е намерена система, която чрез изкуствен интелект превръща говор в текст и е специално оптимизирана за екстремистка пропаганда. Направена е и програма, която да създава интернет колажи, карикатури и "мемета" с терористични призиви и пропаганда. Други системи пък могат бързо да превеждат пропагандата на множество езици.

Мъск за AI: Не знаем дали можем да го контролираме

Кои са катастрофалните рискове на AI

Хадли казва, че организацията започва партньорство с Microsoft, за да видят как Gen AI може да се използва за защита и превенция от подобно съдържание. Очакванията са и други компании и организации да се включат към усилията със свои проекти и идеи, като амбицията е това да стане бързо, тъй като усилията на екстремистите напредват.

Apple хваната неподготвена от генеративния AI

Google подобрява светофарите с AI

Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.

За още любопитно съдържание от Vesti.bg последвайте страницата ни в Instagram.

Връща се мъж от командировка и пита 5 годишния си син: - Докато ме нямаше, дойде ли някой чичко на гости? - Нееее! - А,…
Прочети целия
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
,

Преговорите между Иран и САЩ се отлагат, обяви Оман

Свят Преди 39 минути

Оман играе посредническа роля в дипломатическия процес

.

Гърция арестува мъж за шпионаж в полза на Русия

Свят Преди 1 час

Изглежда, че заподозреният е снимал, записвал и разпространявал материали с военно значение в продължение на поне шест месеца

,

Нова Зеландия е връхлетяна от разрушителни ветрове, проливни дъждове, сняг и високи вълни

Свят Преди 3 часа

В района на столицата около 1000 домакинства нямат ток

Най-търсените умения и професии в България и Европа през 2025 г.​

Най-търсените умения и професии в България и Европа през 2025 г.​

Пари Преди 3 часа

Технологичният напредък, демографските промени и преходът към зелена икономика оформят новите правила

Какво става в Украйна, Русия се опитва да навлезе в Днепропетровска област

Какво става в Украйна, Русия се опитва да навлезе в Днепропетровска област

Свят Преди 4 часа

Регионът се намира западно от Донецка област и северно от Запорожка и Херсонска област

Снимката е илюстративна

Първото изображение от най-големия слънчев телескоп в света улови Слънцето с невиждани детайли

Любопитно Преди 4 часа

Снимката е първата, направена от новия видимо регулируем филтър на Слънчевия телескоп на Националната научна фондация на САЩ „Даниел К. Инуйе“.

Транспортна стачка блокира Гърция

Транспортна стачка блокира Гърция

Свят Преди 4 часа

Препоръчва се шофьорите да избягват централните части на Атина и Солун

Догоните и Сириус: Африканското племе с древни познания за Космоса

Догоните и Сириус: Африканското племе с древни познания за Космоса

Любопитно Преди 4 часа

Неговите космологични представи и астрономически знания предизвикват интерес и дебати сред учени и изследователи от десетилетия

Трудова експлоатация: Чужденка разказва как е превърната в робиня у нас

Трудова експлоатация: Чужденка разказва как е превърната в робиня у нас

България Преди 5 часа

Жената твърди, че работодателите ѝ взели документите и я заплашвали

Районното управление в Кюстендил има нов началник

Районното управление в Кюстендил има нов началник

България Преди 5 часа

Главен инспектор Иван Георгиев работи в системата на МВР от 2003 година

Внимание, шофьори! Полицията с мерки срещу нарушителите на пътя по празниците

Внимание, шофьори! Полицията с мерки срещу нарушителите на пътя по празниците

България Преди 5 часа

Големи задръствания са се образували в района на Кресна в посока Гърция

"Войната в Украйна ще спре, когато Путин каже "победихме"

"Войната в Украйна ще спре, когато Путин каже "победихме"

България Преди 6 часа

Президентът на Русия не се интересува от общественото мнение и колко хора умират, заявиха преподавателят в Харковския университет проф. Михаил Станчев и международният анализатор Чавдар Стефанов

"Знаем добре какво правите": САЩ с остро предупреждение към Иран

"Знаем добре какво правите": САЩ с остро предупреждение към Иран

Свят Преди 6 часа

Ще си понесете последствията на място и време, които ние ще изберем, заяви американският министър на отбраната Пийт Хегсет

Протест пред полицията в Хасково след убийството на Магдалена Русева

Протест пред полицията в Хасково след убийството на Магдалена Русева

България Преди 6 часа

Като причина за недоволството на хората се посочва бездействието на органите на реда