Европол с предупреждение за ChatGPT

П рестъпниците ще се възползват от изкуствен интелект като ChatGPT за извършване на измами и други киберпрестъпления, предупреди европейската полицейска агенция, цитирана от БГНЕС.

От фишинг до дезинформация и зловреден софтуер - бързо развиващите се способности на езиковия изкуствен интелект ще бъдат използвани не само в интерес на човечеството, но и за измами, се посочва в нов доклад на Европол.

Той вече е тук, идва ли краят на човешката цивилизация или е ново начало

ChatGPT се появи през ноември и бързо придоби популярност сред потребителите, изумени от способността му да отговаря ясно на трудни въпроси, да пише сонети или компютърен код и дори да полага изпити.

"Потенциалната експлоатация на този вид системи с изкуствен интелект от престъпници създава мрачна перспектива", смятат от Европол.

Новата "Лаборатория за иновации" на Европол разгледа използването на чатботове като цяло, но по време на поредица от семинари се съсредоточи върху ChatGPT, тъй като той е най-известният и най-широко използваният, заявиха от там.

Престъпниците могат да използват ChatGPT, за да "ускорят значително процеса на проучване" в области, за които не знаят нищо, установи агенцията.

Това би могло да включва изготвяне на текст за извършване на измама или предоставяне на информация "как да се проникне в жилище, до тероризъм, киберпрестъпления и сексуално насилие над деца".

Бил Гейтс: Започна ерата на изкуствения интелект

Способността на чатбота да имитира стилове на речта го прави особено ефективен за създаване на фишинг.

Способността на ChatGPT бързо да създава автентично звучащ текст го прави "идеален за целите на пропагандата и дезинформацията, защото позволява на потребителите да генерират и разпространяват съобщения, отразяващи определен наратив, с относително малко усилия".

ChatGPT може да се използва и за писане на компютърен код, особено от престъпници, които нямат технически познания.

"Този вид автоматизирано генериране на код е особено полезен за онези престъпни участници, които имат малко или никакви познания за кодиране и разработка", посочват от Европол.

Макар ChatGPT да разполага с предпазни мерки, включващи модериране на съдържанието, при което не отговаря на въпроси, които са класифицирани като вредни или пристрастни, защитите могат да бъдат заобиколени с манипулация и убеждение, предупреждава Европол.

Изкуственият интелект все още е в ранен стадий на развитие и  неговите способности "се очаква да се подобрят допълнително с течение на времето. Изключително важно е да се повиши осведомеността по този въпрос, за да се гарантира, че всички потенциални пропуски ще бъдат открити и поправени възможно най-бързо", смята от Европол.