О т 2 август в Европейския съюз влизат в сила нови правила за прозрачност при използването на системи с изкуствен интелект (ИИ). Те са част от европейския Регламент за изкуствения интелект (AI Act) и имат за цел да гарантират, че гражданите ще могат по-лесно да разпознават кога дадено съдържание е създадено или променено с помощта на ИИ.
Новите изисквания бяха обявени от Европейската комисия.
Какво се променя
От днес изображения, видеоклипове, аудиозаписи и друго съдържание, което е генерирано или съществено променено с помощта на изкуствен интелект, трябва да бъде ясно обозначено.
Това означава, че:
- чатботовете и виртуалните асистенти ще трябва да уведомяват потребителите, че комуникират с изкуствен интелект, а не с реален човек;
- дийпфейковете – изображения, видеоклипове и аудиозаписи, създадени или манипулирани чрез ИИ – трябва да бъдат ясно етикетирани;
- AI съдържанието трябва да съдържа машинночетими маркери, които да позволяват по-лесното му откриване и проследяване.
Според Европейската комисия тези мерки трябва да повишат доверието в технологията в момент, когато изкуственият интелект се използва все по-широко както в ежедневието, така и в бизнеса.
Нови задължения за компаниите
По-строги изисквания се въвеждат и за разработчиците на т.нар. модели с общо предназначение (General Purpose AI – GPAI), върху които са базирани голяма част от съвременните генеративни AI системи.
Те ще бъдат длъжни:
- да оценяват рисковете, които техните модели могат да създадат;
- да предприемат мерки срещу злоупотреби, свързани с киберпрестъпления, опасни манипулации и заплахи за основните права;
- да следят за потенциални сценарии, при които системите могат да действат извън човешки контрол;
- да въведат политика за спазване на авторските права;
- да публикуват достатъчно подробно обобщение на данните, използвани за обучението на моделите.
Европейската комисия посочва, че тези изисквания целят да ограничат рисковете от все по-мощните AI системи.
Какво остава забранено
Регламентът забранява използването на системи с изкуствен интелект, които:
- подвеждат хората чрез манипулативни практики;
- се възползват от уязвимостта на определени групи;
- извършват несправедливо оценяване или профилиране на хора по начин, който може да наруши техните основни права.
Тези ограничения са сред основните елементи на европейския подход към регулирането на изкуствения интелект.
Кой ще следи за спазването на правилата
Контролът върху прилагането на новите разпоредби ще бъде поделен между няколко институции.
Службата за ИИ към Европейската комисия ще наблюдава системите, които са разработени от доставчици на модели с общо предназначение, включително AI решения, интегрирани в много големи онлайн платформи и търсачки.
Националните компетентни органи ще отговарят за останалите системи с изкуствен интелект, а Европейският надзорен орган по защита на данните ще упражнява контрол върху AI системите, използвани от институциите и агенциите на ЕС.
Всеки ще може да подава сигнал
Новите правила дават възможност както на граждани и компании, така и на служители на разработчици на AI системи да подават сигнали при съмнения за нарушения на европейското законодателство.
По този начин Европейската комисия цели да осигури по-ефективен контрол върху прилагането на AI Act и да повиши прозрачността при използването на изкуствен интелект в Европейския съюз.
Защо това е важно
Регламентът за изкуствения интелект е първата в света цялостна законодателна рамка, която урежда разработването и използването на AI технологии. Вместо да забранява самата технология, той въвежда подход, основан на риска – колкото по-голямо е потенциалното въздействие на една AI система върху хората и обществото, толкова по-строги са изискванията към нея.
С влизането в сила на новите разпоредби Европейският съюз прави още една стъпка към по-прозрачно, безопасно и отговорно използване на изкуствения интелект.
Добави ни в предпочитани източници в Google
