Н астоящи и бивши служители на компаниите OpenAI, DeepMind на Google и Anthropic публикуваха общо отворено писмо в което предупреждават, че изкуственият интелект (AI) има сериозни рискове и не се прави достатъчно, за да бъдат адресирани. Те призовават компаниите да положат повече усилия за мониторинг и контрол над разработката на AI и използването на технологията, съобщава The Washington Post.

Служителите, някои от които запазват имената си в тайна, казват, че "вярват в потенциала на AI да предложи безпрецедентни предимства на човечеството". Те допълват, че "разбираме, че има и сериозни рискове, които пораждат тези технологии".

Според тях основните рискове са увеличаване на неравенството, манипулиране и подвеждаща информация и дори загуба на контрола над автономни AI системи "с потенциал да се достигне до унищожаване на човечеството". Те отбелязват, че самите AI компании признават, че има такива рискове, но не виждат да се прави достатъчно за адресирането им.

Остри критики към Google за злоупотреба с лични данни

"Надяваме се, че рисковете могат да бъдат адекватно решени с помощ от научната общност, институциите и обществото. AI компаниите обаче имат сериозни финансови мотиви да избягват ефективен надзор и не вярваме, че собствените корпоративни структури на контрол са достатъчни да променят това", пишат служителите.

Те призовават AI компаниите да приемат четири принципа. Първият е, че компанията няма да въвежда забрани служителите да я критикуват, както и да не пречи на критиката в името на икономически интерес.

Вторият е компанията да направи анонимен процес за настоящи и бивши служители, които да могат да подават сигнали за рисковете към ръководството и институциите и независими организации. Третият препоръчан принцип е компанията да подкрепя култура на отворена критика, включително публична, с адекватни и разумни мерки за защита на търговските тайни и интелектуалната собственост.

Google призна, че AI търсачката греши, но малко

OpenAI спряла пет опита за манипулация на моделите ѝ

И последният принцип е компанията да не "отвръща на удара", когато служители споделят публично информация, включително конфиденциална, когато става дума за адресиране на риск. С уговорката, че това се прави, когато предходните принципи не са свършили работа, проблемът е вече оправен или пък изобщо не съществуват такива процеси и единственото решение е публичното оповестяване.

Вътрешни документи разкриват тайните на Google

Бъдещето на Windows: AI, облаци и още AI

"Съгласни сме, че неуморният дебат е от критично значение за развитието на тази технология и ще продължим да работим с правителства, гражданското общество и други общности по целия свят", казва говорител на OpenAI пред CNBC. Компанията допълва, че има процес за анонимно съобщаване на рискове и нова комисия за сигурност, която се води от лидерите ѝ.

Яжте камъни за здраве: Защо AI оглупява все повече

Изкуственият интелект е расист, но не го осъзнава

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
САЩ, Русия и Украйна започват ключови преговори за мир в Абу Даби

САЩ, Русия и Украйна започват ключови преговори за мир в Абу Даби

Свят Преди 54 минути

Разговорите ще бъдат първите в подобен формат от февруари насам

,

"Хвърлих му купа с цветя": Силвестър Сталоун за враждата си с Арнолд Шварценегер

Любопитно Преди 1 час

Звездата от "Рамбо" разкрива как токсичното съперничество ги е карало да правят все по-кървави екшъни, преди да станат най-добри приятели

За Русия е все по-скъпо да воюва: Липсват пари за военните

За Русия е все по-скъпо да воюва: Липсват пари за военните

Свят Преди 1 час

Москва хвърля огромни средства за войната, но в Русия вече са принудени да пестят дори от заплатите на военни и парите за загиналите

.

Мистериозният Кутел в Средна гора: Каменната чаша, която лекува и зарежда с енергия

Любопитно Преди 1 час

Скрит в полите на Сърнена Средна гора край село Розовец, древният гигантски съд Кутела привлича все повече търсачи на мистични места, вярващи в лечебната му мощ, въпреки че произходът му остава загадка за науката

Времето във вторник: Валежите спират, температурите скачат до 15 градуса

Времето във вторник: Валежите спират, температурите скачат до 15 градуса

България Преди 1 час

Атмосферното налягане ще се понижи, но ще остане по-високо от средното за месеца, а след временното спиране на валежите в четвъртък температури ще достигат до 22 градуса

Протест в София срещу насилието над животни

Протест в София срещу насилието над животни

България Преди 8 часа

На протеста имаше полицейско присъствие

Украйна е ликвидирала Владимир Подоляк

Украйна е ликвидирала Владимир Подоляк

Свят Преди 9 часа

Той е бил в специални сили на руската ГРУ

Почнаха импийчмънт на военния министър на САЩ

Почнаха импийчмънт на военния министър на САЩ

Свят Преди 9 часа

Пентагонът обяви, че Хегсет ще даде брифинг

Тръмп е твърдо решен да сложи край на войната в Украйна, заяви Къшнър

Тръмп е твърдо решен да сложи край на войната в Украйна, заяви Къшнър

Свят Преди 10 часа

Целта е суверенна, сигурна и процъфтяваща Украйна

Председателят на „Газов хъб Балкан“ е подал оставка

Председателят на „Газов хъб Балкан“ е подал оставка

България Преди 10 часа

Преди да оглави газовата борса, Малинов дълги години беше изпълнителен директор на "Булгартрансгаз"

Инциденти, блокада и арести край Белия дом в САЩ

Инциденти, блокада и арести край Белия дом в САЩ

Свят Преди 11 часа

Мъж се вряза с автомобила си в тротоара на парк срещу президентската резиденция

Атакуваха стратегическия нефтопровод на Саудитска Арабия

Атакуваха стратегическия нефтопровод на Саудитска Арабия

Свят Преди 11 часа

По-рано на 9 ноември властите предупредиха жителите на Рияд за въздушна заплаха

Франция обвини Иран за кибератаките срещу хладилни системи на супермаркети

Франция обвини Иран за кибератаките срещу хладилни системи на супермаркети

Свят Преди 12 часа

Върховният представител на ЕС по външната политика Кая Калас призова за твърд отговор

КЗП сезира КЗК за голяма търговска верига

КЗП сезира КЗК за голяма търговска верига

България Преди 12 часа

КЗП е предоставила на антимонополния орган събраните доказателства