М илиардерът Илон Мъск и редица експерти призоваха за спиране на разработването на мощни системи за изкуствен интелект, за да се осигури време за проверка на безопасността на новата технология, предаде БГНЕС.
Отвореното писмо, подписано до момента от над 1000 души, сред които Мъск и съоснователят на "Епъл" Стив Возняк, беше предизвикано от пускането на ChatGPT-4 от подкрепяната от "Майкрософт"компания "Оупън Ей Ай".
Бил Гейтс: Започна ерата на изкуствения интелект
"Системите с конкурентен на човешкия интелект могат да създадат огромни рискове за обществото и човечеството", се казва в отвореното писмо, озаглавено: "Спиране на гигантските експерименти с изкуствен интелект".
Той вече е тук, идва ли краят на човешката цивилизация или е ново начало
"Мощни системи с ИИ трябва да се разработват само след като сме сигурни, че ефектът от тях ще бъде положителен, а рисковете - управляеми", се посочва в писмото.
Мъск е сред първоначалните инвеститори в "Оупън Ей Ай", прекара години в нейния управителен съвет, а неговата автомобилна компания "Тесла" също разработва системи за ИИ.
ChatGPT застрашава 19% от професиите в САЩ
По оценка на "Горлман Сакс" ChatGPT застрашава повече от 300 млн. работни места по света.
Писмото, организирано от финансирания от Мъск Институт за бъдещето на живота, беше подписано от известни критици, както и от конкуренти на "Оупън Ей Ай".
Канадският пионер в областта на изкуствения интелект Йошуа Бенгио, също подписал документа, на виртуална пресконференция в Монреал и предупреди, че "обществото не е готово" за този мощен инструмент и за възможните злоупотреби.
ChatGPT застрашава 19% от професиите в САЩ
"Нека забавим темпото. Нека се уверим, че сме разработили по-добри предпазни средства", заяви той и призова за задълбочена международна дискусия за ИИ и неговите последици, "както направихме за ядрената енергия и ядрените оръжия".
В писмото се цитира и основателят на "Оупън Ей Ай" Сам Алтман, който предполага, че "в определен момент може да е важно да се получи независим преглед, преди да се започне обучението на бъдещите системи".
Наследникът на ChatGPT е още по-умен и "визуален"
"Съгласни сме. Този момент е сега", пишат авторите на отвореното писмо: "Ето защо призоваваме всички лаборатории за ИИ незабавно да преустановят поне за 6 месеца обучението на системи за ИИ, които са по-мощни и от ChatGPT-4."
Китайският отговор на ChatGPT се казва ERNIE Bot
Те призовават правителствата да се намесят и да наложат мораториум, ако компаниите не се съгласят.
Шестте месеца трябва да се използват за разработване на протоколи за безопасност, системи за управление на ИИ и пренасочване на научните изследвания към осигуряване на по-точни, безопасни, "надеждни и лоялни" форми на изкуствен интелект.
Във видеото към статията не участват хора. То, както и аудиото в него, са генерирани от системите с изкуствен интелект ChatGPT и DeepBrain.
