А ко държава или компания изгради "изкуствен свръхинтелект", основан на „нещо, което дори далечено наподобява сегашното разбиране за изкуствения интелект, тогава всички, навсякъде по Земята, ще умрат“.
Елизър Юдковски и Нейт Соарес са категорични в това, посочва "Сан Франциско Кроникъл".
"Това трябва да е глобален приоритет наред с пандемиите и ядрената война"
Юдковски е съосновател, а Соарес е президент на Института за изследване на машинния интелект, базиран в Бъркли.
И те не са единствените, които се страхуват, че ако технологичният напредък продължи с бързи темпове, изкуственият интелект ще сложи край на човечеството.
Документалистът Джеймс Барат, който проучва изкуствения интелект повече от десетилетие, стига до подобен извод.
Барат цитира експерти като Роман Ямполски, който казва, че свръхинтелигентният изкуствен интелект представлява може би "най-важният проблем, с който човечеството някога се е сблъсквало".
Бил Гейтс: Изкуственият интелект е реална заплаха
Съществуващите в момента модели на изкуствен интелект не са екзистенциална заплаха за хората. Но предвид скоростта, с която се развива технологията в Силициевата долина, проблемът може да се появи много скоро.
"Машинният суперинтелект" вероятно ще бъде постигнат през следващото десетилетие и ще бъде "по-умен от всеки жив човек, по-умен от човечеството колективно", пишат Юдковски и Соарес.
Когато това се случи, отбелязва Барат, можем да очакваме икономически хаос и колапс на държави. Анализаторите прогнозират милиони загубени работни места в множество индустрии и широко разпространение на "измама и дезинформация, произтичащи от изкуствения интелект".
Може ли изкуственият интелект да унищожи човечеството?
Но дори при сегашното си ниво, изкуственият интелект вече има "кръв по виртуалните си ръце", посочва Барат. ИИ се използва в модерните войни, като тази в Газа.
А всеки ден само "ChatGPT изпозлва толкова електроенергия, колкото малък град".
За разлика от традиционния компютърен хардуер и операционни системи, генеративните изкуствени интелекти "не се програмират, а се обучават", пише Барат. Или както посочват Юдковски и Соарес, изкуственият интелект "се отглежда, а не се изработва".
След като инженерите изградят генеративни изкуствени интелекти, те "не разбират точно какво се случва в съзнанието на изкуствения интелект“.
Стюарт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли, представен в книгата на Барат "Експлозията на интелигентността", коментира: "Нямаме абсолютно никаква представа как работи и го пускаме на стотици милиони хора. Като даваме на изкуствения интелект достъп до нашите акаунти в социалните медии и финансови институции, правим всичко възможно, за да се уверим, че той може да завладее света".
Юдковски и Соарес не са сигурни, че един супер умен изкуствен интелект би се стремил към глобално господство, но признават в книгата си "Ако някой го развие, всички ще умрем", че няма начин да се предвидят "предпочитанията", които новият ИИ би могъл да развие. Той ще притежава "вътрешна психология", която не съответства на нашата. Няма причина да очакваме, че тези предпочитания ще включват "щастливи, здрави хора, водещи пълноценен живот".
Свръхинтелигентен изкуствен интелект може да получи контрол над повечето мрежи за комуникация, лаборатории и оръжия за масово унищожение, с които човечеството разполага. Съвременните системи за защита с пароли не биха били никаква пречка за такъв ИИ.
В САЩ има почти 15 000 стартиращи компании за изкуствен интелект.
"Повечето експерти, с които съм разговарял, смятат, че поглъщането ни от изкуствен интелект е вероятно", заявява Барат.
Юдковски и Соарес назовават няколко видни компютърни учени, които публично заявяват, че има поне 10% възможност изкуственият интелект да унищожи човечеството. Т.е. далеч по-голяма от тази да загинем при удар на метеорит или глобална пандемия.
И тримата автори казват, че развитието на изкуствения интелект трябва да бъде спряно, докато не добием по-добра представа за него.
Това обаче е малко вероятно, тъй като все повече страни виждат ИИ като средство за икономически просперитет и конкуренция. Китай бързо настига САЩ в развитието на изкуствения интелект, а американският отговор са още инвестиции и ускоряване на проучванията.
В момента само една от десетте най-големи по пазарна стойност корпорации в света не е свързана с изкуствения интелект. Това е саудитският петролен гигант Aramco. Всички останали, от най-голямата NVDIA, която е основният производител на хардуер за обучение на ИИ, до десетата - Tesla, активно инвестират, развиват и използват модели с изкуствен интелект.
Най-плашещото е, че човечеството може дори да не разбере, че бъдещият "изкуствен свръхинтелект" се готви да ни унищожи и как ще го направи - толкова голямо ще бъде превъзходството на машинната интелигентност.
