С ъздателят на ChatGPT, OpenAI, обяви, че основава нов екип, който да разработи методи за управление на "суперинтелигентния" изкуствен интелект, който се очаква в бъдеще. В блога си компанията заяви, че екипът ще се оглави от един от нейните съоснователи и главният ѝ учен.
Те прогнозират, че изкуствен интелект (AI), който е способен да надмине възможностите на човека, може да бъде факт в рамките на това десетилетие. Няма гаранция, че въпросният интелект ще е вечно приятелски настроен. Затова OpenAI иска още от сега да се започне работа по методи, които да го ограничават и контролират при необходимост.
В момента няма никакво решение, което да дава тази възможност, пише компанията. Настоящите методи разчитат на човешките способности да са своеобразен супервайзър над изкуствения интелект, но това няма да е достатъчно надеждно, когато AI стане много по-умен.
Изкуствен интелект ще преподава на студенти в Харвард
Новият екип ще има достъп до 20% от компютърните ресурси на компанията, за да тества идеите си. В него участват хора от всички звена на OpenAI, като има срок от 4 години, за да успее да идентифицира и реши основните предизвикателства за управлението на свръхинтелигентния AI.
Испански компании забраняват на служителите си да ползват ChatGPT
Изкуственият интелект може да навреди на света
Една от идеите е AI системите да бъдат обучени да се вслушват в отзивите на човека. Също така да могат да анализират други системи и да се коригират взаимно в положителна посока.
Microsoft започва тестове с Windows Copilot
Разбира се, тези методи също трябва да имат гаранции за своята ефективност. Трябва да има доверие, че самите системи няма да изкривят своите разбирания една на друга. Според OpenAI голяма роля в тази посока има начинът на обучение на системите. То е отправната точка за решенията и тяхната устойчивост.
Изкуственият интелект превзема и Windows 11
Meta показа AI, който може да говори на над 1000 езика
Следете ни навсякъде и по всяко време с мобилното приложение на Vesti.bg. Можете да го изтеглите от Google Play и AppStore.
За още любопитно съдържание последвайте страницата ни в Instagram.
