Google работи по бутон, който може да предотврати бунт на изкуствен интелект
Източник: Thinkstock/Guliver photos
3

П рез последните две години светът видя множество победи за изкуствения интелект и мнозина съзряха опасност. Сега Google работи за това да предотврати една такава победа в случай, че нейното постигане ни постави в ситуация, по-подходяща за компютърна игра или анимационен филм.

Проектът, от своя страна, не е никак шеговит. За опасност от такъв развой на събитията ни предупредиха не само преки участници в разработката на изкуствен интелект като Стивън Хоукинг и Илон Мъск, но и много професори, учени и дори автори на научна фантастика.

Със задачата се е заел британският екип на компанията, който, паралелно с работата си по програмата за изкуствен интелект, ще разработва и така наречения ”safe incorruptibility“- способ, който ще забрани на изкуствения интелект да научи как да прекрати човешкия контрол над себе си.

Освен това, safe incorruptibility може да се използва, за да предотврати ситуация, в която изкуственият интелект може да навреди или да се обучи за нещо, за което са нужни алтернативни методи на обучение.

Не е изненада, че идеята за война между хората и  изкуствения интелект съществува от времето, когато компютърната мощ се е изчерпвала с редица прости пресмятания. Още през 40-те години на миналия век, световноизвестният писател Айзък Азимов поставя три правила, които адресират точно този случаи, а те звучат заплашително актуални:

- Един робот не може да вреди на човек или, чрез бездействие, да позволява човек да си навреди.

- Един робот винаги трябва да се подчинява на човешки заповеди, освен когато това е в конфликт с първото правило.

- Един робот трябва да опазва своето съществуване стига това да не противоречи на първото и второто правило.

Дали ще има нужда от тях и тяхното спазване предстои още да видим, но чрез усилието си Google ще предотврати всички начини на неподчинение, които можем да очакваме.

Коментари 3
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

3 коментара
 
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни

Последни

<p>Има ли връзка между размера на мозъка и интелигентността</p>

Размерът има значение – как мозъците на бозайниците са се уголемили през последните 150 млн. години

Любопитно Преди 29 минути

Ново изследване разкрива изненадващи факти за ефекта на едни от най-големите катаклизми в историята на Земята върху размера на мозъците на бозайниците

<p>До 2027 г. е-колите ще са по-евтини от тези с ДВГ</p>

До 2027 г. електромобилите ще станат по-евтини за производство от конвенционалните модели

Технологии Преди 29 минути

Тази прогноза е на Bloomberg, но очевидно нещо се е променило, тъй като предишната им прогноза бе за паритет в цените още през 2023 г.

<p>Ще имаме ли нужда от трета доза ваксина</p>

Ще имаме ли нужда от трета доза ваксина

Теми в развитие Преди 9 часа

Ето какво е мнението на специалистите

<p>Отново: За хиляди деца няма място в детска градина в София</p>

Отново: За хиляди деца няма място в детска градина в София

България Преди 11 часа

Родители с остри реакции след първото класиране

<p>Как ще се коригират грешките в сертификатите за ваксинация</p>

Как ще се коригират грешките в сертификатите за ваксинация

Теми в развитие Преди 11 часа

Поредна заповед на служебния министър на здравеопазването

Прочутата арка на Дарвин рухна

Прочутата арка на Дарвин рухна

Свят Преди 12 часа

Формацията, кръстена на видния британски естествоизпитател Чарлз Дарвин, беше водеща дестинация за гмуркане

Нова Броудкастинг Груп стартира нов спортен канал от 1 юли

Нова Броудкастинг Груп стартира нов спортен канал от 1 юли

България Преди 14 часа

Програмата на DIEMA SPORT 3 ще обогати спортното съдържание в премиум пакета

Реджеп Ердоган

Ердоган към Израел: Те нямат военни самолети, вие имате безброй

Свят Преди 15 часа

Турският президент предложи ново управление на Йерусалим

Германците очакват големи политически промени наесен

Германците очакват големи политически промени наесен

Свят Преди 15 часа

Повечето биха искали правителството да прилага политики, които ограничават имиграцията

Антъни Иванов

Антъни Иванов е на полуфинал на европейското с рекорд

България Преди 15 часа

По-късно днес нашият плувец ще спори за място на финала

По 5 хил. лв. глоба за митничари от "Лесово", взимали подкупи

По 5 хил. лв. глоба за митничари от "Лесово", взимали подкупи

България Преди 16 часа

Престъплението е извършено в периода от март 2014 г. до началото на ноември 2014 г. в село Лесово, общ. Ямбол, и в гр. Бургас

Арктика - кое прави тази зона важна и интересна

Арктика - кое прави тази зона важна и интересна

Свят Преди 16 часа

Към Арктика се стремят не само граничещите с нея страни, но и по-отдалечени държави като Китай

Финална развръзка за героите в хитовия български сериал на NOVA

Финална развръзка за героите в хитовия български сериал на NOVA

Любопитно Преди 16 часа

Ново бъдеще за лекарите на „Откраднат живот“ по време на големия финал на 20 май

Стойчо Кацаров

Кацаров: МЗ и Представителството на ЕК в България ще насърчават ваксинацията

България Преди 17 часа

Ведомството е готово да съдейства и логистично за разпространение на информационни материали