Google работи по бутон, който може да предотврати бунт на изкуствен интелект
Източник: Thinkstock/Guliver photos
3

П рез последните две години светът видя множество победи за изкуствения интелект и мнозина съзряха опасност. Сега Google работи за това да предотврати една такава победа в случай, че нейното постигане ни постави в ситуация, по-подходяща за компютърна игра или анимационен филм.

Проектът, от своя страна, не е никак шеговит. За опасност от такъв развой на събитията ни предупредиха не само преки участници в разработката на изкуствен интелект като Стивън Хоукинг и Илон Мъск, но и много професори, учени и дори автори на научна фантастика.

Със задачата се е заел британският екип на компанията, който, паралелно с работата си по програмата за изкуствен интелект, ще разработва и така наречения ”safe incorruptibility“- способ, който ще забрани на изкуствения интелект да научи как да прекрати човешкия контрол над себе си.

Освен това, safe incorruptibility може да се използва, за да предотврати ситуация, в която изкуственият интелект може да навреди или да се обучи за нещо, за което са нужни алтернативни методи на обучение.

Не е изненада, че идеята за война между хората и  изкуствения интелект съществува от времето, когато компютърната мощ се е изчерпвала с редица прости пресмятания. Още през 40-те години на миналия век, световноизвестният писател Айзък Азимов поставя три правила, които адресират точно този случаи, а те звучат заплашително актуални:

- Един робот не може да вреди на човек или, чрез бездействие, да позволява човек да си навреди.

- Един робот винаги трябва да се подчинява на човешки заповеди, освен когато това е в конфликт с първото правило.

- Един робот трябва да опазва своето съществуване стига това да не противоречи на първото и второто правило.

Дали ще има нужда от тях и тяхното спазване предстои още да видим, но чрез усилието си Google ще предотврати всички начини на неподчинение, които можем да очакваме.

Коментари 3
Кирилица:
Фонетична
Имате 2000 позволени символа

* Моля, коментирайте конкретната статия и използвайте кирилица! Не се толерират мнения с обидно или нецензурно съдържание, на верска или етническа основа, както и написани само с главни букви!

3 коментара
 
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни

Последни

Индикации, че профилът ви е хакнат

Индикации, че профилът ви е хакнат

Технологии Преди 22 минути

Хакерите може да влязат в акаунт и без да го блокират

<p>Османи: Френското предложение е последният ни влак за ЕС</p>

Османи: Френското предложение е последният влак на РСМ за ЕС

Свят Преди 24 минути

Най-големият успех за страната е това, че в преговорната рамка присъства "чист македонски език, който става официален език на ЕС без добавки и квалификации", отбеляза той

Митинг за подкрепа пред руското посолство в София

Митинг за подкрепа пред руското посолство в София

България Преди 10 часа

Рускиня: Кой освободи България от турците? Разбира се, Русия

Асен Василев

Харесаха ли партиите Асен Василев за премиер

България Преди 11 часа

От ДПС чакат да чуят какво ще предложи новият кандидат за премиер

Мицкоски за френското предложение: Не, благодаря!

Мицкоски за френското предложение: Не, благодаря!

Свят Преди 11 часа

Мицкоски: В документите присъстват всички български искания

Топлата вода поскъпва с близо 30% от 1 юли

Топлата вода поскъпва с близо 30% от 1 юли

България Преди 13 часа

Основните причини за увеличението са многократно нарасналите разходи на топлофикационните дружества за закупуване на природен газ и въглеродни емисии

Закриване на посолството на Русия в България ще бъде разгледано от руското МВнР

Закриване на посолството на Русия в България ще бъде разгледано от руското МВнР

България Преди 13 часа

Песков: Ако е необходимо, въпросът ще бъде докладван на президента Владимир Путин

Протест срещу нов кабинет на „Продължаваме промяната”

Протест срещу нов кабинет на „Продължаваме промяната”

България Преди 14 часа

Пред сградата на Президентството има полицейски кордон

Зеленски: Украйна и ЕС отварят нова глава в историята

Зеленски: Украйна и ЕС отварят нова глава в историята

България Преди 14 часа

Зелененски: Извървяхме път от 115 дни до статута на кандидат за членство и пътят ни към членството не трябва да отнема десетилетия

<p>Асен Василев: Русия започна конфронтацията</p>

Президентът връчи мандат на „Продължаваме Промяната”

България Преди 15 часа

Папката с мандата прие кандидатът за премиер Асен Василев

Бензин

Бензинът е поскъпнал с 21 стотинки за месец, дизелът - с 28

България Преди 15 часа

Според информацията в сайта на платформата дизелът на различните бензиностанции се продава между 3,34 лева за литър и 3,66 лева за литър

Асена Сербезова

МЗ изнесе данни за нарушения в болниците

България Преди 15 часа

Сербезова: Задълженията на държавните лечебни заведения са 600 млн. лева

d

Освежи лятото и го направи незабравимо!

Любопитно Преди 16 часа

В някой хубав летен ден сменете гледната си точка и се отправете на туристическа обиколка из мястото, на което живеете

Десислава Атанасова

ГЕРБ-СДС няма да подкрепи правителство в този парламент

България Преди 16 часа

Атанасова: За нас Кирил Петков, Асен Василев или който и да е излъчен от бившата четворна, а сега тройна коалиция, са персона нон грата в този парламент

АОБР приветства решението за компенсациите за бизнеса

АОБР приветства решението за компенсациите за бизнеса

България Преди 16 часа

Бизнесът не иска помощи и подаяния, а възстановяване на надвзетото

Полицията провежда спецакция в няколко области

Полицията провежда спецакция в няколко области

България Преди 16 часа

До сега задържаха двама за проникване в зърнобаза