Да пребориш рака: Мари Константин пред Мон Дьо

Да пребориш рака: Мари Константин пред Мон Дьо

Отбелязваме петата неделя на Великия пост

Отбелязваме петата неделя на Великия пост

Хю Грант сподели за

Хю Грант сподели за "зловещ" инцидент на летище "Хийтроу"

Почитаме паметта на светите мъченици Теодул и Агатопод

Почитаме паметта на светите мъченици Теодул и Агатопод

Никол и Радо с победна серия и титлата “Супер двойка” в “Един за друг”

Никол и Радо с победна серия и титлата “Супер двойка” в “Един за друг”

Как „Терминаторът“ от 1984 г. предсказа страховете ни от изкуствения интелект

Б локбастърът „Терминатор“ от 1984 г. с Арнолд Шварценегер в главната роля се превърна в синоним на опасностите, които крият свръхинтелигентните машини. Но той „помага и пречи“ на разбирането ни за изкуствения интелект.

В един от епизодите на ситкома на HBO „Силициевата долина“ Томас Мидълдич (Ричард Хендрикс) обяснява своята платформа за машинно обучение Pied Piper на фокус група, когато един от участниците неизбежно я сравнява с филма на Джеймс Камерън от 1984 г. „Терминатор“.

„Не, не, не. Мога да ви уверя, че тук няма ситуация от типа на Скайнет. Не, Пиедесталът по никакъв начин няма да стане разумен и да се опита да завладее света“, настоява раздразненият Мидълдич.

Твърде късно. 

Със своите роботи-убийци и измамната си система за изкуствен интелект Скайнет „Терминатор“ се е превърнал в синоним на призрака на машинния интелект, който се обръща срещу своите човешки създатели. Картинните редактори рутинно илюстрират статиите за ИИ с хромираната смъртна глава на робота „ловец-убиец“ Т-800 от филма. Роботистът Роналд Аркин използва клипове от филма в предупредителна лекция от 2013 г., наречена „Как да не създаваме Терминатор“.

Но филмът е смесена благословия. Философът Ник Бостром, чиято книга от 2014 г. „Суперинтелигентност“ популяризира екзистенциалния риск от „неприспособения ИИ“ (ИИ, който не е съобразен с човешките ценности и благополучие), призна, че съпругата му „ме дразни за Терминатора и армията от роботи“. В книгата си „Пътят към съзнателните машини“ изследователят на ИИ Майкъл Уулридж оформя цяла глава с оплакване от „разказа за Терминатора в ИИ“.

Има и по-нови и по-правдоподобни филми за изкуствения интелект, включително Ex Machina и Her, но когато става въпрос за опасностите, свързани с технологията, „Терминаторът“ властва 40 години след излизането си.

„По някакъв смешен начин сега той е почти по-актуален, отколкото когато излезе, защото ИИ вече е реално нещо, с което трябва да се справим, а тогава беше фантазия“, казва Камерън пред The Ringer за филма и неговото продължение от 1991 г.

"Против оръжията и машините"

Това е доста добро постижение за филм, който всъщност не се интересува особено от ИИ. Преди всичко това е постен и лигав трилър за неудържим „мъж“, който преследва уплашена, но находчива жена. Т-800 е неумолим убиец в духа на Майкъл Майерс от „Хелоуин“. Камерън го нарича „научнофантастичен филм за убийства“. На второ място, това е филм за пътуване във времето на тема „съдбата срещу волята“, както се изразява Камерън.

Бързо очертаната предпоставка е, че в някакъв момент между 1984 и 2029 г. САЩ поверяват цялата си отбранителна система на Скайнет. Един ден Скайнет постига свръхинтелигентност - свой собствен разум - и започва глобална ядрена война. След това оцелелите от човечеството започват десетилетен бунт срещу армията от роботи на Скайнет. През 2029 г. човешката съпротива е на прага на победата благодарение на водачеството на Джон Конър, затова Скайнет изпраща Т-800 (Арнолд Шварценегер) през 1984 г., за да убие бъдещата майка на Джон - Сара (Линда Хамилтън), преди тя да забременее. Съпротивата отговаря, като изпраща обратно Кайл Рийз (Майкъл Бийн), за да спре Т-800 и да спаси Сара. В един от онези парадокси на времевата примка, които зрителите не бива да разглеждат твърде внимателно, Кайл се свързва със Сара и се оказва баща на Джон. Бъдещето е спасено.

Така че „Терминаторът“ е трилър, любовна история, препускане във времето, размисъл за свободната воля и сатира за зависимостта ни от технологиите. Филмът е антикорпоративен, антивоенен, антиоръжеен и до голяма степен антимашинен. Технологията - от телефонните секретари до уокмените - е замесена, когато във филма се убиват хора. Но филмът има много малко какво да каже за самия изкуствен интелект.

Терминаторът ще се превърне в един от най-печелившите филми на всички времена с приходи от 78,4 млн. долара, но Камерън не е очаквал да създаде културен крайъгълен камък. Той пише сценария в един очукан хотел в Рим през 1982 г., след като е уволнен от първата си режисьорска работа - „Пираня II: Размножаване“, а продуцентът му Гейл Ан Хърд може да осигури само 6,4 млн. долара бюджет. Главният му актьор, бивш културист с недоказан талант, не възлага големи надежди. Шварценегер казал на приятел за „някакъв гаден филм, който правя, отнема няколко седмици“.

През 20-те години на миналия век е било логично машинният интелект да ходи и да говори, подобно на чудовището на Франкенщайн

Самият Камерън е очаквал „Терминаторът“ да бъде „потъпкан“ в боксофиса от двата научнофантастични епоса на есента: Дюн на Дейвид Линч и „2010“ на Питър Хаймс: Годината, в която ще осъществим контакт, скоро забравено продължение на „ 2001: Космическа одисея“. Тук има привлекателна синхроничност: не само че „Терминаторът“ надмина 2010 г., но и „Скайнет“ измести убийствения компютър HAL 9000 от 2001 г. като доминиращ образ на лошия изкуствен интелект.

Много преди да се появи изкуственият интелект, потенциалните опасности от него се проявяват под формата на робот, създаден от Карел Чапек в пиесата му RUR през 1921 г. и популяризиран от филма „Метрополис“ на Фриц Ланг през 1927 г. В отличната си книга за „Терминатор“ на БФИ Шон Френч предполага, че най-запомнящият се образ на филма - Т-800, който излиза от пламъците, а плътта му се разтопява, за да разкрие металния му ендоскелет - е намек за горящия робот от „Метрополис“. През 20-те години на ХХ век е логично машинният интелект да ходи и да говори като чудовището на Франкенщайн. Популярността на смъртоносните роботи кара писателя фантаст Айзък Азимов през 1942 г. да състави „трите закона на роботиката“: първият опит за дефиниране на етичен изкуствен интелект.

В реалния свят областта на изкуствения интелект започва официално през 1956 г. на лятно училище в университета в Дартмут, организирано от компютърните специалисти Джон Маккарти (който въвежда термина) и Марвин Мински. Тяхната амбиция е да създадат машини, които да мислят като хората, но това се оказва много по-трудно, отколкото са си представяли. Историята на изкуствения интелект е история на възход и падение: цикъл на така наречените „пролетни“ и „зимни“ периоди на изкуствения интелект. Умопомрачителните обещания привличат вниманието, финансирането и талантите, а неуспехът им води до спад и в трите направления.

Бумът през 60-те години на миналия век, преди да стане ясен мащабът на техническите пречки, е известен като „златната ера“ на ИИ. Екстравагантната шумотевица за „електронните мозъци“ развълнува режисьора Стенли Кубрик и писателя Артър Кларк, който интегрира ИИ във филма „2001: Космическа одисея“ от 1968 г. под формата на HAL 9000. Името (означаващо евристично програмиран алгоритмичен компютър) идва от самия Мински, нает като консултант от Кубрик. Червените очи на T-800 със сигурност са почит към HAL - гледането на 2001 г. като дете е насочило Камерън към това да стане филмов режисьор.

Даниел Кревие, историк на изкуствения интелект, противопоставя сценария на HAL (лошо програмиран компютър се разваля) на сценария в трилъра на Д. Ф. Джоунс от 1966 г. „Colossus“ (компютърът се превръща в богоподобна нова форма на живот). В романа на Джоунс правителството на САЩ неразумно поверява цялата си отбранителна техника на титулярния суперкомпютър. Colossus придобива съзнание, обединява сили със съветския си колега и изнудва човечеството да се подчини на технодиктатура: да се предаде или да бъде унищожено с ядрени оръжия. Colossus е прото-Скинет.

Краят на историята

Нито HAL, нито Colossus имаха - или се нуждаеха - от тела. Блестящото нововъведение на Камерън е да съчетае неконтролируемия компютър (Скайнет) с робота убиец (Т-800). Т-800 е едноцелева форма на изкуствен интелект, която може да се учи от околната среда, да решава проблеми, да изпълнява сложни физически задачи и да пресъздава гласове, но трудно поддържа разговор. Скайнет, изглежда, може да прави всичко, освен да се движи.

Скайнет е продукт на втората пролет на ИИ. Докато Камерън пишеше сценария, британско-канадският компютърен учен Джефри Хинтън преосмисляше и съживяваше изследванията в областта на подхода на невронните мрежи към ИИ: моделиране на машинния интелект по невроните в човешкия мозък. Скайнет е невронно-мрежов ИИ. Хинтън, който току-що получи Нобелова награда за физика, напоследък е привърженик на ИИ („Интуицията ми е: ние сме изпечени. Това е действителният край на историята“), но според профила в New Yorker , през 1984 г. той е харесал „Терминатор“: „Не го притесняваше, че Skynet... е невронна мрежа; беше доволен да види технологията, представена като обещаваща.“

Възможно е името Skynet да е и намек за „Междузвездни войни“ - обречената мечта на президента Рейгън да създаде противоядрен щит около САЩ с помощта на космически лазери. (За щастие на бъдещето на франчайза, то също така неволно повтори интернет - дума, която е съществувала през 1984 г., но не е била широко използвана до 90-те години на миналия век). Портокаловите имена на амбициозни нови стартиращи компании като IntelliCorp, Syntelligence и TeKnowledge вероятно са вдъхновили Камерън да смали оригиналното име на създателя на Скайнет - Cyber Dynamics Corporation - в Cyberdyne Systems.

При повторното гледане на „Терминатор“ с изненада установявам, че думата „Скайнет“ е произнесена само два пъти. Според Кайл Рийз това е така: „Нов. Мощен. Включен във всичко. Доверен да управлява всичко. Казват, че е станал умен... нов вид интелигентност. Тогава то виждало всички хора като заплаха, не само тези от другата страна. Решило съдбата ни за една микросекунда... изтребление.“ Това е степента, до която филмът се интересува от изкуствения интелект. Както Камерън често е казвал, филмите за Терминатор всъщност са по-скоро за хората, отколкото за машините.

Продължението на блокбастъра от 1991 г. „Терминатор 2: Денят на страшния съд“ допълва малко историята. Тя произлиза от друг времеви парадокс: централният процесор и дясната ръка на оригиналния Терминатор оцеляват при унищожаването му и позволяват на ученият от Cyberdyne Майлс Бенет Дайсън (Джо Мортън) да създаде Skynet. Сега задачата на героите е не само да спасят 10-годишния Джон Конър от пътуващия във времето Т-1000, но и да унищожат Скайнет в цифровата люлка. (Това е последната дума на Камерън по темата, докато не продуцира и не стане съсценарист на „ Терминатор“ от 2019 г: Тъмна съдба. Неотдавна той заяви пред списание Empire, че всички междинни продължения са били „с отстъпка“).

В „Терминатор 2“ оформеният като Шварценегер Т-800 е по-скоро защитник, отколкото ловец, и следователно носител на информация: „Системата влиза в действие на 4 август 1997 г. Човешките решения са премахнати от стратегическата отбрана. Скайнет започва да се учи с геометрична скорост. Той започва да се самоосъзнава в 2:14 ч. източно време на 29 август. В паниката си те се опитват да издърпат щепсела.“ Скайнет отвръща на удара, като изстрелва ядрени ракети по Русия, знаейки, че контраатаката ще опустоши САЩ. Три милиарда души загиват за 24 часа: Денят на Страшния съд.

Това е коренно различен разказ от този на Рийз. В първия филм Скайнет интерпретира прекомерно своето програмиране, като счита цялото човечество за заплаха. Във втория той действа от личен интерес. Противоречието не притеснява повечето зрители, но то илюстрира съществено несъгласие относно екзистенциалния риск от ИИ.

Неспециалистите вероятно си представят неприсъединения ИИ като бунтовен и злонамерен. Но такива като Ник Бостром настояват, че истинската опасност се крие в небрежното програмиране. Спомнете си за метлата на магьосника във „Фантазия“ на Дисни: устройство, което послушно следва инструкциите си до пагубни крайности. Вторият тип изкуствен интелект не е достатъчно човешки, липсва му здрав разум и морална преценка. Първият е твърде човешки - егоистичен, обиден, жаден за власт. На теория и двата могат да бъдат геноцидни.

Затова „Терминаторът“ едновременно помага и пречи на разбирането ни за ИИ: какво означава една машина да „мисли“ и как това може да се обърка ужасяващо. Много изследователи на изкуствения интелект се възмущават от манията по Терминатора, тъй като тя преувеличава екзистенциалния риск от изкуствения интелект за сметка на по-непосредствени опасности като масовата безработица, дезинформацията и автономните оръжия.

„Първо, това ни кара да се тревожим за неща, за които вероятно не е необходимо да се тревожим. Но, второ, то отклонява вниманието от онези проблеми, повдигнати от ИИ, за които трябва да се тревожим​“, пише Майкъл Уулридж. 

Камерън разкрива пред Empire, че подготвя нов филм за Терминатора, който ще се откаже от целия наративен багаж на франчайза, но ще запази основната идея за „безсилните“ хора срещу изкуствения интелект. Ако това се случи, ще бъде интересно да видим какво ще каже режисьорът за ИИ сега, когато той е нещо, за което говорим - и се тревожим - всеки ден. Може би най-полезното послание на „Терминаторът“ за изследователите на ИИ е това за „волята срещу съдбата“: човешките решения определят резултатите. Нищо не е неизбежно.

Не пропускайте най-важните новини - последвайте ни в Google News Showcase

Не се тревожете, че остарявате. Пак ще правите същите глупости, но по-бавно.
Прочети целия
Обратно в сайта X

ДОСТЪП ЗА ЛОГНАТИ ПОТРЕБИТЕЛИ За да пишете, оценявате или докладвате коментари, моля логнете се в профила си.

  1. Запомни ме
забравена парола Полетата маркирани с * са задължителни
Полето Потребителско име не трябва да е празно.
Полето E-mail не трябва да е празно.
Полето Парола не трябва да е празно.
Полето Повторете паролата не трябва да е празно.
  1. Декларирам, че съм се запознал с Общите условия за ползване на услугите на Нетинфо.
Полетата маркирани с * са задължителни
<p>Преките прегори със САЩ по иранската ядрена програма &quot;няма да имат смисъл&quot;</p>

Абас Арагчи: Преките прегори със САЩ по иранската ядрена програма няма да имат смисъл

Свят Преди 16 минути

Тръмп поиска Вашингтон и Техеран да започнат директни преговори по иранската ядрена програма

МВнР предупреди българите да не пътуват до засегнатите от наводнения американски щати

МВнР предупреди българите да не пътуват до засегнатите от наводнения американски щати

България Преди 55 минути

Предупреждения за обилни валежи и наводнения са издадени още за градове на територията на щатите Тексас, Арканзас, Мисури и Тенеси

Изненадващ обрат промени съдбата на веселяците Рада и Здравко в “Един за друг”

Изненадващ обрат промени съдбата на веселяците Рада и Здравко в “Един за друг”

Любопитно Преди 1 час

Двойката продължава участието си при специални условия

<p>УНИЦЕФ с призив към&nbsp;Израел</p>

УНИЦЕФ настоя Израел да допусне хуманитарна помощ до ивицата Газа

Свят Преди 1 час

Блокирането на хуманитарната помощ е довело до недостиг на храна, чиста вода, подслон и медицински консумативи

13 000 сигнала за лоши пътища са подали от МВР за 2024 година

13 000 сигнала за лоши пътища са подали от МВР за 2024 година

България Преди 2 часа

Мария Ботева уточни, че шофьорът, участвал в катастрофата със Сияна, има близо 20 предишни нарушения

<p>Въздушна тревога в Украйна - Полша реагира с военни действия&nbsp;&nbsp;</p>

Полша вдигна военни самолети за защита след руски удари по Украйна

Свят Преди 2 часа

Цяла Украйна е била под въздушна тревога към 4:00 ч. тази сутрин

Поройни дъждове усложняват ситуацията в Мианмар след опустошителния трус

Поройни дъждове усложняват ситуацията в Мианмар след опустошителния трус

Свят Преди 2 часа

Броят на жертвите на земетресението достигна 3471

Цени и условия: Какво да очакваме от почивките по родното Черноморие?

Цени и условия: Какво да очакваме от почивките по родното Черноморие?

България Преди 3 часа

Хотелиери споделят, че ще разчитат на кадри от чужбина

"Долу ръцете!": Стотици хиляди на протест срещу Тръмп и Мъск

"Долу ръцете!": Стотици хиляди на протест срещу Тръмп и Мъск

Свят Преди 3 часа

Плакати "Борете се срещу олигархията" бяха издигнати в град Сиатъл

Ден на национален траур: Украйна скърби за жертвите на руските удари в Кривой Рог

Ден на национален траур: Украйна скърби за жертвите на руските удари в Кривой Рог

Свят Преди 3 часа

По последни данни броят на загиналите е 19, като 9 от тях са деца

<p>Британски депутати са задържани в Израел</p>

Израелските власти задържаха депутати от Обединеното кралство

Свят Преди 4 часа

Това обяви външният министър на Великобритания Дейвид Лами

Киев под обстрел: Ракетна атака предизвика пожари в столицата

Киев под обстрел: Ракетна атака предизвика пожари в столицата

Свят Преди 4 часа

Най-малко трима души са пострадали при атаката

Как вносът от САЩ влияе на българската икономика?

Как вносът от САЩ влияе на българската икономика?

България Преди 4 часа

Около 13 млн. лева на година са приходите от мита при внос на стоки от САЩ у нас през последните две години - 2023 г. и 2024 г.

<p>Динозаврите споделяли водопои със своите жертви</p>

Открития на остров Скай: Динозаврите споделяли водопои със своите растителноядни жертви

Любопитно Преди 4 часа

Следи от динозаври разкриват как месоядни и тревопасни видове са съжителствали край древни лагуни

Съюзник на НАТО започва да подготвя ядрени бункери

Съюзник на НАТО започва да подготвя ядрени бункери

Свят Преди 5 часа

Шведският премиер Улф Кристерсон заяви, че страната „не е във война“, но „няма и мир“

Проучване: Средният човек ще бъде с 40% по-беден, ако светът се затопли с 4 градуса

Проучване: Средният човек ще бъде с 40% по-беден, ако светът се затопли с 4 градуса

Свят Преди 5 часа

"Вярвам, че икономическите последствия от климатичните промени може да се окажат дори по-тежки"