Колко пък да сме умни и красиви?
Едно е ясно, извинете, че почвам така: начинът, по който организираме икономиката и обществото, заради изкуствения интелект, ще се промени из основи. Преживяваме най-голямата трансформация от края на Втората световна война насам; след автоматизацията на производството и създаването на самоуправляващи се автомобили, следва автоматизацията на обществото. С това то, обществото, се намира на кръстопът, който обещава големи възможности, но и значителни рискове.
***
Ако вземем грешни решения, това може да застраши най-големите ни исторически постижения.
***
През 40-те години на ХХ-ти век американският математик Норберт Винер (1894-1964 г.) изобретява кибернетиката. Според него поведението на системите може да се контролира с помощта на подходящи обратни връзки. Много скоро някои изследователи си представиха, че ще контролират икономиката и обществото според този основен принцип, но по това време не разполагаха с необходимите технологии.
***
Днес Сингапур се разглежда като идеален пример за общество, контролирано от данни. Това, което е започнало като програма за защита на гражданите от тероризъм, в крайна сметка оказва влияние върху икономическата и имиграционната политика, пазара на недвижими имоти и училищните програми. Китай поема по подобен път. Неотдавна Baidu, китайският еквивалент на Google, покани военните да участват в проекта "Китайски мозък". Той включва използването на т.нар. алгоритми за дълбоко обучение върху данните, които търсачката събира за своите потребители. Освен това се планира и вид социален контрол. Според неотдавнашни съобщения всеки китайски гражданин ще получи така наречения "граждански рейтинг", който ще определя при какви условия може да получи заеми, работа или виза за пътуване в други държави. Този вид индивидуално наблюдение ще включва сърфирането на хората в интернет и поведението на техните социални контакти.
***
А всичко започна съвсем безобидно. Търсачките и платформите за препоръки започнаха да ни предлагат персонализирани предложения за продукти и услуги. Тази информация се основава на лични и метаданни, които са събрани от предишни търсения, покупки и поведение при мобилност, както и от социални взаимодействия. Въпреки че официално самоличността на потребителя е защитена, на практика тя може да бъде изведена доста лесно.
***
Днес алгоритмите знаят доста добре какво правим, какво мислим и как се чувстваме - може би дори по-добре от нашите приятели и семейство или дори от нас самите. Често препоръките, които ни се предлагат, пасват толкова добре, че решенията, които вземаме, изглеждат като наши собствени, въпреки че всъщност не са наши решения. Всъщност по този начин все по-успешно ни контролират дистанционно. Колкото повече се знае за нас, толкова по-малка е вероятността изборът ни да е свободен и да не е предопределен от другите.
***
Но това няма да спре дотук, ще приемете ли тази „роза“ от мен. Някои софтуерни платформи се насочват към "убеждаващи компютри". В бъдеще, използвайки сложни технологии за манипулиране, тези платформи ще могат да ни насочват към цели курсове на действие, било то за изпълнение на сложни работни процеси или за генериране на безплатно съдържание за интернет-платформи, от които корпорациите печелят милиарди. Тенденцията е от програмиране на компютри към програмиране на хора.
***
Тези технологии стават все по-популярни и в света на политиката. Под етикета "побутване" и в огромни мащаби правителствата се опитват да насочват гражданите към по-здравословно или по-екологично поведение чрез "побутване" - съвременна форма на патернализъм. Новото, грижовно правителство не само се интересува от това, което правим, но и иска да се увери, че правим нещата, които то смята за правилни.
***
Вълшебната фраза е "big nudging", която представлява комбинация от големи данни и побутване. За мнозина това изглежда като един вид цифров скиптър, който позволява да се управляват ефективно масите, без да се налага гражданите да участват в демократични процеси. Може ли обаче това да преодолее личните интереси и да оптимизира хода на света? Ако е така, тогава гражданите биха могли да бъдат управлявани от "мъдър дигитален крал", овластен от данни, който би могъл да постигне желаните икономически и социални резултати почти като с цифрова магическа пръчка.
***
Какви нежелани странични ефекти можем да очакваме? За да остане манипулацията незабелязана, е необходим т.нар. резонансен ефект - предложения, които са достатъчно персонализирани за всеки човек. По този начин местните тенденции постепенно се засилват чрез повторение, което води до "филтърния балон" или "ефекта на ехо-камерата": в крайна сметка единственото, което може да получите, е собственото ви мнение, отразено обратно към вас. Това води до социална поляризация, в резултат на която се формират отделни групи, които вече не се разбират помежду си и се намират във все по-голям конфликт помежду си. По този начин персонализираната информация може непреднамерено да разруши социалното сближаване. Понастоящем това може да се наблюдава в американската политика, където демократите и републиканците все повече се отдалечават един от друг, така че политическите компромиси стават почти невъзможни. Резултатът е фрагментация, а може би и разпад на обществото.
***
Много се извинявам, че съм много „умен и красив“, и тук бия камбаната за неща, които ни предстоят. Призивът ми е, замислете се, преди да е станало късно.
***
Другият път – още повече. Но междувременно помислете.
NB: Адвокатите на „Нова Броудкастинг Груп“, много неприятни и кисели професионалисти, предупреждават: никаква част от този текст не може да се препубликува без изричното им разрешение.
