И скаме или не, изкуственият интелект вече е неразделна част от ежедневието ни. Който не го използва, рискува да изостане. Ако ние не го използваме, други ще го направят и ще имат предимство. Това кара все повече хора да мислят за технологията и как да я внедрят в работата си.
Разговаряме с Борис Георгиев, директор на Google Cloud за Централна и Източна Европа за това как изкуственият интелект може да бъде голям помощник в киберсигурността и коя е най-често срещаната грешка, която допускат служителите в компаниите и институциите.
За мнозина основният фокус все още е какво изкуственият интелект ни носи като полза. Рисковете, освен този, че може някой да остане без работа, сякаш са на заден план. Но хакерите вече активно разчитат на AI за своите атаки и това налага промяна в ежедневието на всеки от нас.
- Принципно всеки инструмент, какъвто и да е той, ако е в ръцете на човек с недобри помисли, може да създаде опасност. Не можем да кажем, че конкретно AI може да бъде опасен или не. Зависи за какво го използваме.
По принцип Google отделя много голямо внимание върху това как се използват технологиите в ежедневието. Имаме много голямо съзнание за това каква е нашата роля, за да се използват тези технологии в полза на човечеството, а не в негова вреда. Ние говорим за изкуствен интелект и че Google е AI компания от 10 години насам. Тогава за пръв път беше обявено, че Google става т.нар. AI-driven компания. Оттогава насам ние инвестираме много време и внимание върху етичната част за използването на тези технологии. Имаме етични принципи, които са публикувани и всеки един екип стриктно се придържа към тях. Имаме етичен борд, който наблюдава как тези технологии и принципи се свързват едно с друго.
Само тази седмица, по време на Google I/O обявихме напредъка с технологията SynthID, която стартирахме още в самото начало. Тя позволява на всеки човек да може да разбере дали едно изображение или видео е генерирано с AI или не. Това е голям проблем за всички нас покрай фалшивите новини. SynthID добавя маркер вътре в самия файл, който ние няма как да видим, но когато попитаме друг изкуствен интелект дали даден кадър е истински, той може да го види и да ни каже. Все повече компании се присъединяват да маркират AI генерираните изображения.
Инвестираме много в посока сигурност. Да гарантираме, че каквото излиза като резултат от AI, няма да бъде използвано за вредни цели. Google инвестира много в технологии за киберсигурност. Ние бяхме една от първите компании в света, които използват AI, за да защитават своите собствени ресурси от кибератаки. Това знание и постижение сега сме го отворили като продукти за компании в частния сектор и държавни организации. Не спираме да инвестираме милиарди долари в тази посока. AI се използва за защита на системи и данни, но има и хора, които го ползват за кибератаки.
Ние създаваме решения, които защитават от тези нови рискове и ги предоставяме на клиентите, за да могат те да са сигурни в използването на AI и да може тези технологии да се използват по-масово.
Независимо дали става дума за данни от частния сектор, публична информация, информация в държавния сектор или конфиденциална, е въпрос на класификация. Методите за защита са сходни. Разбира се, за някои от данните има много по-стриктни правила, в зависимост от класа на информацията. Трябва да се адаптираме и да сме адекватни на рисковете, които непрестанно се увеличават като брой и тип.
AI позволява на България да засича кибератаки в зародиш
Сключихте и партньорство с „Информационно обслужване“, как стои България в тази среда?
- Сигурно помните успешните атаки, които наблюдавахме последните няколко години в България. Някои от тях бяха много публични, като тази срещу Националната агенция за приходите и в българските пощи. Според мен това беше една червена лампа за българската държава, че нещо трябва да се подобри. Системите, които много от тези организации използват, са може би били релевантни преди 10 години, но сега атаките са много по-модерни. Радвам се да видя, че държавата прави необходимите стъпки, за да осъвремени защитата на информацията. Изключително важно е защитата да се централизира както е в този проект. Атаките вече не са насочени срещу един компютър или един човек. Те са насочени към цялата система. В днешно време могат да са срещу няколко организации паралелно. При децентрализирания модел няма да можем да разберем, че това се случва в такъв голям мащаб.
Второто важно нещо е наличността на експерти, които са сертифицирани и се обучават постоянно в най-модерните технологии, по отношение на киберсигурност и предотвратване на атаки. Ако погледнем децентрализирания модел – всяка институция в държавата трябва да има топ експерти, което е практически невъзможно. Много по-добрият вариант е да има централен, изключително компетентен екип, който да може с помощта на AI, да отразява събития в мащаб и именно AI помага в анализа и бързото смилане на информация от много източници. Така реалните атаки са фокус на вниманието на тези експерти. Наблюдаваме този подход и в частния сектор и смятаме, че българската държава стартира правилно с въвеждането на централизиран подход за киберсигурност и Cybershield.
Например, представете си една поликлиника. Информацията, която се съдържа в нея, е изключително чувствителна. Дали всяка поликлиника има експерт по сигурността, който да наблюдава какво се случва ежедневно, или има външна компания, която реагира, само когато някой ѝ се обади, че има нужда от помощ? Смятам, че това не е най-добрата практика и се радвам, че държавата предприема стъпки в тази посока. Ако погледнем регионът на Източна Европа, то повечето страни са в сходен стадий на развитие по отношение на киберсигурността и се радвам, че България е една от първите такива, които предприемат мерки, за да може това да се промени. Българската държава става лидер във внедряването на тези технологии в администрацията.
Изкуствен интелект на Google ще пази националната сигурност на България
Как AI променя ролите на киберекспертите?
- В годините преди изкуствения интелект беше много трудно да се разбере кога има кибератака. Някои от тях са изключително успешни и има пробиви, които са оставали незабелязани дори с години. Има много такива примери в световен мащаб. Експертите повече се насочвах да правят анализ, на това, което намират след атаката. Да видят какъв е мащабът, да я отразят, което понякога налага преинсталирането на цялата система. Това изисква едновременно много знания и време.
Затова е и трудно да се намерят хора, които могат да вършат тази работа. AI е голяма помощ за специалистите по киберсигурност, защото голяма част от тази работа се поема от него. Така фокусът на експертите е да разберат какво ни казва обработената информация, какво да предприемем, за да защитим ресурса, как да предотвратим атака или какви мерки да вземем, за да реагираме, ако вече има успешна атака, за да възстановим сигурността в една система.
Google приветства началото на агентската ера на Gemini
Могат ли експертите да са сигурни, че AI им дава правилна информация?
- Халюцинациите, причинени от изкуствен интелект, са проблем, но това не е така при Cybershield. Там изкуственият интелект работи върху специфични, ограничени набори от данни, събрани изрично от системите и мрежата на Google за целите на сигурността. Това обучение върху контролиран обем данни предотвратява генерирането на несъществуващи или неверни факти от страна на изкуствения интелект. Освен това, тези заключения се проверяват и обогатяват от експертите по разузнаване за заплахи на първа линия на Mandiant, за да се осигурят най-добри резултати и точни, валидирани данни за експертите по киберсигурност.
Също така, нашите системи са направени по такъв начин, че ние показваме целия мисловен процес. Може да се проследи какви са стъпките за вземането на решение, каква информация е използвана. Показваме във всяко едно заключение или обобщение кои са източниците и всеки потребител – било то краен или експерт, може да види всичко това и да провери информацията. Това е изключително важно за сверяването на информацията с конкретни източници, за да се уверим, че е вярна.
Google затяга сигурността с нови AI системи за защита
Нова технология, нови системи. Съответно има и нови рискове. Как се адресират?
- От една страна, хакерите вече не работят индивидуално. Групите, които атакуват в киберпространството използват тези технологии доста умело и все по-добре. Атаките стават по-добри и успешни, защото се използват тези технологии. Ако ние не използваме тези технологии, за да се защитим, значи сме няколко стъпки назад. Представете си, ако някой ни стреля с ракети, а ние се защитаваме с лъкове. Ще бъде неравностойна битка.
По отношение на контрола върху AI системите, той е изцяло в ръцете на компаниите и организациите, които го използват. Ние предоставяме тези технологии от „облака“, те са изцяло оперирани от нас и това е наше основно задължение да сме сигурни, че това, за което AI се използва, е съобразено с нашите принципи.
Хакерите винаги са били малко по-напред, а системите за сигурност са предимно реактивни. Сега с AI се получава ситуация, в която хакерите могат да използват технологията без да се съобразяват с каквито и да е правила, докато фирмите и институциите трябва да спазват регулации, вътрешни правила и се движат по-бавно.
- Тази надпревара винаги е съществувала. Регулациите винаги изостават спрямо технологиите на деня. Това е така в много сфери, което е проблем. Покрай изкуствения интелект виждаме промяна в посока ускоряване на темповете на регулации и стандартизации. Но именно с AI сменяме начина на защита от реактивен към проактивен. Една хакерска атака не отнема кратко време. Понякога отнема часове, дни, месеци докато се развие. Благодарение на тази система, на CyberShield и това, което държавата прави с AI, можем да открием една атака в самия зародиш, още преди да се е развила, знаейки на базата на това, че сме видели подобна атака другаде по света.
Това е ползата да се използва технологията на Google, тъй като имаме този поглед. Знаем как ще се развие тази атака, какво ще бъде атакувано и какво да направи експертът на клиента, за да защити ресурсите и атаката да е неуспешна. Все повече ще наблюдаваме използването на AI за автоматизиране на тази защитна реакция и така да се намали нуждата от човешка намеса. Това не е много по-различно от това, което наблюдаваме във физическия свят. Хората, които искат да извършат престъпление, търсят пролуките в различни системи. Тяхната цел е да намират пролуки, а тези, които защитават, трябва непрестанно да се занимават с това.
Google обедини Android и Chrome OS в нов лаптоп
AI ни налага нови приоритети за защита, но те са различни за потребител и компания. Какво трябва да приоритизира всеки от тях?
- Отговорността на всеки в интернет е различна. Ако аз съм краен потребител и си проверявам личната поща, имам една отговорност. Ако съм банка и съхранявам финансови данни на стотици хиляди клиенти, е много по-различна отговорност. Всеки един от нас, дали работим за корпорация или вършим лични дейности, трябва да е отговорен.
Трябва да сме запознати с развитието на технологиите. Трябва да знаем какви са рисковете в интернет. Каквито и да са били преди изкуствения интелект, сега те са много по-големи. Основните начини, по които виждаме атаките да успеят, са чрез социално инженерство, което става още по-рисковано с появата на изкуствения интелект. Тоест, когато направим грешка, подведем се по нещо, което има за цел да ни подмами и реагираме по начин, по който даваме достъп на злонамерен човек до нашите ресурси. Повечето атаки са успешни именно през хора, които правят такава грешна стъпка. Хубаво е всички да знаем, че с тези нови технологии е много по-лесно да имитираме до перфектност съдържание, имейли, текст.
Досега, когато получим фалшив имейл от институция или банка, виждахме нетолкова добър български език или некоректна информация. Новите технологии позволяват съдържанието да стане толкова добро, че и на най-добрите експерти да им е трудно да различат дали е истинско или не. Трябва да споменем и друго. Помните телефонните измами, когато някой се правеше, че е наш близък. С тези технологии това ще стане още по-лесно.
Затова всички ние трябва да сме в час какво се случва и как тези рискове се развиват и стават все по-големи. Съответно трябва да бъдем много по-критични към всичко, което получаваме и да не се доверяваме на това, което ни се праща от къде ли не, дори и от хора, които са ни близки. Всеки един от нас трябва да се обучи. Обучаването на хората, на децата, учениците, студените, за това как да се държат в интернет е изключително важно и се надявам да видим все повече дейности както на държавата, така и на фирмите в тази посока.
Могат ли хората да разчитат на AI да им помага?
- Могат, стига да знаят как. Това пак е въпрос на обучение. Много хора вече го правят. Наблюдаваме все повече как, когато някой сподели картинка или видео в социалните мрежи, хората питат изкуствения интелект дали е истинско или не и очакват той да им каже дали е, или не е, на базата на конкретни аргументи. Има как всеки от нас да проверява това, но за целта трябва да знаем, че такъв инструмент за проверка съществува и че можем да го използваме.
Платформата за Gemini Enterprise Agent Platform позволява на всяка компания да създаде агенти или да използва съществуващи. Виждаме все повече компании да създават свои агенти и да ги продават като продукт. Тази платформа позволява създаването на контекст. Агентите използват данните в рамките на фирмата и дават релевантната информация, която да е от полза за развиването на бизнеса. Предоставят и необходимата степен на сигурност, която да защити данните, агентите и фирмата да е сигурна, че са използвани по правилния начин.
Тези платформи за важни и по една друга причина. Наблюдаваме едно много масово явление в България. Много хора, които са служители в различни фирми, разчитат на личните си профили в чат приложенията, за да вършат своята професионална работа. Например да им напише служебен имейл, или да качат корпоративен документ, като на негова база да се създаде презентация или друго съдържание. Това се нарича shadow IT и е риск за сигурността.
На практика служителите изнасят корпоративна информация и я качват в платформи, които не предоставят степента на защита, които предоставят корпоративните системи. Какъвто и документ да се качи, дори конфиденциален, в такава платформа, която е насочена повече към крайни потребители, този документ ще бъде използван за обучаването на модела - това е голям риск за бизнеса. За съжаление, това е масово явление в България и не само
Gemini Enterprise Agent Platform предотвратява това. Данните остават защитени в корпоративната среда, не се използват за обучение и не се изнася информация никъде. Много е важно да се разбере този риск. Ефектите, че някой качва корпоративни документи и ги използва за рутинна работа в общи платформи, ще ги наблюдаваме след време, едва когато видим информацията вече изтекла и не можем да кажем на модела да премахне информацията. Тогава ще разберем риска, но ще е късно.
Много е важно бизнес лидерите да вземат правилните решения. Очевидно е, че служителите искат да използват такива системи, така че те трябва да бъдат предоставени в нужната среда и степен на сигурност. Shadow IT не е явление от днес. Това е практика от много време. Хората постоянно използват стандартни приложения за служебна дейност, но така документите вече не са под контрола на фирмата. Всичко опира до това, че служителите искат да използват новите технологии, не могат да чакат. Затова трябва да бъдат обучени и ако фирмите не действат достатъчно бързо, за да предоставят решенията, хората си намират начин как да си свършат по-лесно работата сами.
