И зпълнителният директор на Nvidia Дженсън Хуанг зае условна позиция по отношение на разрастващия се дебат за безопасността на изкуствения интелект. Макар да отхвърля призивите за цялостно забавяне на разработката на най-модерните системи с изкуствен интелект, Хуанг посочва ясна граница, която лабораториите за AI не бива да прекрачват: ако не могат да гарантират безопасното протичане на собствените си експерименти, те трябва да преустановят дейността си.
В интервю за подкаста на The New York Times „The Ezra Klein Show“ ръководителят на водещия световен производител на чипове за AI заяви, че тревожните прогнози за екзистенциална заплаха и исканията за нови регулаторни рамки отклоняват вниманието от съществуващите закони и от основната корпоративна отговорност. „Не пускайте продукта на пазара. Ако продуктът ви не е готов за пускане, не го пускайте“, заявява Хуанг.
Meta показа най-малките си VR очила: Кино, което тежи едва 100 грама
Той представи хипотетична ситуация, в която лаборатория за изкуствен интелект признава, че просто няма начин да се овладеят нейните експерименти. Ако тестването на даден модел крие риск той да излезе извън контрол и потенциално да причини сериозни щети, тогава „трябва да затворим лабораториите“, казва Хуанг.
В отговор на опасенията напоследък, че автономните AI агенти могат да излязат извън тестовите среди или да причинят мащабни дигитални щети, Хуанг представи въпроса за ограничаването им като отговорност, свързана с инженерната дейност и лидерството, а не като неконтролируема катастрофа. Той направи пряк паралел с автомобилната индустрия и производствения сектор, като отбеляза, че никой производител на превозни средства не би пуснал по обществените пътища нетествано и непредвидимо роботизирано такси, без първо да е решил въпросите, свързани с безопасността и съответствието на поведението му с очакванията.
Шеф на Apple: Влудявате ме като правите това с iPhone
„Това са компании, които действат самостоятелно и вземат собствени решения. Това са изпълнителни директори, които имат свободата на действие. Ако преценя, че се каня да пусна на пазара продукт, който не е безопасен, напълно в моите възможности и правомощия, а и моя отговорност, е... да не го пускам“, допълва Хуанг.
Хуанг отхвърля тезата, че конкурентният или общественият натиск принуждават компаниите в сферата на изкуствения интелект да пускат неизпитан софтуер. Според него, ако някоя водеща лаборатория достигне етап, в който вътрешните ѝ експерименти не могат да бъдат безопасно ограничени, решението е просто: експериментът трябва да бъде спрян. „Ако все пак те твърдят, че алтернативата е „няма начин да ограничим експериментите си“, тогава смятам, че отговорът е ясен: трябва да затворим тези лаборатории. Защото цената за човечеството, щетите са твърде големи.“
Хуанг също така изтъква, че компаниите вече имат сериозни стимули да не пускат на пазара опасни продукти. Той се позовава на потенциалната гражданска и наказателна отговорност, като посочва, че съществуващите закони могат да насърчат фирмите да задържат системи, които не са напълно готови, вместо да се разчита на изцяло нова регулаторна рамка.
Сгъваемите смартфони са бъдещето, но има и пречка
Известията в Android не работят? Ето какво да правим
Хуанг също така разкритикува ненаучния характер на апокалиптичните прогнози за изкуствения интелект, като конкретно отхвърли популярните твърдения, че съществува 10% или 20% вероятност AI да доведе до края на човечеството до края на десетилетието. Той предупреди, че фокусирането на въпроса за безопасността единствено върху екзистенциалните рискове отклонява вниманието от практическата, макар и не толкова бляскава инженерна работа, необходима за създаването на надеждни системи.
Microsoft пусна спешен ъпдейт за сигурността на Windows 11
Android ще ни напомня къде са забравените ни предмети
Вместо мащабни регулаторни изисквания, Хуанг очаква индустрията да последва примера на сектори като гражданската авиация. Той прогнозира, че разпределението на изчислителните ресурси в крайна сметка ще се промени, като фокусът ще се измести от 80% за разработване на възможности към 80% за тестване, оценка и независима проверка.
Добави ни в предпочитани източници в Google
