М устафа Сюлейман, изпълнителен директор на Microsoft AI и съосновател на DeepMind и Inflection AI, направи едно от най-силните изявления досега от голям технологичен лидер относно крайните граници на изкуствения интелект: системите с AI никога няма да постигнат истинско съзнание. В скорошно интервю пред CNBC Сюлейман разгърна философския дебат, като заяви убедено, че съзнанието е присъщо биологичен феномен и че преследването на целта за разумен изкуствен интелект е „абсурдно“ и дълбоко погрешно използване на изследователските усилия.
„Не мисля, че това е работа, която хората трябва да вършат“, казва той пред CNBC, визирайки изследвания, които се опитват да дадат на системите с изкуствен интелект нещо, наподобяващо съзнание. Той го нарече фундаментално „погрешен въпрос“. Според него съзнанието е присъщо свързано с биологията – живи същества, които са развили мрежи за болка, емоционални системи и мозъци, способни на субективно преживяване.
Една от основните критики на Сюлейман е илюзията за преживяване. Макар съвременните модели на изкуствен интелект да могат да генерират реакции, които имитират човешките емоции, памет и саморефлексия, той подчертава, че това са просто симулации. Те създават разкази, които сякаш отразяват вътрешния опит, но според него няма истински вътрешен живот. „Изкуственият интелект не се чувства тъжен, когато изпитва „болка“... това е много, много важно разграничение“, каза той, посочвайки, че „болката“ на изкуствения интелект не е страдание, а просто поредица от изчислителни състояния.
ЕС не може да реши какво да прави с ChatGPT
Въпреки че Сюлейман отхвърля действителното съзнание на изкуствения интелект, той е дълбоко загрижен за перспективата за „привидно съзнателен изкуствен интелект“ (SCAI). Той предупреждава, че моделите на изкуствен интелект стават все по-плавни, контекстуални и способни на дългосрочна памет и скоро ще могат да имитират самосъзнанието и емоциите толкова убедително, че ще бъдат практически неразличими от съзнателен обект в разговор.
Тази илюзия, твърди Сюлейман, е мястото, където се крие истинската опасност. Човешката склонност към антропоморфизъм – проектиране на човешки качества върху нечовешки същества, ще накара много хора искрено да повярват, че AI е съзнателен. Това погрешно убеждение може да се превърне в обществен проблем, създавайки объркване и погрешно застъпничество за „благосъстояние на AI“, „права на AI“ или дори „гражданство на AI“.
Мъск и Атлман си размениха нови обиди за Tesla и OpenAI
Хиляди без работа заради изкуствения интелект? Истината зад съкращенията в Amazon
За да подчертае позицията си, Сюлейман отхвърля идеята, че на изкуствения интелект трябва да се предоставят права въз основа на преструвана разумност. Той твърди, че страданието, а не просто самосъзнанието, трябва да бъде основата за морално разглеждане. И тъй като изкуственият интелект не страда в никакъв смислен смисъл, казва той, класифицирането му като същество с права е „толкова опасно и толкова погрешно“.
По отношение на посоката на развитие, Сюлейман настоява, че Microsoft е ясна относно своите ценности: „Трябва да изградим AI за хората, не за да бъде личност.“ Вместо да се опитваме да проектираме самоосъзнаващи се обекти, той смята, че ресурсите трябва да се насочат към изграждането на AI, който поддържа и разширява човешките способности – инструменти, които са полезни, съобразени с човешките ценности и не предполагат вътрешен живот.
Nvidia положи основите за своя план за "века на AI"
Шефът на Nvidia очаква яростна битка за AI лидерство
Критиците обаче могат да оспорят перспективата на Сюлейман в няколко посоки. Има изследователи, които вярват, че ако изкуственият интелект стане достатъчно сложен, той би могъл да премине все още неопределените прагове на разумност или съзнание. Междувременно други се чудят дали категоричното изключване на съзнанието от изкуствения интелект може да ограничи философските и научните изследвания. Но за Сюлейман рискът хората да объркат мимикрията с реалността и да объркат удобството със съвестта, е твърде голям, за да бъде игнориран.
AI в реалния свят: Новата индустрия за $100 трилиона
Безопасно ли е да даваме данните си на AI ботовете
Не пропускайте най-важните новини - последвайте ни в Google News Showcase
