Б ившият изследовател в Google DeepMind Билал Чугтай предупреди, че човечеството има все по-малко време да предотврати катастрофалните последици от развитието на изкуствения интелект.
Той се превърна в поредния специалист, напуснал компанията поради опасения относно посоката, в която се развива технологията, според негова публикация в социалната мрежа X.
Изявлението на Чугтай се присъединява към поредица от подобни предупреждения от други водещи специалисти в областта, които посочват неконтролираното развитие на възможностите на суперинтелекта.
Какво се случи преди това?
Напускания от Anthropic и OpenAI: Този месец разработчикът Джейкъб Коксън напусна поста си, обвинявайки и двамата си бивши работодатели, че „си играят с човешки животи“ заради агресивната надпревара за създаване на суперинтелект.
Есето на Дарио Амодей: В края на седмицата главният изпълнителен директор на Anthropic Дарио Амодей публикува обширен текст, в който призова общността да забави развитието на най-напредналите системи, за да се избегне загубата на контрол върху тях.
Подкрепа от лидерите в индустрията: В рядък знак на солидарност, призивът за предпазливост на Амодей беше публично подкрепен от главния изпълнителен директор на OpenAI Сам Алтман и ръководителя на AI направленията в SpaceX Илон Мъск.
„Оптимист съм, че безопасното управление на изкуствения интелект е възможно. За да го постигнем обаче, трябва да се координираме, за да избегнем тази маниакална надпревара между AI компаниите“, написа Чугтай.
„Трябва да съобразим темпото на развитие на изкуствения интелект със скорост, с която обществото може да се справи и при която възникващите рискове могат да бъдат отстранени преди нанасянето на крайни щети. Нуждаем се от много повече прозрачност в развитието на AI, за да гарантираме, че компаниите не ни налагат неприемливи нива на риск“, добави той.
Търсене на решения и безопасно управление
Въпреки сериозността на опасенията си, Билал Чугтай остава оптимист за възможността технологията да бъде направлявана безопасно занапред. Според актуализираната информация в профила му в LinkedIn, след като напуска Google DeepMind, той се присъединява към неправителствената организация BlueDot Impact.
В новата си роля Чугтай ще се фокусира върху обучението на специалисти от различни области в методи за гарантиране на безопасността и контрола върху изкуствения интелект.
