В Силициевата долина и Вашингтон се разгърна мащабен дебат относно темпото на развитие на изкуствения интелект. Видни ръководители в сферата, като изпълнителните директори на Anthropic и OpenAI, съответно Дарио Амодей и Сам Алтман, публично се обявиха за „регулиране на темпото на напредък при най-мощните системи“. Те настояват, че индустрията трябва да забави скоростта на усъвършенстване на базовите възможности на AI, за да се осигури необходимото време на механизмите за безопасност, оценка и съгласуване на целите да наваксат изоставането си.
Опитите за институционализиране на забавяне на темпото в целия сектор обаче срещат остра съпротива от страна на политически фигури, критици и геополитическите реалности. Дебатът подчертава дълбокото разминаване между корпоративния стремеж към ограничаване на риска и решителния национален императив за запазване на технологичното господство на САЩ.
Как да спестим още време с помощта на Google Maps
Изпълнителният директор на Anthropic Дарио Амодей призова компаниите да „дозират темпото“ на развитие, като изтъкна, че на мерките за безопасност е необходимо време, за да настигнат бързо усъвършенстващите се модели. Предложението му не означава отказ от разработването на изкуствен интелект, а по-скоро призовава за по-премерен подход, включващ независими оценители на безопасността и по-добра координация между компаниите.
Забележителното е кой подкрепи този аргумент. Изпълнителният директор на OpenAI Сам Алтман и Илон Мъск подкрепиха елементи от предложението на Амодей, създавайки рядък момент, в който конкуриращи се компании изглежда са съгласни, че надпреварата се нуждае от допълнителни мерки за безопасност. Предложението бързо спечели подкрепата и на други лидери в бранша, включително Демис Хасабис от Google DeepMind и изпълнителния директор на Microsoft Сатя Надела.
В публично изявление в платформата X Надела подчерта, че свръхинтелектът трябва да остане под човешки контрол, като заяви, че ако изкуственият интелект не е в полза на човечеството, „не си струва да се развива“. Надела подкрепи концепции като „вградени оценители“ и умишлено забавено темпо на развитие за постигане на правилно съгласуване с човешките ценности, като наблегна на това, че управлението не бива да бъде в ръцете на шепа организации, а трябва да включва широко представителство на академичните среди, държавите и екосистемите за софтуер с отворен код.
iPhone Duo въвежда Apple при сгъваемите смартфони
OpenAI обяви начало на ерата на общия AI с GPT-6 Astra
Въпреки подкрепата от страна на ръководители на водещи технологични компании, политическият консенсус в Белия дом и сред консервативните политици остава твърдо против налаганото от държавата забавяне на темпото. Администрацията на Тръмп, застъпваща се за технологична политика, насочена към дерегулация и принципа „Америка на първо място“, последователно се стреми да ускори развитието на националния капацитет в сферата на изкуствения интелект, вместо да го ограничава с регулаторна бюрокрация.
Това е в основата на аргументацията на президента Доналд Тръмп. Той отхвърли призивите за забавяне на темпото, като заяви, че Съединените щати трябва да запазят водещата си позиция в сферата на изкуствения интелект, вместо доброволно да дават възможност на Китай да ги настигне. Тръмп изтъква, че страната, която спечели надпреварата в областта на изкуствения интелект, ще си осигури огромно стратегическо предимство, както и че прекомерното регулиране би могло да подкопае американската конкурентоспособност.
Дейвид Сакс, председател на Президентския съвет на съветниците по наука и технологии, остро се противопостави на призивите за по-мащабна намеса от страна на федералното правителство. В директен отговор към Амодей и Алтман, Сакс заяви, че ако водещите лаборатории смятат, че техните все още непубликувани модели крият сериозни рискове, те трябва доброволно да спрат внедряването им, вместо да изискват нови регулаторни рамки от Вашингтон.
Внимавайте с какви AI чатботове си говорите
Зукърбърг очаква AI да доведе до повече работници
Сакс изтъква, че настояването за забавяне на темпото е продиктувано до голяма степен от търговски интереси и опасения относно корпоративната отговорност за качеството и безопасността на продуктите, особено след нашумели инциденти със сигурността и прояви на непредвидимост при отделните модели. Той предупреди, че искането за налагане на държавни регулаторни бариери като условие за безопасност по-скоро прилича на „регулаторно пленяване“ или на опит за затвърждаване на съществуващото пазарно господство, отколкото на желание за сигурност.
Това създава неудобно противоречие за индустрията. Една компания може да реши да забави собственото си развитие, но Китай не е длъжен да я следва. Нито пък всяка американска компания за изкуствен интелект е длъжна да се съгласява с конкурентите си за това какво представлява безопасно темпо.
Самият Амодей признава китайската дилема. Неговият аргумент е по същество, че Съединените щати не е задължително да избират между безопасност и технологично лидерство. Ограниченията върху мощните чипове за изкуствен интелект и оборудването за производство на полупроводници, съчетани с действия срещу техники, използвани за възпроизвеждане на възможностите на усъвършенствани модели, биха могли потенциално да забавят напредъка на Китай достатъчно, за да може Америка да запази предимството си, като същевременно даде на индустрията повече време за подобряване на безопасността. Това е нещо съвсем различно от това просто да се натисне бутонът за пауза при изкуствения интелект.
И младите започнаха да се притесняват от възхода на AI
Мъск: AI може да стане невъзможен за контрол
Дебатът става все по-належащ и поради факта, че опасенията вече не са чисто теоретични. Системите с изкуствен интелект придобиват все по-голяма способност да функционират автономно, докато изследователи и бивши служители в сектора предупреждават за рискове от злоупотреби, кибератаки и възможността бъдещите системи да станат трудни за контролиране.
AI агентите ще са кошмарът на киберсигурността
Meta ще плати до 18 млрд. долара, за да пази децата
Амодей изтъква, че водещите компании в областта се нуждаят от независим надзор именно защото последиците от евентуални грешки при прехода към следващия етап на развитие биха могли да бъдат огромни. За първи път най-големият въпрос относно изкуствения интелект може би не е колко бързо той може да се развива, а дали някой може да убеди останалата част от света да се развива със същата скорост.
Добави ни в предпочитани източници в Google
