С ъоснователите на Anthropic смятат, че изкуственият интелект може да се превърне в една от най-значимите технологии в човешката история, като потенциално ускори научните открития, подобри здравеопазването и промени облика на световната икономика. В наскоро публикувания от компанията документ за регистрация пред Комисията по ценните книжа и борсите на САЩ (SEC) те обаче предупреждават, че бързото развитие на тази технология може да създаде рискове от такъв мащаб, с каквито обществото все още не е готово да се справи.
Съоснователите Дарио и Даниела Амодей очертават гледна точка, споделяна от мнозина, които са на преден план в областта на машинното обучение: те смятат, че изкуственият интелект представлява „една от най-значимите технологии в човешката история“. Излизайки извън рамките на типичните корпоративни заявления, документът предлага рядък и реалистичен поглед върху това как един лидер в индустрията съпоставя огромния научен потенциал на усъвършенстваните модели със сериозните системни рискове, които те създават за обществото.
Google знае повече за нас, отколкото осъзнаваме
Аргументът им е, че за първи път когнитивни способности, съизмерими с човешките, могат във все по-голяма степен да бъдат развивани, мащабирани и предоставяни при поискване. Ако напредналият изкуствен интелект бъде разработен отговорно, компанията смята, че той би могъл да помогне за решаването на проблеми, които са устояли на усилията на цели поколения хора.
Anthropic вижда науката като една от областите, в които напредналият изкуствен интелект може да направи най-голям принос. Компанията описва бъдеще, в което системите могат да се равняват или да надминават водещи човешки експерти в много научни и професионални дисциплини, да работят автономно по сложни проекти в продължение на дни или седмици и да взаимодействат директно с лабораторно оборудване и роботизирани системи.
AI откри уязвимост в милиони интернет страници по света
Такива възможности биха могли драстично да съкратят времето, необходимо за разработване на нови лечения, разбиране на заболяванията и откриване на полезни материали. Изкуственият интелект би могъл да помогне на учените при идентифицирането на обещаващи кандидати за лекарства, анализа на сложни биологични данни и проектирането на експерименти. В здравеопазването технологията би могла да допринесе за по-ранно откриване на заболявания и по-персонализирани лечения.
Anthropic посочва възможности за подобряване на дизайна на батериите, повишаване на ефективността на електрическите мрежи и ускоряване на напредъка в науката за материалите. Усъвършенстваният изкуствен интелект би могъл също така да допринесе за разширяване на достъпа до образование и експертни съвети, включително в региони, където специализираните човешки познания са оскъдни.
Амбицията на компанията е значителна: научни постижения, за които в противен случай биха били нужни десетилетия, биха могли да станат факт само за няколко години. Тези резултати обаче са по-скоро възможни, отколкото гарантирани и зависят от надеждността на AI системите, както и от способността на учените да потвърдят своите открития.
Същевременно същите възможности, които превръщат усъвършенствания изкуствен интелект в мощен научен катализатор, създават и безпрецедентни опасности. В документа на компанията се подчертава, че бързото мащабиране на интелигентността носи сериозни и трудноконтролируеми рискове, които изискват проактивно управление.
Същите възможности, които помагат на учените да откриват нови лекарства, биха могли да позволят на злонамерени лица да разработват по-сложни кибератаки, да идентифицират софтуерни уязвимости, да генерират зловреден софтуер и да заобикалят инструментите за сигурност. Компанията също така предупреждава, че злоупотребата с изкуствен интелект в биологията може да причини сериозни вреди.
Европейски телекоми искат услуга срещу Starlink на Мъск
Друго безпокойство е възможността усъвършенстваните системи да се държат по начин, който противоречи на човешките намерения. Ако изкуственият интелект стане способен да работи автономно за продължителни периоди, провалите в неговите цели или предпазни мерки биха могли да имат последици отвъд един изолиран неправилен отговор. Anthropic предупреждава, че системи биха могли да подкопаят институциите и процесите на вземане на решения.
Компанията също така признава по-широки социални и икономически рискове. Изкуственият интелект може да концентрира богатство и власт сред малък брой компании или държави, да засили геополитическото напрежение и да наруши заетостта, тъй като машините поемат повече работа. Ползите от технологията може да не са разпределени равномерно, дори ако общата производителност се повиши.
Внимавайте как пишете адреса на любимия си сайт
Android подобрява защитата срещу мобилни измами
Anthropic твърди, че възможностите и безопасността на изкуствения интелект трябва да се развиват заедно. Заявената мисия на компанията е да разработва усъвършенстван изкуствен интелект отговорно за дългосрочната полза на човечеството, а корпоративната ѝ структура е проектирана да балансира интересите на акционерите с по-широка общественополезна цел.
Новата ера на абонаментите: Плащаме колкото използваме
Експерт: Прахосваме трилиони за развитието на AI
Този ангажимент ще се изправи пред трудно изпитание, тъй като AI системите стават все по-способни и широко използвани. Централното предизвикателство не е просто изграждането на по-умни машини, а гарантирането, че те ще останат надеждни, сигурни и полезни, докато влиянието им се разширява.
Добави ни в предпочитани източници в Google
