И зкуственият интелект, рекламиран като най-добрият инструмент за повишаване на производителността на служителите и оптимизиране на бизнес операциите, по ирония на съдбата сега се използва от самите служители за извършване на сложни измами с разходи, съобщават Financial Times и PYMNTS. Появата на леснодостъпен и мощен генеративен изкуствен интелект, особено усъвършенствани модели за генериране на изображения като тези на Google и OpenAI, превърна това, което някога беше сложна измама, изискваща умения за Photoshop, в проста, текстово подканена фалшификация. Тази лекота на създаване на фалшиви, генерирани от изкуствен интелект, документи, се превърна в значителен и нарастващ проблем за бизнеса, подкопавайки доверието и представлявайки сериозна заплаха за целостта на корпоративното управление на разходите.
Числата са тревожни. Платформите за софтуер за управление на разходи отчитат драматичен скок в измамните документи. Според доклади, цитирани от PYMNTS, един доставчик на софтуер, AppZen, е отчел фалшиви касови бележки, които представляват приблизително 14% от всички измамни документи, подадени през последния месец, в сравнение с нула през предходната година.
OpenAI иска да завладее интернет със свой браузър
Друга платформа, Ramp, се похвали, че новият ѝ софтуер е хванал над 1 милион долара измамни фактури само за 90 дни. Това увеличение е пряко свързано с пускането на по-усъвършенствани модели за генериране на изображения. Платформите за управление на разходи сега се сблъскват с толкова убедителни касови бележки с реалистични текстури на хартията, подробни списъци и четливи детайли, че съветват клиентите си: „Не вярвайте на очите си“.
Това явление разкрива дълбок негативен външен ефект на изкуствения интелект: вместо да помага изключително на организациите, той намалява бариерата за навлизане на пазара за финансови нарушения. Докато преди служител, склонен към измама, е трябвало да притежава технически умения за редактиране на снимки или да плаща на външен доставчик, сега той може да създаде висококачествена, убедителна фалшификация за секунди, използвайки прости текстови команди. Тази достъпност популяризира измамите, поставяйки усъвършенстваните инструменти в ръцете на „измамници на ниско ниво“.
OpenAI стана "твърде голяма, за да се срине"
За нечестните служители това намалява бариерата за извършване на измама: те могат да помолят изкуствен интелект да „ми направи фалшива касова бележка от ресторант за 150 долара“ и да получат приемливо изглеждащо изображение за секунди. Някои компании вече виждат последиците. Според PYMNTS все по-голям брой организации казват, че са се натъкнали на подозрителни документи, подадени от служители. Ако не бъдат проверени, тези измамни твърдения могат да източат бюджетите и да създадат напрежение между финансовите екипи и персонала.
Мicrosoft обяви кои 40 професии са най-застрашени от AI
Шефът на Nvidia очаква яростна битка за AI лидерство
Един от най-тревожните последици е не само финансов, но и репутационен. Когато служителите злоупотребяват с изкуствен интелект, това уронва вярата в самата технология. Лидерите може да започнат да се чудят: ако изкуственият интелект може да се използва за заблуда толкова лесно, наистина ли трябва да разчитаме на него за основните бизнес процеси?
Този скептицизъм може да забави по-широкото му внедряване. Компаниите може да забавят внедряването на полезни инструменти с изкуствен интелект, страхувайки се, че злоупотребата ще надделее над печалбите от производителността. Притеснението е, че изкуственият интелект, широко рекламиран като бъдещето на ефективността, може да бъде оценяван по потенциала си за злоупотреба.
Тази тенденция подчертава една по-голяма истина: изкуственият интелект не е по своята същност добър или лош – той е инструмент и като всеки инструмент може да бъде използван като оръжие. Същите модели, които повишават креативността и производителността, могат да бъдат превърнати и в машини за измами.
ChatGPT се превръща в суперприложение за всичко
Безос: AI е балон, но въпреки това ще е революция
За бизнеса ключът не е да се откаже от изкуствения интелект, а да се изградят по-интелигентни предпазни средства. За да защитят както финансите си, така и доверието, което позволява по-широкото използване на изкуствения интелект, компаниите трябва да адаптират системите си за свят, в който „да видиш вече не означава да вярваш“.
AI в реалния свят: Новата индустрия за $100 трилиона
Безопасно ли е да даваме данните си на AI ботовете
Не пропускайте най-важните новини - последвайте ни в Google News Showcase
