У чени откриха десетки рецензирани научни публикации, съдържащи напълно измислен термин, който не съществува в научния дискурс. Абсурдният израз е възникнал в резултат на грешки при оптичното разпознаване на знаци (OCR) и машинния превод, а по-късно е проникнал в базите данни, използвани за обучение на модели с изкуствен интелект, съобщава изданието Futura.
Призрачното понятие: От печатна грешка през 50-те години до Иран
Всичко започва през 50-те години на XX век, когато два материала от списанието Bacteriological Reviews са дигитализирани.
Поради грешка при оптичното сканиране на текста, думата „вегетативен“ (vegetative) от едната колона се слива с думата „електронен“ (electron) от съседната колона. Това води до създаването на фиктивната и несъществуваща в науката фраза „вегетативна електронна микроскопия“ (vegetative electron microscopy).
В продължение на десетилетия този „призрак“ остава незабелязан, докато не изплува отново в резюмета на ирански научни публикации на английски език през 2017 г. и 2019 г.
Причината този път е преводаческа грешка: на персийски език (фарси) думите за „вегетативен“ и „сканиращ“ се различават само по един диакритичен знак. Тази малка грешка вкарва фалшивия израз в международния научен оборот.
„Заразата“ на моделите с изкуствен интелект
Според данните в Google Scholar безумният термин се е появил в най-малко 22 научни публикации.
Изследователите решават да проверят дали езиковите модели са погълнали тази грешка.
По време на тестове с откъси от оригиналните статии моделът GPT-3 автоматично е довършвал изреченията с израза „вегетативна електронна микроскопия“, докато по-стари системи като GPT-2 или BERT не са показвали такава тенденция.
Аномалията продължава да съществува и в по-новите версии - GPT-4o и Claude 3.5 на Anthropic.
Основният източник на тази „инфекция“ се оказва масивната база от данни с отворен код Common Crawl, която се използва за обучение на повечето съвременни невронни мрежи.
Защо „дигиталните фосили“ са опасни за науката?
Този случай показва колко уязвими са алгоритмите на AI към системни грешки от миналото.
Съвременните автоматизирани инструменти за проверка на текст вече използват фразата „вегетативна електронна микроскопия“ като ясен маркер, че съдържанието е генерирано от изкуствен интелект.
Въпреки това подобни системи са способни да откриват единствено грешки, които вече са били идентифицирани от хора.
За да се запази интегритетът на научната работа, експертите призовават разработчиците на AI да отворят базите си данни за обучение, а научните издателства да затегнат рецензирането, за да се предотврати самовъзпроизвеждането и затвърждаването на фалшиви данни в цифровото пространство.
