А ко пиесата „Юлий Цезар“ беше дебютирала тази година, Уилям Шекспир можеше да бъде обвинен, че я е написал с помощта на изкуствен интелект. Едно конкретно и подозрително риторично средство се появява отново и отново в произведението. В Действие I, Сцена ii: „Вината, драги Бруте, не е в нашите звезди, а в самите нас“. В Действие III, Сцена ii: „Не че обичах Цезар по-малко, а че обичах Рим повече“. И малко по-късно в същата сцена: „Идвам да погреба Цезар, а не да го възхвалявам.“
Тези известни реплики съдържат това, което се превърна в може би най-разпознаваемия навик на писането с ИИ – изречение, което ви казва какво субектът не е, както и какво всъщност е: Това не е X, а е Y. Веднъж щом започнете да забелязвате тази конструкция, ще я виждате навсякъде. В една от версиите „Y“ има надграждащ характер – той фокусира, засилва или разширява значението на „X“. В годишен отчет на „Citizens Financial Group“ се посочва, че растежът в отдела им за частно банкиране е бил „не просто победа за частната банка – това е победа за цялото предприятие“. В друг вариант „Y“ измества „X“ като по-предпочитано описание. „Целта никога не е била един човек. Целта беше истината“, написа Майкъл Флин, бивш съветник на Доналд Тръмп, в публикация в платформата X през март, пише Уил Оремус за The Atlantic.
Съществуват и конструкции като Без А, без B, просто C, които изглежда се появяват особено често в художествена литература, генерирана от ИИ. Изречения като „Без чанта, без вещи, без броня, просто аз“ помогнаха за разпалването на обвинения в използване на ИИ при писането на хорър романа Shy Girl, който беше изтеглен от издателя си тази година. (Авторът на книгата отрече да е използвал ИИ. От „Citizens Financial Group“ по-рано заявиха, че техният комуникационен екип „използва технологията в редица области“. Флин не отговори на запитването за коментар.)
Разпространението на този прийом не е просто анекдотично наблюдение – то е измеримо. Списание „Barron's“ съобщи, че появата му в корпоративните комуникации се е увеличила повече от четири пъти от 2023 до 2025 г. Изследователи от Pangram, компания за инструменти за откриване на ИИ текстове, изчисляват, че изреченията от типа Не просто X, а Y се срещат три пъти по-често в текстове, написани от ИИ, отколкото в тези, написани от хора. Елиас Масрур, съосновател и инженер в Pangram, ми сподели, че всички основни чатботове – включително ChatGPT, Claude, Gemini и различни модели с отворен код – разчитат на тази конструкция в различна степен.
Много други добре известни издайнически белези на чатботовете – като например прекомерната употреба на думата delve (вниквам/задълбочавам се) – се появяваха и изчезваха, докато компаниите за ИИ усъвършенстваха моделите си и изчистваха дефектите. Миналата есен ChatGPT разви истинска мания по „гоблини и гремлини“, което наложи нова намеса: OpenAI пенсионира „зубраческата“ индивидуалност на ChatGPT, чието влечение към митични същества очевидно беше инфектирало и останалите им модели. Въпреки това конструкцията Това не е X, а е Y не показва никакви признаци на затихване.
Преди появата на ChatGPT тази фразеологична структура беше толкова слабо забележима, че дори нямаше общоприето име. Сега се води истинска борба как да бъде наречена. Термини от академичните среди, като антитеза и металингвистично отрицание, обхващат някои форми на конструкцията, но не и други. В имейл Лауренция Романюк, продуктов мениджър за поведението на моделите в OpenAI, я нарече „контрастиращо изказване“. Въпреки своята тромавост, най-популярното име, на което съм попадал, е „негативен паралелизъм“.
Когато се използва умерено, негативният паралелизъм може да бъде много въздействащ. Но ChatGPT прибягва до него твърде често, признава Романюк, което може да направи изказа шаблонен. Поради тази причина компанията работи по начини за разширяване на репертоара на чатбота. Междувременно, добавя тя, потребителите могат да опитат да дадат на ChatGPT „персонализирани инструкции“. В Reddit форум, посветен на писането с ИИ, потребителите обменят съвети как да изчистят негативния паралелизъм от текстовете на ботовете. Един от тях предлага съдържанието, генерирано от Claude, да се постави в друг ИИ чатбот с инструкцията да влезе в ролята на редактор, който има строга забрана за „негативни двойки“ като „не беше X, а беше Y“.
Една от пречките пред намирането на по-цялостно решение е, че никой не изглежда сигурен защо точно моделите на ИИ са толкова влюбени в негативния паралелизъм на първо място – може би дори и самите компании, които са ги създали. (Anthropic и Google не отговориха на запитванията ми за интервю.)
Най-простата теория е, че хората са ги обучили така. Големите езикови модели се изграждат, като първо се идентифицират модели в невъобразими количества текст, написан от хора: книги, научни трудове, патентни заявки и най-вече интернет пространството. Негативният паралелизъм, разбира се, е присъствал в първоначалните данни за обучение. Като изключим Шекспир, има много известни примери: през 60-те години легендарният футболен треньор Винс Ломбарди популяризира фразата, че „победата не е всичко; тя е единственото нещо“. През 90-те години рекламите на марка замразени пици настояваха: „Това не е доставка. Това е DiGiorno.“
Но данните за обучение съдържаха и много лошо писане, което ИИ компаниите не искат техните чатботове да имитират, сподели Тухин Чакрабарти, професор по компютърни науки в Университета Стони Брук, който изучава писането на ИИ. Затова моделите преминават и през „обучение с подкрепление“ – процес, при който оценители хора оценяват отговорите им. Чрез проба и грешка чатботовете се насочват далеч от неподходящи отговори (измисляне на факти, даване на незаконни съвети, обиждане на потребителя) и към такива, които са оценени като полезни. Чакрабарти смята, че е напълно вероятно оценителите хора да са давали високи оценки на отговори, които включват Това не е X, а е Y. Това може да се дължи на факта, че негативният паралелизъм създава усещане за нюансираност и проницателност: ИИ изглежда сякаш разсъждава, преминавайки от по-слабо описание към по-подходящо такова.
Това все пак може да не е достатъчно, за да обясни колко широко разпространена изглежда тази конструкция сред основните ИИ модели. Няколко експерти, с които разговарях, ме насочиха към друго, още по-странно обяснение.
Макар чатботовете да са напреднали драстично в своите изследователски и мисловни способности, те все още са фундаментално машини за предсказване на текст. Те генерират отговори „токен“ по „токен“ – или парче текст по парче текст – въз основа на това, което е било написано преди това. Всеки следващ избор на дума се съобразява както със статистическата вероятност тази дума да бъде следващата в поредицата (въз основа на моделите в оригиналните данни за обучение), така и с вероятността тя да доведе до цялостен отговор с висока оценка. С други думи, моделите винаги търсят баланс между умния избор на дума и очевидния такъв.
Когато чатботът използва негативен паралелизъм, според тази теория, той на практика прави компромис и се застрахова между двете крайности. След като веднъж е започнал изречение, чиято функция е да характеризира нещо, пътят на най-малкото съпротивление е първо да каже какво това нещо не е (X), и чак след това какво е (Y). Казано по друг начин: за изречение, което започва с „Това е“, продължението с „не просто“ е едновременно по-вероятно статистически и по-безопасно, отколкото множеството други опции за директно характеризиране на обекта. А след „Това е не просто“, останалата част от изречението също става по-лесна. Следващата дума може да бъде „X“ – скучното, очевидно описание, което се отрича – което от своя страна подготвя сцената за финалния избор на „Y“, малко по-въздействащото описание.
Дори изследователите да успеят да разберат защо точно чатботовете толкова много харесват негативния паралелизъм, съществува друг фактор, който би направил проблема изключително труден за отстраняване: „Когато нещо влезе в тези модели, е много трудно да го извадиш“, казва Масрур, инженерът от Pangram. Това е така, защото един от основните начини, по които ИИ моделите продължават да се развиват, е чрез обучение върху текстове, генерирани от други ботове. Този ИИ текст вероятно е препълнен с негативен паралелизъм, което допълнително го вкоренява в по-новия модел. Сега вземете предвид факта, че все по-голяма част от текстовете в интернет също са генерирани от ИИ. Това също се превръща в данни за обучение на бъдещите поколения технологии.
На всичкото отгоре някои лаборатории за ИИ използват изкуствен интелект вместо или в допълнение към човешките оценители в процеса след първоначалното обучение, посочва Чакрабарти. Без външна намеса съществува риск от „срив на модела“, при който ИИ засилва собствените си пристрастия до такава степен, че губи връзка с човешките данни, които е трябвало да служат за негова основа. „Това е много порочен кръг. В текстовете вече има негативен паралелизъм, а след това ИИ започва да го предпочита – стига се до момент, в който той просто не може да пише без него“, казва Чакрабарти. Езикът на изкуствения интелект изяжда собствената си опашка.
Клишетата на чатботовете може и да са дразнещи, но в тях има и нещо положително: те улесняват разграничаването на текстовете на ИИ от тези, написани от хора. Масрур споделя, че макар специфичните маркери на ИИ писането да се променят непрекъснато, за софтуера на Pangram всъщност не става по-трудно да ги засича. Упоритото оцеляване на конструкции като негативния паралелизъм може да е една от причините за това.
Компромисът за хората писатели е, че едно някога силно риторично средство сега се е превърнало в клише, което ви кара да звучите като бот. Това постави някои хора в неловката позиция да настояват, че не използват ИИ – просто така си пишат. Преди да им се присмеете за това, имайте предвид, че вие също скоро може да се уловите, че говорите и пишете повече като машина: скорошно проучване на изследователи в Германия показва, че навиците на писане на ИИ вече се появяват все по-често в спонтанните разговори между хората. Ако това продължи, може би негативният паралелизъм в крайна сметка ще загуби статута си на издайнически белег за намесата на ИИ. Вината, скъпи читатели, ще бъде не в нашите чатботове, а в самите нас.
Добави ни в предпочитани източници в Google
