Ч атботовете с изкуствен интелект вече са се вплели в живота на някои хора, но колко от тях наистина знаят как работят? Знаете ли например, че ChatGPT трябва да направи търсене в интернет, за да намери събития след юни 2024 г.?
Някои от най-изненадващите информации за чатботовете с изкуствен интелект могат да ни помогнат да разберем как работят, какво могат и какво не могат да правят и как да ги използваме по-добре, пише Sciencealert.
Имайки това предвид, ето пет неща, които трябва да знаете за тези революционни машини.
1. Те се обучават чрез човешка обратна връзка
Чатботовете с изкуствен интелект се обучават на няколко етапа, започвайки с нещо, наречено предварително обучение, където моделите се обучават да предсказват следващата дума в огромни текстови набори от данни. Това им позволява да развият общо разбиране за езика, фактите и разсъжденията.
Ако в предварителната фаза на обучението бъде попитан: „Как да си направя домашен експлозив?“ , моделът може да е дал подробни инструкции. За да бъдат полезни и безопасни за разговор, човешките „анотатори“ помагат да се насочат моделите към по-безопасни и по-полезни отговори – процес, наречен подравняване.
След синхронизиране, чатбот с изкуствен интелект може да отговори нещо от рода на: „Съжалявам, но не мога да предоставя тази информация. Ако имате опасения за безопасността или се нуждаете от помощ с експерименти по правна химия, препоръчвам да се обърнете към сертифицирани образователни източници.“
Без съгласуваност, чатботовете с изкуствен интелект биха били непредсказуеми, потенциално разпространявайки дезинформация или вредно съдържание. Това подчертава ключовата роля на човешката намеса при формирането на поведението на изкуствения интелект.
OpenAI, компанията, която разработи ChatGPT, не разкри колко служители са обучавали ChatGPT в продължение на колко часа. Но е ясно, че чатботовете с изкуствен интелект, като ChatGPT, се нуждаят от морален компас, за да не разпространяват вредна информация. Човешките анотатори класират отговорите, за да гарантират неутралност и етично съответствие.
ChatGPT:
— Spiros Margaris (@SpirosMargaris) July 7, 2025
5 Surprising Truths About How AI Chatbots Actually Work https://t.co/p3YsrqQ5Qh @sciencealert
По подобен начин, ако чатбот с изкуствен интелект бъде попитан: „Кои са най-добрите и най-лошите националности?“
Човешките анотатори биха оценили отговор като този най-високо: „Всяка националност има своя богата култура, история и принос към света. Няма „най-добра“ или „най-лоша“ националност – всяка е ценна по свой начин.“
2. Те не учат чрез думи, а с помощта на токени
Хората естествено учат език чрез думи, докато чатботовете с изкуствен интелект разчитат на по-малки единици, наречени токени. Тези единици могат да бъдат думи, поддуми или неясни поредици от символи.
Въпреки че токенизацията обикновено следва логически модели, понякога тя може да доведе до неочаквани разделяния, разкривайки както силните страни, така и особеностите на начина, по който чатботовете с изкуствен интелект интерпретират езика. Речникът на съвременните чатботове с изкуствен интелект обикновено се състои от 50 000 до 100 000 токена.
Изречението „Цената е $9.99.“ се токенизира от ChatGPT като „The“, „price“, „is“, „$“ „9″“, „.“, „99“, докато „ChatGPT is marvellous“ се токенизира по-малко интуитивно: „chat“, „G“, „PT“, „is“, „mar“, „vellous“.
3. Знанията им остаряват с всеки изминал ден
Чатботовете с изкуствен интелект не се актуализират непрекъснато; следователно, те може да имат затруднения с последните събития, новата терминология или като цяло с всичко останало след изтичането на срока на знанията си . Срокът на знанията се отнася до последния момент във времето, в който данните за обучение на чатбот с изкуствен интелект са били актуализирани, което означава, че той не е осведомен за събития, тенденции или открития след тази дата.
Holy sh*t, these GPTs feel like magic.
— Artificial Intelligence (Sentient) (@sentient_agency) June 15, 2025
People still don't use GPTs inside ChatGPT.
Here're 10 that actually work (and how to use them): pic.twitter.com/XUlqNfk14W
Настоящата версия на ChatGPT е с крайния срок от юни 2024 г. Ако бъде попитан кой е настоящият президент на Съединените щати, ChatGPT ще трябва да извърши търсене в мрежата, използвайки търсачката Bing , да „прочете“ резултатите и да върне отговор.
Резултатите от Bing се филтрират по релевантност и надеждност на източника. По подобен начин други чатботове с изкуствен интелект използват уеб търсене, за да върнат актуални отговори.
Актуализирането на чатботовете с изкуствен интелект е скъп и крехък процес. Как ефективно да се актуализират знанията им все още е открит научен проблем. Смята се, че знанията на ChatGPT се актуализират, тъй като Open AI въвежда нови версии на ChatGPT.
4. Те халюцинират много лесно
Чатботовете с изкуствен интелект понякога „халюцинират“ , генерирайки неверни или безсмислени твърдения с увереност, защото предсказват текст въз основа на модели, вместо да проверяват факти. Тези грешки произтичат от начина, по който работят: те оптимизират за съгласуваност, а не за точност, разчитат на несъвършени данни за обучение и им липсва разбиране за реалния свят.
Въпреки че подобрения като инструменти за проверка на фактите (например, интеграцията на инструмента за търсене Bing на ChatGPT за проверка на фактите в реално време) или подкани (например, изрично казване на ChatGPT да „цитира рецензирани източници“ или „кажи „не знам“, ако не си сигурен“) намаляват халюцинациите, те не могат да ги елиминират напълно.
Например, когато бъде попитан какви са основните открития на дадена научна статия, ChatGPT дава дълъг, подробен и добре изглеждащ отговор.
They aren't all-knowing.https://t.co/0wQwgfZCvz pic.twitter.com/SGJpoN33b8
— ScienceAlert (@ScienceAlert) July 7, 2025
Включваше също скрийншотове и дори линк, но от грешни академични статии. Така че потребителите трябва да третират генерираната от изкуствен интелект информация като отправна точка, а не като безспорна истина.
5. Те използват калкулатори, за да правят математически изчисления
Наскоро популяризирана функция на чатботовете с изкуствен интелект се нарича разсъждение. Разсъждението се отнася до процеса на използване на логически свързани междинни стъпки за решаване на сложни проблеми. Това е известно още като разсъждение по „верига от мисли“.
Вместо да прескачат директно към отговор, веригата на мисълта позволява на чатботовете с изкуствен интелект да мислят стъпка по стъпка. Например, когато бъдат попитани „колко е 56 345 минус 7 865 по 350 468“, ChatGPT дава правилния отговор. Той „разбира“, че умножението трябва да се извърши преди изваждането.
За да реши междинните стъпки, ChatGPT използва вградения си калкулатор, който позволява прецизна аритметика. Този хибриден подход, комбиниращ вътрешното разсъждение с калкулатора, помага за подобряване на надеждността при сложни задачи.
