Как работят големите езикови модели

От думи към числа: токенизация и векторни вграждания

Компютрите не работят с букви и срички – те разбират единствено числа. За да може една невронна мрежа да обработи текстово запитване, процесът преминава през две фундаментални стъпки, подробно разглеждани в академичния курс CS224N на Станфордския университет:

1. Токенизация (Tokenization): Входящият текст се нарязва на малки парчета, наречени токени. Един токен може да бъде цяла дума, част от дума (корен или наставка) или дори единичен препинателен знак. Например думата „преработен“ може да бъде разделена на три токена: „пре-“, „работ-“ и „-ен“. В английския език средно 100 думи се равняват на около 130 токена.
2. Векторни вграждания (Word Embeddings): Всеки токен се превръща в дълъг списък от числа – математически вектор с хиляди измерения. В това многомерно математическо пространство думи с подобно значение се разполагат геометрично близо една до друга. Векторите за „крал“ и „кралица“ или „Париж“ и „Франция“ споделят математически посоки, което позволява на модела да извършва смислови изчисления.

Архитектурата Transformer и механизмът на внимание (Attention)

Преди 2017 г. алгоритмите за обработка на естествен език използваха т.нар. рекурентни невронни мрежи (RNN). Те четяха текста последователно – дума по дума от ляво на дясно. Този подход имаше огромен дефект: при дълги изречения моделът „забравяше“ началото на фразата, а изчисленията не можеха да се разпределят паралелно върху мощни видеокарти.

Пробивът идва с публикуването на легендарния доклад „Attention Is All You Need“ в аналите на Асоциацията за компютърна лингвистика (ACL). Авторите представят архитектурата Transformer, чието ядро е механизмът за самовнимание (Self-Attention).

Както популярно илюстрира изследователят Джей Аламар (Jay Alammar), механизмът на внимание позволява на невронната мрежа да обработва всички думи в изречението едновременно. При всяка стъпка моделът изчислява динамични тегла за връзката между всяка дума и всички останали в контекста. Разгледайте изречението:

„Банката отказа кредит на компанията, защото тя беше пред фалит.“

За да разбере на кого се отнася местоимението „тя“, механизмът на внимание пресмята връзката между „тя“ и „компанията“, както и между „тя“ и „банката“. Благодарение на думата „фалит“, моделът дава по-високо математическо тегло на „компанията“, осмисляйки граматическия контекст мигновено.

Трите етапа на обучение: как се изгражда съвременен AI

Създаването на завършен езиков асистент преминава през три строги производствени етапа:

1. Предварително обучение (Pre-training)

Това е най-скъпата фаза, изискваща хиляди специализирани графични процесори и милиони долари. Моделът се „храни“ с колосални обеми от текстове: дигитализирани библиотеки, научни архиви, интернет страници и кодови хранилища (трилиони токени). През цялото време задачата му е само една: да познае следващата дума. Резултатът е т.нар. „базов модел“. Той има огромни енциклопедични знания, но не се държи като събеседник – ако го попитате „Каква е столицата на Франция?“, той може просто да продължи въпроса с „А на Германия?“, вместо да ви отговори.

2. Фина настройка с инструкции (Supervised Fine-Tuning – SFT)

В този етап екипи от хора създават десетки хиляди висококачествени диалози: въпроси и образцови отговори. Чрез обучение върху тези структурирани примери моделът се научава да разпознава потребителското намерение и да отговаря в диалогов формат.

3. Обучение с подкрепа чрез човешка обратна връзка (RLHF)

За да бъде моделът полезен и безопасен, се прилага Reinforcement Learning from Human Feedback (RLHF). На модела се задава въпрос и той генерира четири различни отговора. Човешки оценители ги класират от най-добър към най-лош според критериите: фактологична коректност, полезност и отсъствие на вредно съдържание. На базата на тези оценки се обучава помощен „награждаващ модел“, който настройва невронната мрежа да избира безопасните и конструктивни пътища на изказ.

Параметри и контекстен прозорец: какво означават числата

Когато чуете, че даден модел разполага със „70 милиарда параметри“, това означава броя на вътрешните математически тегла (синаптични коефициенти), които мрежата е нагодила по време на обучението. Повече параметри обикновено означават по-богат капацитет за улавяне на сложни нюанси, но изискват огромна оперативна памет.

Контекстният прозорец пък е работната памет на модела в рамките на текущата сесия. Всичко, което въвеждате в чата – включително вашите предишни въпроси и неговите предишни отговори – трябва да се побере в този прозорец. Когато разговорът надхвърли лимита на прозореца, най-ранните съобщения просто изпадат от изчисленията и моделът ги забравя.

Защо езиковият модел не е база данни

Най-важното практическо разбиране за всеки потребител е, че LLM не функционира като класическа търсачка или база данни. Той няма индекс от файлове, които прелиства в реално време, за да открие цитат. Моделът наподобява „размита компресия“ на интернет: той помни граматичните и смислови модели, но не и гарантираната фактологична връзка. Затова, когато се изисква абсолютна фактологична точност, моделът трябва да се съчетава с външни източници и внимателен човешки контрол.

Често задавани въпроси

Осъзнава ли езиковият модел какво пише?

Не, моделът не притежава съзнание, намерения или емоции. Той работи единствено чрез математическо комбиниране на вероятности за думи, извлечени от обучителния му масив. Илюзията за интелигентност произтича от сложността и богатството на човешкия език, който невронната мрежа имитира с изключителна прецизност.

Защо понякога един и същи въпрос получава различни отговори?

В архитектурата на моделите е заложен параметър, наречен „температура“ (temperature). Той определя колко свобода има алгоритъмът при избора на следващата дума. При температура 0 моделът избира винаги думата с най-висока математическа вероятност (детерминиран отговор). При по-висока температура моделът избира от списъка с вероятни думи с определена доза случайност, което създава творческо разнообразие.

Може ли голям езиков модел да се обучава сам в реално време от разговорите с нас?

Не в класическия смисъл. Процесът на коригиране на параметрите (теглата) изисква колосална изчислителна мощ и се прави централизирано при тренирането на нова версия на модела. Когато си говорите с бота, той адаптира поведението си само в рамките на временния контекстен прозорец на вашата сесия, без да променя постоянната си архитектура.

Какво прави българския език по-предизвикателен за моделите в сравнение с английския?

Българският език има богата морфология (сложни глаголни форми, членуване) и по-малък относителен дял в глобалните обучителни масиви в интернет. В резултат на това българските думи често се разделят на повече токени, което изисква повече изчислителни ресурси за обработка.