Что такое LLM простыми словами: как модель предсказывает слова

Автор: Silvana · Дата: 30.07.2026 · Verified: 30.07.2026 · Reading time: 5 минут · Prerequisite: 001

Кратко

LLM — это большая языковая модель. Claude, GPT, Gemini, YandexGPT, GigaChat — всё это LLM.
Работает как автозамена в телефоне, только гораздо умнее: предсказывает следующий токен по контексту.
Учится на огромных объёмах текста в режиме self-supervised: разметка человеком не нужна, цель обучения вычисляется из самих данных.
Не «знает» факты, а восстанавливает их по паттернам. Поэтому может уверенно ошибаться — это называют «галлюцинациями».
Ограничена контекстным окном — сколько токенов может держать за один разговор. У топовых моделей 2026 года это 1M токенов, у Gemini 2.5 Pro — 1M, у OpenAI GPT-5.6 — 1.05M.

Что это и зачем

LLM расшифровывается как Large Language Model — большая языковая модель. Это тип AI, обученный работать с текстом. Именно LLM стоят за Claude, ChatGPT, Gemini, YandexGPT, GigaChat, DeepSeek.

Простая аналогия. У тебя в телефоне есть автозамена, которая предлагает следующее слово при наборе. Ты пишешь «Спасибо за», она подсказывает «внимание» или «помощь». Она делает это, потому что видела миллионы SMS и знает, какие слова часто идут после «Спасибо за».

LLM работает по тому же принципу, только масштаб другой. Вместо миллионов сообщений — сотни миллиардов страниц текста. Вместо предсказания из трёх вариантов — из десятков тысяч токенов. И вместо простой статистики — сложные закономерности, которые модель нашла сама.

Когда ты задаёшь вопрос ChatGPT или Claude, происходит именно это: модель читает твой ввод и последовательно предсказывает токен за токеном ответ, который наиболее вероятно должен идти дальше в подобной ситуации.

Основной разбор

Как работает предсказание токена

Модель работает не со словами, а с токенами. Токен — это кусочек текста: часто целое короткое слово или морфема. Английские слова обычно равны одному токену, русские — двум-трём. Пробелы и знаки препинания тоже занимают токены.

Когда ты пишешь «Столица Франции —», модель не «вспоминает» ответ из базы. Она смотрит на входной текст и вычисляет вероятность каждого возможного следующего токена. У «Париж» вероятность будет высокая, у «Берлин» — почти нулевая. Модель выбирает наиболее вероятный (иногда с элементом случайности) и добавляет его к ответу. Потом делает то же самое для следующего токена — и так до конца.

Именно поэтому AI-модели иногда выдумывают несуществующие книги, цитаты или факты. Модель не проверяет — она предсказывает. Если по паттернам «похоже что здесь должно быть название книги» — она напишет правдоподобное название, даже если такой книги не существует. Это называют «галлюцинациями».

На чём учатся LLM

Крупные модели учат на огромных корпусах текста: книгах, статьях, форумах, документации, коде, Википедии. Курс Hugging Face описывает pretraining как обучение с нуля, где веса инициализируются случайно, а тренировка идёт на очень большом объёме данных и может занимать недели.

У Anthropic каждая модель имеет «reliable knowledge cutoff» — дату, после которой её знания уже ненадёжны:

Claude Fable 5 — Январь 2026
Claude Opus 5 — Май 2026
Claude Sonnet 5 — Январь 2026
Claude Haiku 4.5 — Февраль 2025

У OpenAI GPT-5.6 (Sol, Terra, Luna) knowledge cutoff — 16 февраля 2026.

Всё, что произошло после этих дат, модель не знает, если ей специально не подгрузить актуальную информацию.

Контекстное окно — память модели

Модель помнит только то, что ты написал в текущем разговоре. Это называется контекстное окно и измеряется в токенах. Между разговорами модель ничего не помнит, каждый новый чат — с нуля (если специально не настроена память).

По данным вендоров на июль 2026:

Claude Fable 5, Opus 5, Sonnet 5 — 1 000 000 токенов (по данным Anthropic)
Claude Haiku 4.5 — 200 000 токенов
OpenAI GPT-5.6 Sol / Terra / Luna — 1 050 000 токенов
Google Gemini 2.5 Pro — 1 000 000 токенов
DeepSeek V4 Flash / Pro — 1 000 000 токенов

Практически: если у тебя длинный разговор и ты уходишь далеко от начала, модель может «забыть» первые сообщения. Не потому что глупая — просто окно закончилось.

RU-специфика

Работает из РФ напрямую?YandexGPT, GigaChat, DeepSeek — да, из России без ограничений. Claude, GPT, Gemini через веб-интерфейс — недоступны из РФ напрямую, требуют зарубежной регистрации.
Оплата в РФ?RU-модели (YandexGPT, GigaChat) — обычной картой российского банка. Зарубежные — через зарубежную карту или API-посредников.
RU-локализация?У всех топовых моделей — да. Родной русский у YandexGPT и GigaChat. Claude, GPT-5.6, Gemini работают на русском на высоком уровне.
Российские альтернативы?YandexGPT (Яндекс), GigaChat в тарифах Lite / Pro / MAX (Сбер, есть бесплатный пул токенов), DeepSeek V4 (Китай, бесплатный веб-чат без ограничений из РФ).

Что дальше

«Что такое prompt engineering и 5 базовых паттернов промпта»— как формулировать запросы, чтобы LLM давала лучший ответ.
«Claude vs GPT vs Gemini для новичка: что выбрать в 2026»— сравнение трёх популярных LLM.
«Что такое AI-агент и чем отличается от чат-бота»— что бывает, когда к LLM добавляют инструменты и она может действовать.

Sources

https://huggingface.co/learn/llm-course/chapter1/4· проверено 30.07.2026
https://platform.claude.com/docs/en/about-claude/models/overview· проверено 30.07.2026
https://developers.openai.com/api/docs/models· проверено 30.07.2026
https://ai.google.dev/gemini-api/docs/models· проверено 30.07.2026
https://api-docs.deepseek.com/quick_start/pricing· проверено 30.07.2026

Актуальность

Актуально на 30.07.2026. Модели, цены и условия доступа меняются часто. Перед бизнес-решением всегда сверяйся с первоисточником по ссылкам выше.