Коротко
- Токен — кусочек информации, на которые модель разбивает текст; это не слово и не буква: в примере из видео 10 слов дали 17 токенов.
- От числа токенов зависят стоимость работы, точность ответа, время генерации и нагрузка на контекстное окно.
- Запрос можно сократить без потери смысла, а длинный запрос не делает ответ точнее: контекстное окно ограничено и включает запросы и ответы.
- В API есть две цены: за input-токены (твой запрос) и за output-токены (ответ), у разных моделей они разные; кэшированные токены дешевле.
Навигация по видео
Выбери главу: видео выше начнётся с нужного момента.
Что повторять из урока
Токены — это единицы, в которых нейросеть измеряет и вход, и выход. У каждой модели есть контекстное окно. Input и output токены стоят по-разному, а цена зависит от модели. Не засовывай в маленькое окно слишком много. Таймкоды оценены по расшифровке и могут отличаться на несколько секунд.
Токен — это метрика, по которой нейросеть измеряет, сколько информации она может получить и сколько может ответить. Токены — это не слова и не буквы: нейросеть разбивает текст на небольшие кусочки. От их числа зависят стоимость работы с моделью, точность ответа, время генерации и то, насколько загружено контекстное окно.
Токен — это не слово и не буква
Автор берёт запрос «Привет, расскажи мне, как ты считаешь, в чём смысл жизни». В нём десять слов, но десять токенов — неверный подсчёт. Он вставляет запрос в сервис Tokenizer от OpenAI и получает 17 токенов. При этом символов в запросе 57 — то есть текст разбивается не по буквам и не по словам, а на кусочки информации. Например, «при» — один токен, «вет» — другой, запятая — третий.
Чтобы нейросеть могла интерпретировать запрос и ответить, она переводит его в такие «биты» информации. Подсветка в токенайзере показывает, как именно текст раздробился. Точные числа зависят от модели и токенайзера — цифры из видео дают порядок величины.
Зачем понимать токены
Автор называет несколько причин:
- стоимость. Когда ты работаешь через API, то есть строишь свои сервисы, которые обращаются к нейросети по URL, стоимость считают по токенам — на этом построено большинство сервисов;
- точность ответа;
- время генерации;
- нагрузка на контекстное окно. Если понимаешь, сколько токенов безопасно «засунуть» в чат, ответ получится точнее.
Запрос можно сократить
Запрос «Привет, расскажи мне, как ты считаешь, в чём смысл жизни» занял 17 токенов. Но если написать просто «в чём смысл жизни», смысл не изменится — убрана вода, — а токенов уже 5. Так оптимизируется стоимость работы с нейросетью. Если сразу писать запрос по делу, получается экономнее; как строить запрос осознанно — в уроке про промпты.
Больше токенов — не значит точнее
Автор называет ложным убеждением, что чем больше токенов в запросе, тем точнее ответ. У каждой модели есть ограниченное контекстное окно — то, сколько она может воспринять. Если ты запускаешь модель локально на ограниченных мощностях, окно может быть, например, 128 тысяч токенов, и длинный запрос уже забирает его часть. Затем следует ответ, который забирает ещё несколько тысяч токенов. В какой-то момент ты столкнёшься с галлюцинированием. Поэтому важно понимать, с каким объёмом контекста ты работаешь, считать его в токенах и оценивать, какие задачи тебе по силам. Подробнее о галлюцинациях — в уроке про ошибки нейросетей.
Контекстное окно разных моделей
Автор переходит в сервис Token Calculator и вставляет тот же запрос. Внизу таблица показывает, как с ним будут работать разные модели: модели ChatGPT, Claude и Gemini. Что важно в этой таблице:
- у каждой модели есть контекст — объём информации, который она воспринимает, включая твои запросы и её ответы;
- на момент записи у GPT-4.1 окно было порядка миллиона токенов, у o3 — 200 тысяч, у GPT-4o — 128 тысяч; ни у одной модели в таблице окно не больше миллиона, включая Gemini от Google;
- в таблице две цены: за миллион input-токенов и за миллион output-токенов.
Конкретные размеры окон и цены меняются от версии к версии, поэтому смотри актуальные данные в калькуляторе или у провайдера.
Input и output токены
Запрос, который ты отправляешь, — это input-токены: то, что ты заливаешь в нейросеть. Токены в ответе — output. Для ответа, скопированного из ChatGPT, калькулятор показал 469 токенов. Поэтому и столбца в таблице два: сколько ты платишь за миллион входящих токенов и сколько — за миллион исходящих.
На момент записи у разных моделей входящие токены стоили от десятых долей доллара до нескольких долларов за миллион. Исходящие дороже: например, у Claude Opus они стоили в разы больше, чем у Claude Sonnet, — автор называет это «достаточно дорогой историей». Цена за ответ из примера для GPT-4.1 оказалась меньше цента, а у Opus была заметно выше. Точные суммы быстро устаревают.
Кэшированные токены
В таблице есть ещё поле со стоимостью кэшированных токенов. Языковые модели пытаются оптимизировать работу и кэшируют ответы: если ответ уже есть в памяти, он выдаётся дешевле.
Что стоит запомнить
- У каждой модели есть определённый объём контекста. Если взять модель с небольшим окном (например, 128 тысяч токенов) и попробовать загрузить документ вроде PDF на сто листов, а потом спрашивать по нему информацию, автор предупреждает: будет много ошибок — информация просто не помещается в контекст.
- Есть две цены: за входные токены и за ответ нейросети. Они зависят от модели, которую ты используешь.
- Сокращай запросы там, где это не меняет смысл.
Как работает сама модель — в уроке «Как работают нейросети».
Термины урока
- Токен — кусочек информации, на которые модель разбивает текст; не равен слову или букве.
- Токенайзер (Tokenizer) — сервис, который показывает, на сколько токенов разбивается текст.
- Контекстное окно — объём информации (в токенах), который модель может воспринять, включая запросы и ответы.
- Input-токены — токены запроса, то, что ты отправляешь модели.
- Output-токены — токены ответа модели.
- Кэшированные токены — токены, которые модель берёт из памяти; стоят дешевле.
Частые вопросы
Один токен — это одно слово?
Нет. Нейросеть разбивает текст на кусочки информации, а не на слова или буквы. В примере из видео в запросе было десять слов и 57 символов, а токенайзер показал 17 токенов. Точное число зависит от модели и токенайзера.
Если написать запрос подлиннее, ответ будет точнее?
Автор называет это ложным убеждением. Длинный запрос забирает часть контекстного окна, ответ забирает ещё, и в какой-то момент можно столкнуться с галлюцинациями. Если смысл не меняется, запрос лучше сократить: в примере «в чём смысл жизни» заняло 5 токенов вместо 17.
Почему у токенов две цены: за input и за output?
Input — это токены твоего запроса, output — токены ответа нейросети. Провайдеры считают их отдельно, и на момент записи ответ стоил дороже запроса, а цены сильно различались между моделями. Есть ещё сниженная цена на кэшированные токены.
Что будет, если документ не помещается в контекстное окно?
По словам автора, при работе с моделью с небольшим окном (например, 128 тысяч токенов) и большим документом вроде PDF на сто листов модель будет выдавать много ошибок, потому что эту информацию невозможно уместить в её контекст.
Практика
Попробуй на своей задаче
Открой Tokenizer от OpenAI и вставь туда свой типичный запрос к нейросети. Запиши число токенов. Затем сократи запрос так, чтобы смысл не изменился, и сравни результаты. После этого вставь запрос в Token Calculator и посмотри, как отличается цена input и output у двух-трёх моделей.
Как понять, что готово
Ты знаешь число токенов в исходном и сокращённом запросе, видишь, что оно упало, и можешь назвать две цены в таблице и объяснить, чем input отличается от output.
Продолжение в клубе
Хочешь работать с моделями экономнее?
- ВидеоКак настроить локальную LLMЛокальная модель на своём компьютере: личный ассистент без подписок.
- ПромптMeta Prompt для генерации улучшенных промптовПревращает черновую идею в точный структурированный промпт — меньше уточнений и лишних сообщений.
Уже в клубе? Продолжай в своём аккаунте. Войти в аккаунт →



