ИИ Репетитор

Токены и контекстное окно

Изучение ИИ, 5–11 класс · раздел «2. Как устроены большие языковые модели»

Главное

Токен — кусочек текста (часть слова, слово, знак). Контекстное окно — сколько токенов модель учитывает сразу. У лучших моделей 2026 года — до миллиона токенов и больше.

Правила

  1. Токен ≈ часть слова
  2. Окно = «рабочая память»
  3. Длинный контекст — целые книги

Разберём пример

Что будет, если диалог длиннее окна модели?

Ранние части разговора модель «забудет»

Частые ошибки

Потренироваться

Задания с проверкой и подсказками, схема темы и разбор ошибок с ИИ-репетитором — в уроке на платформе.

Открыть урок
← Большая языковая модель (LLM)Обучение и дообучение модели →