ИИ Репетитор

Обучение и дообучение модели

Изучение ИИ, 5–11 класс · раздел «2. Как устроены большие языковые модели»

Главное

Предобучение на больших текстах, затем дообучение на примерах диалогов и обучение с обратной связью от людей (RLHF), чтобы ответы были полезными и безопасными.

Правила

  1. Предобучение
  2. Дообучение на диалогах
  3. Обратная связь людей

Разберём пример

Зачем модель дообучают после предобучения?

Чтобы она отвечала полезно, вежливо и безопасно

Частые ошибки

Потренироваться

Задания с проверкой и подсказками, схема темы и разбор ошибок с ИИ-репетитором — в уроке на платформе.

Открыть урок
← Токены и контекстное окноТемпература и случайность ответов →