Почему возникают «галлюцинации»

Изучение ИИ, 7–11 класс · раздел «14. Технологии внутри нейросетей»

Главное

Модель предсказывает правдоподобный текст, а не проверяет факты. Если данных мало или вопрос необычный, она может «сочинить» ответ. Поиск и RAG снижают, но не исключают ошибки.

Правила

Правдоподобие ≠ истина
Редкие факты — выше риск
Проси источники и проверяй

Разберём пример

Почему модель может выдумать название книги?

Она подбирает правдоподобное сочетание слов, не сверяясь с каталогом

Частые ошибки

Верить ссылке, не открыв её.

Потренироваться

Задания с проверкой и подсказками, схема темы и разбор ошибок с ИИ-репетитором — в уроке на платформе.

Открыть урок

← Бенчмарки: как сравнивают модели Диффузионные модели: как рисует ИИ →