Что это
Как и в тексте — см. галлюцинацию ИИ — модель иногда уверенно выдаёт правдоподобную, но несуществующую вещь. В коде это выглядит как вызов функции, библиотеки или адреса сервиса, которых на самом деле нет, либо как код, использующий устаревший или чуть неверный способ вызова настоящего сервиса.
Чем это опаснее, чем галлюцинация в тексте
Неверный факт в статье просто лежит на странице, пока его кто-то не прочитает. Неверный код может сразу выдать явную ошибку — и тогда её хотя бы сразу видно, — а может незаметно «выполниться», но сделать не совсем то, что вы просили: например, выглядеть так, будто проверяет статус оплаты, а на самом деле не обращаться к настоящему платёжному сервису вообще. Такую ошибку не видно на глаз, пока кто-то специально не протестирует сценарий.
Почему это важно вам
Принцип тот же, что и с непроверенными цифрами в статье: ничего, что сгенерировал ИИ-агент, не идёт «в бой» без того, чтобы кто-то реально запустил это и сверил с тем, что заказывали, — особенно если речь о деньгах или данных учеников. Это ровно то, для чего существует отдельный шаг — ревью ИИ-кода.