Что это
Модель не проверяет факты по внешней базе данных по умолчанию — она предсказывает правдоподобное продолжение текста. Если в её обучении или в вашем запросе не было точного ответа, она всё равно его сгенерирует — гладко, уверенно и абсолютно неправильно, при этом внешне неотличимо от правильного ответа.
Насколько это распространённая проблема
Проблема касается не только новичков. По данным «Коммерсанта», число судебных дел в мире, где юристы или истцы использовали в документах выдуманные ИИ-цитаты и ссылки на несуществующие прецеденты, выросло с 59 в 2024 году до 827 в 2025-м — и уже 814 за первую половину 2026-го. Если на этом попадаются профессиональные юристы, то у случайного черновика статьи риск не меньше.
Почему это важно вам
Любую цифру, статистику или цитату, которую предложила нейросеть, нужно проверять по независимому источнику до публикации — не потому что модель «плохая», а потому что она физически не отличает выдумку от факта внутри собственного ответа. Правило для контент-завода простое: цифра без проверенного источника не идёт в публикацию, сколько бы уверенно она ни звучала.