Термин

Галлюцинация о бренде

Ситуация, когда ИИ-система уверенно сообщает о вас неверные сведения: несуществующие услуги, чужие цены, ошибочную специализацию.

Откуда это берётся

Из пробелов: если внятных сведений мало, система достраивает недостающее по образцу похожих компаний. Чем меньше о вас написано, тем выше вероятность выдумки.

Что с этим делают

Заполняют пробел: публикуют явные, структурированные и однозначные сведения там, где системы их читают, и добиваются согласия источников. Прямого способа «исправить ответ» не существует.

Почему это важно вам

Обнаруживается это только замером - сам факт выдумки о вас никто не сообщит. Это ещё один аргумент проверять ответы по контрольному набору регулярно, а не разово.

Связанные термины