Что это
Обычный поиск ищет совпадение слов. Векторная база хранит для каждого куска текста числовой вектор — «отпечаток» его смысла — и находит не то, что написано теми же словами, а то, что означает похожее. Спросите «как ученику вернуть деньги за курс» — база найдёт раздел про возврат оплаты, даже если там ни разу не встречается слово «ученик».
Зачем это нужно
Сама по себе модель помнит только то, что уместилось в разговоре прямо сейчас — в её контекстное окно. Весь архив ваших статей, уроков и переписки туда за один раз не поместится. Векторная база решает это иначе: перед ответом система сама находит несколько подходящих кусков из вашего архива и подкладывает именно их в контекст — этот подход называют RAG (retrieval-augmented generation, «генерация с подкреплением поиском»).
Почему это важно вам
Это технология за чат-ботом поддержки, который отвечает по вашей базе знаний, а не выдумывает, и за системами, которые последовательно ссылаются на ваши реальные материалы вместо того, чтобы каждый раз досочинять ответ. Меньше галлюцинаций получается не потому что модель стала умнее, а потому что ответ теперь опирается на реально найденный кусок текста, а не только на память модели.