Embedding не знает, что приказ отменён вчера. Старая и новая инструкции часто семантически почти одинаковы, поэтому обе получают высокий similarity score. Добавьте к chunk metadata хотя бы `valid_from`, `valid_to`, `updated_at`, `version` и `supersedes`, а для вопроса «что действует сейчас» исключайте недействующие версии до передачи контекста модели.

Дата публикации и дата действия — не одно и то же. Документ может быть опубликован заранее, вступить в силу позже или получить исправление без смены бизнес-правила. Если хранить только filesystem mtime или дату ingestion, система будет уверенно выбирать технически свежую, но юридически неактуальную копию.

Metadata отвечает на разные вопросы

ПолеСмыслКак используется
published_atКогда материал выпущенПоказывается читателю, не всегда фильтрует
valid_fromС какого момента правило действуетНижняя граница hard filter
valid_toКогда правило перестало действоватьВерхняя граница hard filter
updated_atКогда изменился этот объектFreshness signal и аудит ingestion
supersedes/versionКак связаны редакцииРазрешение конфликтов и объяснение

Приведите timestamps к UTC и сохраните исходную timezone отдельно, если она важна пользователю. Для материалов без известной даты не подставляйте `now`: заведите явное состояние `unknown` и политику, допускается ли такой chunk в ответе.

Сначала фильтр, потом семантика и свежесть

as_of = question.date ?? current_time

eligible = tenant == question.tenant
  AND valid_from <= as_of
  AND (valid_to IS NULL OR valid_to > as_of)
  AND status == "approved"

candidates = vector_search(query, filter=eligible, top_k=50)
ranked = rerank(candidates, relevance, authority, freshness)
context = deduplicate_versions(ranked).take(8)

Это архитектурный псевдокод, а не API конкретной базы. В Qdrant datetime range работает по RFC 3339 metadata, Elasticsearch поддерживает date decay scoring, Azure AI Search — freshness scoring. Фильтр и ranking нужно реализовать средствами выбранного хранилища и проверить explain/debug output.

Freshness boost не должен вытеснить правильный старый источник

Возраст полезен не для каждого вопроса. Историческая справка, неизменившийся стандарт или первоисточник могут быть старше обзора, но авторитетнее. Поэтому используйте hard validity для отменённых версий, а плавное понижение по updated_at — как один из сигналов reranker. Вес подбирайте по размеченным запросам, а не по красивой формуле.

  • Для «по состоянию на 2024 год» меняйте as_of, а не заставляйте модель игнорировать текущую дату.
  • Сначала ограничьте tenant и права доступа, затем фильтруйте даты.
  • Не смешивайте draft, archived и approved в одном доступном наборе.
  • Сохраняйте document ID и version в каждом chunk после разбиения.
  • При переиндексации не теряйте valid_to и supersedes из master record.

Конфликт версий решается до prompt

Если retrieval вернул две действующие инструкции по одному предмету, генератор не должен сам угадывать победителя. Примените policy по authority, scope и version, либо остановите ответ с пометкой о конфликте. Модель может красиво объединить несовместимые правила, но это будет выдуманное третье правило.

В контекст передавайте название, версию, дату действия и стабильную ссылку. Ответ должен указывать, на какую дату он сформирован. Так пользователь заметит, если спрашивал про прошлое, а система применила текущую политику.

Тестовый набор обязательно содержит временные пары

  1. Создать старую и новую редакции с одинаковыми ключевыми фразами.
  2. Проверить вопрос без даты: возвращается только текущая версия.
  3. Проверить вопрос на прошлую дату: возвращается исторически действовавшая версия.
  4. Изменить только ingestion time и убедиться, что порядок не сломался.
  5. Удалить metadata у одной копии и проверить выбранную политику unknown-date.

Измеряйте retrieval отдельно от генерации: recall актуального chunk, долю недействующих candidates после filter, конфликт версий и citation accuracy. Для разбора подготовьте схему metadata, два обезличенных документа, search debug output, as_of и итоговые citations; пользовательские тексты и закрытые embeddings передавать не нужно.

Проверенные источники