Асинхронное извлечение памяти — Спецификация дизайна

type MemoryPrefetchHandle = {
  promise: Promise<RelevantAutoMemoryPromptResult>;
  /** Устанавливается через promise.finally(). null, пока promise не завершится. */
  settledAt: number | null;
  /** true после внедрения памяти — предотвращает двойное внедрение. */
  consumed: boolean;
  controller: AbortController;
};

// Прерываем любое выполняющееся предварительное извлечение от предыдущего UserQuery
// перед установкой нового дескриптора (предотвращает осиротевшие побочные запросы,
// когда пользователь вводит снова до завершения извлечения).
this.pendingMemoryPrefetch?.controller.abort();
this.pendingMemoryPrefetch = undefined;
 
const controller = new AbortController();
// Передаём сигнал вызывающей стороны в контроллер предварительного извлечения,
// чтобы отмена пользователем (Ctrl-C / Esc) родительского такта также завершила
// побочный запрос на извлечение.
const onParentAbort = () => controller.abort();
if (signal.aborted) {
  controller.abort();
} else {
  signal.addEventListener('abort', onParentAbort, { once: true });
}
 
const promise = this.config
  .getMemoryManager()
  .recall(projectRoot, partToString(request), {
    config: this.config,
    excludedFilePaths: this.surfacedRelevantAutoMemoryPaths,
    abortSignal: controller.signal,
  })
  .catch((error: unknown) => {
    if (!(error instanceof DOMException && error.name === 'AbortError')) {
      debugLogger.warn('Управляемое предварительное извлечение автоматической памяти не удалось.', error);
    }
    return EMPTY_RELEVANT_AUTO_MEMORY_RESULT;
  });
 
const handle: MemoryPrefetchHandle = {
  promise,
  settledAt: null,
  consumed: false,
  controller,
};
void promise.finally(() => {
  handle.settledAt = Date.now();
  signal.removeEventListener('abort', onParentAbort);
});
this.pendingMemoryPrefetch = handle;
// нет await — продолжаем немедленно

const prefetchHandle = this.pendingMemoryPrefetch;
if (
  prefetchHandle &&
  prefetchHandle.settledAt !== null &&
  !prefetchHandle.consumed
) {
  prefetchHandle.consumed = true;
  this.pendingMemoryPrefetch = undefined;
  const result = await prefetchHandle.promise; // уже выполнился, возвращается мгновенно
  if (result.prompt) {
    // unshift, не push: память должна оставаться в начале systemReminders,
    // чтобы она возглавляла блок system-reminder на тактах UserQuery.
    // (На тактах ToolResult, наоборот, добавляется в конец requestToSend для
    // сохранения пар functionCall / functionResponse — см. ниже.)
    systemReminders.unshift(result.prompt);
    for (const doc of result.selectedDocs) {
      this.surfacedRelevantAutoMemoryPaths.add(doc.filePath);
    }
  }
}

if (messageType === SendMessageType.ToolResult) {
  const prefetchHandle = this.pendingMemoryPrefetch;
  if (
    prefetchHandle &&
    prefetchHandle.settledAt !== null &&
    !prefetchHandle.consumed
  ) {
    prefetchHandle.consumed = true;
    this.pendingMemoryPrefetch = undefined;
    const result = await prefetchHandle.promise;
    if (result.prompt) {
      // Добавляем в конец (не в начало), чтобы части functionResponse оставались первыми
      // и парное соответствие functionCall / functionResponse модели
      // не нарушалось на нативном пути Gemini.
      requestToSend = [...requestToSend, result.prompt];
      for (const doc of result.selectedDocs) {
        this.surfacedRelevantAutoMemoryPaths.add(doc.filePath);
      }
    }
  }
}

this.pendingMemoryPrefetch?.controller.abort();
this.pendingMemoryPrefetch = undefined;

prefetchHandle.consumed = true;
this.pendingMemoryPrefetch = undefined;