Долгая память агента snens: один бинарь, один SQLite (FTS5 + sqlite-vec), без демона. MIT
Find a file
Repository files (latest commit first)
Filename Latest commit message Latest commit date
2026-10-23 22:44:02 +02:00
docs docs: ссылка на таблицу реранкеров 2026-10-18 07:18:54 +02:00
src импорт пачкой, дедуп по тексту в Rust, дедуп выдачи 2026-10-18 05:42:41 +02:00
.gitignore MIT, метаданные пакета, быстрый старт в README; .cargo в .gitignore (машинный target-dir) 2026-10-18 07:53:07 +02:00
Cargo.lock snens-memory: гибридная память агента на одном SQLite-файле 2026-10-18 05:04:25 +02:00
Cargo.toml MIT, метаданные пакета, быстрый старт в README; .cargo в .gitignore (машинный target-dir) 2026-10-18 07:53:07 +02:00
LICENSE MIT, метаданные пакета, быстрый старт в README; .cargo в .gitignore (машинный target-dir) 2026-10-18 07:53:07 +02:00
README.md readme: установка, команды, контракт, конфиг, метрики; retain — локальная очередь без сети 2026-10-23 22:44:02 +02:00

snens-memory

Долгая память агента snens: один бинарь, один SQLite-файл, без демона и без Postgres. Плагин, а не сервис: ядро знает только argv-контракт (memory recall <текст>, memory retain + JSON хода на stdin), всё остальное — здесь. Лицензия MIT (LICENSE), контракт узкий намеренно: плагин прикручивается к любому харнессу с argv и stdin.

Установка

cargo build --release                       # бинарь target/release/memory
mkdir -p ~/.config/snens ~/.local/share/snens
printf 'SNENS_API_KEY=...\n' >> ~/.config/snens/.env
printf 'SNENS_OPENROUTER_KEY=...\n' >> ~/.config/snens/.env   # если реранкер у другого провайдера

Файл конфига не обязателен: без memory.toml берутся дефолты, база — ~/.local/share/snens/memory.db. Другой харнесс кладёт конфиг туда же, где snens (~/.config/snens/memory.toml), или правит cfg::config_path.

Команды

memory recall <запрос>     # строки фактов; пусто = нечего сказать
memory retain              # JSON {"user","assistant"} на stdin → очередь
memory flush               # разобрать очередь (LLM + эмбеддинги)
memory stats               # живые/устаревшие факты, очередь, типы
memory reindex             # досчитать вектора (если провайдер лежал)
memory import              # разовый импорт: {"units":[{text,kind,subject}]}
memory forget <uid>        # закрыть факт по uid

retain, forget, stats работают локально: ни сети, ни ключа. MEMORY_DEBUG=1 печатает в stderr скоры кандидатов до отсева.

Контракт

вход что
retain stdin {"user": "...", "assistant": "...", "context": "..."}; context необязателен
retain выход turn <id> в stdout, код 0 — принято, в том числе «нечего запоминать»
recall выход по строке на факт, префикс - ; пусто — законный исход
import stdin {"units": [{text, kind, subject, created}]}
коды 0 — успех, 1 — ошибка выполнения, 2 — неверные аргументы

retain только кладёт ход в локальную очередь (INSERT в SQLite): ноль сети, ноль модели: ядро зовёт его после каждого ответа и ждать не должно. Ответ короче 80 байт в очередь не попадает. flush — по крону или вручную.

Конфиг

~/.config/snens/memory.toml, все ключи необязательны:

db = "~/.local/share/snens/memory.db"
api_base = "https://провайдер.example/v1"   # OpenAI-совместимый: /embeddings, /chat/completions
api_key_env = "SNENS_API_KEY"
embed_model = "baai/bge-m3"
embed_dim = 1024
distill_model = "имя-модели"
rerank_model = "имя-реранкера"              # rerank = "off" — выключить, решает RRF
max_facts = 6
max_tokens = 400

api_base без /chat/completions. Реранк — отдельный провайдер: ключ SNENS_OPENROUTER_KEY, эндпоинт /rerank (OpenRouter/Cohere-совместимый).

Как работает

Чтение (recall) без LLM на пути:

запрос → BM25 (FTS5) ∪ вектор (sqlite-vec, int8) → RRF(k=20) → реранк → порог → ≤N фактов

BM25 (unicode61) держит точные имена, которых не умеют эмбеддинги; RRF склеивает по рангам — шкалы BM25 и косинуса несравнимы; реранк — единственная стадия, умеющая сказать «похоже, но не отвечает»; порог относительный (0.4× лучшего скора) — абсолютный не переносим между реранкерами. Пустая выдача — законный исход (arXiv:2401.14887).

Запись (flush): модель извлекает 0–5 фактов (fact|preference|episode|procedure × subject(user|world|project)), дедуп по векторам (dist < 0.15), перекрытие — через supersedes: старый факт получает valid_to, но остаётся в таймлайне. Демона и графа сущностей нет намеренно: первый не нужен при 15 мс локальной работы, второй выигрывает только на multi-hop.

Метрики

Замеры на корпусе 11.5k фактов, база 25 МБ:

операция время
recall целиком 1.1–1.5 с
из них локально (BM25 + вектор + RRF + дедуп) ~15 мс
из них эмбеддинг запроса (сеть) 0.9–2.0 с
stats 0.07 с
RSS процесса 7–8 МБ