- Rust 100%
| Filename | Latest commit message | Latest commit date |
|---|---|---|
| docs | ||
| src | ||
| .gitignore | ||
| Cargo.lock | ||
| Cargo.toml | ||
| LICENSE | ||
| README.md | ||
snens-memory
Долгая память агента snens: один бинарь, один SQLite-файл, без демона и без Postgres.
Плагин, а не сервис: ядро знает только argv-контракт (memory recall <текст>,
memory retain + JSON хода на stdin), всё остальное — здесь. Лицензия MIT (LICENSE),
контракт узкий намеренно: плагин прикручивается к любому харнессу с argv и stdin.
Установка
cargo build --release # бинарь target/release/memory
mkdir -p ~/.config/snens ~/.local/share/snens
printf 'SNENS_API_KEY=...\n' >> ~/.config/snens/.env
printf 'SNENS_OPENROUTER_KEY=...\n' >> ~/.config/snens/.env # если реранкер у другого провайдера
Файл конфига не обязателен: без memory.toml берутся дефолты, база —
~/.local/share/snens/memory.db. Другой харнесс кладёт конфиг туда же, где snens
(~/.config/snens/memory.toml), или правит cfg::config_path.
Команды
memory recall <запрос> # строки фактов; пусто = нечего сказать
memory retain # JSON {"user","assistant"} на stdin → очередь
memory flush # разобрать очередь (LLM + эмбеддинги)
memory stats # живые/устаревшие факты, очередь, типы
memory reindex # досчитать вектора (если провайдер лежал)
memory import # разовый импорт: {"units":[{text,kind,subject}]}
memory forget <uid> # закрыть факт по uid
retain, forget, stats работают локально: ни сети, ни ключа. MEMORY_DEBUG=1
печатает в stderr скоры кандидатов до отсева.
Контракт
| вход | что |
|---|---|
retain stdin |
{"user": "...", "assistant": "...", "context": "..."}; context необязателен |
retain выход |
turn <id> в stdout, код 0 — принято, в том числе «нечего запоминать» |
recall выход |
по строке на факт, префикс - ; пусто — законный исход |
import stdin |
{"units": [{text, kind, subject, created}]} |
| коды | 0 — успех, 1 — ошибка выполнения, 2 — неверные аргументы |
retain только кладёт ход в локальную очередь (INSERT в SQLite): ноль сети, ноль
модели: ядро зовёт его после каждого ответа и ждать не должно. Ответ короче 80 байт в
очередь не попадает. flush — по крону или вручную.
Конфиг
~/.config/snens/memory.toml, все ключи необязательны:
db = "~/.local/share/snens/memory.db"
api_base = "https://провайдер.example/v1" # OpenAI-совместимый: /embeddings, /chat/completions
api_key_env = "SNENS_API_KEY"
embed_model = "baai/bge-m3"
embed_dim = 1024
distill_model = "имя-модели"
rerank_model = "имя-реранкера" # rerank = "off" — выключить, решает RRF
max_facts = 6
max_tokens = 400
api_base без /chat/completions. Реранк — отдельный провайдер: ключ
SNENS_OPENROUTER_KEY, эндпоинт /rerank (OpenRouter/Cohere-совместимый).
Как работает
Чтение (recall) без LLM на пути:
запрос → BM25 (FTS5) ∪ вектор (sqlite-vec, int8) → RRF(k=20) → реранк → порог → ≤N фактов
BM25 (unicode61) держит точные имена, которых не умеют эмбеддинги; RRF склеивает по
рангам — шкалы BM25 и косинуса несравнимы; реранк — единственная стадия, умеющая
сказать «похоже, но не отвечает»; порог относительный (0.4× лучшего скора) — абсолютный
не переносим между реранкерами. Пустая выдача — законный исход (arXiv:2401.14887).
Запись (flush): модель извлекает 0–5 фактов (fact|preference|episode|procedure ×
subject(user|world|project)), дедуп по векторам (dist < 0.15), перекрытие — через
supersedes: старый факт получает valid_to, но остаётся в таймлайне. Демона и графа
сущностей нет намеренно: первый не нужен при 15 мс локальной работы, второй выигрывает
только на multi-hop.
Метрики
Замеры на корпусе 11.5k фактов, база 25 МБ:
| операция | время |
|---|---|
recall целиком |
1.1–1.5 с |
| из них локально (BM25 + вектор + RRF + дедуп) | ~15 мс |
| из них эмбеддинг запроса (сеть) | 0.9–2.0 с |
stats |
0.07 с |
| RSS процесса | 7–8 МБ |