LiteMem

LiteMem - это легковесная библиотека для управления памятью с использованием SQLite, sqlite-vec и локальных эмбеддингов. Библиотека предоставляет два основных класса для работы с памятью: Memory и MemoryEmbedded.

Основные возможности

• Векторный поиск: Поиск похожих сообщений с использованием эмбеддингов
• Полнотекстовый поиск: Традиционный текстовый поиск по сообщениям
• Гибридный поиск: Комбинация векторного и полнотекстового поиска
• Локальные эмбеддинги: Поддержка локальных моделей для генерации эмбеддингов
• SQLite база данных: Все данные хранятся в SQLite с расширениями для векторного поиска

Установка

pip install litemem

Быстрый старт

Использование Memory с внешними эмбеддингами

from litemem import Memory
import ollama

# Функция для генерации эмбеддингов
def embedder(text):
    response = ollama.embeddings(model='nomic-embed-text', prompt=text)
    return response['embedding']

# Создание экземпляра памяти
memory = Memory('memory.db', embedder)

# Добавление сообщений
memory.add([
    "Я люблю программирование на Python",
    "Машинное обучение - это интересная область",
    "SQLite - отличная встраиваемая база данных"
])

# Векторный поиск
results = memory.search_vec("программирование на Python")
print(results)

# Полнотекстовый поиск
results = memory.search_fts("Python")
print(results)

# Гибридный поиск
results = memory.hybrid_search("программирование")
print(results)

# Закрытие соединения
memory.close()

Использование MemoryEmbedded с локальными моделями

from litemem import MemoryEmbedded

# Создание экземпляра памяти с локальной моделью
memory = MemoryEmbedded('memory.db')

# Добавление сообщений
memory.add([
    "Я люблю программирование на Python",
    "Машинное обучение - это интересная область",
    "SQLite - отличная встраиваемая база данных"
])

# Поиск
results = memory.search_vec("программирование на Python")
print(results)

# Закрытие соединения
memory.close()

Основные классы

Memory

Класс Memory требует внешнюю функцию для генерации эмбеддингов. Подходит для использования с любыми моделями эмбеддингов.

Методы:

• add(message): Добавление сообщений в память
• search_vec(query, limit=64): Векторный поиск
• search_fts(query, limit=32): Полнотекстовый поиск
• hybrid_search(query, limit=32): Гибридный поиск
• remove(ids): Удаление сообщений по ID
• clear(): Очистка всей памяти

MemoryEmbedded

Класс MemoryEmbedded использует локальные модели эмбеддингов. В пакет включена модель all-MiniLM-L6-v2-Q8_0.gguf, расположенная в litemem/models/all-MiniLM-L6-v2-Q8_0.gguf, — эта модель используется по умолчанию при создании экземпляра MemoryEmbedded. Модель взята из Hugging Face.

При желании можно использовать любую другую совместимую локальную модель. Для этого при создании MemoryEmbedded передайте параметры model_path (путь к файлу модели) и vector_size (размер векторов эмбеддинга). Пример:

# Использование собственной модели
memory = MemoryEmbedded('memory.db', model_path='/path/to/your_model.gguf', vector_size=384)

Методы:

• add(message): Добавление сообщений в память
• search_vec(query, limit=64): Векторный поиск
• search_fts(query, limit=32): Полнотекстовый поиск
• hybrid_search(query, limit=32): Гибридный поиск
• clear(ids): Удаление сообщений по ID
• clear_all(): Очистка всей памяти

Требования

• Python >= 3.12
• sqlite-vec >= 0.1.6
• sqlite-lembed >= 0.0.1a8

Используемые библиотеки

sqlite-vec sqlite-lembed

Лицензия

MIT