Skip to main content

Это библиотека на Python, предназначенная для упрощения создания и управления моделями генерации с использованием поиска (Retrieval-Augmented Generation, RAG).

Project description

rag_builder

rag_builder — это библиотека на Python, предназначенная для упрощения создания и управления моделями генерации с использованием поиска (Retrieval-Augmented Generation, RAG). Библиотека интегрируется с различными языковыми моделями и предоставляет удобный интерфейс для создания, запроса и управления диалоговыми системами.

Возможности

  • Управление командами: Легко добавляйте и управляйте командами для вашей диалоговой системы.
  • Интеграция с LLM: Используйте различные языковые модели для генерации текста.
  • Интеграция с Vector DB: Используйте различные базы данных векторов для поиска похожих запросов.
  • Интеграция с Vectorizers: Используйте различные инструменты для преобразования текста в векторное представление.

Интеграции

Модели Минимальная интеграция Оптимизированная интеграция Полностью интегрировано
LLMs:
OpenAI models
Yandex models
Gemini models
Vector DB:
Chroma
pgvector
Vectorizers:
OpenAI embeddings
Yandex embeddings

Установка

Для установки rag_builder можно использовать pip:

# Без интеграций
pip install llm-rag-builder

# Все интеграции
pip install "llm-rag-builder[all]"  

# Интеграции по отдельности
pip install "llm-rag-builder[openai]"
pip install "llm-rag-builder[yandex]"
pip install "llm-rag-builder[gemini]"
pip install "llm-rag-builder[chroma]"
pip install "llm-rag-builder[pgvector]"

Использование

Базовая настройка

Пример настройки базовой диалоговой системы с использованием rag_builder:

from rag_builder import BaseDialog, BaseCommand, YandexLLM, GeminiLLM

# Инициализация LLM
llm = GeminiLLM(
    db=vdb,
    vectorizer=vectorizer,
    api_key="YOUR_API_KEY",
    llm_model="gemini-1.5-flash",
)

# Создание экземпляра диалога
dialog = BaseDialog(
    llm=llm,
    title='OpenAI Dialog'
)

# Определение команд
get_time_func = BaseCommand(
    name='get_time',
    description='Получить текущее время.',
    examples=['get_time()'],
    run=lambda args: f"Текущее время 12:00",
)

get_weather_func = BaseCommand(
    name='get_weather',
    description='Получить текущую погоду.',
    examples=['get_weather()'],
    run=lambda args: f"Текущая погода солнечная",
)

# Добавление команд в диалог
dialog.add_command(get_time_func)
dialog.add_command(get_weather_func)

# Обработка сообщения пользователя
dialog.proccess_user_message('Какая погода?')

Вывод:

USER: Какая погода?
ASSISTANT: <RUNFUNC> get_weather() </RUNFUNC>
SYSTEM: Текущая погода солнечная
ASSISTANT: Текущая погода солнечная

Больше примеров использования можно найти в папке examples.

Вклад

Ваши идеи и вклад приветствуются! Пожалуйста, отправляйте запросы на добавление изменений (pull requests) или открывайте issue для обсуждения ваших идей.

Лицензия

Этот проект распространяется под лицензией MIT. Подробности можно найти в файле LICENSE.

Контакты

По любым вопросам и запросам обращайтесь на pzrnqt1vrss@protonmail.com

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

llm_rag_builder-0.1.3.tar.gz (4.1 kB view details)

Uploaded Source

Built Distribution

llm_rag_builder-0.1.3-py3-none-any.whl (4.1 kB view details)

Uploaded Python 3

File details

Details for the file llm_rag_builder-0.1.3.tar.gz.

File metadata

  • Download URL: llm_rag_builder-0.1.3.tar.gz
  • Upload date:
  • Size: 4.1 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/5.1.1 CPython/3.12.6

File hashes

Hashes for llm_rag_builder-0.1.3.tar.gz
Algorithm Hash digest
SHA256 1982d5407cf982061f27383d762221ed51b05210033020487d1a211086fc0869
MD5 d920e6fe6365369dce92bd349468b06f
BLAKE2b-256 5f12567047cd349ebadf79d8be4668cc7481a7ff6a728c8f5ca9d2529cd0bafd

See more details on using hashes here.

File details

Details for the file llm_rag_builder-0.1.3-py3-none-any.whl.

File metadata

File hashes

Hashes for llm_rag_builder-0.1.3-py3-none-any.whl
Algorithm Hash digest
SHA256 a0b0877722fda834e1bc424dc62f0e2451f8a393cabb0a81fb15c6374975b3f3
MD5 e8a3ef216a69b1e67f0f2ae5ce70208f
BLAKE2b-256 8116a3f928525038a0fb25865742b56530c52f182c1a5e6622879ff866e450cf

See more details on using hashes here.

Supported by

AWS AWS Cloud computing and Security Sponsor Datadog Datadog Monitoring Fastly Fastly CDN Google Google Download Analytics Microsoft Microsoft PSF Sponsor Pingdom Pingdom Monitoring Sentry Sentry Error logging StatusPage StatusPage Status page