Skip to main content

AI Library to authenticate and manage LLM models

Project description

LLM

LLM es una librería Python modular orientada a la integración con múltiples modelos de lenguaje (LLMs), proveedores cloud y utilidades auxiliares para desarrollo e infraestructura.

Esta librería está diseñada para facilitar la interacción con LLMs de OpenAI, Azure, Google y Ollama, integrando además autenticación, configuración externa, plantillas Jinja2, y componentes reutilizables.

Características

  • Soporte para múltiples modelos LLM:
    • OpenAI (chat y embeddings)
    • Azure OpenAI
    • Google Generative AI
    • Ollama
    • LangChain y variantes
  • Módulos para configuración (decouple, YAML)
  • Autenticación vía Azure Identity
  • Generación de contenido vía plantillas Jinja2
  • Separación clara de responsabilidades con módulos como:
    • logger
    • security
    • auth_clients
    • model_* (interfaces para distintos LLMs)

Instalación

Desde PyPI:

pip install ai-factory-model

Puesta a punto

Para poder hacer uso de la factoría de modelos es necesario definir una serie de variables de entorno, que permiten la conexión a los distintos servicios de alojamiento de modelos:

AZURE_TENANT_ID = <id_tenant_azure>
AZURE_CLIENT_ID = <id_client_azure>
AZURE_CLIENT_SECRET = <secret_passphrase_azure_client>
AZURE_TOKEN_URL = <azure_url_token_generator>

Para un mayor nivel de seguridad, se cuenta con conexión a KeyVault. Para definir la conexión al almacén de claves correspondiente, se debe usar:

KV_NAME = <kv_name>
KV_TENANT_ID = <id_kv_tenant>
KV_CLIENT_ID = <id_kv_client>
KV_SECRET = <secret_passphrase_kv>

Con la conexión a KeyVault establecida, los valores que se deben recuperar desde el almacén de claves deben especificarse siguiendo la siguiente nomenclatura:

VARIABLE_SECRET = kv{name-of-secret-at-kv}

De esta forma, por ejemplo:

# Pasamos de tener el secreto en raw
AZURE_CLIENT_SECRET = <secret_passphrase_azure_client>

# A recuperarlo desde el KV
AZURE_CLIENT_SECRET = kv{<name_secret_azure_client>}

Además, si contamos con un fichero en el que tenemos las distintas configuraciones de modelos que deseamos utilizar, debemos indicarlo con su correspondiente variable.

MODELS_CONFIG_FILE = <path_to_models_declarations_file>

Uso básico

from factory_model import ModelFactory

model = ModelFactory.get_model("azai_gtp4o")
respuesta = model.invoke("¿Cuál es la capital de Francia?")
print(respuesta)

Estructura del proyecto

factory_model/
├── factory_model/
│   ├── __init__.py
│   ├── config/
│   ├── llm/
│   ├── logger/
│   ├── security/
├── pyproject.toml
├── requirements.txt
└── README.md

Requisitos y dependencias

Este paquete requiere las siguientes librerías externas:

  • python-decouple
  • PyYAML
  • openai
  • jinja2
  • azure-core
  • azure-identity
  • azure-keyvault-secrets
  • langchain
  • langchain-openai
  • langchain-google-genai
  • langchain-community
  • langchain-azure-ai
  • langchain-ollama

Las dependencias se instalarán automáticamente con pip.

Requisitos del sistema

  • Python 3.12 o superior
  • Acceso a credenciales/API keys para los proveedores usados (OpenAI, Azure, etc.)

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

ai_factory_model-0.0.3.tar.gz (16.0 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

ai_factory_model-0.0.3-py3-none-any.whl (22.7 kB view details)

Uploaded Python 3

File details

Details for the file ai_factory_model-0.0.3.tar.gz.

File metadata

  • Download URL: ai_factory_model-0.0.3.tar.gz
  • Upload date:
  • Size: 16.0 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: twine/6.1.0 CPython/3.9.22

File hashes

Hashes for ai_factory_model-0.0.3.tar.gz
Algorithm Hash digest
SHA256 25831c835aaeb29731c33dc36b3748b67d139186ab3a87421f23ffebe8f48ffa
MD5 135e4912211c99517cf1f7f0892fc4cc
BLAKE2b-256 cb61942a7fb51605a87db3627f78203034df961d3031dfc69e362c3a73cec9dd

See more details on using hashes here.

File details

Details for the file ai_factory_model-0.0.3-py3-none-any.whl.

File metadata

File hashes

Hashes for ai_factory_model-0.0.3-py3-none-any.whl
Algorithm Hash digest
SHA256 b4e929343e824b7a3745bf0228114b3a4097aebd05096607d49da851eaee00d3
MD5 dced2968e67685485c8940ae8134a558
BLAKE2b-256 eb3a0bfad7d9fbcfd09d0884d245682937c2562bb6837d354a91ef02eab2a67a

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page