Skip to main content

Unified wrapper for Elven logs interception and OpenTelemetry instrumentation in Python.

Project description

Unified Observability Py

Pacote unificado para juntar:

  • elven-logs-interceptor-python
  • elven-opentelemetry-instrumentation-py

com uma experiência única de bootstrap, config por env e API manual em Python.

Instalação

Base:

pip install elven-unified-observability-py

Com extras de performance/logging, sem forçar frameworks da aplicação:

pip install "elven-unified-observability-py[full]"

O extra full não instala nem atualiza fastapi, django, flask ou celery. Mantenha esses frameworks versionados no requirements da própria aplicação.

Para desenvolvimento:

pip install -e ".[dev]"

O que a lib entrega

  • init(...) manual com config Python-first
  • init_from_env() para bootstrap por ambiente
  • logger, tracer e metrics reexportados como proxies seguros
  • preload zero-code via sitecustomize
  • CLI elven-unified-observability -- <command>
  • shutdown e flush coordenados
  • auto-bridge para libs de logging suportadas (loguru, structlog)
  • fallback LOKI_* para LOGS_*
  • aliases legados ENABLE_LOGGING, ENABLE_METRICS, ENABLE_TRACING

Quick Start Manual

from elven_unified_observability import init, logger, metrics, tracer

handle = init(
    {
        "service": {
            "serviceName": "billing-service",
            "serviceVersion": "1.2.3",
            "environment": "production",
        },
        "logging": {
            "transport": {
                "url": "https://loki.example.com/loki/api/v1/push",
                "tenantId": "tenant-a",
                "authToken": "token",
                "compression": "gzip",
            },
            "interceptConsole": True,
        },
        "telemetry": {
            "metrics": {"exportIntervalMillis": 15000},
            "privacy": {"redactDbStatement": True},
        },
        "enableLogging": True,
        "enableMetrics": True,
        "enableTracing": True,
    }
)

logger.info("service started", {"service": "billing-service"})
metrics.increment("bootstrap.success", 1)
tracer.with_span("startup", lambda span: span.set_attribute("boot.ready", True))

handle.force_flush()
handle.shutdown()

O logger também aceita padrões comuns do logging nativo durante migração:

logger.info("payload criado", {"request_id": "req-1"})
logger.info("payload criado: %s", payload)
logger.info("payload criado: %(id)s", {"id": payload_id})
logger.info("payload criado: {}", payload_id)
logger.info("payload criado: %s", payload_id, extra={"request_id": "req-1"})
logger.exception("falha ao criar payload: %s", payload_id)

Quando a wrapper intercepta o logging padrão do Python, extra={...} é capturado em context.extra:

logging.getLogger(__name__).info(
    "payload criado",
    extra={"payload": payload},
)

Aliases suportados: warning(...), exception(...) e critical(...).

Campos sensíveis como cpf, password, token e authorization são mascarados por padrão. Use LOGS_FILTER_SANITIZE=false apenas quando o envio do dado sensível em texto puro for realmente necessário e aprovado.

Quick Start Zero-Code

  1. Crie um .env com a identidade do serviço e os endpoints.
  2. Rode a app com a CLI:
elven-unified-observability -- python app.py

Também funciona com:

elven-unified-observability -- uvicorn app:app
elven-unified-observability -- celery -A worker.app worker
elven-unified-observability -- python -m my_service

Como a precedence funciona

  1. Config explícita passada para init(...)
  2. Env da wrapper (UO_*)
  3. Env dos componentes (LOGS_*, LOKI_*, OTEL_*)
  4. Defaults das libs-base

Variáveis da wrapper

Variável Descrição
UO_ENABLED Liga/desliga tudo por default
UO_ENABLE_LOGGING Override unificado para logs
UO_ENABLE_METRICS Override unificado para métricas
UO_ENABLE_TRACING Override unificado para tracing
UO_STRICT Falha o bootstrap se qualquer componente falhar
UO_LOAD_DOTENV Controla leitura de .env no preload/CLI
UO_DOTENV_PATH Caminho alternativo para o .env
UO_LOGGING_INTEGRATIONS Auto-instala bridges de logging: auto, logging, loguru, structlog, none
UO_LOGGING_EXCLUDE_PREFIXES Prefixos globais de bibliotecas barulhentas para ignorar nos bridges
UO_ENABLE_PYTHON_LOGGING_BRIDGE Override específico para bridge agressivo do logging padrão
UO_PYTHON_LOGGING_EXCLUDE_PREFIXES Prefixos extras para ignorar especificamente no bridge de logging
UO_ENABLE_LOGURU_BRIDGE Override específico para bridge de loguru
UO_ENABLE_STRUCTLOG_BRIDGE Override específico para bridge de structlog
UO_LOGURU_LEVEL Nível do sink loguru instalado pela wrapper
UO_LOGURU_ENQUEUE Ativa enqueue no sink loguru
UO_LOGURU_BACKTRACE Ativa backtrace no sink loguru
UO_LOGURU_DIAGNOSE Ativa diagnose no sink loguru
UO_LOGURU_EXCLUDE_PREFIXES Prefixos extras para ignorar especificamente no bridge de loguru

Aliases legados suportados:

  • ENABLE_LOGGING
  • ENABLE_METRICS
  • ENABLE_TRACING

Identidade unificada

A identidade do serviço é sempre derivada nesta ordem:

  1. OTEL_SERVICE_NAME
  2. LOGS_APP_NAME ou LOKI_APP_NAME
  3. default unknown-service

Versão:

  1. OTEL_SERVICE_VERSION
  2. LOGS_APP_VERSION ou LOKI_APP_VERSION
  3. default 1.0.0

Ambiente:

  1. OTEL_DEPLOYMENT_ENVIRONMENT
  2. LOGS_ENVIRONMENT ou LOKI_ENVIRONMENT
  3. ENVIRONMENT
  4. APP_ENV
  5. default development

Logging

Prefixo principal: LOGS_*

Fallback suportado: LOKI_*

Exemplos mais usados:

LOGS_URL=https://loki.example.com/loki/api/v1/push
LOGS_TENANT=my-tenant
LOGS_TOKEN=secret
LOGS_COMPRESSION=gzip
LOGS_ENABLE_STRUCTURED_METADATA=false
LOGS_BUFFER_MAX_SIZE=500
LOGS_FILTER_LEVELS=info,warn,error
LOGS_INTERCEPT_CONSOLE=true
LOGS_ENABLE_METRICS=true

Modo recomendado para clientes com OpenTelemetry Collector:

LOGS_EXPORTER=otlp
OTEL_EXPORTER_OTLP_LOGS_ENDPOINT=http://collector:4318/v1/logs
OTEL_EXPORTER_OTLP_PROTOCOL=http/protobuf
OTEL_TRACES_EXPORTER=otlp
OTEL_METRICS_EXPORTER=otlp

Com LOGS_EXPORTER=otlp, a wrapper envia logs para OTEL_EXPORTER_OTLP_LOGS_ENDPOINT. Nesse modo, LOGS_URL, LOKI_URL, LOGS_TENANT e LOGS_TOKEN deixam de ser obrigatórios pela lib. LOGS_URL é ignorado de propósito em collector mode para evitar enviar payload OTLP para um endpoint Loki direto. Qualquer tenant ou autenticação deve ficar nos headers do collector/gateway.

LOGS_ENABLE_METRICS controla apenas as métricas internas do logger. Se ele não estiver definido, o pacote usa o valor unificado de UO_ENABLE_METRICS.

LOGS_ENABLE_STRUCTURED_METADATA fica false por default para compatibilidade com Loki que não permite structured metadata. Habilite apenas quando o tenant/cluster aceitar limits_config.allow_structured_metadata.

Logging Bridges

Quando a aplicação usa bibliotecas de logging além do logging padrão do Python, a wrapper pode instalar bridges automaticamente no bootstrap.

Hoje os bridges suportados são:

  • loguru
  • logging padrão do Python
  • structlog

No caso de loguru, a wrapper também reaplica o bridge automaticamente quando a aplicação chama logger.configure(...) ou logger.remove(), evitando perder o sink da observabilidade durante o bootstrap da app.

No caso de logging, a wrapper captura diretamente os LogRecord criados pelo Python, inclusive quando a aplicação usa logging.getLogger(__name__), troca handlers, ou define propagate=False.

Habilitar autodetecção para todas as bibliotecas suportadas:

UO_LOGGING_INTEGRATIONS=auto

Filtros padrão já silenciam bibliotecas barulhentas como httpx, httpcore, urllib3, h11, h2, hpack e opentelemetry.

Adicionar/forçar loguru explicitamente:

UO_LOGGING_INTEGRATIONS=loguru

Desligar o bridge agressivo do logging padrão, se realmente necessário:

UO_ENABLE_PYTHON_LOGGING_BRIDGE=false

Forçar override granular:

UO_ENABLE_LOGURU_BRIDGE=true
UO_ENABLE_STRUCTLOG_BRIDGE=false

Refinar exclusões globais:

UO_LOGGING_EXCLUDE_PREFIXES=httpx,httpcore,urllib3,h11,h2,hpack,opentelemetry

Adicionar exclusões extras só para loguru:

UO_LOGURU_EXCLUDE_PREFIXES=botocore,boto3

Para apps loguru-first, a recomendação é manter o bridge ligado e usar LOGS_INTERCEPT_CONSOLE=false quando você não quiser capturar print() da aplicação.

Telemetry

A wrapper reaproveita os OTEL_* já suportados pela lib-base.

Mais comuns:

OTEL_SERVICE_NAME=billing-service
OTEL_SERVICE_VERSION=1.2.3
OTEL_DEPLOYMENT_ENVIRONMENT=production
OTEL_EXPORTER_OTLP_ENDPOINT=http://localhost:4318
OTEL_EXPORTER_OTLP_PROTOCOL=http/protobuf
OTEL_TRACES_EXPORTER=otlp
OTEL_METRICS_EXPORTER=otlp
OTEL_METRIC_EXPORT_INTERVAL=15000
OTEL_PRIVACY_REDACT_DB_STATEMENT=true
OTEL_INSTR_FASTAPI=true
OTEL_INSTR_REQUESTS=true

Framework examples

FastAPI

elven-unified-observability -- uvicorn app:app --host 0.0.0.0 --port 8000

Flask

elven-unified-observability -- flask --app app run

Celery

elven-unified-observability -- celery -A worker.app worker -l info

API pública

  • init(config=None)
  • init_from_env(strict=None)
  • load_config_from_env(env=None)
  • get_handle()
  • is_initialized()
  • force_flush()
  • shutdown()
  • logger
  • tracer
  • metrics

Build e publish

Validação local:

ruff check .
pyright
pytest
python -m build
python -m twine check dist/*

Publish local:

./publish.sh --repository testpypi --dry-run
./publish.sh --repository testpypi
./publish.sh --repository pypi

Tokens esperados:

  • TEST_PYPI_API_TOKEN
  • PYPI_API_TOKEN

Segurança

  • Não versione .env real
  • Não grave token em arquivo
  • Use secrets de CI ou variáveis de ambiente locais

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

elven_unified_observability_py-0.1.14.tar.gz (27.1 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

elven_unified_observability_py-0.1.14-py3-none-any.whl (23.2 kB view details)

Uploaded Python 3

File details

Details for the file elven_unified_observability_py-0.1.14.tar.gz.

File metadata

File hashes

Hashes for elven_unified_observability_py-0.1.14.tar.gz
Algorithm Hash digest
SHA256 edb1673a23c33e76120108204401469be786ae8fc2d950991701f58eb8bc7a57
MD5 bc72abe075e94925d8afe4737d764ea7
BLAKE2b-256 86d629a6cafe7f5f8e57e30194ccaca0e5cdb0c63e07f4c7954dcdba8eb0d086

See more details on using hashes here.

File details

Details for the file elven_unified_observability_py-0.1.14-py3-none-any.whl.

File metadata

File hashes

Hashes for elven_unified_observability_py-0.1.14-py3-none-any.whl
Algorithm Hash digest
SHA256 e7bf4e431658c1f9eda86017e873d02684314c1e74dc1cbf21ba50e9106afd86
MD5 09664f0b974335465978edead12783bb
BLAKE2b-256 4c942808f56f50e710fd35609caa00c31123c38cfc5d0ac3928c57b0e562d74d

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page