Skip to main content

Unified wrapper for Elven logs interception and OpenTelemetry instrumentation in Python.

Project description

Unified Observability Py

Pacote unificado para juntar:

  • elven-logs-interceptor-python
  • elven-opentelemetry-instrumentation-py

com uma experiência única de bootstrap, config por env e API manual em Python.

Instalação

Base:

pip install elven-unified-observability-py

Com extras de performance/logging, sem forçar frameworks da aplicação:

pip install "elven-unified-observability-py[full]"

O extra full não instala nem atualiza fastapi, django, flask ou celery. Mantenha esses frameworks versionados no requirements da própria aplicação.

Para desenvolvimento:

pip install -e ".[dev]"

O que a lib entrega

  • init(...) manual com config Python-first
  • init_from_env() para bootstrap por ambiente
  • logger, tracer e metrics reexportados como proxies seguros
  • preload zero-code via sitecustomize
  • CLI elven-unified-observability -- <command>
  • shutdown e flush coordenados
  • auto-bridge para libs de logging suportadas (loguru, structlog)
  • fallback LOKI_* para LOGS_*
  • aliases legados ENABLE_LOGGING, ENABLE_METRICS, ENABLE_TRACING

Quick Start Manual

from elven_unified_observability import init, logger, metrics, tracer

handle = init(
    {
        "service": {
            "serviceName": "billing-service",
            "serviceVersion": "1.2.3",
            "environment": "production",
        },
        "logging": {
            "transport": {
                "url": "https://loki.example.com/loki/api/v1/push",
                "tenantId": "tenant-a",
                "authToken": "token",
                "compression": "gzip",
            },
            "interceptConsole": True,
        },
        "telemetry": {
            "metrics": {"exportIntervalMillis": 15000},
            "privacy": {"redactDbStatement": True},
        },
        "enableLogging": True,
        "enableMetrics": True,
        "enableTracing": True,
    }
)

logger.info("service started", {"service": "billing-service"})
metrics.increment("bootstrap.success", 1)
tracer.with_span("startup", lambda span: span.set_attribute("boot.ready", True))

handle.force_flush()
handle.shutdown()

O logger também aceita padrões comuns do logging nativo durante migração:

logger.info("payload criado", {"request_id": "req-1"})
logger.info("payload criado: %s", payload)
logger.info("payload criado: %(id)s", {"id": payload_id})
logger.info("payload criado: {}", payload_id)
logger.info("payload criado: %s", payload_id, extra={"request_id": "req-1"})
logger.exception("falha ao criar payload: %s", payload_id)

Quando a wrapper intercepta o logging padrão do Python, extra={...} é capturado em context.extra:

logging.getLogger(__name__).info(
    "payload criado",
    extra={"payload": payload},
)

Aliases suportados: warning(...), exception(...) e critical(...).

Campos sensíveis como cpf, cnpj, cpfCnpj, password, token e authorization são mascarados por padrão. Em mensagens, a lib mascara apenas o fragmento/valor sensível e mantém o restante do log. Em extra/contexto estruturado, chaves sensíveis mascaram o valor inteiro. Para desligar, use LOGS_FILTER_SANITIZE=false, LOGS_SANITIZE=false ou UO_LOGS_SANITIZE=false apenas quando o envio do dado sensível em texto puro for realmente necessário e aprovado.

Quick Start Zero-Code

  1. Crie um .env com a identidade do serviço e os endpoints.
  2. Rode a app com a CLI:
elven-unified-observability -- python app.py

Também funciona com:

elven-unified-observability -- uvicorn app:app
elven-unified-observability -- celery -A worker.app worker
elven-unified-observability -- python -m my_service

Como a precedence funciona

  1. Config explícita passada para init(...)
  2. Env da wrapper (UO_*)
  3. Env dos componentes (LOGS_*, LOKI_*, OTEL_*)
  4. Defaults das libs-base

Variáveis da wrapper

Variável Descrição
UO_ENABLED Liga/desliga tudo por default
UO_ENABLE_LOGGING Override unificado para logs
UO_ENABLE_METRICS Override unificado para métricas
UO_ENABLE_TRACING Override unificado para tracing
UO_STRICT Falha o bootstrap se qualquer componente falhar
UO_LOAD_DOTENV Controla leitura de .env no preload/CLI
UO_DOTENV_PATH Caminho alternativo para o .env
UO_LOGGING_INTEGRATIONS Auto-instala bridges de logging: auto, logging, loguru, structlog, none
UO_LOGGING_EXCLUDE_PREFIXES Prefixos globais de bibliotecas barulhentas para ignorar nos bridges
UO_ENABLE_PYTHON_LOGGING_BRIDGE Override específico para bridge agressivo do logging padrão
UO_PYTHON_LOGGING_EXCLUDE_PREFIXES Prefixos extras para ignorar especificamente no bridge de logging
UO_ENABLE_LOGURU_BRIDGE Override específico para bridge de loguru
UO_ENABLE_STRUCTLOG_BRIDGE Override específico para bridge de structlog
UO_LOGURU_LEVEL Nível do sink loguru instalado pela wrapper
UO_LOGURU_ENQUEUE Ativa enqueue no sink loguru
UO_LOGURU_BACKTRACE Ativa backtrace no sink loguru
UO_LOGURU_DIAGNOSE Ativa diagnose no sink loguru
UO_LOGURU_EXCLUDE_PREFIXES Prefixos extras para ignorar especificamente no bridge de loguru

Aliases legados suportados:

  • ENABLE_LOGGING
  • ENABLE_METRICS
  • ENABLE_TRACING

Identidade unificada

A identidade do serviço é sempre derivada nesta ordem:

  1. OTEL_SERVICE_NAME
  2. LOGS_APP_NAME ou LOKI_APP_NAME
  3. default unknown-service

Versão:

  1. OTEL_SERVICE_VERSION
  2. LOGS_APP_VERSION ou LOKI_APP_VERSION
  3. default 1.0.0

Ambiente:

  1. OTEL_DEPLOYMENT_ENVIRONMENT
  2. LOGS_ENVIRONMENT ou LOKI_ENVIRONMENT
  3. ENVIRONMENT
  4. APP_ENV
  5. default development

Logging

Prefixo principal: LOGS_*

Fallback suportado: LOKI_*

Exemplos mais usados:

LOGS_URL=https://loki.example.com/loki/api/v1/push
LOGS_TENANT=my-tenant
LOGS_TOKEN=secret
LOGS_COMPRESSION=gzip
LOGS_ENABLE_STRUCTURED_METADATA=false
LOGS_BUFFER_MAX_SIZE=500
LOGS_FILTER_LEVELS=info,warn,error
LOGS_INTERCEPT_CONSOLE=true
LOGS_ENABLE_METRICS=true

Modo recomendado para clientes com OpenTelemetry Collector:

LOGS_EXPORTER=otlp
OTEL_EXPORTER_OTLP_LOGS_ENDPOINT=http://collector:4318/v1/logs
OTEL_EXPORTER_OTLP_PROTOCOL=http/protobuf
OTEL_TRACES_EXPORTER=otlp
OTEL_METRICS_EXPORTER=otlp

Com LOGS_EXPORTER=otlp, a wrapper envia logs para OTEL_EXPORTER_OTLP_LOGS_ENDPOINT. Se o endpoint explícito de logs não existir, a wrapper deriva /v1/logs de OTEL_EXPORTER_OTLP_TRACES_ENDPOINT, OTEL_EXPORTER_OTLP_METRICS_ENDPOINT ou OTEL_EXPORTER_OTLP_ENDPOINT. Nesse modo, LOGS_URL, LOKI_URL, LOGS_TENANT e LOGS_TOKEN deixam de ser obrigatórios pela lib. LOGS_URL é ignorado de propósito em collector mode para evitar enviar payload OTLP para um endpoint Loki direto. Qualquer tenant ou autenticação deve ficar nos headers do collector/gateway.

LOGS_ENABLE_METRICS controla apenas as métricas internas do logger. Se ele não estiver definido, o pacote usa o valor unificado de UO_ENABLE_METRICS.

LOGS_ENABLE_STRUCTURED_METADATA fica false por default para compatibilidade com Loki que não permite structured metadata. Habilite apenas quando o tenant/cluster aceitar limits_config.allow_structured_metadata.

Logging Bridges

Quando a aplicação usa bibliotecas de logging além do logging padrão do Python, a wrapper pode instalar bridges automaticamente no bootstrap.

Hoje os bridges suportados são:

  • loguru
  • logging padrão do Python
  • structlog

No caso de loguru, a wrapper também reaplica o bridge automaticamente quando a aplicação chama logger.configure(...) ou logger.remove(), evitando perder o sink da observabilidade durante o bootstrap da app.

No caso de logging, a wrapper captura diretamente os LogRecord criados pelo Python, inclusive quando a aplicação usa logging.getLogger(__name__), troca handlers, ou define propagate=False.

Habilitar autodetecção para todas as bibliotecas suportadas:

UO_LOGGING_INTEGRATIONS=auto

Filtros padrão já silenciam bibliotecas barulhentas como httpx, httpcore, urllib3, h11, h2, hpack e opentelemetry.

Adicionar/forçar loguru explicitamente:

UO_LOGGING_INTEGRATIONS=loguru

Desligar o bridge agressivo do logging padrão, se realmente necessário:

UO_ENABLE_PYTHON_LOGGING_BRIDGE=false

Forçar override granular:

UO_ENABLE_LOGURU_BRIDGE=true
UO_ENABLE_STRUCTLOG_BRIDGE=false

Refinar exclusões globais:

UO_LOGGING_EXCLUDE_PREFIXES=httpx,httpcore,urllib3,h11,h2,hpack,opentelemetry

Adicionar exclusões extras só para loguru:

UO_LOGURU_EXCLUDE_PREFIXES=botocore,boto3

Para apps loguru-first, a recomendação é manter o bridge ligado e usar LOGS_INTERCEPT_CONSOLE=false quando você não quiser capturar print() da aplicação.

Telemetry

A wrapper reaproveita os OTEL_* já suportados pela lib-base.

Mais comuns:

OTEL_SERVICE_NAME=billing-service
OTEL_SERVICE_VERSION=1.2.3
OTEL_DEPLOYMENT_ENVIRONMENT=production
OTEL_EXPORTER_OTLP_ENDPOINT=http://localhost:4318
OTEL_EXPORTER_OTLP_PROTOCOL=http/protobuf
OTEL_TRACES_EXPORTER=otlp
OTEL_METRICS_EXPORTER=otlp
OTEL_METRIC_EXPORT_INTERVAL=15000
OTEL_PRIVACY_REDACT_DB_STATEMENT=true
OTEL_INSTR_FASTAPI=true
OTEL_INSTR_REQUESTS=true

Framework examples

FastAPI

elven-unified-observability -- uvicorn app:app --host 0.0.0.0 --port 8000

Flask

elven-unified-observability -- flask --app app run

Celery

elven-unified-observability -- celery -A worker.app worker -l info

API pública

  • init(config=None)
  • init_from_env(strict=None)
  • load_config_from_env(env=None)
  • get_handle()
  • is_initialized()
  • force_flush()
  • shutdown()
  • logger
  • tracer
  • metrics

Build e publish

Validação local:

ruff check .
pyright
pytest
python -m build
python -m twine check dist/*

Publish local:

./publish.sh --repository testpypi --dry-run
./publish.sh --repository testpypi
./publish.sh --repository pypi

Tokens esperados:

  • TEST_PYPI_API_TOKEN
  • PYPI_API_TOKEN

Segurança

  • Não versione .env real
  • Não grave token em arquivo
  • Use secrets de CI ou variáveis de ambiente locais

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

elven_unified_observability_py-0.1.17.tar.gz (27.9 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

elven_unified_observability_py-0.1.17-py3-none-any.whl (23.5 kB view details)

Uploaded Python 3

File details

Details for the file elven_unified_observability_py-0.1.17.tar.gz.

File metadata

File hashes

Hashes for elven_unified_observability_py-0.1.17.tar.gz
Algorithm Hash digest
SHA256 eff239d59501284ceb1a67a48a9de8a774925f91c9849a2a8e6d1d00235d070b
MD5 df7641f54c71f756e06ee2261a8b03e8
BLAKE2b-256 8e0a4d944d7f2e26f593bf1dc1acba08e9ad675f9b7519b09a75f1479f111808

See more details on using hashes here.

File details

Details for the file elven_unified_observability_py-0.1.17-py3-none-any.whl.

File metadata

File hashes

Hashes for elven_unified_observability_py-0.1.17-py3-none-any.whl
Algorithm Hash digest
SHA256 b20db686da2e22c94f1bc748f47547d16365da51058b2cda23d25d0e3f75435c
MD5 a057a29b639738de490ecd9464ac0e93
BLAKE2b-256 eec07db949d570e9556b703eb92524ad028e29f3201db971958c8017d44688bc

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page