Polarity es una herramienta ligera y eficiente para procesos ETL, diseñada específicamente para data engineers. Utiliza la potencia de Polars para el procesamiento de datos y la validación robusta de Pydantic para garantizar la calidad y consistencia de los datos.
Project description
Polarity
Polarity es una librería diseñada para facilitar los procesos ETL (Extract, Transform, Load) en proyectos de ingeniería de datos, utilizando Polars para el procesamiento eficiente de datos y Pydantic para la validación de los mismos.
Características
- Procesamiento rápido de datos: Aprovecha la velocidad de Polars para manejar grandes volúmenes de datos de manera eficiente.
- Validación de datos: Utiliza modelos de Pydantic para garantizar que los datos sean válidos antes de cargarlos.
- Flexible y escalable: Ideal para proyectos ETL donde la eficiencia y la integridad de los datos son clave.
- Compatible con múltiples fuentes de datos: Soporta distintos formatos y fuentes de datos para extracción y carga.
Instalación
Puedes instalar Polarity directamente desde PyPI utilizando pip
:
pip install polarity
conda install polarity
poetry add polarity
uv add polarity
Qué es Polarity
Polarity es una librería para procesos ETL que combina el procesamiento de datos de alto rendimiento proporcionado por Polars con la validación robusta de esquemas de datos mediante Pydantic. Está diseñada para simplificar y acelerar las tareas de extracción, transformación y carga de datos, asegurando que tus datos sean consistentes y correctos.
Características principales:
- Procesamiento eficiente de datos: Utiliza Polars, un motor de procesamiento de datos altamente optimizado y rápido.
- Validación de datos robusta: Define y valida esquemas de datos fácilmente con Pydantic.
- Escalabilidad: Ideal para manejar grandes volúmenes de datos en flujos de trabajo ETL.
- Fácil integración: Compatible con múltiples formatos y fuentes de datos para extracción y carga.
Ejemplo de uso
Aquí tienes un ejemplo sencillo de cómo utilizar Polarity en un flujo de trabajo ETL:
Documentación
La documentación completa, ejemplos y guías de uso se encuentran bajo construcción.
Contribuir
Si estás interesado en contribuir a Polarity, aquí tienes algunas maneras de hacerlo:
- Informar sobre problemas o bugs abriendo un issue.
- Mejorar la documentación o agregar ejemplos.
- Enviar un Pull Request con mejoras o nuevas funcionalidades.
Para comenzar:
- Haz un fork del repositorio.
- Crea una nueva rama (git checkout -b feature/nueva-funcionalidad).
- Realiza los cambios necesarios.
- Haz commit de tus cambios (git commit -m 'Agrega nueva funcionalidad').
- Haz push a tu rama (git push origin feature/nueva-funcionalidad).
- Abre un Pull Request.
Versionado
Utilizamos el Semantic Versioning para etiquetar las versiones del proyecto. Puedes encontrar las versiones disponibles en el repositorio de GitHub.
Soporte
Si necesitas ayuda o tienes preguntas sobre el uso de Polarity, puedes abrir un issue en el repositorio de GitHub o contactar al autor directamente por correo electrónico.
Licencia
Este proyecto está licenciado bajo la Licencia MIT. Consulta el archivo LICENSE para más detalles.
Acerca de
Polarity es desarrollado y mantenido por JuanManiglia. Si tienes alguna pregunta o sugerencia, no dudes en ponerte en contacto.
Project details
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
File details
Details for the file polarity-0.1.0.tar.gz
.
File metadata
- Download URL: polarity-0.1.0.tar.gz
- Upload date:
- Size: 3.5 kB
- Tags: Source
- Uploaded using Trusted Publishing? No
- Uploaded via: poetry/1.8.3 CPython/3.12.0 Windows/11
File hashes
Algorithm | Hash digest | |
---|---|---|
SHA256 | a3277d7d21a3a9f23b3fe4f9c50490a13766a60e5096663b64e2e031cd7d1636 |
|
MD5 | b54867051b4351813d0db91abe231b82 |
|
BLAKE2b-256 | d1272addf6ed8ebadf3eaa4293d04f29d612c0dfc2f9db36ce1e6b9f008c790f |
File details
Details for the file polarity-0.1.0-py3-none-any.whl
.
File metadata
- Download URL: polarity-0.1.0-py3-none-any.whl
- Upload date:
- Size: 3.6 kB
- Tags: Python 3
- Uploaded using Trusted Publishing? No
- Uploaded via: poetry/1.8.3 CPython/3.12.0 Windows/11
File hashes
Algorithm | Hash digest | |
---|---|---|
SHA256 | c26997e44393472b8c6eeec09452aab23b8aaf732eaa129d7ad2a74a851bf966 |
|
MD5 | faee6a3c0bede1f9961a1b4e1ec8893a |
|
BLAKE2b-256 | cb729473cb0a01d3e2581aca8a3e89049d2f963ee0a9b0e09ed2472b7a95374f |