Помощь в подключениях и загрузке в БД
Project description
Коннекторы для получения данных из API + загрузка в Clickhouse
Коннекторы дают возможность загружать данные из разных API. Проект работает на базе Docker и собирает данные в Clickhouse, но может также использоваться как обычная библиотека для получения данных без привязки к Docker или Clickhouse.
Ключевые преимущества:
- автоматическое определение состава и типов столбцов, не нужно менять код при добавлении/удалении столбцов на стороне API
- быстрое добавление стандартных методов
- работа по принципу Airflow с фиксацией сбора данных в специальной таблице за каждый день
- инкрементное обновление (получение N последних дней без перезагрузки всех данных)
- централизованные правки при изменениях API (пользователю надо просто перезапустить контейнер)
- может работать без Clickhouse - для обычного получения данных (пример - получение данных в Google Sheets, видео ниже)
- уведомления об ошибках и ходе загрузки в Telegram
Список источников:
WB, OZON, Yandex Market, GetCourse, Yandex Direct, VK Ads, Yandex Metrika, Bitrix24.
Полезные ссылки:
- Подробная статья: http://directprobi.ru/blogs/dannye-api-v-clickhouse-na-python-docker-connectors-wb-ozon-yandex/
- Команды для работы с Docker: https://github.com/morinad/morin/blob/main/DOCKER.md
- Основное видео с демонстрацией: https://youtu.be/OHwtIrQyF68
- Ответы на вопросы: https://youtu.be/sK4mHmAbu4A
- Все полезные файлы на Boosty: https://boosty.to/morinad/posts/ae00106e-4e29-4010-9aff-433d28b620f8?share=post_link
- Применение коннекторов для Google Sheets без Clickhouse и Docker: https://youtu.be/KvuaLI8mGDU
Новые видео, статьи и полезности в Telegram-канале: https://t.me/+2kqVrjV5aXs0NTRi
Наши курсы по Power Query, Power BI и автоматизации:
- Основы Power BI (бесплатный курс): https://directprorf.ru/basics?utm_source=github
- Power BI для рекламных отчётов: https://directprorf.ru/powerbi?utm_source=github
- Из API в Excel и Power BI + коннекторы: https://directprorf.ru/excel?utm_source=github
- Коннекторы для Маркетплейсов: https://directprorf.ru/marketplaces?utm_source=github
- Продвинутый Power Query: https://directprorf.ru/pro?utm_source=github
- Создание коннекторов в Power Query: https://directprorf.ru/connectors?utm_source=github
Release history Release notifications | RSS feed
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Filter files by name, interpreter, ABI, and platform.
If you're not sure about the file name format, learn more about wheel file names.
Copy a direct link to the current filters
File details
Details for the file morin-0.4.40.tar.gz.
File metadata
- Download URL: morin-0.4.40.tar.gz
- Upload date:
- Size: 56.0 kB
- Tags: Source
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/4.0.2 CPython/3.11.0
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
373666d5f13ee64bf92e847983154b03c085f65046938acb5d63588ed55b6c1c
|
|
| MD5 |
1fc4e46f63a4121e45dd2b65cad4a009
|
|
| BLAKE2b-256 |
0146796a364211b31915854260ee6702e5cd4947026351b1bb050c9a18fcfd61
|
File details
Details for the file morin-0.4.40-py3-none-any.whl.
File metadata
- Download URL: morin-0.4.40-py3-none-any.whl
- Upload date:
- Size: 67.6 kB
- Tags: Python 3
- Uploaded using Trusted Publishing? No
- Uploaded via: twine/4.0.2 CPython/3.11.0
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
d966bba5f6b432fb2e9b1db6c342dd5cdf34c7467545005fcf1fca3a3c631eb3
|
|
| MD5 |
fdb6bce4b81c93b4a8a46bb411278ec3
|
|
| BLAKE2b-256 |
2cb3559bc74a02f6ec4757ba6c2bc98f8ed2ee0a0483ef7309b64b559756b4df
|
