Skip to main content

Набор утилит для конвертации таблиц postges в json формат и обратно

Project description

Утилиты для работы с системой импорт/экспорта классификаторов в едином формате.

Модуль table_to_file предлагает набор функций для импорта/экспорта таблиц из БД в формат json и обратно.

Структура json'а описана в документации к протоколу передачи классификаторов см раздел "2. Классификатор".

Протокол и структура хранения классификаторов в json, как его составная часть, разрабатываются как общесистемные решения для проектов Лаборатории.

Ограничения:

  • Последовательности (Sequences) должны быть в той же схеме, что и таблица их использующая

Интерфейс взаимодействия с модулем.

Модуль представляет API состоящее из 4х методов:

export_table_to_dict - Преобразует таблицу из бд в словарь содержащий структуру и данные таблицы.

Параметры:

  • table_name - Имя таблицы в базе данных.
  • dbname - Имя базы данных.
  • user - Пользователь БД.
  • password - Пароль пользователя.
  • host - Адрес сервера баз данных.
  • port - Порт сервера баз данных.

Возвращаемое значение:

  • Словарь со структурой и данными таблицы. Структура словаря соответствует описанной структуре классификатора в документации к протоколу.

import_table_from_dict - Импортирует данные из словаря подходящей структуры в базу данных.

Если такой таблицы нет в БД то таблица будет создана и заполнена данными из словаря. В случае несоответствия структуры описанной в словаре таблице существующей в базе данных поднимает исключение ValueError.

Параметры:

  • table - Структура таблицы и данные для импорта в виде словаря.
  • table_name - Имя таблицы в базе данных.
  • dbname - Имя базы данных.
  • user - Пользователь БД.
  • password - Пароль пользователя.
  • host - Адрес сервера баз данных.
  • port - Порт сервера баз данных.
  • foreign_tables_mapping Словарь соответствия имен связанных таблиц в словаре и в базе данных. Ключи и значения словаря кортежи состоящие из пары значений ('имя_схемы', 'имя_таблицы') ключ - имена в структуре данных, значения - имена в базе данных. Пример {('имя_схемы_в_структуре', 'имя_таблицы_в_структуре'): ('имя_схемы_в_бд', 'имя_таблицы_в_бд')}

Возвращаемое значение:

  • нет

dict_as_json - Сохраняет словарь с таблицей в виде json в BytesIO объект

Параметры:

  • table - Словарь содержащий структуру таблицы для сохранения в json формате.

Возвращаемое значение:

  • Объект BytesIO содержащий "файл" с переданной структурой в json формате.

json_to_table - Принимает или путь к файлу с json или BytesIO объект из которого

Параметры:

  • data_source - Имя файла в системе или объект BytesIO содержащий в себе json соответствующего формата.
  • table_name - Имя таблицы в базе данных.
  • dbname - Имя базы данных.
  • user - Пользователь БД.
  • password - Пароль пользователя.
  • host - Адрес сервера баз данных.
  • port - Порт сервера баз данных.
  • foreign_tables_mapping Словарь соответствия имен связанных таблиц в словаре и в базе данных.

Возвращаемое значение:

  • нет

Установка и использование

Этот проект использует uv для управления зависимостями.

Установка зависимостей

uv sync

Активация виртуального окружения

uv shell

Установка дополнительных зависимостей для разработки

uv sync --group dev

Запуск тестов.

Для запуска тестов необходимо установленный в системе Docker. Тесты запускаются из директории проекта командой

docker-compose -f docker-compose.pytest.yml run --build --rm tests

Также для запуска можно использовать вариант с двумя последовательными командами

docker-compose -f docker-compose.pytest.yml build --no-cache
docker-compose -f docker-compose.pytest.yml run --rm tests

После тестов желательно удалить созданные контейнеры

docker-compose -f docker-compose.pytest.yml down -v

Альтернатива если в системе установлен make Make for Windows, How to install and use "make" in Windows?

make test

Последние зменения

[0.3.1] - 2026-03-09

Добавлены:

  • Тесты к модулю flk.

[0.3.0] - 2025-12-03

Добавлены:

  • Модуль flk, содержащий класс FLKValidator с методом validate_classifier() для проведения форматно-логического контроля json файла перед его импортированием: обеспечивает проверку чтения данных, проверку схемы json, проверку соответствия данных структуре, проверку соответствия структур из json и из базы( допуская разные наименования таблицы).
  • Возвращаемый после прохождения флк результат в виде json в формате:
{
  "ready_for_import": "bool",
  "receipt": {
    "id": "string",
    "msg_type": "string",
    "note": "string",
    "payload": {
      "comments": [
        "string"
      ],
      "data_and_structure_check": "bool",
      "error_details": "string",
      "flk_success": "bool",
      "parent_msg_id": "string",
      "proto_check": "bool",
      "read_check": "bool",
      "schema_check": "bool",
      "statistics": {
        "columns_count": 0,
        "records_count": 0,
        "table_exists": "bool",
        "table_name": "string"
    },
    "structure_check": "bool",
    "timestamp": "string"
  },
  "protocol_version": 0,
  "system_id": "string",
  "timestamp": "string"
}

Полная история изменений

Смотрите полную историю всех изменений в файле CHANGELOG.md или на странице проекта

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distributions

No source distribution files available for this release.See tutorial on generating distribution archives.

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

json_2_postgres-0.3.1-py3-none-any.whl (3.9 kB view details)

Uploaded Python 3

File details

Details for the file json_2_postgres-0.3.1-py3-none-any.whl.

File metadata

File hashes

Hashes for json_2_postgres-0.3.1-py3-none-any.whl
Algorithm Hash digest
SHA256 befa76bd01c9340b580ba11be1f2fd391defb0972e9960a79e3907709ec8bd20
MD5 749c8894913a12661759b0c5d65ec85f
BLAKE2b-256 2bd754748534fd0699590182a26e83e047272748f51c5a23b4915791096ac5e2

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page