Skip to main content

BigQuery cost optimization and governance audit CLI tool

Project description

🚀 DWH-Auditor

PyPI version Python Versions License

DWH-Auditor は、BigQueryのメタデータを分析し、「クラウド破産」を防ぐためのコスト最適化とデータガバナンス監査を瞬時に行うオープンソースのCLIツールです。

「誰がどんな重いクエリを投げているのか」「どのテーブルが使われていないのか」を可視化し、具体的なアクション(インサイト)を提示します。

DWH-Auditor Console Report Sample

💡 なぜ DWH-Auditor なのか?

BigQueryは非常に強力ですが、従量課金の性質上、たった一つの非効率なクエリや、放置された不要なテーブルが毎月数万円〜数百万円の無駄なコストを生み出すことがあります。

DWH-Auditorは、複雑な設定なしに INFORMATION_SCHEMA を解析し、あなたのデータ基盤の「健康診断」を数秒で完了させます。実際のテーブルデータには一切アクセスしないため、セキュリティの厳しい環境でも安全に実行できます。

✨ 主な機能

  • 💸 高コストクエリの特定: 過去N日間の課金バイト数を集計し、コストの元凶となっているクエリTop10をリストアップします。
  • 🚨 フルスキャン(アンチパターン)検知: パーティション指定漏れなど、非効率なフルスキャンクエリを警告します。
  • 🧟 ゾンビテーブルの発見: 長期間誰からも参照されていないテーブルを特定し、ストレージコストの削減を促します。
  • 📊 Markdownレポート出力: CI/CD(GitHub Actions等)に組み込み、チーム全体に日次で監査レポートを共有できます。

🛠 クイックスタート

1. インストール

pip install dwh-auditor

2. 初期設定

dwh-auditor init

カレントディレクトリに config.yaml が生成されます。必要に応じてコスト単価やしきい値を調整してください。

3. 監査の実行

# 例: my-gcp-project の過去30日間を分析
dwh-auditor analyze --project my-gcp-project --days 30 --output console

4. 🔐 セキュリティについて (Zero Data Access)

DWH-Auditor は、BigQueryのメタデータ(INFORMATION_SCHEMA)のみを読み取ります。ユーザーの実際のテーブルデータ(レコードの中身)を読み取ることは一切ありません。 必要なIAM権限は最小限(roles/bigquery.metadataViewer, roles/bigquery.resourceViewer)で動作します。

5. 💼 エンタープライズサポート / データ基盤コンサルティング

DWH-Auditor は、データ基盤の「課題を発見する」ための強力な健康診断ツールです。しかし、発見された重症な課題(複雑なデータモデルの再設計や、大規模なクエリのリファクタリング)を自社リソースだけで解決するのが難しいケースも少なくありません。

もし以下のようなお悩みがございましたら、本ツールの開発者(データエンジニア)による直接の支援・コンサルティングをご提供可能です。

「DWH-Auditorで大量のフルスキャンが検知されたが、既存のBIやETLを壊さずにどうパーティション設計を直せばいいか分からない」

「レガシーなSQL群を、dbtを用いたモダンなデータモデリングに移行したい」

「本ツールを自社のCI/CDパイプラインに組み込み、継続的なデータガバナンス体制を構築したい」

6. 👉 ご相談・お問い合わせ:

shirokurolab.oss.tools@gmail.com までお気軽にご連絡ください。初回ヒアリング・コスト削減ポテンシャルの簡易アセスメントは無料で承ります。

7. 🤝 貢献について (Contributing)

バグ報告、機能追加のPull Requestは大歓迎です!開発環境のセットアップ方法については CONTRIBUTING.md をご覧ください。

8. 📜 ライセンス

MIT License

Project details


Download files

Download the file for your platform. If you're not sure which to choose, learn more about installing packages.

Source Distribution

dwh_auditor-0.1.0.tar.gz (257.9 kB view details)

Uploaded Source

Built Distribution

If you're not sure about the file name format, learn more about wheel file names.

dwh_auditor-0.1.0-py3-none-any.whl (24.0 kB view details)

Uploaded Python 3

File details

Details for the file dwh_auditor-0.1.0.tar.gz.

File metadata

  • Download URL: dwh_auditor-0.1.0.tar.gz
  • Upload date:
  • Size: 257.9 kB
  • Tags: Source
  • Uploaded using Trusted Publishing? No
  • Uploaded via: uv/0.9.2

File hashes

Hashes for dwh_auditor-0.1.0.tar.gz
Algorithm Hash digest
SHA256 efa243b7d319a653054b85d52ebad99fae7ba3bfd9b7df443ad1359a562cca78
MD5 371b18d3378d5f83c8a973a9779ba75d
BLAKE2b-256 3a81db80543f1b307a460f226ff35a2b1b4b1be1a5030d3e3972abdf5e0bb1dd

See more details on using hashes here.

File details

Details for the file dwh_auditor-0.1.0-py3-none-any.whl.

File metadata

File hashes

Hashes for dwh_auditor-0.1.0-py3-none-any.whl
Algorithm Hash digest
SHA256 025406db05d4aea3fd71ba1346295e887cf9484a20136d2b1f1e9543bf7af897
MD5 548325e6bd1d57ddd3c617d2fda61633
BLAKE2b-256 978c3e8bc87e6249dbf0aafbadd40e00ebbcf68823c689ffac46e16940deda94

See more details on using hashes here.

Supported by

AWS Cloud computing and Security Sponsor Datadog Monitoring Depot Continuous Integration Fastly CDN Google Download Analytics Pingdom Monitoring Sentry Error logging StatusPage Status page