BigQuery cost optimization and governance audit CLI tool
Project description
🚀 DWH-Auditor
DWH-Auditor は、BigQueryのメタデータを分析し、「クラウド破産」を防ぐためのコスト最適化とデータガバナンス監査を瞬時に行うオープンソースのCLIツールです。
「誰がどんな重いクエリを投げているのか」「どのテーブルが使われていないのか」を可視化し、具体的なアクション(インサイト)を提示します。
💡 なぜ DWH-Auditor なのか?
BigQueryは非常に強力ですが、従量課金の性質上、たった一つの非効率なクエリや、放置された不要なテーブルが毎月数万円〜数百万円の無駄なコストを生み出すことがあります。
DWH-Auditorは、複雑な設定なしに INFORMATION_SCHEMA を解析し、あなたのデータ基盤の「健康診断」を数秒で完了させます。実際のテーブルデータには一切アクセスしないため、セキュリティの厳しい環境でも安全に実行できます。
✨ 主な機能
- 💸 高コストクエリの特定: 過去N日間の課金バイト数を集計し、コストの元凶となっているクエリTop10をリストアップします。
- 🚨 フルスキャン(アンチパターン)検知: パーティション指定漏れなど、非効率なフルスキャンクエリを警告します。
- 🧟 ゾンビテーブルの発見: 長期間誰からも参照されていないテーブルを特定し、ストレージコストの削減を促します。
- 📊 Markdownレポート出力: CI/CD(GitHub Actions等)に組み込み、チーム全体に日次で監査レポートを共有できます。
🛠 クイックスタート
1. インストール
pip install dwh-auditor
2. 初期設定
dwh-auditor init
カレントディレクトリに config.yaml が生成されます。必要に応じてコスト単価やしきい値を調整してください。
3. 監査の実行
# 例: my-gcp-project の過去30日間を分析
dwh-auditor analyze --project my-gcp-project --days 30 --output console
4. 🔐 セキュリティについて (Zero Data Access)
DWH-Auditor は、BigQueryのメタデータ(INFORMATION_SCHEMA)のみを読み取ります。ユーザーの実際のテーブルデータ(レコードの中身)を読み取ることは一切ありません。 必要なIAM権限は最小限(roles/bigquery.metadataViewer, roles/bigquery.resourceViewer)で動作します。
5. 💼 エンタープライズサポート / データ基盤コンサルティング
DWH-Auditor は、データ基盤の「課題を発見する」ための強力な健康診断ツールです。しかし、発見された重症な課題(複雑なデータモデルの再設計や、大規模なクエリのリファクタリング)を自社リソースだけで解決するのが難しいケースも少なくありません。
もし以下のようなお悩みがございましたら、本ツールの開発者(データエンジニア)による直接の支援・コンサルティングをご提供可能です。
「DWH-Auditorで大量のフルスキャンが検知されたが、既存のBIやETLを壊さずにどうパーティション設計を直せばいいか分からない」
「レガシーなSQL群を、dbtを用いたモダンなデータモデリングに移行したい」
「本ツールを自社のCI/CDパイプラインに組み込み、継続的なデータガバナンス体制を構築したい」
6. 👉 ご相談・お問い合わせ:
shirokurolab.oss.tools@gmail.com までお気軽にご連絡ください。初回ヒアリング・コスト削減ポテンシャルの簡易アセスメントは無料で承ります。
7. 🤝 貢献について (Contributing)
バグ報告、機能追加のPull Requestは大歓迎です!開発環境のセットアップ方法については CONTRIBUTING.md をご覧ください。
8. 📜 ライセンス
MIT License
Project details
Download files
Download the file for your platform. If you're not sure which to choose, learn more about installing packages.
Source Distribution
Built Distribution
Filter files by name, interpreter, ABI, and platform.
If you're not sure about the file name format, learn more about wheel file names.
Copy a direct link to the current filters
File details
Details for the file dwh_auditor-0.1.0.tar.gz.
File metadata
- Download URL: dwh_auditor-0.1.0.tar.gz
- Upload date:
- Size: 257.9 kB
- Tags: Source
- Uploaded using Trusted Publishing? No
- Uploaded via: uv/0.9.2
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
efa243b7d319a653054b85d52ebad99fae7ba3bfd9b7df443ad1359a562cca78
|
|
| MD5 |
371b18d3378d5f83c8a973a9779ba75d
|
|
| BLAKE2b-256 |
3a81db80543f1b307a460f226ff35a2b1b4b1be1a5030d3e3972abdf5e0bb1dd
|
File details
Details for the file dwh_auditor-0.1.0-py3-none-any.whl.
File metadata
- Download URL: dwh_auditor-0.1.0-py3-none-any.whl
- Upload date:
- Size: 24.0 kB
- Tags: Python 3
- Uploaded using Trusted Publishing? No
- Uploaded via: uv/0.9.2
File hashes
| Algorithm | Hash digest | |
|---|---|---|
| SHA256 |
025406db05d4aea3fd71ba1346295e887cf9484a20136d2b1f1e9543bf7af897
|
|
| MD5 |
548325e6bd1d57ddd3c617d2fda61633
|
|
| BLAKE2b-256 |
978c3e8bc87e6249dbf0aafbadd40e00ebbcf68823c689ffac46e16940deda94
|