BigQuery ML for unstructured data
- 1. BigQuery MLによる画像推論 2022/12/31 機械学習の社会実装勉強会第18 回 岩澤 幸太朗
- 2. ? BigQuery MLで非構造化データの推論が可能に (インポートしたTensorFlowモデルを使用) ? 2022/10よりプレビュー → 2022/12 時点では画像データのみ ○ 音声?動画?テキストなどは今後対応予定 今回の内容 Structured Data Semi-structured Data Unstructured Data
- 3. ? GCPの DataWarehouse サービス (AWSにおけるRedshift) ? GCPのデータパイプラインの中核 ? Compute, Storage, Memory が分離し自動スケーリング ? 日々機能アップデート(他クラウドサービスとの連携強化等) SQLで巨大なデータを管理、操作するプラットフォーム 対象： 構造化／半構造化／非構造化 データ オブジェクトテーブルにより分析可能に (2022/10) BigQuery
- 4. Tutorial: https://codelabs.developers.google.com/codelabs/bqml-intro#0 利用できるモデル: https://cloud.google.com/bigquery-ml/docs/bigqueryml-intro#supported_models_in 概要: https://cloud.google.com/bigquery-ml/docs/bigqueryml-intro ? SQLのみで前処理、学習、予測が可能 ? 作成済みTensorFlowモデルのインポートも可能 ? Vertex AI との連携により効果的な運用が可能 ○ 【第12回】Vertex AI Pipelinesで BigQuery MLのワークフローを管理（ETL ~ デプロイまで) ○ 【第10回】Vertex AI Model Registryで BigQuery MLのモデルを管理する ○ 【第9回】Vertex AI Workbench による Notebook 環境 BigQuery ML
- 5. ? Next ‘22 にて発表 ? Google Cloud Storage上の非構造化データを参照する外部テーブル ○ BigQuery MLによる推論実行 (2022/12時点では画像のみ) ○ リモート関数で分析実行 ● オブジェクトテーブルの例（列：オブジェクトのメタデータ） オブジェクトテーブル
- 8. ? CLOUD_RESOURCE 接続の作成 オブジェクト テーブルの概要 https://cloud.google.com/bigquery/docs/object-table-introduction?hl=ja オブジェクト テーブルを作成する https://cloud.google.com/bigquery/docs/object-tables?hl=ja ? 接続のサービスアカウントにCloud Storage へのアクセス権限を付与 オブジェクトテーブルの作成 1
- 10. ? TensorFlowモデルを Google Cloud Storage にアップロード ○ TensorFlow Hub https://tfhub.dev/ ○ 独自モデル ? アップロードしたモデルを BigQuery ML に読み込む 画像オブジェクト テーブルでの推論の実行 https://cloud.google.com/bigquery/docs/object-table-inference?hl=ja チュートリアル: 分類モデルを使用してオブジェクト テーブルで推論を実行する https://cloud.google.com/bigquery/docs/inference-tutorial-resnet?hl=ja BigQuery ML による推論 1 制限事項 https://cloud.google.com/bigquery/docs/object-table-inference? hl=ja#limitations
- 11. ? オブジェクト テーブルを ML.PREDICT 関数への入力として使用 BigQuery ML による推論 2
- 13. - オブジェクトテーブルを用いてGCS上の非構造化データを参照することができる - インポートしたTensorFlow モデルでBigQuery ML による推論が可能 まとめ
- 14. 【新機能】BigQueryのオブジェクト テーブルを使ってみる（プレビュー） https://dev.classmethod.jp/articles/bq-new-object-tables/ データと AI の統合により BigQuery に非構造化データ分析を提供する https://cloud.google.com/blog/ja/products/data-analytics/how-to-manage-and-process-unstructured-data-in-bigquery BigQuery リモート関数でCloud Translation API を使ってテキスト翻訳してみた https://dev.classmethod.jp/articles/bigquery-remote-function-with-cloud-translation-api/ 参考資料