OceanBaseのマルチモーダル融合による文化観光アシスタントの構築

本記事では、OceanBaseのマルチモーダル融合技術を活用して、専用のOceanBase文化観光アシスタントを構築します。

前提条件

• OceanBase V4.3.3以降のバージョンのクラスタをデプロイし、MySQLモードのテナントを作成していること。OceanBaseクラスタのデプロイに関する詳細情報については、デプロイの概要を参照してください。

• 作成したMySQLモードのテナントに挿入およびクエリの権限が付与されていること。権限設定の詳細については、直接権限付与を参照してください。

• データベースを作成済みであること。データベースの作成に関する詳細情報については、データベースの作成を参照してください。

• データベースでベクトル検索機能が有効になっていること。ベクトル検索機能の詳細については、SQLを使用した迅速なベクトル検索を参照してください。

  obclient> ALTER SYSTEM SET ob_vector_memory_limit_percentage = 30;
  

• （推奨、必須ではない）Python 3.10以降のバージョンと対応するpipをインストールしてください。ご使用のマシンのPythonバージョンが低い場合は、Minicondaを使用して新しいPython 3.10以降の環境を作成できます。具体的な手順については、Minicondaインストールガイドを参照してください。

  conda create -n obmms python=3.10 && conda activate obmms
  

• Poetryをインストールしてください。参考コマンド：

  python3 -m ensurepip
  python3 -m pip install poetry
  

• 対応するPythonパッケージをインストールしてください。参考コマンド：

  pip install python-dotenv tqdm streamlit pyobvector==0.2.16
  

ステップ１：LLM APIキーを取得する

Alibaba Cloud Model Studioアカウントに登録し、モデルサービスを開始してAPIキーを取得します。

ステップ2：地理サービスAPIキーを取得する

高徳オープンプラットフォームに登録し、Basic LBSサービス APIキーを取得します。

ステップ3：公開データセットをダウンロードする

Kaggleの中国都市観光スポット詳細データセットのZIP圧縮ファイルをダウンロードします。

ステップ4：文化観光アシスタントを構築する

プロジェクトリポジトリのクローン

1. 最新のプロジェクトリポジトリをクローンします。

   git clone https://github.com/oceanbase-devhub/ob-multi-model-search-demo.git
   cd ob-multi-model-search-demo
   

2. ダウンロードした archive データセットのZIPファイルを ob-multi-model-search-demo プロジェクトフォルダに移動し、citydata に名前を変更して解凍します。

   # archive.zipファイルの実際の保存パスに変更してください
   mv ./archive.zip ./citydata.zip
   unzip ./citydata.zip
   

依存関係のインストール

プロジェクトのルートディレクトリで、以下のコマンドを実行して依存関係をインストールします。

poetry install

環境変数の設定

.env ファイルに環境変数を設定します：

vim .env

OB_ で始まる変数は、ご自身のデータベース接続情報に更新し、以下の変数を手動で追加する必要があります：DASHSCOPE_API_KEY をAlibaba Cloud Model Studioコンソールから取得したAPIキー値に更新し、AMAP_API_KEY を高徳地図APIサービスから取得したAPIキー値に更新して、ファイルを保存します。

# データベース接続文字列のホストアドレス
OB_URL="******"
OB_USER="******"
OB_DB_NAME="******"
# データベース接続文字列のパスワード
OB_PWD="******"
# データベース接続文字列のSSL CAファイルパス（オプション）。SSLリンク暗号化を使用しない場合は、このパラメータを削除する必要があります。
OB_DB_SSL_CA_PATH="******"

# LLM APIキーを手動で追加
DASHSCOPE_API_KEY="******"
# 高徳地図APIキーを手動で追加
AMAP_API_KEY="******"

データのインポート

このステップでは、ダウンロードしたデータセットのデータをOceanBaseにインポートします。

python ./obmms/data/attraction_data_preprocessor.py

以下の実行進捗が表示されれば、データが正常にインポートされています。

...
./citydata/常德.csv:
100%|███████████████████████████████████████████████████████████████████████████| 100/100 [00:04<00:00, 20.77it/s]
./citydata/渭南.csv:
100%|█████████████████████████████████████████████████████████████████████████████| 90/90 [00:13<00:00,  6.54it/s]
...

UIチャットインターフェースの起動

以下のコマンドを実行して、チャットインターフェースを起動します：

poetry run streamlit run ./ui.py

ウェブページが直接ポップアップ表示されない場合は、端末に表示されたURLにアクセスして、文化観光アシスタントアプリケーションの画面を開きます。

  You can now view your Streamlit app in your browser.

  Local URL: http://localhost:8501
  Network URL: http://172.xxx.xxx.xxx:8501

アプリケーションの表示

オンラインデモ体験

ご自身で文化観光アシスタントを構築する以外に、文化観光アシスタントにアクセスしてオンラインデモアプリケーションを体験することもできます。デモの公式サイトからの入口はリソースとサービス-学習-オンライン体験-オンラインデモです。以下が画面表示です：

トラブルシューティング

依存パッケージのインストール問題

Poetryのインストール失敗

poetry install コマンドが失敗した場合、以下の手順を試すことができます：

1. Poetryを最新バージョンに更新します：

   pip install --upgrade poetry
   

2. Poetryキャッシュをクリアします：

   poetry cache clear --all pypi
   

3. 依存関係を再インストールします：

   poetry install --no-cache
   

環境設定問題

Python環境が有効化されていない

正しいconda環境が有効化されていることを確認してください：

conda activate obmms

Pythonバージョンの互換性

Python 3.10以降のバージョンを使用していることを確認してください：

python --version

バージョンが低すぎる場合は、環境を再作成してください：

conda create -n obmms python=3.10
conda activate obmms

データベース接続問題

データベース接続に問題が発生した場合、以下を確認してください：

1. .env ファイル内のデータベース接続情報が正しいかどうか
2. OceanBaseクラスタが正常に稼働しているかどうか
3. ネットワーク接続が正常かどうか
4. データベースユーザーの権限が十分かどうか

その他のよくある質問

ポートが占有されている

Streamlit起動時にポートが占有されているというメッセージが表示された場合、他のポートを指定できます：

poetry run streamlit run ./ui.py --server.port 8502

メモリ不足

データインポート中にメモリ不足の問題が発生した場合、以下の対処法があります：

1. バッチインポートのデータ量を減らす
2. システムメモリを増やす
3. OceanBaseのメモリ設定を調整する

APIキーの問題

以下の設定が正しく行われていることを確認してください：

1. 阿里云百炼APIキー（DASHSCOPE_API_KEY）
2. 高德地图APIキー（AMAP_API_KEY）

APIキーは .env ファイルで設定できます。