こんにちは、DAI LabsのBryan Atwoodです。今回は、OpenVINOを使ってGPUなしの環境で高性能な画像処理AIを実現した事例をご紹介します。

DAI Labsについて

まず、簡単に会社紹介をさせていただきます。DAI Labs株式会社は2023年に設立された東京を拠点とするAIサービス企業で、世界中のさまざまな業界向けにAIアプリケーションを構築しています。

OpenVINOの活用

私たちは、エッジ計算が必要なプロジェクトのために、PytorchアプリケーションをOpenVINOに変換しています。

• Pytorch CPUと比較して5〜10倍の性能向上
• GPUでのトレーニングが可能なシンプルなポストトレーニング変換プロセス
• PCリソースが限られているクライアント向け、全体のファイルサイズとシステム要件を低減

今回は、OpenVINOを活用した2つのプロジェクトについてご紹介します。

動画からの画像分類

プロジェクト概要

このプロジェクトは、京都を拠点とするトンネル掘削機ソフトウェアを開発する企業、（株）演算工房(https://www.enzan-k.com)*1 との共同開発により行いました。

掘削プロセスの品質を10fpsで測定する分類をAIを開発しました。

OpenVINO導入の動機

グラフィックカードなしのPCで、10fpsの動画をリアルタイムで処理することを目指しました。

OpenVINO変換プロセス

3D CNNのPytorchからOpenVINOへの変換は非常に簡単でした。

1. JITスクリプトのロード
2. OpenVINOモデルへの変換
3. 変換したモデルの保存
4. デバイスの上でのOpenVINOモデルのロードと実行

パフォーマンス比較

Core™ i7 13700H、第13世代、14コア、NVidia 4060の環境で測定した結果は以下の通りです。

Pytorch GPU：10ミリ秒（50フレーム@10fps）

Pytorch CPU：140ミリ秒

OpenVINO CPU：20ミリ秒

OpenVINOへの変換により、Pytorch CPUと比較して7倍の性能向上を達成し、リアルタイム処理が可能になりました。

まとめ

OpenVINOを活用することで、GPUなしの環境でも高性能な画像処理AIを実現することができます。特に、リソースの制限されたエッジデバイスでの実行や、大規模なデータセットの処理において、その効果は顕著です。

今回紹介した2つのプロジェクトは、OpenVINOの潜在能力を示す一例に過ぎませんが、今後も、さまざまな分野でOpenVINOを活用し、効率的なAIソリューションを提供していきたいと考えています。

ご質問やご相談がございましたら、お気軽にお問い合わせください。

ウェブ：http://dailabs.ai

Eメール：info@dailabs.ai

最後までお読みいただき、ありがとうございました。

‍

*1（演算工房本社技術営業本部（https://www.enzan-k.com/contact.html）

‍