Qualcomm AI Hub

Qualcomm AI Hubとは？

Qualcomm AI Hubは、Qualcommデバイス上でのAIモデルの展開と最適化を容易にするように設計された包括的なプラットフォームです。最適化されたオープンソースおよびライセンスモデルの中央リポジトリとして機能し、開発者はAI機能をアプリケーションにシームレスに統合できます。このプラットフォームは、モデルのコンパイル、プロファイリング、および展開に必要なツールとリソースを提供することにより、オンデバイスAIの採用を加速することを目的としています。

Qualcomm AI Hubの仕組み

Qualcomm AI Hubは、AIモデルをエッジデバイスに導入するプロセスを合理化します。その機能の内訳は次のとおりです。

• モデルの送信： ユーザーは、独自の事前トレーニングされたモデルをプラットフォームに送信できます。
• コンパイル： プラットフォームは、トレーニングされたモデルを変換し、オンデバイス展開用に最適化します。これには、ターゲットデバイスとランタイム環境の選択が含まれます。
• プロファイリング： コンパイル後、モデルを物理デバイス上で実行して、そのパフォーマンスを分析できます。コンピューティングユニットの使用率、レイテンシ、メモリ消費量などの主要なメトリックが追跡されます。
• 展開： 最後に、コンパイルされたモデルをダウンロードし、提供されているサンプルアプリを使用してアプリケーションに統合し、ターゲットデバイスに展開できます。

Qualcomm AI Hubの主な機能

• 最適化されたAIモデル： Qualcommデバイス向けに調整された、事前に最適化されたAIモデルの幅広い範囲にアクセスできます。
• モデルのコンパイル： ターゲットデバイスとランタイムを選択して、オンデバイス展開用にモデルを簡単に変換および最適化できます。
• パフォーマンスプロファイリング： コンピューティングユニットの使用率、レイテンシ、メモリメトリックなど、実際のデバイスでのモデルパフォーマンスに関する洞察を得ることができます。
• エコシステムサポート： モデルメーカー、クラウドプロバイダー、ランタイム環境、およびSDKパートナーのエコシステムを活用して、エンドツーエンドの機械学習ソリューションを作成します。
• ランタイムサポート： LiteRTやONNX Runtimeなど、さまざまなランタイム環境をサポートします。
• デバイスの互換性： Snapdragon® 8 Eliteを含む、さまざまなQualcommデバイスと互換性があります。

ユースケース

Qualcomm AI Hubは、さまざまな業界にわたるさまざまなユースケースをサポートしています。

• モバイル： モバイルデバイスでのインテリジェントな接続とパーソナライズされたアプリケーションを可能にします。
• コンピューティング： コンピューティング環境で強力なデバイスにAIを活用します。
• 自動車： AI搭載のモビリティソリューションで自動車業界を変革します。
• IoT： 強化されたユーザーエクスペリエンスのために、さまざまなIoTデバイスにリアルタイムAIを展開します。

Qualcomm AI Hubを選ぶ理由

• 展開の簡素化： このプラットフォームは、QualcommデバイスへのAIモデルの展開プロセスを簡素化し、開発者の時間と労力を節約します。
• 最適化されたパフォーマンス： モデルはQualcommハードウェア上で効率的に実行するように最適化されており、最適なパフォーマンスを保証します。
• 包括的なエコシステム： AI開発ライフサイクル全体をサポートするために、幅広いツールとリソースにアクセスできます。
• 幅広い互換性： さまざまなデバイス、ランタイム、AIモデルをサポートしており、さまざまなアプリケーションに対応できる汎用性の高いソリューションとなっています。

サポートされているモデルとサービス

Qualcomm AI Hubは、以下を含むさまざまなソースからのモデルを備えています。

• Mistral： Mistral AIのモデルをご覧ください。
• Tech Mahindra： Tech MahindraのIndusQ 1.1Bをご覧ください。
• Preferred Networks： Preferred NetworksによるPLaMo 1Bの詳細をご覧ください。
• Granite： Granite‑3B‑Code‑Instructをアプリケーションに統合します。
• G42： G42のJais 6.7Bにアクセスします。
• Llama： Llama3.2をお試しください。これは、ファインチューニングしてどこにでも展開できるオープンソースのAIモデルです。
• Roboflow： Roboflowのコンピュータービジョンソリューションをご覧ください。
• Amazon SageMaker： Amazon SageMakerを使用して、エッジデバイスでモデルをトレーニング、ファインチューニング、および展開します。
• Dataloop： Dataloopのデータキュレーション用の自動化されたパイプラインを活用します。
• Edge Impulse： ハードウェアを意識したAIモデルの最適化により、AIアプリケーションを作成します。
• AlwaysAI： オンデバイスのコンピュータービジョンワークフローを構築し、Qualcomm AI Hubで最適化します。
• EyePop.ai： EyePop.aiを使用してカスタムビジョンモデルを構築およびトレーニングし、デバイス上で推論を実行します。

Qualcomm AI Hubの始め方

1. ログイン： Qualcomm AI Hubのウェブサイトからプラットフォームにアクセスします。
2. モデルの送信： 独自のトレーニング済みモデルをプラットフォームに持ち込みます。
3. コンパイル： オンデバイス展開用にモデルを変換および最適化します。
4. プロファイル： コンパイルされたモデルを物理デバイス上で実行して、そのパフォーマンスを分析します。
5. 展開： コンパイルされたモデルをダウンロードし、アプリケーションに統合します。

Qualcomm AI Hubは誰のためのものですか？

Qualcomm AI Hubは、以下のような場合に最適です。

• Qualcommデバイスにモデルを展開したいAI開発者。
• AI機能をアプリケーションに統合しようとしているモバイル、コンピューティング、自動車、およびIoT開発者。
• エッジデバイスでのAIパフォーマンスの最適化を目指す組織。

Qualcomm AI Hubを活用することで、開発者はQualcommデバイス上でAIモデルを効率的に展開および最適化し、オンデバイスAIアプリケーションの新たな可能性を切り開くことができます。このプラットフォームの包括的な機能とエコシステムのサポートにより、エッジAIの分野で働くすべての人にとって貴重なリソースとなっています。