OmniBot

OmniBotとは？

OmniBotは、WebGPUを使用してブラウザ内でネイティブに大規模言語モデル（LLM）を実行するように設計されたプライベートAIアシスタントです。これにより、ブラウザ内とオフラインの両方のAIエクスペリエンスが可能になります。デバイス上でローカルにデータを処理することで、ユーザーのプライバシーを優先します。

主な機能：

• オフラインチャット： 最初のモデルのダウンロード後、インターネット接続なしでOmniBotを使用します。
• ブラウザ内プライバシー： すべてのAIモデルはローカルで実行され、データがコンピューターに保持されます。
• カスタムメモリサポート： カスタム命令を追加して、AIの応答をパーソナライズします。

OmniBotの使い方は？

1. GPUがメモリ要件（7Bモデルの場合は6GB、3Bモデルの場合は3GB）を満たしていることを確認します。
2. モバイルデバイスを使用しており、WebGLをサポートしている場合は、PCと同じようにOmniBotを使用できます。
3. チャットメッセージをJSONまたはMarkdown形式で生成して保存できます。

OmniBotが重要なのはなぜですか？

OmniBotが重要なのは、外部サーバーに依存せずに、ブラウザ内でAIをプライベートかつ安全に使用できるためです。ユーザーは自分のデータを制御し、インターネット接続がなくてもAIにアクセスできます。