Agent Cloud

Agent Cloud ist eingestellt und nicht mehr aktiv.

Was war Agent Cloud?

Agent Cloud war eine Open-Source-Plattform, die Unternehmen beim Aufbau und der Bereitstellung privater Large Language Model (LLM) Chat-Anwendungen unterstützen sollte. Sie ermöglichte es Teams, sicher mit ihren Daten zu interagieren und bot eine robuste Lösung für verschiedene KI-gesteuerte Anwendungen.

Hauptmerkmale und Funktionen:

• Datensynchronisation für Vektor-Datenbanken: Agent Cloud erleichterte die Erstellung von datenverbundenen Agenten mit Zugriff auf aktuelle Vektordaten für Retrieval Augmented Generation (RAG).
• Vielseitige Datenerfassung: Die Plattform unterstützte die Erfassung von Daten aus über 260 Quellen, darunter Dateien (PDF, DOCX, TXT, CSV) und Datenbanken (PostgreSQL, Snowflake, BigQuery), mit Optionen zur Auswahl bestimmter Tabellen und Spalten.
• Datenvorbereitung: Agent Cloud ermöglichte es Benutzern, Daten mit Anweisungen zu teilen, zu chunkieren und einzubetten, wobei Modelle wie OpenAI's text-embedding-3-small oder Open-Source-Alternativen wie BGE/base verwendet wurden.
• Vektor-Datenspeicherung: Eingebettete Daten wurden in einer Vektor-Datenbank gespeichert, die wichtige Optionen wie Qdrant und Pinecone für selbst gehostete Deployments unterstützt.
• Geplante Datenaktualisierungen: Benutzer konnten die Häufigkeit der Datensynchronisation aus der Quelle festlegen, um über manuelle, geplante oder Cron-basierte Aktualisierungen Zugriff auf die neuesten Daten zu gewährleisten.
• LLM-agnostisches Design: Agent Cloud war LLM-agnostisch konzipiert, sodass Benutzer ihre eigenen Open-Source-Modelle verbinden oder OpenAI nutzen konnten. Selbstverwaltete Benutzer konnten sich für vollständige Privatsphäre mit lokal gehosteten Modellen verbinden.

Wie Agent Cloud funktionierte:

1. Datenquellenauswahl: Benutzer wählten ihre Datenquellen aus einer Sammlung von Konnektoren aus, darunter Systeme wie Confluence oder direkte Datei-Uploads.
2. Datenvorbereitung: Es wurden Anweisungen zur Aufteilung und Chunkierung von Daten bereitgestellt, mit Optionen zur Verwendung von OpenAI's text-embedding-3-small oder Open-Source-Modellen für die Einbettung.
3. Vektorspeicherung: Die Plattform speicherte die eingebetteten Daten in einer Vektor-Datenbank.
4. Datensynchronisation: Benutzer legten eine Häufigkeit für die Synchronisierung von Daten aus der Quelle fest.
5. Chat-Oberfläche: Agenten wurden mit der LLM-Auswahl des Benutzers erstellt, wodurch Chat-Sitzungen mit den synchronisierten Daten ermöglicht wurden.

Anwendungsfälle:

• Erstellung von RAG-Chat-Anwendungen: Agent Cloud ermöglichte die Erstellung von Chat-Anwendungen für die direkte Abfrage synchronisierter Daten über eine Chat-Oberfläche oder APIs.
• Private Dateninteraktion: Es ermöglichte Teams den sicheren Zugriff auf KI-Apps innerhalb ihrer Organisation und gewährleistete den Datenschutz, indem die Open-Source-App auf ihrer Infrastruktur bereitgestellt und LLMs On-Premise ausgeführt wurden.

Für wen war Agent Cloud gedacht?

Agent Cloud richtete sich an Entwickler und Ingenieure, die KI-Anwendungen für sich selbst und ihre Teams entwickeln wollten, und bot eine Plattform für die Erstellung von Einzelagenten-Chat-Apps, Mehragenten-Chat-Apps und Wissensabruf-Apps.

Agent Cloud wurde eingestellt, aber die Website bleibt zu Archivierungszwecken online.