Teradata stellt Enterprise Vector Store vor, um Kunden bei der Implementierung von Trusted Agentic AI zu unterstützen

3. März 2025 | SAN DIEGO

Das neue Angebot wurde für kosteneffiziente Abfragen mit Antwortzeiten von weniger als einer Sekunde unabhängig vom Datenvolumen entwickelt und kann mehrdimensionale, komplexe Probleme durch die Kombination strukturierter und unstrukturierter Daten lösen.

Enterprise Vector Store wird auf NVIDIA NeMo Retriever Microservices für beschleunigte Rechenleistung zugreifen und optimiert so die Performance von RAG-Anwendungen.

Teradata kündigte heute den Teradata Enterprise Vector Store an: eine datenbankinterne Lösung, die die Geschwindigkeit, Leistung und multidimensionale Skalierbarkeit der Hybrid-Cloud-Plattform von Teradata für das Management von Vektordaten nutzt. Diese sind ein entscheidendes Element für die Implementierung von Trusted AI (Vertrauenswürdige KI). Der Teradata Enterprise Vector Store ist als leistungsstarke Lösung für Anwendungsfälle konzipiert, die Vektorfunktionen und RAG-Anwendungen erfordern. Mit seiner kosteneffizienten Skalierung und der nahtlosen Integration hilft der Teradata Enterprise Vector Store Unternehmen, den Wert und die Erkenntnisse aus unstrukturierten Daten zu maximieren und gleichzeitig die Ausgaben zu senken. Darüber hinaus soll die Hybrid-Cloud-Plattform von Teradata, VantageCloud, mit NVIDIA NeMo Retriever Microservices, einem Teil der NVIDIA AI Enterprise-Softwareplattform integriert und erweitert werden.

Die Vorteile von Teradata Enterprise Vector Store:

Der Teradata Enterprise Vector Store ist in der Lage, Milliarden von Vektordaten zu verarbeiten und in bestehende Unternehmenssysteme zu integrieren – bei Reaktionszeiten im zweistelligen Millisekunden- Bereich.
Die Lösung bietet ein einziges, zentrales Repository für alle Daten und baut auf dem starken Support auf, den Teradata für Retrieval-Augmented Generation (RAG) bietet. Ein Ziel sind dabei dynamische agentenbasierte KI-Anwendungsfälle, wie beispielsweise das „Augmented Call Center“.
Unternehmen, die auf agentenbasierte KI hinarbeiten und zugleich ihre aktuelle Infrastruktur optimal nutzen möchten, bietet der Teradata Enterprise Vector Store die nötige Freiheit von Hybrid-Systemen durch die flexible Skalierung in Cloud- und lokalen On-Premise-Umgebungen.
Durch die Verwaltung unstrukturierter Daten in multimodalen Formaten – Text, Video, Bilder, PDFs und mehr – vereint der Teradata Enterprise Vector Store strukturierte und unstrukturierte Daten für ganzheitliche Analysen.

Der Teradata Enterprise Vector Store bietet darüber hinaus folgende Funktionen:

Abdeckung des gesamten Lebenszyklus im Management von Vektordaten – von der Generierung von Embeddings und der Indexierung bis hin zur Metadatenverwaltung und intelligenten Suche
Prozessverarbeitung innerhalb des bestehenden Teradata-Systems, das sich durch flexible Bereitstellungsoptionen wie Cloud, On-Premise oder Hybrid auszeichnet
Unterstützung von branchenführenden Frameworks wie LangChain und RAG sowie umfassende Datenmanagement- und Governance-Praktiken, die für Trusted AI erforderlich sind
Desweiteren werden in Zukunft die Vektor-Embeddings mit temporalen Meta-Daten angereichert, die das Vertrauen und die Nachvollziehbarkeit durch die Verfolgung von Datenänderungen im Laufe der Zeit erhöhen und die Genauigkeit und Entscheidungsfindung verbessern sollen

Vector Stores als Grundlage für Agentic AI (agentenbasierte KI)

Vector Stores (Vektordatenbanken/Vektorspeicher) sind für jedes Unternehmen, das Agentic AI (agentenbasierte KI) nutzen möchte, von grundlegender Bedeutung. Meist erfordern sie aber Kompromisse, die ihren Einsatz für die Lösung der anspruchsvollsten und potenziell lukrativsten Geschäftsprobleme unerschwinglich oder teuer machen. Sie können zwar schnell sein, aber nur mit kleinen Datensätzen. Sie können Vektormengen verwalten, aber nicht mit der Geschwindigkeit, die für agentenbasierte KI-Anwendungsfälle erforderlich ist. Vector Stores bieten allerdings in einem Fall einen entscheidenden Mehrwert: wenn Unternehmen sowohl blitzschnelle Reaktionszeiten als auch enorme Rechenleistung auf unstrukturierte Datensätze anwenden wollen – und zwar in Kombination mit geschäftskritischen strukturierten Daten.

„Vector Stores sind die Grundlage dafür, wie wir Daten mit generativen KI-Modellen und agentenbasierter KI verbinden. Sie sind für jede Art von Datenmanagement unerlässlich – aber ihre Wirkung ist begrenzt, wenn sie langsam oder siloartig sind“, sagt Louis Landry, CTO von Teradata. „Teradata verfügt über langjährige Erfahrung mit hoher Parallelität und linearer Skalierung sowie die entscheidende Fähigkeit, Daten zu harmonisieren und RAG zu unterstützen. Daher liefert der Teradata Enterprise Vector Store die dynamische, vertrauenswürdige Grundlage, die große Unternehmen für agentenbasierte KI benötigen."

Skalierbare, datenbankinterne Vektorlösung erstellt mit NVIDIA AI

Der Teradata Enterprise Vector Store wird voraussichtlich NVIDIA NeMo Retriever integrieren, um eine führende Lösung für die präzise und datenschutzkonforme Datenerfassung bereitzustellen, mit der Unternehmen in Echtzeit geschäftliche Erkenntnisse gewinnen können. Entwickler können NeMo Retriever Microservices in Kombination mit Community- oder benutzerdefinierten Modellen optimieren, um skalierbare Dokumentenerfassungs- und RAG-Anwendungen zu erstellen, die mit proprietären Daten verbunden werden können – unabhängig davon, wo sie sich befinden. Die NVIDIA NeMo Retriever-Extraktion wurde entwickelt, um Kunden die Nutzung von Informationen und Erkenntnissen aus unstrukturierten Datenquellen wie PDFs zu ermöglichen. So können Entwickler RAG-basierte Anwendungen erstellen, die Echtzeitwissen nutzen, das mit Informationen aus dem gesamten IT-Bestand des Unternehmens angereichert ist.

„Daten sind entscheidend für präzise Schlussfolgerungen bei KI-Anwendungen“, sagt Pat Lee, Vice President of Strategic Enterprise Partnerships bei NVIDIA. „Der Teradata Enterprise Vector Store, integriert mit NVIDIA AI Enterprise und NVIDIA NeMo Retriever, kann das in PDFs und anderen unstrukturierten Dokumenten gespeicherte Wissen von Institutionen erschließen, um intelligente KI-Agenten zu betreiben.“

Anwendungsfall: Augmented Call Center

Der Anwendungsfall „Augmented Call Center“ zeigt, wie der Teradata Enterprise Vector Store Agentic AI (autonome KI-Agenten) und RAG einsetzt, um den Kundenservice schneller und effizienter zu machen und auf die Bedürfnisse jedes Kunden zuzuschneiden. Zudem ermöglichen KI-Agenten Upsell- und Cross-Sell-Möglichkeiten während der Kundeninteraktion. Ein Versicherungsunternehmen speichert beispielsweise die Verträge für seine Millionen von Kunden im PDF-Format in einem Objektspeicher. Außerdem verwendet es eine hybride Datenplattform für geschäftskritische umfassende Kunden-Daten. Wenn ein Kunde anruft, greift ein Multi-Agenten-System blitzschnell (innerhalb von zehn Millisekunden) auf harmonisierte Daten zu, um präzise, kontextbezogene Antworten für jeden einzelnen Kunden zu geben. Beispiele wie folgt:

"Hallo, wie kann ich Ihnen heute helfen?"
- Der „Kundeninteraktions“-Agent kommuniziert in Echtzeit mit dem Kunden über eine Benutzeroberfläche mit natürlicher Spracherkennung (Natural Language Interface). Diese wird von gängigen LLMs bereitgestellt, die als NVIDIA NIM auf NVIDIA-beschleunigter Rechenleistung ausgeführt werden.
"Ich reise nach Malaysia. Deckt meine Versicherung die medizinischen Kosten? Sollte ich etwas hinzufügen?"
- Der „Vertragsanalyse“-Agent ruft schnell die Versicherungsdetails aus der PDF-Kopie des Vertrags ab, indem er RAG mit dem Enterprise Vector Store verwendet. Dafür hat RAG die Informationen aus PDFs extrahiert und mithilfe von NVIDIA NeMo Retriever in den Teradata Enterprise Vector Store als Einbettungen gespeichert.
- Der „Versicherungsberater“-Agent empfiehlt mithilfe von Logik und Entscheidungsprozessen, eine Zahnversicherung für die Dauer der Reise hinzuzufügen, und nutzt dabei ein Propensity-to-Buy-Modell (Modell zur Vorhersage der Kaufneigung) und die bewährten prädiktiven und erklärbaren KI-Funktionen von Teradata.
"Ok, fügen Sie bitte einen Zahnarzt hinzu."
- Der "Aktions"-Agent verwendet operative Analysen und umfassende, strukturierte Kundendaten in der hybriden Umgebung von Teradata, um einen Vertrag zur Unterzeichnung durch den Kunden zu erstellen.

Verfügbarkeit

Der Teradata Enterprise Vector Store ist jetzt als private Vorschau verfügbar, die allgemeine Verfügbarkeit wird für Juli 2025 erwartet.

Bei Teradata sind wir überzeugt, dass Menschen erfolgreicher sind, wenn sie über bessere Informationen verfügen. Unsere Cloud-Analytics- und Datenplattform für KI liefert harmonisierte Daten und vertrauenswürdige KI/ML. Unternehmen können dadurch bessere Entscheidungen treffen, schneller Innovationen vorantreiben und nachhaltige Geschäftsergebnisse schaffen. Erfahren Sie mehr auf: Teradata.de.