Mobile-Menu

„Silent AI“-Appliance für GenAI-Anwendungen vorgestellt Fast LTA unterstützt KI-basiertes Wissensmanagement

Von Martin Hensel 2 min Lesedauer

Anbieter zum Thema

FAST LTA GmbH
Vertiv GmbH
Schneider Electric GmbH
DAXTEN GmbH

Der Datensicherungsexperte Fast LTA hat mit „Silent AI“ eine neue lokale KI-Appliance für sichere und private GenAI-Anwendungen vorgestellt. Sie ist vor allem für Enterprise-Knowledge-Management konzipiert und zudem als Plattform zur Integration privater KI für Anwendungsentwickler verfügbar.

Mit „Silent AI“ bietet Fast LTA eine lokale KI-Appliance für sichere und private GenAI-Anwendungen an.(Bild: FAST LTA)
Mit „Silent AI“ bietet Fast LTA eine lokale KI-Appliance für sichere und private GenAI-Anwendungen an.
(Bild: FAST LTA)

Silent AI wurde laut Fast LTA entwickelt, um den zunehmenden Anforderungen an sichere und private GenAI-Anwendungen gerecht zu werden. Die KI-Appliance soll für Datensicherheit und Privatsphäre sorgen.

Sie basiert auf einem lokalen LLM („Large Language Model“) mit Retrieval-Augmented Generation (RAG) und ebenfalls lokalen Vektordatenbanken. „Silent AI“ soll umfassende Services zur Anbindung verschiedener Wissensquellen bieten, ohne dass internes Know-how jemals die Appliance verlässt.

Laut Fast LTA ist Silent AI vor allem für Unternehmen und Organisationen gedacht, die „höchste Sicherheitsanforderungen“ an ihre Daten stellen sowie sensible und vertrauliche Informationen verarbeiten müssen. Das System eignet sich zudem für Nutzer, die effiziente und zuverlässige GenAI-Anwendungen implementieren wollen, ohne dabei auf externe Cloud-Dienste angewiesen zu sein.

Funktionen im Überblick

Alle Datenverarbeitungsprozesse finden vollständig innerhalb der Appliance statt. Bestehendes Rechte- und Benutzer-Management wird respektiert, zudem ist ein vollständig vom Internet unabhängiger Betrieb möglich. Laut dem Hersteller arbeitet die Appliance besonders energieeffizient.

Die Appliance integriert ein lokales und durch RAG ergänztes LLM. RAG soll die Genauigkeit und Verlässlichkeit generierter Inhalte verbessern, indem die Technologie relevante Informationen aus lokalen Dokumenten und Datenbanken abruft und so KI-Halluzinationen ausschließt. Laut Fast LTA ist ein Nachtrainieren des LLMs nicht notwendig und findet nicht statt.

„Silent AI“ nutzt lokale Vektordatenbanken, um vielfach dimensionale Vektoreinbettungen effizient zu speichern und zu durchsuchen. Derartige Datenbanken sind speziell für die Anforderungen von Machine Learning und KI optimiert und ermöglichen schnelle und präzise Ähnlichkeitssuchen. Granulares Rechte-Management und eine Möglichkeit zur Entfernung einzelner Datenbanken gewährleisten Datensicherheit und Datenschutz.

Die Appliance bietet zudem einen Service zur Anbindung und Integration verschiedener Wissensquellen, einschließlich interner Datenbanken, Dokumentensammlungen und Knowledge-Graphs. Somit sind, laut Hersteller, nahtlose Erweiterungen und Anpassungen der GenAI-Anwendungen an spezifische Bedürfnisse und Datenbestände möglich.

Verfügbarkeit

Fast LTA wird „Silent AI“ ab Herbst in Form eines schlüsselfertigen Systems als Managed KI-Appliance und als Entwicklerplattform zur Integration in andere Anwendungen anbieten.

(ID:50168214)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte