Lokale KI-Infrastruktur Fast Lta bringt KI-Rechenleistung ins eigene Rack

Fast Lta bringt eine 4-HE-Appliance für den lokalen KI-Betrieb auf den Markt. Bis zu drei GPUs, 8 TB NVMe und eine integrierte Vektordatenbank bringen KI-Rechenleistung und Unternehmensdaten ins eigene Rack.

Fast Lta kommt ursprünglich aus der langfristigen und revisionssicheren Speicherung von Daten. Mit dem „Silent Cube“ und später dem „Silent Brick“ hat sich der Münchner Hersteller im Bereich unveränderbarer Datenspeicherung etabliert. Die Systeme setzen auf Write Once, Read Many (WORM), sodass gespeicherte Daten technisch nicht mehr verändert werden können.

Im Interview mit Bechtle über KI-Infrastruktur:

Bechtle-CTO – Für KI braucht es nicht immer ein neues Rechenzentrum

Aus diesem Umfeld heraus entstand auch der Einstieg in die Künstliche Intelligenz (KI). Kunden aus regulierten Branchen fragten laut Roland Stritt, Chief Revenue Officer und Mitglied der Geschäftsleitung bei Fast Lta, nach Möglichkeiten, ihre eigenen Daten lokal mit KI auszuwerten. Daraus entwickelte das Unternehmen zunächst „Silent AI ES“ für die semantische Suche im Unternehmenswissen.

Mit „Silent AI Pro“ geht FAST LTA nun einen Schritt weiter. Die Appliance soll nicht mehr nur Unternehmensdaten durchsuchen, sondern eine lokale KI-Arbeitsumgebung bereitstellen. Dazu gehören Projekte, Skills, Agenten, Werkzeuge, Artefakte und eine Memory-Funktion. „Wir haben angefangen mit einer Enterprise-Search-Appliance, jetzt hin zu einer kompletten Workplace-Umgebung“, sagt Stritt.

Bis zu drei GPUs auf vier Höheneinheiten

Das System soll Unternehmen ermöglichen, KI-Anwendungen und agentische Workloads im eigenen Rechenzentrum oder in einer Colocation-Umgebung zu betreiben..

Die Appliance belegt vier Höheneinheiten und arbeitet mit „Intel Xeon Gold 6414U“, bis zu 512 GB DDR5-ECC-RAM und 8 TB NVMe-Speicher. Für die KI-Berechnungen stehen je nach Ausbaustufe „Nvidia Rtx Pro 6000“ und „Nvidia H200“ zur Verfügung. Je nach Ausbaustufe kommen bis zu drei Rtx Pro 6000 oder Kombinationen aus H200 und RTX Pro 6000 zum Einsatz.

Für den Betrieb setzt Fast Lta auf Luftkühlung. Die maximale Leistungsaufnahme liegt bei 2,4 Kilowatt (kW). Eine Wasserkühlung oder ein Starkstromanschluss ist laut Hersteller nicht erforderlich.

Neben der GPU-Leistung spielt die Datenhaltung eine zentrale Rolle. Fast Lta integriert eine Vektordatenbank und Konnektoren zu Unternehmenssystemen wie „SharePoint“, „Teams“, „Exchange“, „Confluence“, „Slack“ und „SQL“. Unternehmensdaten können damit für Retrieval-Augmented Generation (RAG), also die Anreicherung von KI-Modellen mit eigenen Daten, genutzt werden.

KI-Infrastruktur im Rechenzentrum

AMD im Rennen gegen Nvidia – Ist der MI455X die bessere KI-GPU?

Freie Wahl beim KI-Modell

Das System ist zugleich nicht an ein bestimmtes Large Language Model (LLM) gebunden. Unternehmen können das verwendete Modell auswählen und später wechseln. Trainiert werden die Modelle nicht auf der Appliance. Die Memory-Funktion speichert stattdessen Projekt- und Gesprächskontext, der bei späteren Aufgaben wieder genutzt werden kann.

Die Lizenzierung erfolgt pro Appliance, unabhängig von Nutzerzahl und Token-Volumen. Für Stritt ist insbesondere die Kostenentwicklung bei agentischen Anwendungen ein Argument für lokale KI. Je nach Konfiguration erreicht Silent AI Pro zwischen 600 und 3.600 Token pro Sekunde

Lokale Infrastruktur als Alternative zur Cloud

Fast Lta adressiert damit nicht nur die klassischen Kunden aus regulierten Branchen. Nach Aussage von Stritt kommen inzwischen auch Anfragen aus der Industrie und dem Mittelstand, bei denen weniger regulatorische Vorgaben als die Kostenentwicklung von Cloud-KI den Ausschlag geben.

Auch der Wunsch nach mehr Souveränität spielt laut Stritt eine Rolle: „Souveränität hat eigentlich gar nichts mit Landesgrenzen zu tun – es geht weit darüber hinaus“, sagt er. Aus seiner Erfahrung geht der Trend bei vielen Unternehmen in Richtung On-Premises, weil sie das Ausfallrisiko von Cloud-Diensten reduzieren wollen. Eine lokale Infrastruktur schafft dabei Unabhängigkeit von einer bestehenden Cloud-Anbindung.

Stritt beobachtet zudem, dass immer mehr Unternehmen hybride Szenarien einsetzen. Sie können damit bei Änderungen von Verträgen oder Kostenstrukturen zwischen lokalen und Cloud-Ressourcen wechseln. Das reduziert aus seiner Sicht auch die Abhängigkeit von einzelnen Anbietern. Das könne den Vendor-Lock-in, also die Abhängigkeit von einem einzelnen Anbieter, reduzieren.

KI-Hardware mit kürzeren Servicezyklen

Für Silent Cube und Silent Brick bietet Fast Lta Serviceverträge von bis zu zehn Jahren an. Bei Silent AI Pro sind zunächst maximal fünf Jahre vorgesehen. Nachgefragt werden laut Stritt aufgrund der Dynamik des KI-Marktes vor allem Laufzeiten von einem bis drei Jahren.

An der KI-Plattform arbeitet Fast Lta nach eigenen Angaben seit rund zwei Jahren mit einem Team von 13 Entwicklern. Erste Installationen laufen bereits. Künftig soll die Hardwareplattform auch ohne den Fast-Lta-Software-Stack erhältlich sein, sodass Partner sie als Basis für eigene KI-Angebote einsetzen können.

Silent AI Pro ist ab dem 1. Oktober 2026 verfügbar. Der Einstiegspreis für die kleinste Konfiguration liegt bei 70.000 Euro.

Neue GPU-Server, integrierter RDHx, KI-Modelle On-Prem

Dell baut „AI Factory“ aus

(ID:50950492)