„GPT-in-a-Box“ Nutanix vereinfacht Einführung gene­rativer KI per Full-Stack-Plattform

Anbieter zum Thema

Nutanix EMEA HQ

Nutanix Germany GmbH

DataCore Software GmbH

Fujitsu Technology Solutions GmbH

Schwarz IT KG

Mithilfe vo „Nutanix GPT-in-a-Box“ bietet Nutanix ein Infrastruktursystem für Künstliche Intelligenz an, das Unternehmen einen beschleunigten Weg zu neuralen Netzwerkmodellen wie Generative Pre-trained Transformers und Large Language Models bieten soll und die Kontrolle über ihre Daten.

GPT-in-a-Box ist eine Software-basierte Full-Stack-Plattform für den Einsatz von KI-Anwendungen, insbesondere konzipiert für den Schnellstart von Kundenprojekten zu Künstlicher Intelligenz (KI) und Maschinellem Lernen (ML) bei voller Datenkontrolle. Das Nutanix-Angebot steht ab sofort zur Verfügung.

Das Produkt enthält Dienste, die Unternehmen bei der Skalierung und Konfigurierung geeigneter Hardware- und Software-Infrastrukturen helfen, um ein gepflegtes Set von „Large Language Models“ (LLMs) – unter Nutzung führender Open-Source-Frameworks für KI und „Machine Learning Operations“ (MLOps) auf der „Nutanix Cloud Platform“ – bereitstellen zu können. Den Kunden soll „eine schlüsselfertige Infrastruktur für den Einsatz von KI-Lösungen zur Verfügung“ stehen, mit deren Hilfe sie GPTs und LLMs in ihren Edge-Umgebungen sowie Rechenzentren optimieren und betreiben können.

Auf dem Gipfel der überhöhten Erwartungen

Generative KI im „Gartner Hype Cycle“ zu den keimenden IT-Trends

Viele Unternehmen haderten damit, wie sie die Vorteile generativer KI- sowie von KI- und ML-Anwendungen schnell, effizient und sicher nutzen können, lässt Nutanix wissen. Das gelte insbesondere für Anwendungsfälle, die sie aufgrund von Bedenken bezüglich Datenhoheit, Governance und Privatsphäre nicht in der Public Cloud betreiben könnten oder wollten.

Auf der Suche der Unternehmen nach Wegen, generative KI gewinnbringend für die Verbesserung von Kundenservice, Entwicklerproduktivität, Betriebseffizienz und mehr zu nutzen, entstünden jedoch täglich neue Anwendungsfälle. Von der automatisierten Transkription interner Dokumente über die Hochgeschwindigkeitssuche von Multimediainhalten bis hin zu automatisierten Analysen – viele Unternehmen würden die Chancen von KI zwar erkennen, rängen aber mit wachsenden Bedenken wie Verlust von geistigem Eigentum, Einhaltung von Vorschriften und Regularien sowie Datenschutz.

Wollen, aber nicht können

Zudem wüssten Unternehmen, die einen einsatzbereiten KI-Stack aufbauen wollen, oft nicht, wie sie ML-Administratoren und Datenwissenschaftler am besten unterstützen können. Darüber hinaus bringe die Aussicht auf hohe KI-Investitionskosten die KI- und ML-Strategien von Unternehmen ins Stocken.

Das bestätigt auch Greg Macatee, Senior Research Analyst, Infrastructure Systems, Platforms and Technologies Group bei IDC. Er sagt: „Kunden, die generative KI-Lösungen entwickeln und bereitstellen möchten, haben damit zu kämpfen, dass sie das für die Installation, Konfiguration und Ausführung dieser Workloads erforderliche Fachwissen mit den Bedenken hinsichtlich Datensicherheit und Schutz des geistigen Eigentums des Unternehmens in Einklang bringen müssen – und das alles bei gleichzeitiger Kostenkontrolle.“

Und in Bezug auf das Nutanix-Angebot setzt erhinzu: „Mit GPT-in-a-Box bietet Nutanix Kunden eine schlüsselfertige, einfach zu nutzende Lösung für ihre KI-Anwendungsfälle. Das ermöglicht Unternehmen, die sich mit der Einführung generativer KI abmühen, einen leichteren Einstieg in den Betrieb.“

Das steckt drin

Nutanix GPT-in-a-Boxs oll eine gebrauchsfertige, vom Kunden kontrollierte KI-Infrastruktur für das Edge- oder Core-Rechenzentrum bieten. Mit ihrer Hilfe können Kunden KI- und GPT-Modelle betreiben und optimieren.Für die Kontrollen über die Daten bietet Nutanix eine Palette an ergänzenden Sicherheits- und Datenschutzangeboten, die sich insbesondere für den Schutz von KI-Daten eignen.

Das ist etwa für Jon Cosson, CISO bei JM Finn, von Bedeutung: „Die Nutzung von KI, um unseren Kunden effizienter und effektiver zu helfen, hat für uns höchste Priorität. Als regulierter Finanzdienstleister müssen wir jedoch die volle Kontrolle über unsere Daten behalten. Die Nutanix Cloud Platform bietet die Leistungsstärke, Flexibilität und Sicherheit, die für die sichere Bereitstellung von KI-Workloads erforderlich sind.“

Tatsächlich geben in einer aktuellen Umfrage 78 Prozent der Nutanix-Kunden an, dass sie ihre KI- und ML-Workloads mit hoher Wahrscheinlichkeit auf der Nutanix Cloud Platform betreiben werden.

GPT-in-a-Box umfasst:

• die Nutanix-Cloud-Infrastructure-Plattform, die Nutanix-Speicherlösungen „Nutanix Files Storage“ und „Nutanix Objects Storage“, den Hypervisor „Nutanix AHV“ und Kubernetes sowie die Nvidia-GPUs zur Beschleunigung, die sich beliebig nach oben wie unten skalieren lassen

• Nutanix-Dienste zur Unterstützung von Kunden bei der Skalierung ihres Clusters und der Bereitstellung eines umfassenden Stacks mit den führenden Open-Source-Frameworks für Deep Learning und MLOps, Inferenz-Server und ein Set an LLMs wie „Llama2“, „Falcon“ und „MPT“
  Nutanix-Expertise und -Engagement in der Open-Source-KI-Community bieten Kunden eine solide Grundlage, auf der sie ihre KI-Strategie aufbauen können. Nutanix beteiligt sich in der Community in vielfältigen Rollen, insbesondere als Mitglied des MLCommons-Beirats für KI-Standards, als Mitbegründer und Mitglied in der technischen Leitung bei der Definition der ML-Storage- und Medicine-Benchmarks sowie als Co-Vorsitzender der Arbeitsgruppen Kubeflow (MLOps) Training und AutoML bei der Cloud Native Computing Foundation (CNCF).

• die Möglichkeit für Datenwissenschaftler und ML-Administratoren, diese Modelle unmittelbar mit Anwendungen ihrer Wahl, einer erweiterten Terminal-UI oder einer Standard-CLI zu nutzen

• die Möglichkeit, auf der Plattform weitere GPT-Modelle zu betreiben und unter Verwendung interner Daten zu optimieren, die auf den mitgelieferten Nutanix-Files- oder -Objects-Storage-Diensten gehostet werden

(ID:49665683)