Inferenz-Performance und KI-Workloads im Fokus Red Hat kündigt Übernahme von Neural Magic an

Von Martin Hensel 1 min Lesedauer

Anbieter zum Thema

Der Open-Source-Spezialist Red Hat wird Neural Magic übernehmen. Eine definitive Übernahmevereinbarung existiert bereits. Neural Magic ist auf Software und Algorithmen zur Beschleunigung von Inferenz-Workloads für generative KI spezialisiert.

Red Hat und Neural Magic haben eine definitive Übernahmevereinbarung getroffen.(Bild:  Mo Farrelly /  Pixabay)
Red Hat und Neural Magic haben eine definitive Übernahmevereinbarung getroffen.
(Bild: Mo Farrelly / Pixabay)

Red Hat sieht Neural Magics Expertise in Sachen Inferenz-Performance-Engineering sowie dessen Engagement für Open Source als passend zur eigenen Vision an, hochleistungsfähige KI-Workloads in der Hybrid Cloud bereitzustellen. So will Red Hat etwa generative KI durch offene Innovation mittels vLLM („Virtual Large Language Model“) für mehr Anwender zugänglich machen.

Bei vLLM handelt es sich um ein Community-gesteuertes quelloffenes Projekt für Open Model Serving. Es unterstützt alle wichtigen Modellfamilien sowie diverse Hardware-Backends. Neural Magic im Projekt vLLM bereits eine führende Rolle eingenommen. In Kombination mit Red Hats breitem Angebot an Hybrid-Cloud-KI-Technologien sollen Unternehmen einen offenen Weg zur Umsetzung von KI-Strategien erhalten, die ihren individuellen Anforderungen gerecht werden.

Mitmischen in der KI-Zukunft

Mithilfe der Technologie und Expertise von Neural Magic will Red Hat die Zukunft der Künstlichen Intelligenz mitgestalten. Als Stütze dient dabei das hauseigene Technologieportfolio, das unter anderem „Red Hat Enterprise Linux AI“ (RHEL AI), Red Hat OpenShift AI sowie „Instructlab“ umfasst. Neural Magic erstellt einen Inferenz-Stack, mit dessen Hilfe Nutzer LLM-Workloads in Hybrid-Cloud-Umgebungen optimieren, bereitstellen und skalieren können. Sie behalten dabei stets die volle Kontrolle über die Auswahl der Infrastruktur, die Sicherheitsrichtlinien und den Modell-Lebenszyklus.

„KI-Workloads müssen überall dort ausgeführt werden, wo Kundendaten in der Hybrid Cloud gespeichert sind. Flexible, standardisierte und offene Plattformen und Tools sind dabei eine Notwendigkeit“, erklärt Red-Hat-CEO Matt Hicks. Sie würden es Unternehmen ermöglichen, die am besten für ihre Anforderungen geeigneten Umgebungen, Ressourcen und Architekturen auszuwählen. „Wir freuen uns, unser Hybrid-Cloud-fokussiertes KI-Portfolio mit Neural Magics bahnbrechenden KI-Innovationen zu ergänzen und damit unser Bestreben zu unterstützen, nicht nur das Red Hat für Open Source, sondern auch das Red Hat für KI zu sein“, so Hicks.

Die Übernahme ist noch vorbehaltlich regulatorischer Prüfungen und anderer üblicher Abschlussbedingungen.

Artikelfiles und Artikellinks

(ID:50254109)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung