Auf der Basis von Nvidia Accelerated Computing KI komplett mithilfe von Vast Data und Run:ai

Quelle: Pressemitteilung Vast Data 3 min Lesedauer

Anbieter zum Thema

Ein KI-Komplettangebot, das Compute, Storage und Daten-Management umfasst, soll es werden, wenn Vast Data, das KI-Datenplattformen anbietet, und Run:ai, Anbieter von Compute-Orchestration für KI-Workloads, zusammenarbeiten. Mit einer Kooperation adressieren die Partner Unternehmen, die groß angelegte KI-Initiativen starten. Mit im Boot für End-to-End-KI-Pipelines im Ressourcen- und Daten-Management: Beschleunigungstechnik von Nvidia.

Vast Data will in Zusammenarbeit mit Run:ai das Ressourcen- und Daten-Management für End-to-End-KI-Pipelines optimieren. Die Grundlage bildet Nvidia-Technik. (Bild:  frei lizenziert: Gerd Altmann /  Pixabay)
Vast Data will in Zusammenarbeit mit Run:ai das Ressourcen- und Daten-Management für End-to-End-KI-Pipelines optimieren. Die Grundlage bildet Nvidia-Technik.
(Bild: frei lizenziert: Gerd Altmann / Pixabay)

Run:ai rationalisiert die beschleunigte (accelerated) Nvidia-KI-Infrastruktur über private, öffentliche und hybride Clouds hinweg. Mithife von Run:ailässt sich die Effizienz von KI-Projekten durch dynamisches Workload Scheduling und GPU-Fractioning beschleunigen, weil die Technik die GPU-Zuweisung und -Nutzung verbessert.

Die Plattform erfüllt verschiedene Anforderungen, laut Anbieter „von der Unterstützung interaktiver Umgebungen für Datenwissenschaftler bis hin zur Verbesserung groß angelegter Schulungen und zuverlässiger, skalierbarer Inferenzen“. Die verhältnismäßig offene Architektur von Run:ai gewährleistet eine Team-fähige Plattform, die sich in ein breites Ökosystem von Partner-Technik integrieren lässt.

Für die Datenebene vereint die Vast Data Platform Speicher-, Datenbank- und containerisierte Compute-Engine-Services in einer skalierbaren Softwareplattform. Diese wurde laut Anbieter von Grund auf für den Betrieb von KI- und GPU-beschleunigten Tools in Rechenzentren und Clouds entwickelt.

Bildergalerie

Renen Hallak, CEO und Mitbegründer von Vast Data, erläutert: „Wir haben erkannt, dass Kunden einen ganzheitlicheren Ansatz für den KI-Betrieb benötigen.“ Die Partnerschaft mit Run:ai gehe somit über traditionelle, disparate KI-Produkte hinaus und integriere alle Komponenten, die für eine effiziente KI-Pipeline notwendig seien.

Gemeinsam bieten Vast Data und Run:ai

  • Sichtbarkeit für Ressourcen- und Daten-Management über einen kompletten Stack: Die Synergie zwischen der Vast Data Platform und Run:ai schaffe eine umfassende KI-Lösung, die Unternehmen eine Full-Stack-Sichtbarkeit bietet, die Compute-, Networking-, Storage- und Workload-Management für ihre KI-Operationen umfass, heißt es.
  • Cloud-Service-Provider-fähige Infrastruktur: CSPs spielen eine zentrale Rolle bei der Bereitstellung von GPU-Verfügbarkeit für Unternehmen, die KI in ihre Geschäftsprozesse integrieren. Vast Data und Run:ai wollen ihnen ein Konzept für die effiziente Bereitstellung und Verwaltung von KI-Cloud-Umgebungen bieten. Sie stellen ein getestetes und validiertes Framework für CSPs bereit, um sichere KI-Umgebungen auf Enterprise-Niveau über eine einzige gemeinsam genutzte Infrastruktur anbieten zu können, mit einem Zero-Trust-Ansatz für den Rechenbetrieb und einer besseren Datenisolierung und -nutzung.
  • Optimierte End-to-End-KI-Pipelines: Vom Multiprotokoll-Ingest über die Datenverarbeitung bis hin zum Modelltraining und Inferencing können Unternehmen die Datenaufbereitung mit „Nvididia Rapids Accelerator for Apache Spark“ sowie anderen KI-Frameworks und -Bibliotheken beschleunigen, die mit der „Nvidia AI Enterprise“-Softwareplattform für die Entwicklung und den Einsatz von KI-Anwendungen in Produktionsqualität verfügbar sind. Die „Vast Database“ ermöglicht hierbei eine leistungsstarke Datenvorverarbeitung.
  • KI-Bereitstellung und Infrastrukturverwaltung: Run:ai bietet ein Fair-Share-Scheduling, um GPU-Cluster einfach und automatisch gemeinsam zu nutzen, ohne dass es zu Speicherüberlauf oder Verarbeitungskollisionen kommt, gepaart mit einem vereinfachten verteilten Multi-GPU-Training. „Vast Dataspace“ ermöglicht den Datenzugriff über geografische Grenzen und Multicloud-Umgebungen hinweg und bietet gleichzeitig Verschlüsselung, zugriffsbasierte Kontrollen und Datensicherheit.

Omri Geller, CEO und Mitbegründer von Run:ai, stellt heraus: „Eine der größten Herausforderungen auf dem Markt ist die Bereitstellung eines gerechten Zugangs zu Rechenressourcen für verschiedene Data-Science-Teams. Unsere Zusammenarbeit mit Vast zielt darauf ab, das maximale Leistungspotenzial komplexer KI-Infrastrukturen zu erschließen und die Sichtbarkeit und das Daten-Management über die gesamte KI-Pipeline hinweg erheblich zu verbessern.“ Er setzt hinzu: „Dies ist eine einzigartige Partnerschaft, die unseren gemeinsamen Kunden einen immensen Wert bieten wird.

VAST + Run:ai Blueprints, Lösungsbeschreibungen und Demos werden erstmals auf der Nvidia-Veranstaltung „GTC 2024“ verfügbar sein, Stand 1424.

(ID:49917217)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung