Mobile-Menu

Nvidia Agent Toolkit Nvidia baut Plattform für autonome KI-Agenten

Von Berk Kutsal 2 min Lesedauer

Anbieter zum Thema

Vertiv GmbH
DAXTEN GmbH
Fujitsu Technology Solutions GmbH

Mit „Openshell“, „AI-Q“ und „Nemotron“ bündelt Nvidia zentrale Komponenten für agentische KI. Der Ansatz kombiniert offene Modelle mit Sicherheitsmechanismen und zielt auf produktive, eigenständig handelnde Systeme im Unternehmenseinsatz.

Mit neuen Frameworks, Modellen und Referenzarchitekturen bringt Nvidia autonome KI-Agenten in die Unternehmen. Die Bots sollen nicht mehr nur antworten, sondern handeln.(Bild: Nvidia)
Mit neuen Frameworks, Modellen und Referenzarchitekturen bringt Nvidia autonome KI-Agenten in die Unternehmen. Die Bots sollen nicht mehr nur antworten, sondern handeln.
(Bild: Nvidia)

Im Rahmen der Hausmesse „GTC“ hat Nvidia angekündigt, gemeinsam mit Partnern eine neue Phase der KI-Entwicklung einzuläuten. Im Fokus stehen autonome, selbstlernende KI-Agenten für den Unternehmenseinsatz. Offene Software soll dabei helfen, Sicherheit, Effizienz und Skalierbarkeit zu verbessern und den Wandel in Softwareentwicklung und Wissensarbeit zu beschleunigen.

Das „Nvidia Agent Toolkit“ richte sich an Unternehmen und Entwickler, die KI-Agenten bauen wollen, die Aufgaben eigenständig planen und ausführen. Neu hinzu kommt Nvidia Openshell: Sie soll Open-Source-Laufzeitumgebung, die Sicherheitsrichtlinien, Netzwerkregeln und Datenschutzvorgaben durchsetzen und autonome Agenten kontrollierbar sowie sicher betreibbar machen.

Jensen Huang, CEO von Nvidia, beschreibt die Entwicklung als nächsten Schritt nach generativer KI: Systeme sollen nicht mehr nur Inhalte erzeugen oder analysieren, sondern eigenständig handeln. Unternehmen könnten künftig mit Teams spezialisierter Agenten arbeiten, die Aufgaben übernehmen und verwalten.

Baukasten für autonome Agenten

Das Agent Toolkit kombiniert mehrere offene Komponenten:

  • Modelle wie Nvidia Nemotron
  • Agenten wie Nvidia AI-Q
  • Werkzeuge wie „Nvidia Cuopt“
  • Laufzeitumgebungen wie Openshell

Entwickler sollen damit spezialisierte KI-Agenten erstellen können, die eigenständig agieren und andere Software einbinden, um Aufgaben zu erledigen.

Mit dem AI-Q-Blueprint sollen sich Agenten entwickeln lassen, die Unternehmensdaten erfassen, analysieren und darauf reagieren. Sie würden dabei selbstständig geeignete Datenquellen und Analyseverfahren auswählen und kontextbezogene Antworten liefern. Ein integriertes Evaluationssystem zeige nachvollziehbar, wie Ergebnisse zustande kommen.

Die zugrunde liegende Architektur kombiniere leistungsstarke proprietäre Modelle zur Steuerung mit offenen Nemotron-Modellen für Recherche-Aufgaben. Laut Nvidia lassen sich so die Kosten pro Anfrage um mehr als 50 Prozent senken, ohne die Genauigkeit zu verringern.

Openshell als Sicherheitsrahmen

Openshell soll autonomen Agenten Zugriff auf benötigte Ressourcen geben, gleichzeitig aber Sicherheitsrichtlinien durchsetzen. Nvidia arbeitet dazu mit Sicherheitsanbietern wie Cisco, CrowdStrike, Google, Microsoft und TrendAI zusammen, um bestehende Sicherheitsfunktionen einzubinden.

Auch Langchain beteilige sich: Das Unternehmen integriert das Agent Toolkit in seine Frameworks. Ziel ist es, skalierbare und präzise Enterprise-Agenten einfacher entwickelbar zu machen.

Das Agent Toolkit und Openshell stehen über die Plattform build.Nvidia.com zur Verfügung. Unterstützt werden verschiedene Inferenzanbieter und Cloud-Partner. Openshell könne zudem lokal betrieben werden, etwa auf „RTX“-basierten Workstations oder „DGX“-Systemen.

Für den Unternehmenseinsatz sollen sich KI-Agenten sowohl in Cloud-Infrastrukturen (AWS, Google Cloud, Azure, Oracle) als auch auf Servern von Herstellern wie Cisco, Dell, HPE oder Lenovo betreiben lassen.

Artikelfiles und Artikellinks

(ID:50796751)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu RZ- und Server-Technik

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte