Nvidia stellt mit „Hopper“ eine neue GPU-Architektur vor. KI-Workloads lassen sich damit massiv beschleunigt verarbeiten.  (Bild: Nvidia)
Der nächste Performance-Sprung bei 80 Milliarden Transistoren

Nvidia-Hopper ist eine neue Akzeleratorarchitektur und die H100-GPU nutzt sie

Nvidia hat am Dienstag auf der noch laufenden „GTC“-Konferenz eine ganze Reihe an Branchen-Milestones gezeigt. Der GPU-Produzent legte den Schwerpunkt auf die riesigen Möglichkeiten und Einsatzfelder, die Grafikprozessoren in den Bereichen Künstliche Intelligenz haben werden. Highlight war die Vorstellung der GPU-Architektur „Hopper“, welche die nächsten Rechnergenerationen von Inferenz-Systemen bis Supercomputer antreiben soll.

Weiterlesen
„Nemo Guardrails“ befinden sich zwischen den Benutzern und einer KI-Anwendung, überwachen die Kommunikation in beide Richtungen und ergreifen geeignete Maßnahmen, um die Sicherheit zu gewährleisten.  (Bild: Nvidia)
Das Open-Source-Toolkit Nemo Guardrails

Leitplanken bringen Trust und Security in LLM-basierte Konversationssysteme

„Nemo Guardrails“ stammt von Nvidia und dient einer möglichst einfachen Entwicklung von Konversationssystemen, die auf Large Language Modellen (LLMs) beruhen und die vertrauenswürdig sein sollen. Da Sicherheit in der generativen Künstlichen Intelligenz generell ein Problem ist, funktioniert die Software mit allen LLMs, inklusive „ChatGPT“ von OpenAI, und ist als Open Source verfügbar.

Weiterlesen