Interview mit dem KI-Experten Louis Tian, CTO von KAYTUS (1) KI-Ansätze für Stabilität, Ressourcenmanagement und Trendprognosen

Anbieter zum Thema

Schneider Electric GmbH

DAXTEN GmbH

VON ZUR MÜHLEN'SCHE GmbH

In diesem Interview erläutert Louis Tian, Chief Technology Officer (CTO) bei KAYTUS die Herausforderungen, vor denen Unternehmen in Sachen Künstlicher Intelligenz stehen. Wie optimiert man die Rechenressourcen, um leistungsstarke KI-Modelle effizient zu trainieren? Welche Rolle spielen Datenübertragung und GPU-Management für die Stabilität?

Was sind die allgemeinen Herausforderungen bei der Entwicklung von KI-basierten Systemen und wie kann die Effizienz gesteigert werden?

Die allgemeine Herausforderung bei der Entwicklung von KI-basierten Systemen besteht darin, die Stabilität und Effizienz der Rechenleistung des gesamten Clusters durch systematisches Design zu verbessern. Dazu gehören das Management der zugrunde liegenden Rechenressourcen und die fortlaufende Optimierung während der gesamten KI-Entwicklung. Dies sind auch die Hauptprobleme, die wir bei den Kunden identifiziert haben, für die wir unsere KI-Entwicklungs-Software konzipieren.

Das Training KI-basierter Modelle („Model Training“), insbesondere für LLMs, erfordert eine erhebliche Menge an Rechenressourcen. Unternehmensanwender haben keine Erfahrung mit dem Betrieb von Clustern mit großer Rechenleistung und verfügen nicht über standardisierte Methoden für die Planung der Rechenleistung, des Grafikspeichers, des Netzwerks, des Datenspeichers und mehr. Ferner haben Sie auch keine Erfahrung mit der Auswahl ihrer Betriebsmittel oder verfügen aufgrund des hohen Stromverbrauchs möglicherweise nicht einmal über angemessene Bedingungen im Rechenzentrum. Darüber hinaus werden Gesamteffizienz und Stabilität eines Clusters durch eine unangemessene Ressourcenzuweisung, instabile Geräte und unterschiedliche Geschäftsanforderungen eingeschränkt, wenn umfangreiche KI-Trainings- und Inferenzierungen in einem Cluster ausgeführt werden.

Der gesamte Prozess der KI-Entwicklung muss optimiert werden, um die Effizienz der Rechenleistung zu verbessern. So kann der Nachfrage nach qualitativ hochwertigen Daten für das Training von KI-Modellen und die Inferenzierung sowie den unterschiedlichen Anforderungen an die Verarbeitung von Modelldaten Rechnung getragen werden. Auch die mangelnde Erfahrung der Nutzer bei der Datenvorverarbeitung, die Formulierung paralleler Strategien und die Optimierung des Programmcodes, die geringe Effizienz von Modelltests, die Verifizierung der Ergebnisse und redundante Trainings sowie der Mangel an effizienten Tools sind ein Teil der Herausforderungen. Mit der schnellen Weiterentwicklung der Technologie für große Rechnermodelle werden komplexere Prozessanforderungen in KI-Systeme eingeführt, die Integrität und Skalierbarkeit erfordern.

Im Vergleich zu den meisten Open-Source- und lokalen KI-Systemen, müssen ausgereifte KI-Systeme für Unternehmen die Unterschiede in den Geschäftsbefugnissen und Arbeitsabläufen für verschiedene Rollen hervorheben, z. B. die Unterscheidung zwischen Gerätemanagern, Businessverantwortlichen, Entwicklern, O&M-Personal und Serviceanwendern. Dies setzt voraus, dass die Entwickler von KI-Systemen die spezifischen Anforderungen der verschiedenen Kundentypen klar erkennen sowie Mechanismen und Prozesse für die Zusammenarbeit verschiedener Rollen in KI-Systemen bereitstellen.

Können Sie auf die Herausforderungen eingehen, die bei der Planung und Nutzung von GPU-Ressourcen in der KI-Modellentwicklung bestehen?

Es sind vor allem folgende Faktoren, die bei der Planung und Nutzung von GPU-Kapazitäten wichtig sind:

Skalierbarkeit: Für Aufgaben wie das vollständige Training, die Feinabstimmung und die Bereitstellung von Diensten für herkömmliche CV-Modelle, NLP-Modelle, transformatorbasierte LLMs und multimodale Modelle, variieren die Anforderungen an die Rechenleistung von einem einzigen Grafikprozessor bis zu Dutzenden von Servern, und die Berechnungsdauer reicht von Minuten bis zu Monaten. Eine unsachgemäße Aufgabenplanung führt zu einem enormen Leerlauf von Rechenleistung und langen Wartezeiten für Aufgaben. Um dieses Problem zu lösen, benötigen die Nutzer Unterstützung bei der Zuweisung von GPU-Ressourcen sowie bei der Aufgabenkonstruktion, der Aufgabenplanung und anderen Aspekten. Zudem brauchen sie Unterstützung bei der Optimierung ihrer Trainingsmethoden, um die Zuweisung von GPU-Ressourcen dynamisch anzupassen.

Stabilität: Eine unzureichende Stabilität der GPU-Ressourcen für das Training umfangreicher KI-Modelle führt zu Ausfällen, Neustarts und Rückschritten bei deren Entwicklung. Durch die Überwachung des Zustands der GPU-Ressourcen, eine rechtzeitige Alarmierung und die Neuplanung sowie den Neustart von Trainingsaufgaben auf der Grundlage voreingestellter Regeln, können Benutzer die Gesamtstabilität der KI-Modellentwicklung auf Unternehmensebene verbessern.

Ressourcenkooperation: Bei der Entwicklung KI-basierter Modelle ist neben den wertvollen GPU-Ressourcen auch die Nutzung von Speicher- und Netzwerkressourcen für die Planung von Modellentwicklungs-Umgebungen und Überwachungstools von wesentlicher Bedeutung. Um die Planung und Nutzung von GPU-Ressourcen zu verbessern, sollten die Anwender die Planung und Optimierung aus einer Systemperspektive heraus vornehmen und die Planung der verschiedenen Ressourcen koordinieren.

Ausblick auf den zweiten Teil des Interviews

Welche Rolle die Geschwindigkeit der Datenübertragung bei der Entwicklung und dem Training von KI-Modellen spielt, beleuchtet der zweite Teil des Interviews. Außerdem: die Besonderheiten beim Lifecycle-Management, die Wichtigkeit automatischer Fehlertoleranz bis hin zu Trendprognosen.

KI-Experte Louis Tian, CTO von KAYTUS im Interview (2)

Performance bei der Entwicklung von KI-Modellen entscheidend

(ID:50137016)