Hardware für Data Scientists

So werden Workstations fit für Künstliche Intelligenz

| Autor / Redakteur: Peter Beck* / Ulrike Ostler

Künstliche Intelligenz kommt in immer mehr Bereichen zum Einsatz - Zur Entwicklung und Ausführen der Anwendungen, sollen Ingenieuren und Künstler sowie Data Scientist auch Workstations dienen.
Künstliche Intelligenz kommt in immer mehr Bereichen zum Einsatz - Zur Entwicklung und Ausführen der Anwendungen, sollen Ingenieuren und Künstler sowie Data Scientist auch Workstations dienen. (Bild: gemeinfrei: geralt/ Pixabay)

Workstations können bei der Entwicklung und Bereitstellung von KI-Anwendungen einen wertvollen Beitrag leisten. Dafür müssen sie allerdings einige Voraussetzungen erfüllen. Das gilt nicht nur für ihre Hardware-Ausstattung.

Chatbots im Kundenservice, personalisierte Angebote im Online-Handel, prädiktive Instandhaltung in der Fertigung, Diagnostik im Gesundheitswesen, Betrugsprävention im Finanzwesen, Bedarfsprognosen im Energiesektor: Immer mehr Unternehmen und Institutionen setzen inzwischen in immer mehr Bereichen auf KI-basierte Anwendungen.

Workstations können bei der Entwicklung und Bereitstellung solcher Anwendungen einen wertvollen Beitrag leisten. Mit ihrer besonderen Leistungsfähigkeit eignen sie sich für Aufgaben, bei denen moderat große Datensätze oder größere Teilmengen von Datensätzen verarbeitet werden müssen, und bieten dabei eine kosteneffiziente Plattform. Entwickeln Data Scientists KI-Anwendungen und setzen sie ein, ermöglichen ihnen Workstations eine gute Kontrolle ihrer Umgebung.

KI-Entwicklung heißt Experimentieren. Steht den Data Scientists dafür eine Workstation zur Verfügung, brauchen sie sich beispielsweise keine Gedanken über die Kosten zu machen, die sie verursachen, wenn sie ihre Iterationen auf Basis von Cloud-Ressourcen durchführen. Auch dass sie durch ihre Experimente Cloud-Instanzen lahmlegen, müssen sie nicht befürchten.

Großer Bedarf an Rechenleistung rückt Grafikkarten in den Vordergrund

Dabei eignen sich Workstations aber nicht per se für KI, sondern müssen einige Voraussetzungen erfüllen. Das betrifft in erster Linie ihre Ausstattung mit Rechenleistung sowie ihre Arbeitsspeicher- und Storage-Kapazitäten. Pauschale Werte lassen sich hier zwar nicht angeben – dafür sind die konkreten Einsatzgebiete und ihre Anforderungen einfach zu verschieden. Dennoch lohnt es sich, einige grundsätzliche Betrachtungen anzustellen.

Die hohe Rechenleistung, die beim Trainieren von KI-Algorithmen und beim Einsatz der KI-Modelle gefragt ist, rückt die Grafikkarten der Workstations in den Vordergrund. Mit ihrer Fähigkeit zur Parallelisierung und ihren hohen Datendurchsätzen eigenen sie sich nämlich nicht nur ideal für die Grafikberechnung, sondern auch für die Beschleunigung von KI-Berechnungen. Unter dem Strich bieten sie dabei deutlich mehr Leistung bei weniger Kosten als Prozessoren und sollten deshalb bei der KI-Entwicklung und -Anwendung als Co-Prozessoren zum Einsatz kommen.

Der Markt bietet inzwischen speziell für KI optimierte Grafikkarten, bei denen Hunderte von Recheneinheiten parallel Berechnungen durchführen können und die es so auf eine Rechenleistung von 118,5 TeraFLOPS bringen. Um für KI-Aufgaben optimal gerüstet zu sein, ist eine Workstation idealerweise mit drei solchen Grafik- beziehungsweise Beschleunigerkarten ausgestattet.

Data Engineering stellt hohe Anforderungen an Arbeitsspeicher

Beim Arbeitsspeicher gilt die Devise: möglichst viel davon. Die Anforderungen an ihn ergeben sich vor allem aus den Aufgaben des Data Engineering – also der Aufbereitung der Daten für die Machine- oder Deep-Learning-Algorithmen.

Wird der Großteil dieser Aufgaben auf externen Datenressourcen wie SQL-Servern oder Spark-Umgebungen durchgeführt, kann zwar ein geringerer Arbeitsspeicher mit 64 Gigabyte ausreichen; allerdings dürfte das nur äußerst selten der Fall sein. Viel häufiger ist, dass Daten aus solchen externen Quellen auf die Workstations gezogen werden, um sie dort zusammenzuführen. Deshalb sollte eine KI-Workstation mindestens einen Arbeitsspeicher von 128 Gigabyte aufweisen.

KI-Anwendungen stellen einige Anforderungen an das Innenleben von Workstations. Das betrifft insbesondere ihre Grafikkarten. Zu sehen ist das System „Dell Precision 7920.
KI-Anwendungen stellen einige Anforderungen an das Innenleben von Workstations. Das betrifft insbesondere ihre Grafikkarten. Zu sehen ist das System „Dell Precision 7920. (Bild: Dell)

Was die Storage-Ausstattung angeht, sind die Nutzer bei der KI-Entwicklung vor allem auf möglichst schnelle Lesevorgänge angewiesen. Deshalb sollten ihre Workstations am besten mit NVMe-SSDs ausgestattet sein.

Workstations sollten auch selbst KI nutzen

Um die Entwicklung und Bereitstellung von KI-Anwendungen optimal zu unterstützen, bringen die Workstations neben adäquater Hardware idealerweise noch einige weitere Features mit. So sollten sie beispielsweise selbst KI nutzen, um ihre Performance gezielt für ihr konkretes Einsatzgebiet zu optimieren. Mit Hilfe von Machine Learning können sie etwa automatische Updates steuern, um die Zuverlässigkeit zu verbessern, oder Analysen zur Behebung von Engpässen bereitstellen.

Aber nicht nur auf die Workstations selbst, sondern auch auf ihre Anbieter lohnt ein genauerer Blick. Arbeitet ein Anbieter mit den richtigen Partnern zusammen, kann er effektivere und flexiblere Lösungen bereitstellen. Dazu zählen etwa die Anbieter von Container-basierten SaaS-Lösungen für Machine Learning und Deep Learning.

Werden deren Lösungen auf den Workstations genutzt, können die Geräte nahtlos in übergreifende KI-Infrastrukturen eingebunden werden. Container-Technologien ermöglichen es nämlich, lokal auf den Workstations ausgeführte KI-Aufgaben unkomplizierter auf Umgebungen mit größeren Ressourcen wie Anwendungsserver oder HPC-Rechenzentren zu portieren oder dort zu reproduzieren – und umgekehrt.

Durch umfassenden Support Ausfälle minimieren

Last but not least sollte der Anbieter auch in der Lage sein, einen stabilen Betrieb seiner Workstations zu gewährleisten. Die modernsten Komponenten und Features sind nur die Hälfte wert, wenn sie nicht zuverlässig konstant verfügbar sind. Deshalb sollte der Anbieter ergänzend zu seinen Workstations Support-Services bereitstellen, um Ausfälle zu minimieren beziehungsweise schnellstmöglich zu beheben.

Der Autor Peter Beck ist Field Product Manager Workstation & Rugged bei Dell Deutschland.
Der Autor Peter Beck ist Field Product Manager Workstation & Rugged bei Dell Deutschland. (Bild: Dell)

Dazu zählen etwa ein Rund-um-die-Uhr-Zugang zu Hardware- und Software-Experten des Anbieters oder unverzügliche Vor-Ort-Reparaturen nach vorhergehender Ferndiagnose. Idealerweise werden die Workstations vom Anbieter proaktiv überwacht, und es kommt dabei eine automatisierte Fehlererkennung zum Einsatz. Dann lassen sich Probleme bereits erkennen, sobald sie sich anbahnen. So können sie beseitigt werden, noch bevor sie zu einem Ausfall führen.

* Der Autor Peter Beck ist Field Product Manager Workstation und Rugged bei Dell Deutschland.

Was meinen Sie zu diesem Thema?

Schreiben Sie uns hier Ihre Meinung ...
(nicht registrierter User)

Zur Wahrung unserer Interessen speichern wir zusätzlich zu den o.g. Informationen die IP-Adresse. Dies dient ausschließlich dem Zweck, dass Sie als Urheber des Kommentars identifiziert werden können. Rechtliche Grundlage ist die Wahrung berechtigter Interessen gem. Art 6 Abs 1 lit. f) DSGVO.
Kommentar abschicken
copyright

Dieser Beitrag ist urheberrechtlich geschützt. Sie wollen ihn für Ihre Zwecke verwenden? Kontaktieren Sie uns über: support.vogel.de/ (ID: 45804791 / Konvergente Systeme)