Deep Learning mit Licht und Schall Das Können photonischer Chips und des opto-akustischen Neuromorphismus

Einer Gruppe am MIT gelang kürzlich ein Durchbruch in der photonischen Datenverarbeitung. Das Startup Lightmatter schlägt bereits mit seinen ersten photonischen Supercomputing-Chips und Interconnects die Wellen. Mit Optoakustik verfolgt Professor Birgit Stiller parallel dazu einen bahnbrechend neuen Ansatz:

MIT-Forschende und ihre Kolleg/inn/en haben einen vollständig integrierten photonischen Prozessor gebaut, der sämtliche Schlüsselfunktionen eines tiefen Neuronalen Netzwerks erstmals direkt in Optik ausführt. Der dreischichtige Chip bewältigt sowohl die Inferenz Neuronaler Netze als auch das Training direkt auf dem Chip.

Der Chip zeigt herausragende Leistung: Das Neuronale Netzwerk erreicht eine extrem niedrige Latenz von unter einer halben Nanosekunde für Schlüsselkalkulationen und kann mit einem ebenso beeindruckenden Energieverbrauch pro Operation im Femtojoule-Bereich auftrumpfen. Die Genauigkeit von Klassifizierungsaufgaben liegt über 92 Prozent und steht herkömmlicher Hardware in nichts nach.

Dr. Saumil Bandyopadhyay, Wissenschaftler am Research Laboratory of Electronics (RLE) des MIT, erläutert: „Es gibt viele Anwendungsfälle, bei denen nicht nur die Modellgenauigkeit zählt, sondern auch, wie schnell eine Antwort verfügbar ist.“ Praktische Nutzungsszenarien von dem neuen Chip umfassen Echtzeitanwendungen wie Navigation, Telekommunikation und andere im Bereich der optischen Signalverarbeitung.

Der MIT-Chip

Der MIT-Chip besteht aus linearen und nicht linearen Modulen, die ein optisches Neuronales Netzwerk bilden. Diese so genannten Nonlinear Optical Function Units (NOFUs) kombinieren Elektronik und Optik direkt auf dem Chip, sodass er während der Verarbeitung fast vollständig im optischen Bereich bleibt.

An dem Durchbruch hat sich eine ganze Reihe hochkarätiger Wissenschaftler beteiligt: Saumil Bandyopadhyay (Gastwissenschaftler in der Quantum Photonics and AI Group des MIT RLE und Postdoc bei NTT Research), Alexander Sludds, Nicholas Harris, Darius Bunandar, Professor Stefan Krastanov (ehemaliger Wissenschaftler am RLE, jetzt Assistenzprofessor an der University of Massachusetts in Amherst), Ryan Hamerly (Gastwissenschaftler am RLE und Senior Scientist bei NTT Research), Matthew Streshinsky (ehemaliger Leiter der Siliziumphotonik bei Nokia und jetzt Mitgründer sowie CEO von Enosemi), Michael Hochberg (Präsident von Periplous, LLC) und – last but not least – Professor Dirk Englund, Leiter der Quantum Photonics and Artificial Intelligence Group sowie des Research Laboratory of Electronics (RLE) am MIT.

Frühere photonische Systeme scheiterten an nicht-linearen Operationen.

Herausforderungen der Nicht-Linearität

Die Umsetzung von Nichtlinearität in der Optik sei eine äußerst anspruchsvolle Herausforderung, erklärt Bandyopadhyay, Gastwissenschaftler in der Quantum Photonics and AI Group des MIT RLE und Postdoc bei NTT Research. Denn Photonen würden nur sehr schwer miteinander interagieren. Dadurch sei es sehr Energie-aufwendig, optische Nicht-Linearitäten auszulösen. Ein solches System ließe sich nur schlecht skalieren.

Im Jahr 2017 hatte eine Gruppe von Wissenschaftlern unter der Leitung von Professor Englund zusammen mit Forschenden aus dem Labor von Marin Soljačić, dem Cecil-und-Ida-Green-Professor für Physik, ein optisches neuronales Netzwerk auf einem einzelnen photonischen Chip gebaut, das Matrixmultiplikationen mit Licht rechnen konnte. Um nichtlineare Operationen auszuführen, mussten optische Daten in elektrische Signale umgewandelt und an einen digitalen Prozessor weitergeleitet werden. Dies bremste die Leistung aus.

„Jetzt, da wir ein vollständig integriertes System haben, das ein neuronales Netzwerk optisch und in Nanosekunden ausführen kann, können wir uns auf Anwendungen und Algorithmen auf höherer Ebene konzentrieren“, freut sich Bandyopadhyay. Zukünftige Bemühungen zielen darauf ab, die Technologie in „realweltliche“ Systeme wie Kameras oder Telekommunikationsinfrastruktur zu integrieren und entsprechende Algorithmen zu entwickeln. Der gesamte Schaltkreis lässt sich mit standardisierten kommerziellen CMOS-Herstellungsprozessen fertigen.

Auf dem Weg zum photonischen RZ

Das Startup Lightmatter schlägt bereits mit seinen ersten photonischen Supercomputing-Chips und Interconnects die Wellen. Zwei der drei Mitbegründer lernten das Handwerk von Professor Englund am MIT.

Nick Harris, CEO und Mitbegründer von Lightmatter, führt aus: „Hyperscaler wissen, dass sie keinen Computer mit einer Million Knoten mit traditionellen Switches von Cisco bauen können. Sobald man das Rack verlässt, geht es von einer Hochleistungs-Interconnect-Lösung quasi zu einem Dosentelefon über.“ Das Unternehmen hat ein optisches Interconnect entwickelt, welches Hunderte von GPUs synchron arbeiten lassen kann.

„Der aktuelle Stand der Technik“, so Harris, „ist NVLink, insbesondere die Plattform 'NVL72', die 72 'Nvidia-Blackwell'-Einheiten in einem Rack miteinander verbindet und maximal 1,4 ExaFlopss bei FP4-Genauigkeit erreicht.“ Doch kein Rack arbeite isoliert, und alle Berechnungen müssten über ein „Scale-up“-Netzwerk mit 7 Terabit Bandbreite hinausgeführt werden. „Auch wenn das beeindruckend klingt, stellt diese Beschränkung einen Bremsklotz dar“.

Die Interconnect-Schichten, die CPUs und GPUs zu einer funktionierenden Einheit verbinden, entscheiden, wie schnell die Hardware tatsächlich arbeitet. „Für eine Million GPUs benötigt man mehrere Schichten von Switches, was enorme Latenzen mit sich bringt“, so Harris. „Man wechselt von elektrischen zu optischen und zurück zu elektrischen Verbindungen – der Stromverbrauch und die Wartezeiten sind immens. Und in größeren Clustern verschärft sich das Problem dramatisch.“

Lightmatter hingegen setzt auf eine rein optische Verbindungsschicht mit einer Bandbreite von bis zu 1,6 Terabit pro Faser (mehrere Lichtfarben) und bis zu 256 Fasern pro Chip. Damit erscheinen 72 GPUs mit einer Bandbreite von 7 Terabit fast antiquiert.

Der Markt dafür ist riesig: Große Rechenzentrumsbetreiber wie Microsoft, Amazon und neue Player wie xAI und OpenAI haben einen ungesättigten Bedarf an Rechenleistung. „Sie verbinden mittlerweile ganze Gebäude miteinander!“ freut sich Harris und fügt schnell hinzu: „Wie lange sie das noch so durchhalten können, bleibt abzuwarten“.

Einige dieser Hyperscaler zählen bereits zu den Kunden von Lightmatter, auch wenn Harris keine Namen nennen wollte. „Man kann sich Lightmatter ein wenig wie eine Foundry à la TSMC vorstellen,“ verdeutlicht er. „Wir bevorzugen keine einzelnen Kunden und treten nicht mit unserem Namen in Verbindung mit anderen Marken auf. Wir bieten eine Plattform und einen Fahrplan, um das gesamte Ökosystem zu erweitern.“

Die kürzlich abgeschlossene D-Finanzierungsrunde über 400 Millionen Dollar bewertet Lightmatter mit 4,4 Milliarden Dollar. „Das macht uns zum mit Abstand größten Photonik-Unternehmen“ so Harris. Die Runde wurde von T. Rowe Price Associates angeführt, mit Beteiligung bestehender Investoren wie Fidelity Management & Research Company und GV.

Mitte November hat Lightmatter eine strategische Partnerschaft mit Amkor Technology, einem führenden Anbieter von Halbleiterverpackungs- und Testdienstleistungen, bekannt gegeben. Diese Zusammenarbeit nutzt Lightmatter bahnbrechenden 3D-gestapelten photonischen Motor zusammen mit Amkors fortschrittlicher Multi-Die-Verpackungsexpertise, um den beispiellosen Anforderungen an Interconnect-Skalierung und Energieverbrauch der heutigen Künstlichen Intelligenz (KI)-Arbeitslasten gerecht zu werden.

Das Ziel besteht darin, den größten jemals 3D-verpackten Chipkomplex unter Nutzung der innovativen „Passage“-Plattform von Lightmatter zu bauen. Den Zuschlag für die Fertigung erhielt Global Foundries für seine Fähigkeit, Transistoren und Photonik-Bauteile direkt in einem Chip zu integrieren.

Rechnen mit Lichtgeschwindigkeit

Mit „Envise“ hat Lightmatter einen photonischen Beschleuniger für KI-Workloads entwickelt. Ergänzend dazu fungiert Passage als Interconnect-System, das Arrays traditioneller Prozessoren über ein programmierbares optisches On-Chip-Netzwerk miteinander verbindet. Dieses Design ermöglicht eine schnelle und effiziente Datenübertragung zwischen Prozessoren und nutzt die Vorteile optischer Kommunikation, um die Grenzen herkömmlicher elektronischer Interconnects zu überwinden.

Zusammen stellen Envise und Passage einen bedeutenden Fortschritt in der Computing-Technologie dar. „Mit Photonik können Sie mehrere Berechnungen gleichzeitig durchführen, da die Daten in verschiedenen Farben des Lichts ankommen,“ sagt Harris. „Das erhöht die Anzahl der Operationen pro Fläche und nutzt die vorhandene Hardware erneut, was die Energie-Effizienz steigert“, führt er weiter aus.

Ein photonisches Problem erfordert anscheinend eine photonische Lösung: eine Wafer-Scale-Interconnect-Platine, die Wellenleiter anstelle von Glasfasern verwendet, um Daten zwischen den verschiedenen Kernen zu übertragen. Glasfaserverbindungen bieten nicht die erforderliche Dichte, um hinreichend viele Kanäle zu verbauen. „Wir haben die Optik, die Wellenleiter, direkt in den Chip eingebaut; wir können 40 Wellenleiter auf dem Raum einer einzigen optischen Faser unterbringen“, sagte Harris. „Das bedeutet, dass die Anwender viel mehr Spuren parallel betreiben können“. Das Resultat seien eben „absurd hohe“ Interconnect-Geschwindigkeiten.

Die Passage

Bei Passage handelt es sich um eine vollständig photonische Silizium-Interconnect-Schicht von Lightmatter. Die Passage-Plattform ermöglicht die 3D-Integration von kundenspezifischen Dies direkt auf dem photonischen Silizium-Interconnect für optische I/O überall auf der Chipfläche.

Dieser Ansatz ermöglicht eine direkte Konvertierung von elektrischen zu optischen Signalen direkt unterhalb des Signal-Bumps auf dem Die. Dies führt zu einer verbesserten Escape-Bandbreite (gemeint ist die Datenübertragungsrate, mit der Informationen eine Komponente verlassen und mit anderen Komponenten außerhalb ihres Gehäuses verbunden werden können) sowie zu einer höheren Anzahl von Ports für die Verbindung mit angrenzenden Compute-Units oder Netzwerkknoten.

Der Fertigungsprozess von Global Foundries kombiniert Transistoren und Photonik auf demselben Chip. Alle Kontrollschaltkreise des 3D-Pakets befinden sich innerhalb des Interconnect. Dadurch entfällt die Notwendigkeit für Änderungen am Design der Oberseite des Chips der Kunden. So können diese Unternehmen ihre bereits bestehenden Chip-Designs nutzen und die Markteinführungszeit verkürzen.

Passage integriert auch noch nativ Optical Circuit Switching (OCS) für eine verbesserte Widerstandsfähigkeit und Flexibilität. „Photonik kommt viel schneller voran, als viele gedacht haben“, sagt Harris, und relativiert schnell: „nach sieben Jahren harter Arbeit“.

Was steht als Nächstes an? Das Unternehmen entwickelt derzeit neue Substrate für Chips.

Von Elektronik zu Photonik

Optische Chips gelten als eine der Schlüsseltechnologien der Zukunft, insbesondere für rechenintensive Anwendungen wie Maschinelles Lernen, Künstliche Intelligenz und die Telekommunikation. Denn Licht bewegt sich nahezu widerstandslos durch photonische Schaltkreise, was die Signalverarbeitung in puncto Geschwindigkeit hebt. Photonik ermöglicht zudem parallele Datenverarbeitung mit mehreren Wellenlängen gleichzeitig – ein Konzept, das in der Elektronik nicht realisierbar ist.

Auch im Hinblick auf ihre Energie-Effizienz setzen optische Chips neue Maßstäbe. Sie benötigen deutlich weniger Energie, da sie weder Widerstände in elektrischen Leitungen überwinden noch Hitze im selben Maße wie elektronische Chips erzeugen müssen. Weniger Abwärme bedeutet gleichzeitig geringere Kühlanforderungen.

Laut einer Studie der Unternehmensberatung McKinsey dürfte sich der Strombedarf von Rechenzentren für KI-Anwendungen und andere Digitalisierungsprojekte in Europa bis zum Jahr 2030 voraussichtlich auf über 150 Terawattstunden gegenüber dem aktuellen Stand (Oktober 2024) nahezu verdreifachen – und das auch noch ohne Krypto-Mining. Dieser Energiebedarf macht heute etwa fünf Prozent des gesamten europäischen Stromverbrauchs aus.

Ganz viele Vorteile

Eine weitere Prognose des Electric Power Research Institute besagt, dass Rechenzentren in den USA bis 2030 bis zu neun Prozent des nationalen Stromverbrauchs ausmachen könnten – doppelt so viel wie heute. Vor diesem Hintergrund wächst das Interesse an Photonik.

Ebenfalls bemerkenswert ist die extrem niedrige Latenz optischer Chips. Durch die Integration von linearen und nicht-linearen Rechenoperationen direkt auf dem Chip bleibt der gesamte Prozess nahezu vollständig im optischen Bereich. Das führt zu minimalen Verzögerungen – ein entscheidender Faktor für Echtzeitanwendungen wie KI-gestützte Analysen oder autonomes Fahren.

Doch die Vorteile enden nicht bei Geschwindigkeit und Energie-Effizienz. Durch ihre hohe Bandbreite und kompakte Bauweise bieten sie optische Vorteile in Bezug auf ihre Skalierbarkeit. Neue Anwendungsfälle umfassen die Quanten-KI und photonische neuronale Netzwerke, die Lichtinterferenzen zur Mustererkennung nutzen.

Optoakustik für neuromorphe Chips

Doch Optoakustik legt noch einen drauf: Der Begriff ist quasi ein Neuromorphismus für potenziell noch mehr Leistung und Energie-Effizienz.

Optoakustik untersucht die Wechselwirkung zwischen Licht und Schall. Im Großen und Ganzen geht es darum, wie optische Signale (Licht) und akustische Wellen (Schall) miteinander interagieren, um Informationen zu verarbeiten, zu übertragen oder zu verändern.

Diese Wechselwirkungen bieten eine einzigartige Kombination aus den Vorteilen der Photonik. Dazu gehören eine hohe Geschwindigkeit und Bandbreite – und den besonderen Eigenschaften der Akustik, etwa ihrer Fähigkeit, Signale präzise zu verzögern oder zu speichern.

Professor Birgit Stiller, Leiterin der Forschungsgruppe 'Quantum Optoacoustics' am Max-Planck-Institut für die Physik des Lichts (MPL) in Erlangen, und W3-Professorin an der Leibniz Universität Hannover, untersucht Licht-Schall-Interaktionen in optischen Fasern und photonischen Chips, um neuromorphe Strukturen zu schaffen. Für ihr Forschungsprojekt „Sound-PC“ hat sie kürzlich den „ERC Consolidator Grant“ erhalten. Mit dem auf drei Millionen Euro dotierten Förderpreis will die Wissenschaftlerin alternative Rechenarchitekturen für neuromorphes Rechnen schaffen, um zukünftige Ansätze für Maschinelles Lernen und KI zu verbessern.

Der Ansatz kombiniert die Vorteile der Photonik wie hohe Bandbreite und Parallelisierung mit den einzigartigen Eigenschaften der Akustik, um alternative Rechenarchitekturen für Maschinelles Lernen und Künstliche Intelligenz zu realisieren. Darüber hinaus wird das Forscherteam auch in den Quantenbereich vorstoßen und verschiedene Strategien für Neuronale Quantennetze umsetzen.

Der European Research Council (ERC) ist eine europäische Förderorganisation für herausragende Pionierforschung, die im Rahmen des Programms „Horizon Europe“ entstanden ist.

(ID:50346106)