Höhere Flexibilität und Treffsicherheit von neuronalen Netzen Zufälliges Rauschen verbessert Leistung von KI-Systemen

Anbieter zum Thema

Friedrich-Alexander- Universität Erlangen-Nürnberg

Vertiv GmbH

Schneider Electric GmbH

DAXTEN GmbH

Forscher und Neurowissenschaftler der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) haben im Rahmen einer Studie nachgewiesen, dass zufälliges Rauschen die Leistung von KI-Systemen verbessert. Neuronale Netzwerke werden dadurch flexibler und treffsicherer.

Unter Rauschen versteht man die Überlagerung von Signalen mit zufälligen Schwankungen. Wer schon einmal versucht hat, an einem ungünstigen Standort einen UKW-Radiosender einzustellen, kennt das Phänomen. In der Regel erschwert Rauschen die Interpretierbarkeit von Informationen – neuronale Netze scheinen aber von einer gewissen Menge Rauschen in zu verarbeitenden Daten sogar zu profitieren. Zu diesem Ergebnis kommt eine Studie von Physikern, KI-Forschern und Neurowissenschaftlern der FAU Erlangen-Nürnberg und des Uniklinikums Erlangen, die nun in der Fachzeitschrift „Frontiers in Complex Systems“ publiziert wurde.

Demnach verhindern Zufallsschwankungen, dass sich KI-Algorithmen vorzeitig auf eine falsche Lösung versteifen. Auch für die korrekte Funktion des Gehirns konnte eine gewisse Menge an Rauschen essentiell sein. Neuronale Netze sind von dessen Funktionsweise lose inspiriert: Sie bestehen meist aus mehreren hintereinandergeschalteten Schichten, die keine Rückkopplungen enthalten. Jede davon modifiziert die eingehende Information und gibt sie dann an die jeweils nächste Schicht weiter.

„Im Gehirn ist das anders - dort fließen auch ständig Informationen an die vorhergehenden Schichten zurück“, erklärt Privatdozent Dr. Patrick Krauss. Durch diese Rückkopplung werde gewissermaßen nicht nur der aktuelle Input berücksichtigt, sondern auch bereits zuvor eingeflossene Informationen. „Und das macht sie für bestimmte Aufgaben, in denen es um zeitliche Zusammenhänge geht, besonders leistungsfähig“, so Krauss.

Vorinformationen als Basis für bessere Ergebnisse

Diese sogenannte Rekurrenz lässt sich auch im Computer in neuronalen Netzen nachbilden. Derartige Systeme haben die Forscher für die Studie untersucht. Der vorteilhafte Effekt von Rauschen wird durch ein Beispiel illustriert: Die automatische Vervollständigung von Ortsnamen auf Webseiten nutzt die bereits eingetippten Buchstaben, um Vorschläge zu unterbreiten. Vertippt sich der Benutzer dabei, bietet das System aber keinen korrekten Ortsnamen mehr an – es steckt in einer Sackgasse, in der keine richtige Lösung mehr möglich ist.

„In diesem Fall hilft es, den Informationen - in unserem Beispiel: den bereits getippten Buchstaben - Rauschen beizumischen, also Zufallssignale“, erläutert Dr. Achim Schilling, der Studie zusammen mit Krauss und Privatdozent Dr. Claus Metzner durchgeführt hat. Das Rauschen sorge dafür, dass sich das neuronale Netz aus der Sackgasse befreien kann. Es legt sich mit geringerer Wahrscheinlichkeit voreilig auf eine falsche Lösung fest und kann beispielsweise Fortsetzungen für beide Möglichkeiten angeben, ohne sich festzulegen. Die Forscher konnten den Effekt des Rauschens unter anderem für sogenannte Boltzmann- und Hopfield-Netzwerke zeigen, deren Erfinder erst in diesem Jahr mit dem Nobelpreis ausgezeichnet wurden.

Das Rauschen funktioniert allerdings nur dann nutzbringend, wenn es fein dosiert beigemischt wird und die Information nicht vollends übertönt. „Es gibt für jedes Netz eine optimale Rauschmenge“, verdeutlicht Krauss. „Wenn man diese hinzufügt, werden die Verfahren nicht nur deutlich robuster, sondern auch effizienter“, so der Experte. Die Erkenntnis könnte daher zur Entwicklung leistungsfähigerer KI-Systeme beitragen.

(ID:50262732)