Sicherer Umgang mit Künstlicher Intelligenz Internationaler KI-Leitfaden veröffentlicht

Anbieter zum Thema

Bundesamt für Sicherheit i.d.Informationstechnik

Vertiv GmbH

Schneider Electric GmbH

Fsas Technologies GmbH

KI-Anwendungen verbreiten sich, eine Auseinandersetzung mit den damit verbundenen Sicherheitsrisiken und entsprechenden Schutzmaßnahmen ist unerlässlich. Im Rahmen einer internationalen Kooperation haben das Bundesamt für Sicherheit in der Informationstechnik und Partnerbehörden aus zehn Ländern einen Leitfaden zur sicheren Nutzung von Künstlicher Intelligenz veröffentlicht.

In einer globalen Initiative haben sich das Bundesamt für Sicherheit in der Informationstechnik (BSI) und Partnerbehörden aus zehn Ländern – darunter Australien, Israel, Japan, Kanada, Neuseeland, Norwegen, Schweden, Singapur, das Vereinigte Königreich und die Vereinigten Staaten – zusammengeschlossen und einen umfassenden Leitfaden zur sicheren Nutzung von Künstlicher Intelligenz (KI) veröffentlicht. KI-Technologien werden schließlich bereits in verschiedenen Bereichen wie Internet-Suche, Satellitennavigation, Empfehlungssystemen, Logistik, medizinischer Diagnose und Cyber-Sicherheit eingesetzt. Ihre rasche Verbreitung erfordert jedoch eine eingehende Auseinandersetzung mit Sicherheitsrisiken und Schutzmaßnahmen.

Künstliche Intelligenz und ihre Herausforderungen

Die Künstliche Intelligenz umfasst laut den Beteiligten mehrere wichtige Teilbereiche, unter anderem:

• Maschinelles Lernen: Dies ermöglicht es, Muster in Daten zu erkennen und in einen Zusammenhang zu bringen. Entsprechende Anwendungen können auf der Grundlage statistischer Überlegungen Vorhersagen, Empfehlungen oder Entscheidungen treffen.

• Natural Language Processing (NLP): NLP-Anwendungen können natürliche Sprache analysieren und daraus Informationen ableiten. Gleichzeitig sind sie oftmals im Stande, Inhalte, die natürliche Sprache nachahmen, selbst zu generieren.

• Generative KI (GenAI): Hierbei nutzen die Systeme Datenmodelle, um Inhalte wie Text, Bilder, Audio und Code zu erzeugen. Generative KI-Anwendungen werden in der Regel anhand großer Mengen realer Daten trainiert und können anhand von Aufforderungen, selbst wenn diese begrenzt oder unspezifisch sind, von Menschen generierte Inhalte annähernd nachahmen.

Doch mit dem Einsatz entsprechender Systeme gehen auch grundlegende Herausforderungen einher. Dazu gehören laut dem Leitfaden 'Data Poisoning', eine Methode der unerwünschten Manipulation von KI-Modellen, und 'Prompt Injection', ein spezieller Cyber-Angriff, der mithilfe großer Sprachmodelle ausgeführt wird. Generative KI-Halluzinationen, bei denen KI-Systeme falsche und erfundene Informationen erzeugen, werden ebenfalls als potenzielles Risiko behandelt.

Besonderes Augenmerk wird zudem auf Datenschutzbedenken im Zusammenhang mit KI gelegt. Unternehmen müssten vorsichtig sein, welche Informationen sie KI-Systemen zur Verfügung stellen, um die Sicherheit sensibler Daten – einschließlich personenbezogener Daten von Kunden – und geistigem Eigentum zu gewährleisten.

Das empfiehlt das BSI

Der Leitfaden enthält auch konkrete Empfehlungen für Unternehmen und Regierungen, um sicher mit KI umzugehen. Dazu gehören Maßnahmen wie die Anwendung von Multi-Faktor-Authentifizierung, die Begrenzung des Zugriffs auf KI-Systeme, die regelmäßige Sicherung von KI-Modellen und Trainingsdaten, sowie das Durchführen von Check-ups, um Datendrift, also eine Vorhersageungenauigkeit von Machine-Learning-Modellen, zu erkennen.

Ein weiterer Fokus liegt auf der Schulung von Mitarbeitern, die mit KI-Systemen interagieren. Diese müssen sich der Bedeutung des Schutzes von Daten bewusst sein und darüber informiert werden, inwieweit man sich auf die Ergebnisse von KI-Systemen verlassen kann. Die Rolle von IT-Sicherheitsmaßnahmen wie Protokollierung, Überwachung und Notfallplänen wird ebenfalls betont.

Den gesamten Leitfaden können Sie hier einsehen:

Hinweis:Diesen Beitrag hat DataCenter-Insider von der Partnerredaktion eGovernment mit leichten Anpassungen übernommen.

(ID:49913744)