Einführung: Was ist die HUDERIA Methodologie?

Die HUDERIA Methodologie ist eine Leitlinie des Ausschusses für Künstliche Intelligenz des Europarates, das speziell für die Risikobewertung von Künstlicher Intelligenz (KI) entwickelt wurde. Ziel ist es, einen Risikoleitfaden und Umsetzungsmethoden für Bewertungen von KI-Systeme zu etablieren, um Menschenrechte, Demokratie und Rechtsstaatlichkeit in KI-Systemen zu berücksichtigen. Sie dient als strukturierte Anleitung für öffentliche und private Akteure, um potenzielle Risiken während des gesamten Lebenszyklus von KI-Systemen zu identifizieren und zu mindern.

Doch was bedeutet HUDERIA eigentlich?

Eine eindeutige Beschreibung des Akronyms HUDERIA besteht nicht. Eine Ableitung könnte aus den zentralen Zielen der Methodologie erfolgen: Human Rights, Democracy and Rule of Law Risk and Impact Assessment.

Anwendungsbereiche der HUDERIA-Methode

KI-Systeme stellen die Gesellschaft aber auch die Entwickler vor neue Herausforderungen. Die Berücksichtigung grundlegender Werte aber auch die Beantwortung moralischer und etischer Fragen in Bezug auf KI stellen viele vor erhebliche Schwierigkeiten. Risikobewertungen für KI-Systeme sind essenziell, um potenzielle negative Auswirkungen auf Menschenrechte, Demokratie und Rechtsstaatlichkeit frühzeitig zu erkennen und zu minimieren. Künstliche Intelligenz kann diskriminierende Entscheidungen treffen, Datenschutz verletzen oder sogar gesellschaftliche Strukturen beeinflussen. Eine systematische Analyse hilft dabei, Risiken zu identifizieren, präventive Maßnahmen zu entwickeln und sicherzustellen, dass KI-Technologien ethisch und verantwortungsvoll eingesetzt werden. Dadurch wird Vertrauen in KI-Systeme gestärkt und deren nachhaltige Integration in verschiedene Lebensbereiche gefördert.

Die HUDERIA-Methode soll hierzu einen Leitfaden bereitstellen, um angemessen die Auswirkungen zu betrachten und KI-Systeme im Einklang mit grundlegenden Werten zu Entwicklern oder zu verwenden. Sie unterstützt Organisationen dabei, die Auswirkungen ihrer KI-Anwendungen zu verstehen und entsprechende Maßnahmen zu ergreifen, um negative Effekte zu vermeiden.

Der Leitfaden ist dabei nicht rechtlich verbindlich. Vielmehr ist dieser eine Hilfestellung um wichtige Fragen zu beantworten und methodische Anregungen zu geben.

Kernkomponenten der HUDERIA-Methode

Die zentralen Bausteine können mit einem PDCA-Zyklus verglichen werden, auch dies nicht direkt vorgesehen ist. Jedoch ist eine regelmäßige Prüfung und Aktualisierung der Risikobewertung, insbesondere bei Veränderung in der Entwicklung oder des Kontextes, in dem die AI eingesetzt wird, zu empfehlen.

1. Context-Based Risk Analysis (COBRA): COBRA bietet einen strukturierten Ansatz zur Sammlung und Analyse von Informationen, um Risiken zu identifizieren, die ein KI-System für Menschenrechte, Demokratie und Rechtsstaatlichkeit darstellen könnte. Dabei werden Faktoren wie der Anwendungskontext, das Design und die Entwicklung sowie der Einsatz des Systems berücksichtigt.
2. Stakeholder Engagement Process (SEP): Dieser Prozess fördert die Einbindung von Stakeholdern, insbesondere derjenigen, die potenziell von den Auswirkungen eines KI-Systems betroffen sind. Durch ihre Beteiligung können wertvolle Perspektiven gewonnen werden, die zur Verbesserung der Risiko- und Folgenabschätzung beitragen.
3. Risk and Impact Assessment (RIA): RIA bietet eine detaillierte Bewertung der potenziellen und tatsächlichen Auswirkungen von KI-Systemen im Zusammenhang mit Menschenrechte, Demokratie und Rechtsstaatlichkeit.
4. Mitigation Plan (MP): Betrachtet mögliche Schritte, um Abhilfemaßahmen zur Minimierung der identifizierten Risiken zu identifizieren und umzusetzen.

Aufgabenliste COBRA

Vorläufiges Scoping

• Durchführung einer Hintergrundforschung als Basis für die Ermittlung von Risikofaktoren.
• Untersuchung des KI-Systems hinsichtlich Zweck, Einsatzkontext, menschlicher Intervention und verarbeiteter Daten.
• Identifizierung betroffener Personen oder Gruppen.
• Erste Bewertung potenzieller negativer Auswirkungen auf Menschenrechte, Demokratie und Rechtsstaatlichkeit

Analyse der Risikofaktoren

• Risikofaktoren des Anwendungskontext: Erfassung von relevanten Informationen zum Anwendungssektor, der Domäne des Systems, das rechtlichen und regulatorische Umfeld, in dem das System entwickelt und eingesetzt wird, den beabsichtigten Zweck des Systems etc.
• Risikofaktoren des Designs- und der Entwicklung des Systems: Erfassung relevanten technischen Merkmale des Systems (Algorithmen, Modelle, Datenspeicherung, Datenanreicherung etc.)
• Risikofaktoren des Einsatzkontextes: Betrachtung relevanter Risikofaktoren die sich in der Praxis ergeben können. Beispielsweise wie personenbezogene Daten geschützt werden sollen, wie ein Bias festgestellt und behandelt werden soll oder das System vor Manipulation durch Dritte geschützt werden soll.

Kartierung der möglichen Auswirkungen

• Identifizierung potenziell betroffener Personen oder Gruppen.
• Erste Bewertung der Schwere (Ausmaß, Umfang, Reversibilität) und Wahrscheinlichkeit von Risiken.
• Analyse potenzieller Auswirkungen des KI-Systems auf Menschenrechte, Demokratie und Rechtsstaatlichkeit.

Triage

• Einstufung der Systeme nach Risikopotenzial.
• Entscheidung über die Entwicklung oder den Einsatz eines Systems
• Anpassung der Risikomanagementmaßnahmen je nach identifizierten Risiken.

Aufgabenliste SEP

Stakeholder-Analyse

• Identifikation relevanter Stakeholder-Gruppen
• Bewertung der Interessen, Rechte, Schwachstellen und Vorurteile der Stakeholder
• Einbeziehung besonders gefährdeter oder marginalisierter Gruppen

Positionsbestimmung der Stakeholder

• Analyse der eigenen Perspektive und möglichen Verzerrungen
• Identifikation fehlender Standpunkte
• Gegebenenfalls Berücksichtigung externer Experten

Festlegung der Engagementziele

• Klare Definition der Ziele der Stakeholder-Einbindung
• Sicherstellung eines fundierten und sinnvollen Beteiligungsprozesses

Bestimmung der Methode

• Auswahl geeigneter Methoden zur Einbindung der Stakeholder
• Berücksichtigung von Faktoren wie Ressourcen und digitale Barrieren

Umsetzung

• Durchführung des Einbindungsprozesses
• Dokumentation der Ergebnisse

Aufgabenliste RIA

Ermittlung potenzieller und tatsächlicher Schäden

• Kontextualisierung und Bestätigung der in COBRA ermittelten Schäden.
• Identifikation weiterer möglicher Schäden.
• Festlegung einer Bewertungsskala für die Risiken

Bewertung der Risikovariablen

• Ausmaß: Schwere der erwarteten Folgen.
• Umfang: Anzahl betroffener Personen und Zeitrahmen.
• Reversibilität: Möglichkeit zur Schadensbegrenzung oder Wiederherstellung.
• Wahrscheinlichkeit: Wahrscheinlichkeit des Eintretens negativer Auswirkungen

Analyse der Risikoverbindungen

• Identifikation spezifischer Risikokontexte, die mehrere verbundene Risiken nach sich ziehen können
• Identifikation der kumulativen oder aggregierten Auswirkungen.

Ergebnis der RIA

• Ermittlung von Prioritäten für Abhilfemaßnahmen.

Aufgabenliste MP

• Formulierung von Abhilfemaßnahmen:
  • Maßnahmen zur Risikovermeidung
  • Maßnahmen zur Risikominimierung
  • Maßnahmen zur Widerherstellung des Vorzustandes nach eintreten eines Vorfalls
  • Planung von Kompensationsmaßnahmen bei Auftreten eines Schadens
• Ausarbeitung eines Plans zur Schadensbegrenzung auf der Grundlage der Schwere und Wahrscheinlichkeit der festgestellten Schäden
• Gegebenenfalls Schaffung eines Zugangs zu Rechtsmitteln für potenziell betroffene Personen und andere Beteiligte.

Aktueller Stand und zukünftige Entwicklungen

Die HUDERIA-Methode wurde im November 2024 vom Ausschuss für künstliche Intelligenz (CAI) des Europarates verabschiedet. Es ist geplant, die Methode im Jahr 2025 durch das HUDERIA-Modell zu ergänzen, das unterstützende Materialien und Ressourcen, einschließlich flexibler Instrumente und skalierbarer Empfehlungen, bereitstellen wird. Hierzu sind insbesondere 11 Anlagen geplant, die detaillierte Informationen und Inhalte zu den Bereichen COBRA, SEP und RIA bereitstellen sollen.