Praktische Ethik für das KI-Zeitalter
KI ist nicht mehr wegzudenken und beeinflusst unsere Denk- und Verhaltensweisen, wirft dabei aber auch viele diffizile Fragen auf. Sollten Ärztinnen und Ärzte auf KI-generierte Diagnosen vertrauen? Sollten Einstellungs- und Entlassungsentscheidungen mittels KI-Management abgewickelt werden? Könnten Familienstreitigkeiten durch KI-Mediation beigelegt werden? Das EU-finanzierte Projekt AIOLIA(öffnet in neuem Fenster) wurde 2025 ins Leben gerufen, um diese Fragen durch die Entwicklung von KI-Ethikrichtlinien, die Erstellung von Leitfäden und die Durchführung groß angelegter Schulungen in KI-Ethik anzugehen. Das Projekt erforscht, wie KI-Systeme unser Urteilsvermögen und Verhalten beeinflussen und welche Schutzmaßnahmen als Reaktion darauf getroffen werden müssen – und geht somit über die Frage hinaus, ob KI-Systeme ethisch sind. „Die Prämisse von AIOLIA lautet: ‚Welche Rolle spielt Technologie für den Menschen?‘“, erklärt die leitende Forscherin Petra Saskia Bayerl in einer aktuellen Pressemitteilung(öffnet in neuem Fenster). Bayerl – Professorin am Exzellenzzentrum für Forschung im Bereich von Terrorismus, Resilienz, Aufklärung und organisiertem Verbrechen der Universität Sheffield Hallam im Vereinigten Königreich, die als Projektpartner von AIOLIA fungiert – argumentiert, dass sich KI von anderen Technologien grundlegend dadurch unterscheidet, dass sie unser Verhalten und unsere Wahrnehmung beeinflussen kann. „Mit KI verhält es sich anders, weil sie immer mehr Aufgaben übernimmt, die wir traditionell mit menschlichem Denken in Verbindung gebracht haben. Sie kann kognitive Arbeit effizienter gestalten, bestimmte Entscheidungen automatisieren und ist zur Erkennung von Mustern fähig, was einst als einzigartige menschliche Fähigkeit galt“, erklärt sie.
Die KI-Ethik in und außerhalb Europas
Diese Bedenken haben AIOLIA dazu veranlasst, konkrete KI-Ethikrichtlinien(öffnet in neuem Fenster) für sechs europäische Anwendungsfälle zu veröffentlichen, die gemeinsam von führenden akademischen, politischen und ethikbewussten Industriepartnern aus verschiedenen Sektoren erarbeitet wurden. Vier Anwendungsfälle konzentrierten sich auf Veränderungen im menschlichen Fachwissen und beruflichen Verhalten beim Einsatz von KI: bei der ärztlichen Diagnose und Behandlung von Patientinnen und Patienten; bei der Sicherheitstechnik zur schnelleren Freigabe von Software-Releases; bei der Einstellung von Arbeitskräften durch Personalverantwortliche; sowie bei der Erkennung von Hassrede durch Sicherheitsfachleute. Die beiden letzten Anwendungsfälle – die KI-Systeme als virtuelle Assistenzprogramme für Einzelpersonen und Familien sowie im Rahmen einer Deepfake-Therapie zur Traumata- und Trauerbewältigung beinhalteten – betrafen Veränderungen in der menschlichen Wahrnehmung und im privaten Verhalten. Diese Arbeit wurde durch vier internationale Anwendungsfälle(öffnet in neuem Fenster) erweitert, welche die Umsetzung ethischer Grundsätze in verschiedenen nationalen Kontexten untersuchten. Die Anwendungsfälle umfassten KI-Systeme als persönliche Assistenzprogramme zur Trauerbegleitung (Kanada), KI-Systeme für die intelligente Altenpflege (China), Arbeitsplätze mit KI-Tools zur Verhaltensanalyse (Japan) sowie KI-Systeme als persönliche Begleitung zur Unterstützung älterer Menschen (Südkorea). Ausgehend von den Erkenntnissen des Projekts bestimmen sich ethische Bedenken weitgehend nach dem jeweiligen Kontext. In den beruflichen Anwendungsfällen standen die ethischen Anforderungen der Verantwortlichkeit, Transparenz und Unvoreingenommenheit im Vordergrund. In den privaten Anwendungsfällen standen eher die individuelle Sicherheit, das Wohlbefinden, die Nutzungsautonomie und die Handlungsfähigkeit im Fokus. Vor kurzem entwickelte AIOLIA ein Tool zur Bewertung des ethischen Reifegrades und der algorithmischen Auswirkungen(öffnet in neuem Fenster). Es unterstützt Fachleute im Bereich von Ethik und Technik beim Führen halbstrukturierter Dialoge, die zu einem verbesserten Design von KI-Systemen anregen können. „Bei AIOLIA geht es schlussendlich darum, die Ethik in die Praxis umzusetzen“, erklärt Bayerl. Die vorgeschlagenen Schutzmaßnahmen von AIOLIA (OPERATIONALIZING AI ETHICS FOR LEARNING AND PRACTICE: A GLOBAL APPROACH), darunter menschliche Aufsicht, Beschwerdemechanismen, Personalschulungen und regelmäßige politische Überprüfungen, dienen letztlich alle einem Ziel: der praktischen Umsetzung der KI-Ethik im Alltag. Weitere Informationen: Website des AIOLIA-Projekts(öffnet in neuem Fenster)
