Die KI bedarf nur ein wenig menschlicher Zuwendung
Die meisten Modelle für maschinelles Lernen (ML) sind so konzipiert, dass sie auf der Grundlage passiv erfasster Daten eigenständig Entscheidungen treffen. In diesem Sinne werden sie als Werkzeug gesehen, das den Menschen in bestimmten Aufgabenbereichen ersetzen soll. Doch entspricht dieser Ansatz der Realität? Laut Manuel Gomez Rodriguez, einem Forscher am Max-Planck-Institut für Softwaresysteme(öffnet in neuem Fenster), lautet die Antwort „nein“. „In den meisten sozialen, informationstechnischen und cyber-physischen Systemen bedingen und beeinflussen sich algorithmische und menschliche Entscheidungen gegenseitig“, sagt er. Daher argumentiert Gomez Rodriguez, dass ML-Modelle dieses Interdependenzverhältnis besser widerspiegeln müssen. Mit anderen Worten: Alles, was diese Modelle und Algorithmen brauchen, ist ein wenig menschliche Zuwendung. Zu diesem Feinschliff trägt auch das EU-finanzierte Projekt HumanML(öffnet in neuem Fenster) bei.
Menschenzentrierte Modelle für maschinelles Lernen
Das vom Europäischen Forschungsrat(öffnet in neuem Fenster) (ERC) unterstützte Projekt entwickelte menschenzentrierte Modelle und Algorithmen für maschinelles Lernen, die den Entscheidungsfindungsprozess bewerten, unterstützen und verbessern können. „Wir wollten, dass unsere Modelle und Algorithmen die Rückkopplungsschleife zwischen algorithmischen und menschlichen Entscheidungen berücksichtigen, und lernen, mit verschiedenen Automatisierungsgraden zu arbeiten“, erklärt Gomez Rodriguez, der Hauptforscher des Projekts. Die Forschenden entwarfen zudem Modelle, die sowohl vorhersagen konnten, wie Menschen auf ihre algorithmischen Entscheidungen reagieren würden, als auch verwertbare Erkenntnisse zum jeweiligen Entscheidungsfindungsprozess lieferten.
Auch bei der künstlichen Intelligenz gilt: Vier Augen sehen mehr als zwei
Auf dieser Grundlage entwickelte das Projekt den allerersten ML-Algorithmus, der speziell als Unterstützung für die Entscheidungsfindung zwischen Mensch und KI konzipiert wurde. Das Projekt führte überdies mehrere große Studien mit menschlichen Probandinnen und Probanden durch, die die Wirksamkeit seiner menschenzentrierten ML-Modelle demonstrierten – ein wichtiger Schritt, der von der ML-Gemeinschaft oftmals übersehen wird. „Man sagt, vier Augen sehen mehr als zwei, und unsere Modelle arbeiten im Grunde wie ein zusätzliches Gehirn, das den menschlichen Entscheidungsfindungsprozess unterstützt und letztlich zu einer Entscheidung führt, die die Fähigkeit eines Menschen oder eines Algorithmus allein übertrifft“, bemerkt Gomez Rodriguez.
Die KI als Lösung für die Entscheidungsunterstützung positionieren
Das HumanML-Projekt verändert die Bewertung von ML-Modellen und -Algorithmen grundlegend, da nicht mehr im Fokus steht, wie KI den Menschen ersetzen wird, sondern wie KI den Menschen unterstützen kann. „Dieser Perspektivwechsel minimiert die potenziellen Schäden, Risiken und Belastungen, die Systeme des maschinellen Lernens für die Öffentlichkeit bedeuten könnten, und maximiert stattdessen ihren gesellschaftlichen Nutzen, insbesondere im Zusammenhang mit der Entscheidungsunterstützung“, lautet das Fazit von Gomez Rodriguez. Die Ergebnisse des Projekts wurden auf bedeutenden Konferenzen vorgestellt und in führenden Fachzeitschriften veröffentlicht. Außerdem wurde das Projekt auf einem Workshop zum Thema KI und HCI(öffnet in neuem Fenster), der Teil der Internationalen Konferenz zu maschinellem Lernen 2023(öffnet in neuem Fenster) ist, als bestes Paper ausgezeichnet. Aufbauend auf den Ergebnissen des HumanML-Projekts nutzt Gomez Rodriguez nun eine ERC-Finanzhilfe für Konsolidierer(öffnet in neuem Fenster), um die Rolle der Kontrafaktizität im maschinellen Denken zu untersuchen.
