Wenn sich KI mit Desinformation verbündet
Desinformation ist eine bedeutende globale Herausforderung. Sie beeinflusst die Art und Weise, wie die Menschen Ereignisse verstehen, Entscheidungen treffen und sich am demokratischen Leben beteiligen. In Europa wird Desinformation als Bedrohung der Sicherheit und der Gesellschaft(öffnet in neuem Fenster) angesehen, wie sich während der COVID 19-Pandemie gezeigt hat, als falsche Behauptungen die Impfskepsis schürten. Massimo Magaldi, Koordinator des EU-finanzierten Projekts TITAN(öffnet in neuem Fenster) stellt fest: „Desinformation destabilisiert die demokratische Debatte und verschärft soziale Spannungen. Dies unterstreicht, dass kritisches Denken und Medienkompetenz gestärkt werden müssen.“ TITAN konzentrierte sich auf den Aufbau einer langfristigen Widerstandsfähigkeit gegen Desinformation – mittels einer KI-gestützten Coaching-Plattform, bei der die Nutzenden durch reflektierende Dialoge, Lernmaterialien und kollaborative Funktionen eingebunden werden.
Das Ökosystem zur Förderung kritischen Denkens
Bürgerinnen/Bürger, Desinformations-Fachleute, pädagogische Fachkräfte, Moderatoren, Studierende, NRO-Personal, Migranten und Journalistinnen/Journalisten nahmen an TITAN in Form von Reallaboren und Pilotprojekten in ganz Europa teil. Mehr als 322 Personen nahmen an den Ko-Kreations-Sitzungen teil, und mehr als 347 Nutzende wurden für die Bedarfsanalyse befragt. Pilotversuche wurden in drei Anwendungsfällen durchgeführt: Hochschulbildung in Flandern, NROs in Südost-/Mitteleuropa sowie Migranten und Studierende in Italien. „Die Rückmeldungen der Nutzenden waren wesentlich für das Erarbeiten einer Lösung, die nicht nur technisch beeindruckend, sondern auch benutzerfreundlich, vertrauenswürdig, ethisch fundiert und relevant ist“, fügt Magaldi hinzu. Zwei Pilotprojekte – ein qualitatives, das sich auf die Erfahrungen der Nutzenden konzentrierte, und ein eher quantitatives, bei dem Umfrage- und Systemdaten zur Messung der tatsächlichen Nutzung verwendet wurden – führten zu dem, was Magaldi als TITANs „Ökosystem zur Förderung kritischen Denkens“ bezeichnet, das durch zwei sich ergänzende Prototypen bereitgestellt wird. Die „Individual Edition“(öffnet in neuem Fenster) für Alltagsnutzende, die online nach Informationen suchen, ist über einfache Browser-Erweiterungen und eine Android-App verfügbar. Sie bietet Zugang zu einem Coaching-Begleiter, der im Stil des sokratischen Dialogs die Medienkompetenz und das Erkennen von Desinformationstaktiken stärkt. Die „Community Edition“(öffnet in neuem Fenster) ist eine Webanwendung für strukturierte Lernumgebungen, wie etwa Klassenzimmer, die kritisches Denken und Medienkompetenz durch ein hohes Engagement und eine lange Nutzungsdauer fördern soll. Hier arbeiten die Nutzenden zusammen – bei der Analyse von Informationen, der Darstellung von Argumenten und der Diskussion von Beweisen. „Unsere eigentliche Innovation war weniger der Einsatz von KI, sondern die Integration des sokratischen Dialogs(öffnet in neuem Fenster) als Coaching-Methode, mit der die Fähigkeiten zum kritischen Denken trainiert werden“, erklärt Magaldi.
Personalisierte Lösung
In einem einfachen Szenario laden die Nutzenden verdächtige Links oder Beiträge hoch, die von der KI auf Desinformationstaktiken wie Polarisierung oder Pseudowissenschaft hin analysiert werden. Der Algorithmus wurde auf der Grundlage bereits existierender Datensätze trainiert und mit Daten aus den TITAN-Reallaboren, Pilotprojekten, manuell erstellten Dialogen und von Menschen kommentierten Artikeln ergänzt. Anstatt Inhalte als wahr oder falsch zu deklarieren, beginnt ein auf großen Sprachmodellen basierender Chatbot einen Dialog, um den Nutzenden zu helfen, Anzeichen für Desinformation zu erkennen. Dazu stellt er Fragen wie diese: Was ist die Quelle? In der Community Edition kann dies Lernmodule aktivieren. „Die Community Edition integriert den Dialogverlauf der Nutzenden, um Konversationsstile und Lernpfade anzupassen. Gleichermaßen moduliert der Coaching-Chatbot den Dialog, wenn Anzeichen von Desinformation in Inhalten erkannt werden. Das System adaptiert demnach entsprechend den Nutzungscharakteristiken sowie den Inhalten“, so Magaldi.
Von nützlichen Lösungen zu aktivem Engagement
Ziel ist es, das Werkzeug in strukturierten, nachweislich erfolgreichen Bildungsumgebungen weiter einzusetzen. Gleichzeitig sollen leichter zugängliche Formate wie Apps entwickelt werden, um das Engagement und die langfristige Anwendung zu stärken. Besonders stolz ist Magaldi auf die „Critically Yours“(öffnet in neuem Fenster) Design Challenge, bei der Jugendliche aufgefordert wurden, interaktive Inhalte zu entwerfen, um unter Verwendung des TITAN-Ansatzes ihre Medienkompetenz und ihr kritisches Denken zu fördern. Ein preisgekröntes Konzept, „Filtered Realities“, ermöglicht es den Nutzenden, manipulierte und korrekte Versionen derselben Nachrichtenmeldung zu vergleichen und auf diese Weise zu erkennen, wie Framing und emotionale Auslöser die Wahrnehmung verzerren. „Junge Menschen sind nicht nur passive Informationskonsumenten, sondern kreative Partner bei der Erarbeitung von Lösungen. Dies spiegelt den Geist des Projekts wider, der Technologie, Kreativität und kollaborative Befähigung miteinander verbindet“, sagt Magaldi.
