Deepfake entlarven
Die hochwertigen Bilder, Texte und Audiodateien von generativen KI-Modellen wie DALL-E und ChatGPT werden immer besser, sodass sich Branchen auf der ganzen Welt verändern. Doch dieser Wandel hat einen Preis. Wenn generative KI-Technologie leistungsfähiger und erschwinglicher wird, dann steigt auch der Missbrauch für groß angelegte Desinformationskampagnen. Plattformen und Faktenprüfende können diese Desinformation nicht so leicht aufdecken und es wird schwer, Wahrheit und Lüge zu unterscheiden. In einem neuen Weißbuch wird die Verknüpfung zwischen generativer KI und Desinformation erklärt. Es ist aus einer Zusammenarbeit der EU-finanzierten Projekte Vera.ai TITAN, AI4Media und AI4TRUST hervorgegangen. Behandelt werden kürzliche Neuerungen, Herausforderungen und Chancen in diesem kritischen Bereich. „Das Weißbuch dient in dieser neuen dynamischen Welt der KI und Desinformation als Eckpfeiler: Wir beschreiben das komplexe Wechselspiel zwischen technologischem Fortschritt, ethischen Erwägungen und dem regulatorischen Rahmen“, berichtet der Mitautor Francesco Saverio Nucci, der am TITAN-Projektträger Engineering Ingegneria Informatica in Italien tätig ist, in einer Pressemitteilung auf der Projektwebsite. Im Weißbuch werden die Möglichkeiten untersucht, mit modernster KI Desinformation zu erstellen, die bestehenden ethischen und rechtlichen Fragen beleuchtet und Möglichkeiten für Innovation aufgezählt. Ein zentrales Thema ist die Evolution generativer KI, wobei vor allem unterschiedliche Arten synthetisch generierter Desinformation, ihre Verbreitung und die Auswirkung auf Wahlen berücksichtigt wird. „Die Bedrohung durch generative KI für die Demokratie und Integrität von Wahlen ist leider nicht mehr rein hypothetisch … und darf nicht als Panikmache abgetan werden“, heißt es in dem Bericht. Letztendlich kann mit Desinformationskampagnen, die auf KI-generierten Inhalten basieren, „das Vertrauen der Bevölkerung in politische Persönlichkeiten, Wahlen, die Medien und demokratische Regierungen geschwächt werden“.
Die Herausforderungen
Im Weißbuch werden die verschiedenen Herausforderungen beim Erkennen und Entlarven von Desinformation und kürzliche Fortschritte in diesem Bereich erörtert. Auch werden ausgewählte KI-gestützte Tools vorgestellt, mit denen Medienfachkräfte Inhalte prüfen und desinformationsbezogene Risiken abfedern können. Darüber hinaus werden KI-basierte Dienstleistungen aus dem TITAN-Projekt beschrieben, mit denen Bürgerinnen und Bürger zu kritischem Denken angeregt werden und unter anderem lernen, Clickbait zu erkennen und die Autorinnen oder Autoren und Quellen von Online-Inhalten zu verifizieren. Anschließend werden ethische und rechtliche Fragen rund um KI-Technologien und der Verbreitung falscher Informationen beleuchtet. Dazu gehören Probleme zu Datenqualität und Urheberrecht und „dem sichtbaren Machtungleichgewicht zwischen Erstellenden von Inhalten, Forschenden und der Bevölkerung auf der einen Seite und großen Technologieunternehmen (wie OpenAI, Microsoft, Google und Meta) auf der anderen Seite, die generative KI-Modelle entwickeln und verkaufen“. Hervorgehoben wird die Notwendigkeit eines soliden Rechtsrahmens. Eine bedeutende Herausforderung, die angesprochen wird, ist, dass moderne große Sprachmodelle nicht auf Wahrheit programmiert wurden, sondern anhand statistischer Muster plausible Aussagen treffen. Somit sind sie anfällig für Fehlinformation. Weitere Probleme sind das unbegründete Vertrauen der Bürgerinnen und Bürger in KI, neue Werkzeuge, mit denen KI-generierte Inhalte erkannt werden können, und die für die Entwicklung notwendigen Forschungsmittel. Im Bericht werden aber auch Chancen für Innovation genannt. Dazu gehören die Entwicklung modernster Erkennungsmodelle und die Optimierung KI-gestützter Strategien zur Bekämpfung von Desinformation. Das Weißbuch wurde mit Unterstützung der Projekte vera.ai (vera.ai: VERification Assisted by Artificial Intelligence), TITAN (AI for Citizen Intelligent Coaching against Disinformation), AI4Media (A European Excellence Centre for Media, Society and Democracy) und AI4TRUST (AI-based-technologies for trustworthy solutions against disinformation) verfasst und könnte als Orientierung für kommende Forschung und Strategien in diesem kritischen Bereich dienen. Weitere Informationen: vera.ai-Projektwebsite TITAN-Projektwebsite AI4Media-Projektwebsite AI4TRUST-Projektwebsite
Schlüsselbegriffe
vera.ai, TITAN, AI4Media, AI4TRUST, Desinformation, KI, generative KI