Wie Desinformation mit KI in Afrika zur Bedrohung wird | ABC-Z
Mithilfe Künstlicher Intelligenz wird Einfluss auf demokratische Prozesse in Afrika genommen. Das belegt eine neue Studie der Konrad-Adenauer-Stiftung. Auch bei aktuellen Konflikten wie im Kongo kommt KI zum Einsatz.
„Deepfakes, Videos, Audios – es ist so einfach, Desinformation mit künstlicher Intelligenz (KI) kostenlos zu Hause produzieren. Was passiert dann vielleicht in fünf oder zehn Jahren? Das ist wirklich beängstigend“, sagt Hendrik Sittig, Leiter des Medienprogramms der Konrad-Adenauer-Stiftung (KAS) in Subsahara-Afrika. Die Stiftung steht der deutschen konservativen Partei CDU nahe und hat gerade eine Studie zu KI-gestützter Desinformation herausgegeben.
KI-gestützte Desinformation wurde im Global Risk Report 2024 des Weltwirtschaftsforums als globales Risiko Nummer eins bezeichnet. Desinformation und Fake News zielten darauf ab, demokratische Prinzipien auszuhebeln und Gesellschaften zu spalten, sagte Sittig zur DW.
Die Autoren der Studie – Karen Allen vom Institut für Sicherheitsstudien in Pretoria und Christopher Nehring vom cyberintelligence.institute (CII) in Frankfurt – dokumentierten KI-Desinformation in Afrika vor allem im Zusammenhang mit nationalen Wahlen. Häufig gehe es darum, Wahlbehörden und -vorgänge zu untergraben. Die Studie schränkt jedoch ein: Jenseits von Wahlen wird KI-Desinformation in Afrika kaum untersucht.
Allen und Nehring verglichen die Herausforderungen in Europa und Afrika – und fanden Ähnlichkeiten: „Wir konnten viele gleiche Akteure dahinter identifizieren, die auch gleiche KI-Anwendungen verwenden“, sagt Nehring zur DW.
Laut Nehring nutzen rechtsextreme politische Parteien sehr aktiv KI für Kampagnen und Desinformation. Ein Staat sticht bei der Verbreitung von falschen Nachrichten heraus: „Russland hat dieses schmutzige Spiel zum ständigen Instrument seiner Politik auf internationaler Ebene gemacht“, heißt es in der Studie. In Afrika versuchen jedoch auch andere Akteure wie China oder arabische Staaten, ihre Narrative durch Propaganda zu verbreiten, schreiben die Autoren.
Akteure mit Verbindungen zu anderen Staaten, aber auch terroristische und islamistische Organisationen sowie Cyberkriminelle nutzen KI in Online-Desinformationskampagnen vor allem zur Generierung von Inhalten, so Nehring und bestätigt damit frühere Untersuchungen anderer Wissenschaftler.
In vielen afrikanischen Ländern gibt es einen Faktor, der die Reichweite von KI-generierter Desinformation unfreiwillig begrenzt: Der Zugang zum Internet und den sozialen Netzwerken ist in Afrika häufig teuer und mancherorts gar nicht gegeben. So stellten die Autoren fest, dass die Verbreitung von sogenannten Deepfakes (realistisch wirkende manipulierte Inhalte, bei der zum Beispiel das Gesicht eines Prominenten in eine Aufnahme hineinmontiert oder die Stimme mittels KI gefälscht wird) oder die kostengünstigeren, leichter zu erkennenden „Cheapfakes“ noch relativ unausgereift sei.
Aber auf dem Spiel steht laut Karen Allen der Zugang „zu klaren, überprüfbaren und wahrheitsgemäßen Informationen, auf deren Grundlage die Menschen ihre eigenen politischen Urteile fällen können“, sagt sie der DW.
Fallbeispiel Kongo: Der seit langem andauernde Konflikt im Nordosten der Demokratischen Republik Kongo zwischen den Regierungstruppen, den M23-Rebellen und den Truppen des Nachbarlandes Ruanda hat einen fruchtbaren Boden für Desinformation und Hassrede geschaffen.
Der gewaltsame Konflikt ist in den vergangenen Wochen eskaliert. Dabei sei die öffentliche Meinung mit Bildern und Textinhalten beeinflusst worden, die mit ruandischen Konten in Verbindung gebracht wurden, führt Allen an. „Das verstärkt die Vermutung, dass bestimmte politische Personen die Spannungen zwischen den beiden Seiten verschärfen.“
Im Falle Ruandas wurde laut Allen mit Hilfe von künstlicher Intelligenz versucht, soziale Medienplattformen mit Inhalten zu überschwemmen, um abweichende Meinungen ins Abseits zu drängen. Diese Art von Taktik werde vor allem an Orten, die sich in einer Übergangsphase oder in einer Konfliktsituation befinden, aber auch während Wahlen angewandt.
Beeinflussung per KI nimmt in Afrika seit Jahren massiv zu, wie verschiedene Studien zeigen. Zugleich wächst jedoch auch die Zahl der akkreditierten Fact-Checking-Organisationen in Afrika, die aktiv nach KI-Inhalten suchen. Möglicherweise spiegeln sich darin auch die Interessen von Geberländern wider.
Zum Beispiel wurde in Südafrika die Plattform Real 411 eingerichtet. Sie ermöglicht es Wählern, Bedenken über politische Online-Inhalte, einschließlich des möglichen Einsatzes von KI, zu melden.
Mit rund 26 Millionen Social-Media-Nutzern bot Südafrika ein breites Publikum für KI-gestützte Informationsmanipulation während der Parlamentswahlen 2024. Dabei verbreitete die neu gegründete Partei uMkhonto we Sizwe (MK) des ehemaligen Präsidenten Jacob Zuma ein Deepfake-Video von Donald Trump, der darin seine vermeintliche Unterstützung für die MK-Partei kundtat. Das war laut Studie der am häufigsten geteilte KI-Inhalt während der Wahlen.
Als einer der ersten dokumentierten Einsätze von KI-Deepfakes in Afrika gelten Videos nach dem Putsch in Burkina Faso im September 2022 – dem zweiten innerhalb eines Jahres -, bei dem Ibrahim Traoré Staatschef wurde. Damals wurde eine Reihe von KI-generierten Videos in Umlauf gebracht, in denen die Bürger aufgefordert wurden, die Militärjunta zu unterstützen.
Die gefälschten Videos, die zuerst auf Facebook entdeckt wurden und später in WhatsApp-Gruppen und auf Twitter/X verbreitet wurden, zeigen Personen, die sich als Panafrikanisten bezeichnen. Die vermutete Verbindung zur damals noch präsenten russischen Wagner-Gruppe erwies sich als nicht eindeutig.
„Es stellte sich heraus, dass es sich um Avatare handelte, die geschaffen wurden, um ein politisches Narrativ zu unterstützen, in diesem Fall den Putsch“, sagte Allen. Das Material sei mit dem KI-Instrument Synthesia erstellt worden. „Wir haben gesehen, dass die gleiche Plattform von anderen auch in China ansässigen Akteuren genutzt wird, um ähnliche Arten von Verzerrungen zu erzeugen.
Wie könnten sich afrikanische Bürger vor solchen Manipulationen schützen? Indem sie eine Vielzahl verschiedener Quellen haben, aus denen sie ihre Nachrichten beziehen, sowie besser auf Informationen zugreifen können, betont Allen.
Europa habe sehr strenge Datenschutzbestimmungen: „Die haben wir in Afrika noch nicht.“ Aber laut Allen ist der verstärkte Austausch über Faktencheck-Praktiken oder Plattformen, auf der Menschen mutmaßliche Desinformationen anprangern können, schon ein guter Ansatz.
Von Martina Schwikowski, Tina Gerhäusser
