Frank Schweitzer, wie können wir verhindern, dass bösartige AI-Schwärme unsere Demokratien zerstören?
Künstliche Intelligenz wird zunehmend für massenhafte Desinformation und Manipulation eingesetzt. Davor warnen 22 Forschende aus unterschiedlichen Disziplinen in einem kürzlich publizierten Artikel in der Fachzeitschrift Science. Zu den Autoren geh?rt auch?Frank Schweitzer, emeritierter Professor für Systemgestaltung an der ETH Zürich.?
Heute tauchen in Social Media-Netzwerken nicht mehr nur einzelne automatisierte Bots auf, die Diskussionen beeinflussen, sondern ganze Schw?rme. Sie t?uschen Debatten vor und passen sich gleichzeitig an das Verhalten und die Vorlieben der Nutzenden an. Durch generative KI wird Propaganda überzeugender und umfassender. Das l?sst befürchten, dass auch Wahlergebnisse mit b?sartigen KI-Schw?rmen gezielt manipuliert werden k?nnen. Zum Beispiel t?uschen Schw?rme polarisierte Diskussionen vor oder f?rdern Minderheitsmeinungen, indem sie diese durch Likes, Retweets, Kommentare und Bewertungen verst?rken.
Der Experte
Frank Schweitzer ist emeritierter Professor für Systemgestaltung an der ETH Zürich und Gründungsmitglied des ETH Risk Center. Seine Forschungsinteressen umfassen die Interaktion von Nutzern in sozialen Online-Netzwerken, kollektive Entscheidungen in Tiergruppen, Ausfallkaskaden und systemische Risiken in wirtschaftlichen Netzwerken.
Vor einigen Jahren war es noch deutlich aufw?ndiger, solche manipulativen Schw?rme zu programmieren und diese an das Verhalten von Nutzerinnen und Nutzern anzupassen. Heute wird es immer einfacher, weil sich einerseits die künstliche Intelligenz sehr schnell entwickelt und andererseits die Rechenleistung weltweit ausgebaut wird. Damit werden auch KI-Schw?rme zum legalen oder illegalen Gesch?ftsmodell.
Das perfide ist, dass es für Cybersecurity-Experten zunehmend schwieriger wird, das Verhalten solcher Schw?rme von echtem sozialem Verhalten der Social Media-Nutzenden zu unterscheiden, da die Agenten in diesen Schw?rmen ihr Verhalten koordinieren und sich dabei st?ndig weiterentwickeln. Durch die Interaktion mit Nutzenden lernen sie kontinuierlich hinzu und passen sich ans Nutzerverhalten an. Damit suggerieren sie eine soziale Realit?t, die es so nicht gibt.
Solche Manipulationen zu erkennen, ist eine wissenschaftliche und technische Herausforderung. Heute reicht es nicht mehr aus, eine einzelne Quelle der Falschinformation zu identifizieren. Vielmehr müssen Spezialistinnen mit statistischen Methoden sogenannte Fingerprints identifizieren: bestimmte Muster im Verhalten oder sprachliche Wiederholungen, die auf automatisierte Bots hindeuten. Mit den immer leistungsst?rkeren Large Language Models (LLM) nehmen auch die F?higkeiten der KI-Schw?rme zu, solche Detektionsverfahren zu umgehen. Es ist ein st?ndiger Wettlauf zwischen Akteuren, die b?sartige KI-Schw?rme für ihre Zwecke nutzen, und denjenigen, die das Internet vor solchen Attacken schützen wollen.
St?rkere Regulierungen wirken nur bedingt, weil kriminelle Akteure meist schnell Wege finden, um diese zu umgehen. Im besten Fall k?nnen der Aufwand und damit auch die Kosten für erfolgreiche Attacken erh?ht werden. Wichtiger scheint mir hingegen, dass die Bev?lkerung ein Bewusstsein für die Gefahren von KI-Schw?rmen entwickelt. Wir müssen Schülerinnen und Studierende in digitaler Medienkompetenz schulen und über Risiken von KI-Schw?rmen und automatisierter Beeinflussung auf den Social Media aufkl?ren.
In der Schweiz ist die Ausgangslage dafür gut: Schweizer Stimmbürgerinnen und Stimmbürger sind es gewohnt, sich regelm?ssig mit komplexen Abstimmungsfragen zu befassen und sich breit zu informieren. Dafür ist es wichtig, dass neben den sozialen Netzen auch klassische Medien, regionale Zeitungen, ?ffentlich-rechtliches Radio und Fernsehen sowie die Botschaften des Bundesrates und der Parteien genutzt werden.
Je vielf?ltiger und unabh?ngiger sich Bürgerinnen und Bürger informieren k?nnen, desto geringer ist die Gefahr, dass ihre Meinung durch KI-Schw?rme manipuliert wird. Für unsere Demokratie spielen starke staatliche Medien und eine vielf?ltige Medienlandschaft eine wichtige Rolle – vorausgesetzt natürlich, dass Bürgerinnen und Bürger die diversen Informationskan?le tats?chlich nutzen und sich am politischen Prozess beteiligten.