Per Algorithmus in die virtuelle Parallelrealität

[:de]KI-generiertes Bild der Kunstfigur “Horst Schlager”[:en] AI-generated image of the fake figure “Horst Schlager”, Credit: Ars Electronica

von Horst Schlager

Die gesellschaftlichen Kontroversen, die die letzten Jahre mit sich gebracht haben, sind schwer zu übersehen. Binäre Weltbilder zum Thema Klima, Migration oder Impfung. Sympathien mit dem russischen Angriffskrieg, Hetze gegen Migrant*innen und nicht zuletzt: gegen Frauen. Empörung. Sogar im engsten Freundeskreis wird über so manch Thema am besten einfach nicht mehr gesprochen. Und wer von uns kann überzeugend behaupten, in der letzten Zeit nicht in die eine oder andere Diskussion mit überdurchschnittlichem Konfliktpotential geraten zu sein?
Diskussionen und Auseinandersetzungen sind eine natürliche und wichtige Reaktion auf die sich offenbar so unterschiedlich entwickelnden Weltanschauungen. Doch es scheint immer schwieriger zu werden, konstruktive Debatten zu führen. – Wo liegt das Problem?

Für die Recherchen zum Citizen Intelligence Workshop „Toolbox für zivile Investigation“ – diesmal zum Thema „Politische Missstände“ – hat sich ein Team aus Citizen Scientists des Ars Electronica Center in die digitalen Untiefen von Social Media gewagt, um dieser Frage auf den Grund zu gehen. Mit der frei erfundenen Kunstfigur „Horst Schlager“ ist es in die Informationsblasen rechtsextremer Communities auf Facebook getaucht, um auszuprobieren, wie die Mechanismen der Desinformation und der soziale Diskurs dort funktionieren. Seine Erfahrungen hat es in einem Workshop am 18.3. im Rahmen des zweiten Citizen Science Days im Ars Electronica Center mit den Besuchenden geteilt. Schon Jugendliche ab 14 Jahren konnten dort lernen, wie schnell sich algorithmisch gesteuerte Empörung und Hass in sozialen Netzwerken potenziert.

Horst Schlager und seine Freunde binärer Weltbilder und Verschwörungstheorien

Zwei rote Rufzeichen prangen hinter „Wenn Recht zu Unrecht wird, wird Widerstand zur Pflicht“, dem Steckbrief in „Horst Schlagers“ Facebook-Profil. Seit 20. Februar gibt sich die fiktive Kunstfigur dort als pensionierter Arbeiter eines österreichischen Industriebetriebs aus. Denn um im Vorfeld des Citizen Intelligence Workshops „Toolbox für zivile Investigation“ im Ars Electronica Center politische Missstände in diversen einschlägigen Gruppen diskret zu recherchieren, hat ein Team des Ars Electronica Center auf Facebook dieses Fakeprofil eines älteren Herrn (mit zufällig ausgewähltem Namen) kreiert. Der mutmaßliche Fußball- und Schlagermusikfan soll auch Liebhaber von Oldtimer-Traktoren sein. Doch vor allem bringt er seine große Portion Patriotismus und seinen Hang zu Verschwörungsmythen in den Diskurs auf der sozialen Plattform mit ein.
Als Profilbild wurde das erstbeste Resultat eines gratis im Netz verfügbaren Bildgenerators gewählt. Selbst jenes mittelmäßige Ergebnis, das sich mit dem Prompt „a sympathic 70 years old man in his living room” auf Anhieb erzielen ließ, scheint als Beleg für seine Existenz zu funktionieren. Verdächtige Pixelkonstellationen wurden vorsorglich durch ein wenig künstliche Unschärfe und Sepia-Effekt kaschiert. Auf diese Weise sollte es auch für etwaige Facebook-Algorithmen schwieriger werden, „Horst Schlager“ als Fake zu entlarven.

Citizen Intelligence Workshop: Politsche Missstände und zivile Investigationen
Credit: Ars Electronica

Seine gelegentlichen Postings – das geteilte Wiener Schnitzel oder die Einladung zu der einen oder anderen einschlägigen Demonstration – zeugen nicht nur von seiner politischen Gesinnung und seinem schlechten Humor. Kommentiert mit tränenlachenden oder hochroten, fluchenden Emojis steigern sie die Glaubwürdigkeit der fiktiven Gestalt. Um noch authentischer zu wirken, folgt Horst Schlager den Kanälen einschlägiger Medien.
Eine Community muss aufgebaut werden, um ihn in der Verschwörungs- und Extremismus-Szene zu etablieren. Mit Statements der Empörung über politische Inhalte generiert Horst Schlager schnell erste Freunde und Likes. Nach knapp 24 Stunden hat er bereits 70 Kontakte, die mit seinen Postings und Kommentaren interagieren. Schon nach den ersten bestätigten Freundschaftsanfragen unbekannter User*innen gelingt es, ihn mit relevanten Meinungsbildnern aus der Szene zu vernetzen. Schnell ist er so mit dem Who’s Who der rechtsextremen Verschwörungsszene Österreichs in Kontakt.
Daraufhin verhilft der Facebook-Algorithmus dem Charakter zu weiterem Ruhm. Bereits eine Woche später trudeln Freundschaftsanfragen von Sympathisant*innen der Szene ein und schon bald ist die Figur mit Aktivist*innen der ‚Identitären‘ (auch „Die Österreicher“) und deren engsten Vertrauten bekannt. Doch während ihrer Recherchen entdecken die zivilen Agenten des Ars Electronica Center immer mehr Ideologen und Ideologien in Horst Schlagers Profil.

Digital Toolbox
Bietet politischen Missständen und Hass im Netz die Stirn! Rechtsextreme Kommentare, wie zum Beispiel das Leugnen von Holocaust, Konzentrationslagern oder Gaskammern, können bei der Extremismus-Meldestelle des Verfassungsschutzes (DSN) gemeldet werden. Straftatbestände wie Verhetzung und Wiederbetätigungsdelikte können auf diese unkomplizierte Art (Screenshot, Link) an die Behörden übermittelt werden. Auch bei der Staatsanwaltschaft kann man Selbiges zur Anzeige bringen. Wer nicht direkt mit den Behörden in Kontakt treten möchte, kann Meldungen wie diese mit wenigen Klicks auch mit der Banhate App erledigen und Sachverhalte dort überprüfen lassen, bevor Banhate gegebenenfalls selbst weitere Schritte übernimmt.

Klima, Migration, Impfung, Insekten essen, The Great Reset und Russland – alles eine mutmaßliche Verschwörung; der Eliten, versteht sich von selbst. Binäre Weltbilder und Verschwörungsmythen findet man in Horsts Freundeskreis oft. Auch Profile, die offen mit dem russischen Angriffskrieg sympathisieren oder gegen Migrant*innen hetzen, tauchen in seinem Umfeld verstärkt auf. Und nicht zuletzt: unterirdischer Humor gegenüber Frauen, gegenüber Transgenderpersonen und Klimaaktivist*innen.

Unter einem falschen Namen hinterlässt wenig später eine Dame aus Steyr mit ihrem nicht öffentlich einsehbaren Facebook-Profil einen Kommentar aus der untersten Schublade der Wiederbetätigung im Profil eines Bekannten jenes Redakteurs, der hinter Horst Schlagers Fake-Profil steckt. Sie leugnet den Holocaust, bestreitet die Existenz von Konzentrationslagern und Gaskammern. Weil Horst Schlager – wie der Zufall so will – mit ihr bereits eine Facebook-Freundschaft geschlossen hat, die ihn zur Einsicht in ihr Profil qualifiziert, wird die wahre Identität, die sich hinter dieser Aussage verbirgt, schnell identifiziert. Der Vorfall konnte so zur Anzeige gebracht werden und die Dame muss sich alsbald für ihre Äußerung verantworten. Sie verdächtigt eine ihrer Kolleg*innen, Mitarbeiterdaten zu diesem Zweck missbraucht zu haben. Tatsächlich aber hat Horst Schlager in ihrem Profil ein Posting entdeckt, das ihren echten Namen und ihr Geburtsdatum verrät.

Das Geschäft mit Angst und Unsicherheit

Wo die Unsicherheiten zunehmen, gibt es immer auch geschäftstüchtige Menschen, die sich von der Angst anderer einen Vorteil versprechen. Auch in Horst Schlagers Blase findet man neben extremistischem Gedankengut Spendenaufrufe, Verkaufsaktionen und Vorträge zu vielerlei Themen. Neben dem Gemüt einer gereizten, angstvollen Gesellschaft, bewegen Eintrittstickets, Retreats und einschlägige Seminare offensichtlich auch Geld.

Die Kunstfigur Schlager bekommt eine Einladung zu einem Vortrag über CO2. Nicht unbedingt zu erwarten, angesichts der Blase, in der er inzwischen feststeckt. Ein Physiker hält einen Vortrag mit dem Titel „CO2 forever“. Er ist dafür bekannt, Klimawandelleugner zu sein. Sowohl seine Expertise, als auch seine Motivation könnten angezweifelt werden. Doch, dass er weder Klima- noch Atmosphärenforscher ist, sondern vielmehr für ein Halbleiter-Institut in Moskau und für einen Flugzeughersteller gearbeitet hat, scheint für seine Hörerschaft nicht von großer Bedeutung zu sein.

Unsicherheiten und Angst dienen als verbindendes Element zwischen Akteuren wie diesem und ihrer Anhängerschar. In den digitalen Bubbles sozialer Medien haben sich viele von ihnen aufgrund ihrer politischen Gesinnung gefunden. Der Altbauer aus Maria Neustift vernetzt sich hier flux mit dem Pagan-Metal-Fan aus Berlin – Vielleicht wäre es im realen Leben eine schwierige Freundschaft geworden; in der virtuellen Scheinwelt ihrer Blase aber fühlen sich die beiden gemeinsam sehr wohl.

Solltet ihr Horst Schlager jemals auf Facebook antreffen, folgt ihm vielleicht – einfach nicht. Für alle, die nun in dieser Welt aber selbst etwas bewegen wollen, haben wir auch eine weitere digitale Toolbox mit Cyber-Tools gegen Umweltkriminalität zusammengestellt. Und auch zum letzten Workshop aus dieser Reihe werden wir demnächst am Ars Electronica Blog berichten. Bleibt einfach dran!

, ,