Barbara Prainsack in Holger Marcks se posvečata vprašanju, kako digitalna okolja spodbujajo radikalizacijo in poglabljajo družbeno polarizacijo. Oba sogovornika opozarjata, da trenutni politični odzivi in obstoječa regulacija zaostajajo za hitrim razvojem platform in umetne inteligence.

Wie können Radikalisierung und gesellschaftliche Polarisierung in sozialen Medien wirksam eingedämmt und besser kontrolliert werden? Sind rechtsextreme Bedrohungserzählungen bereits tief in die Gesellschaft eingedrungen? Warum ist die Einrichtung eines Ethik- oder Presserats für soziale Medien notwendig? Welche Inhalte fördern digitale Mündigkeit und ein reflektiertes Nutzungsverhalten? Außerdem: Wem gehören die im Netz gespeicherten Daten? Warum reagiert die Politik so zögerlich auf die komplexen Herausforderungen der digitalen Welt? Und, was steckt hinter den Titeln „Digitaler Faschismus“ und „Datenschlussverkauf“? Antworten darauf liefern die Politikwissenschaftlerin Barbara Prainsack und der Radikalisierungsforscher Holger Marcks, der einleitend die Frage beantwortet, ob radikale Gruppierungen, die über soziale Medien agieren, von Staatsicherheitsorganen ausreichend beobachtet bzw. kontrolliert werden:

Es hängt davon ab, was man jetzt natürlich als die Bedrohungslage begreift. Die klassischen Organisationsstrukturen, in denen sich früher Gruppen radikalisiert haben – Subkulturen, informelle Zusammenhänge auch, vielleicht auch Underground mäßig, vielleicht auch öffentlich – die kann man sehr gut überwachen. Da haben sich ja auch durch die Digitalisierung die nachrichtendienstlichen Methoden auch verbessert.

Das Problem ist eher diese individuelle Radikalisierung, die bis in die Militanz führen können. Das kann man schwer einfangen. Wenn jemand auf eine IS-Propaganda anspringt und sich sozusagen blitzradikalisiert, oder wenn junge Leute in den rechtsextremen militanten Onlinesumpf geraten und sich dann, auch wie wir das Ende der 2010er Jahre oder Anfang der 2020er Jahre gesehen haben, in die Militanz bewegen. Das sind Prozesse, die ganz schnell passieren und die man nicht unbedingt auf dem Radar hat, wenn die Leute nicht öffentlich was dazu verkünden.

Und letztendlich ist auch die kollektive Radikalisierung der schleichenden Art vielleicht ein Problem, das dazu führt, dass sich auch auf beiden Seiten sozusagen der Wille abtrainiert wird, sich einander zuzuhören, noch Brücken zu bauen und dass vor allem auch die vermittelnden Stimmen in der Gesellschaft ins Hintertreffen geraten. Das ist das eigentliche Problem.

Der Radikalisierungsexperte sieht also eine Tendenz zur „Radikalisierung der schleichenden Art“, das individuelle Radikalisierung vielfach nicht greifbar ist und dass die vermittelnden Stimmen im digitalen Raum vielfach ins Hintertreffen kommen. Welche Auswirkungen, etwa im Wählerverhalten, sind zu beobachten?

Tatsächlich ist es so, dass auf der Einstellungsebene große Teile der Bevölkerung gar nicht so weit auseinander liegen. Aber im sozialmedialen Diskurs, im medialen Diskurs und im politischen Diskurs eher die polaren Stimmen dominieren, auch durch die digitale Öffentlichkeit. Also wir haben durchaus einen wachsenden Sockel, zum Beispiel bei AfD Wählerschaften, die manifest rechtsextreme Einstellungen teilen. Aber das sollte man auch nicht pauschalisieren. Die Motive zum Beispiel, warum Leute rechts wählen, die sind vielschichtig. Das können ganz unterschiedliche Themen sein, die Leute unterschiedlich priorisieren und was vor allem die Erfolge der AfD in Deutschland zusammenhält. Das ist als Kitt natürlich das große Migrationsthema. Da ist es auch gelungen, viele Wähler von den Parteien loszulösen, die zum Beispiel eher das Arbeiterklientel über viele Jahre gebunden haben – die SPD oder die Linkspartei. Insbesondere im Osten, in Deutschland, und das sind eigentlich SPD-Wähler zum Beispiel gewesen. Die machen auch einen Anteil der rechten Erfolge aus. Da gibt es vor allem eine hohe Unzufriedenheit mit dem Migrationsthema, auch verstärkt durch die digitalen Diskurse usw., aber das heißt nicht, dass man da jetzt von illiberalen Einstellungen völlig durchdrungen ist und von der Programmatik der Partei überzeugt ist. Und da gibt es auch Potenzial, natürlich da Leute abzuziehen, die man nicht als radikal bezeichnen kann.

Zu seinem Buchtitel „Digitaler Faschismus“ und der Frage, was die Kernbotschaft seiner Publikation ist, meint Holger Marcks:

Das Buch versucht zu ergründen, inwiefern rechtsextreme Bedrohungserzählungen insbesondere sozusagen in der digitalen Öffentlichkeit besonders gut Verbreitung finden. Also uns interessiert das Zusammenspiel von solchen dramatischen Erzählungen wie etwa der „Volkstod“, „Der Untergang der Nation“. Warum das so gut verfangen kann über die digitalen Strukturen, über die Mechanismen der sozialen Medien. Also dieses spezifische Zusammenspiel von politischer Ideologie und Strategie mit den Strukturen der sozialen Medien.

Daran anschließend stellt sich die Frage: Sind rechtsextreme Bedrohungserzählungen bereits tief in die Gesellschaft eingedrungen? – dazu meint der Radikalisierungsforscher,…

… man kann aus der Einstellungsforschung herauslesen, dass ein Großteil der Bevölkerung eigentlich recht moderate und vermittelnde Positionen pflegt. Das sind aber nicht unbedingt die Leute, die auf den sozialen Medien aktiv sind, weil die sozialen Medien ziehen halt eher etwas extrovertiertere, geltungsbedürftige, auch extremere Akteure an und die dominieren sehr stark den digitalen Diskurs links wie rechts, sodass die vermittelnden Stimmen in der Öffentlichkeit ganz generell ins Hintertreffen geraten. Und die operieren sehr stark mit dramatischen Erzählungen. Das ist nicht nur der extremen Rechten vorbehalten. Dramatische Erzählungen sind einfach das, was besonders gut geht. Das ist die Währung, die besonders gut geht, in der Ökonomie der sozialen Medien.

An Ideen und Vorschlägen für eine De-Radikalisierung mangelt es nicht, so der Radikalisierungsexperte Marcks, die Frage wäre, wie können diese realisiert werden – seine Einschätzungen dazu sind eher pessimistisch,…

… wie gesagt, die Situation ist polarisierend, weswegen alle Eingriffe in die sozialen Medien auch zu Problemen führen. Und ich sehe es tatsächlich pessimistisch, dass wir vielleicht ein Zeitfenster verschlafen haben, wo eine Regulierung in einem gesetzteren Klima in einer weniger aufgeheizten Stimmung möglich gewesen wäre. Die sozialen Medien haben mittlerweile eine Eigendynamik übernommen. Wir werden jetzt auch von der KI-Entwicklung überrollt. Die Politik reagiert relativ träge darauf. Der Reformstau wächst sozusagen tagtäglich an und ich sehe nicht, dass wir das momentan eingefangen bekommen. Da muss ich grundsätzlich erst mal was in der politischen Konstellation ändern. Den Willen und auch die Fähigkeit, vielleicht so umfassende Reformen zu machen, wie es notwendig wäre, sehe ich gerade nicht gegeben. Also wir werden uns eher damit beschäftigen müssen, was die Digitalisierung uns noch so alles bringt in ihrem fortschreitenden Verlauf.

Notwendige staatliche Eingriffe seien auch aus der Sicht der Politikwissenschaftlerin Barbara Prainsack erforderlich. Als Vorsitzende der Europäischen Gruppe für Ethik und neue Technologien berät sie regelmäßig die Europäische Kommission. Auf deren Anfrage zum Thema „Demokratie im digitalen Raum“ wurde eine Stellungnahme verfasst, die Vorschläge zur Regulierung beinhaltet, – die Überlegungen dazu…

… haben wir unter anderem gesagt, dass man allein mit der Regulierung der Inhalte von sozialen Medien nicht weiterkommen wird. Also die Regulierung der Inhalte, wie zum Beispiel Hass im Netz – Gesetze sind wichtig, aber es reicht nicht aus. Denn früher waren Debatten und Diskussionen oft im Kaffeehaus, da hat man auch gestritten. Aber der Kaffeehausbetreiber hat nicht davon gelebt, dass sich die Leute grauenhafte Bilder zeigen und sozusagen die Köpfe einschlagen. Während das aber heute sehr wohl der Fall ist, dass im digitalen Kaffeehaus sozusagen, dass das hier die Unternehmen schon davon leben, dass möglichst gravierende und erschreckende Inhalte geteilt werden, weil es die Verweildauer erhöht usw. Das kann man nicht nur verändern, indem man die Inhalte reguliert, die geteilt werden dürfen, auch weil den Konzernen das ja wurscht ist – die zahlen dann halt Strafen. Sondern man müsste letzten Endes die „Eigentumsverhältnisse des Kaffeehauses“ verändern. Also man müsste schauen, dass diese digitalen Plattformen auch im gemeinsamen Eigentum der Bevölkerung stehen und nicht alle im Eigentum von großen Technologiekonzernen.

Stellt sich die Frage, welche Antwort die Europäische Kommission dazu geäußert hat:

Die Antwort der Kommission ist bisher keine. Also nicht in die Richtung, die wir uns gewünscht haben. Außer, dass ist natürlich im Bereich der Künstlichen Intelligenz, wo es jetzt schon Bestrebungen gibt, hier gemeinsame Ressourcen zu schaffen, die uns allen, also der Bevölkerung Europas gehören. Also dass man hier nicht den Raum nur den Technologiekonzernen überlässt. Geht es uns weit genug? Nein, es geht uns nicht weit genug. Wir würden uns hier mehr wünschen von der Europäischen Kommission.

Weitere Anliegen, die der Politikwissenschaftlerin wichtig erscheinen, wurden in der Arbeitsgruppe „Soziale Medien und Demokratie“ der Österreichischen Akademie der Wissenschaften zusammengefasst. Ein zentraler Punkt lautet:

Wir haben einen Presserat gefordert, der, so wie das bei den „herkömmlichen“, bei den Printmedien, existiert, auch bei sozialen Medien ein Kontrollorgan ist, das sich auch in Form der Selbstregulierun