Podcast KN:IX talks

Folge #21 | Welche Plattformen rechte und islamistische Akteure nutzen

In Sozialen Medien sind sowohl rechte als auch islamistische Akteure präsent und passen sich aktuellen Trends an. Die aktuelle Radikalisierungsforschung und die Verantwortung von Projekten und NGOs auf Sozialen Medien werden in dieser Folge mit Holger Marcks von der BAG gegen Hass im Netz diskutiert.

Im Podcast zu Gast

Holger Marcks ist Sozialwissenschaftler mit Schwerpunkt Radikalisierungsforschung, vor allem im digitalen Kontext. In der Forschungsstelle kümmert er sich um die Entwicklung der Analysesystematik, die Konzeption des Trendreports und die redaktionelle Bearbeitung der Wissenstransferformate.

Transkript zur Folge

(Musik im Hintergrund)

Holger Marcks (BAG gegen Hass im Netz): Grundsätzlich spielt TikTok da natürlich eine überproportional große Rolle. Im Gegensatz zu der extremen Rechte, die sich das jetzt gerade stärker erschließt, aber da jetzt nicht sonderlich umtriebig ist. Islamistische Propaganda setzt sehr stark auf diese Plattform.

Intro KN:IX talks: Herzlich willkommen zu KN:IX talks, dem Podcast zu aktuellen Themen der Islamismusprävention. Bei KN:IX talks sprechen wir über das, was die Prävention und Distanzierungsarbeit in Deutschland und international beschäftigt.

Für alle, die in dem Feld arbeiten oder immer schon mehr dazu erfahren wollten. Islamismusprävention, Demokratieförderung und politische Bildung. Klingt interessant? Dann bleiben Sie jetzt dran und abonnieren Sie unseren Kanal. KN:IX Talks – überall da, wo es Podcasts gibt.

Thy Le (KN:IX/ ufuq.de): In den letzten beiden Folgen ging es um Monitoring, extremistischen Inhalten in der Online-Welt, insbesondere auf TikTok und Instagram. Diese Folge möchte anknüpfen. Die BAG, also in lang Bundesarbeitsgemeinschaft gegen Hass im Netz, möchte den Austausch zwischen zivilgesellschaftlichen Akteuren stärken. Dazu werden Erkenntnisse aus der Forschung zu demokratiefeindlichen Online-Phänomenen herangezogen. Um einige dieser Erkenntnisse geht es in dieser Folge. Die kann mir heute vorstellen: Holger Marcks. Er ist Co-Leiter der BAG gegen Hass im Netz und bringt eine jahrelange Expertise mit, sowohl zu Rechten als auch zu islamistischen Akteuren. Hallo, ich begrüße dich herzlich.

Holger Marcks (BAG gegen Hass im Netz): Hallo! Danke für die Einladung.

Thy Le (KN:IX/ ufuq.de): Was ist eigentlich deine Lieblingsplattform? Welche nutzt du am liebsten oder am häufigsten?

Holger Marcks (BAG gegen Hass im Netz): Meine Lieblingsplattform? Ehrlich gesagt keine davon. Ich halte nicht so viel davon, die Sozialen Medien zu nutzen. Ich benutze sie beruflich, passiv sozusagen. Da sind Twitter, TikTok usw. Das sind Sachen, die man ganz gut im Blick haben sollte. Was gerade aktuell so politische Dynamiken betrifft, sind sie sehr prägend für den Diskurs. Ich halte das insgesamt alles für sehr toxisch und benutze das nur sehr dezent im aktiven Sinne.

Thy Le (KN:IX/ ufuq.de): Dann dauert es wahrscheinlich wegen der Algorithmen nicht lange, bis dir anzeigewürdiger Inhalt begegnet, oder?

Holger Marcks (BAG gegen Hass im Netz): Ja, sicherlich. Ich habe meine Accounts, mit denen ich soziale digitale Diskurse beobachte und die folgen ja auch entsprechenden Profilen. Da hat man die entsprechenden Inhalte im Blick. Das ist mein Job.

Thy Le (KN:IX/ ufuq.de): Ich habe in der Anmoderation erwähnt, dass ihr als BAG gegen Hass im Netz zivilgesellschaftliche Akteure miteinander vernetzen möchtet. Stelle doch mal die Arbeit für Menschen vor, die euch noch nicht kennen. Wie sieht das konkret aus?

Holger Marcks (BAG gegen Hass im Netz): Die Bundesarbeitsgemeinschaft Gegen Hass im Netz besteht im Wesentlichen aus zwei Teilen: Es gibt eine zivilgesellschaftliche Säule, in der verschiedene NGOs, die in diesem Bereich aktiv sind, vernetzt sind. Auf der anderen Seite steht dann die Forschungsstelle, die im Zentrum der BAG ist und die versucht, so etwas wie evidenzbasiertes Wissen zu generieren und der die Zivilgesellschaft auch ihre Praxis besser ausrichten kann. Wir betreiben ein Monitoring-System. Da haben wir momentan ständig eine große Palette an rechtsextremen und familienähnlichen Akteuren im System drin, was wir dann computerisiert, also mit automatisierten und semi-automatisierten Methoden aussenden. Denn da gibt es ja um tausende Akteure, tausende Kanäle, insbesondere auf Telegram. Mit Millionen von Nachrichten und mit den entsprechenden Methoden kann man aber ganz gut sehen, was da so die Trends sind. Wie sind die Rechten miteinander vernetzt? Wie entwickeln sich die Netzwerke? Welche Inhalte gehen gerade gut? Was sind die Themen? Wie sind die Themen so ein bisschen befüllt? Welche Inhalte gehen besonders gut? Welche Kanäle sind auf dem absteigenden Ast? Der Anspruch ist zumindest, recht frühzeitig Trends zu erkennen und neuralgische Punkte in den Netzwerken zu identifizieren. Daneben beschäftigen wir uns natürlich auch mit tagesaktuellen Themen, die wir uns vornehmen und dann auch datenanalytisch versuchen zu analysieren. Meistens hat das, was mit Rechtsextremismus zu tun, aber es ist natürlich nicht darauf beschränkt. Das verbinden wir v. a. immer mit sogenannten tech-soziologischen Perspektiven. Wir sind immer bemüht, auch die Zusammenhänge herzustellen, wie das mit der technischen Struktur der sozialen Medien, mit den Plattformen auch zu tun hat, weil die ja ein Stück weit die Verhaltensweisen der Menschen, wie sie dort agieren, hervorstrukturieren.

Thy Le (KN:IX/ ufuq.de): Ihr bringt da in diesem Rahmen noch so einen Trend Report heraus, richtig?

Holger Marcks (BAG gegen Hass im Netz): Richtig. Der hat den Namen Maschine Against the Rage. Natürlich ist der Name nicht so gemeint, dass wir uns selbst als Maschinen verstehen. Es spielt darauf an, dass wir maschinell arbeiten, also mit computerisierten Methoden und dass wir uns mit Hass, also mit Rage, mit Wut usw. befassen. Der kommt vierteljährlich heraus. Es ist ein reines Onlinemagazin, also eine Art wissenschaftliches Online-Magazin, etwas unkonventionell.
Wir haben da vier Rubriken: Eine davon beschäftigt sich mit unserem permanenten Monitoring, wo wir die aktuellen Trends abbilden. Ansonsten halt auch eher tagesaktuelle Themen. Aber wir bieten auch je Quartal Überblick über Entwicklungen in dem Bereich. Was passiert eigentlich so in der Zivilgesellschaft, was gerade relevant ist? Gibt es Reformen bei den Plattformen selbst? Passiert politisch etwas im Bereich der Regulation dieser Plattform? Was sind aktuelle Studien, die interessant für die zivilgesellschaftliche Praxis gegen Hass im Netz sind? Bei uns im Trend Report wird man gut fündig, was Literatur betrifft. Wir geben uns sehr viel Mühe, das alles mit Referenzen auch zu belegen. Damit Leute zum einen wissen, dass wir uns das nicht aus den Fingern ziehen. Natürlich. Zum anderen, damit auch Leute was zum Weiterlesen finden. Wenn man die Texte liest und da ist jetzt ein besonders interessanter Aspekt dann wird man wahrscheinlich auch in der Fußnote die entsprechenden Referenzen z. B. dazu finden. Ansonsten kann ich halt auch unsere Rubrik der Rundschau empfehlen, weil da machen wir jedes Quartal einen Überblick über aktuelle Entwicklungen, auch was in der diesbezüglichen Forschungsbereich Interessantes passiert und da verweisen wir immer auf die entsprechenden Texte und Studien.

Thy Le (KN:IX/ ufuq.de): Warum ist denn häufig gerade Telegram unter rechten Akteuren, so scheint es mir, das Medium der Wahl?

Holger Marcks (BAG gegen Hass im Netz): Das ist natürlich jetzt nicht alles, aber Telegram ist natürlich erst mal sehr zugänglich. Angefangen hat es Ende der 2010er- Jahre, spätestens wurden die großen Plattformen ab 2020 stärker reguliert wurden – teils durch gesellschaftlichen Druck, teils durch politische Gesetze, Meldepflichten, dass man halt einfach mehr auf den Content auch irgendwie achten muss… Es wurden ganze Moderationsregime eingeführt. Das hat jetzt vor allem Anfang der 2010er-Jahre sehr stark die extreme Rechte getroffen.

Da hat sich Telegram als Kanal angeboten, der ein bisschen noch so als Plattform, die eher white mass-mäßig noch funktioniert hat. Mal abgesehen davon, dass Telegram ganz funktional ist, ist es ein sehr nutzer*innenfreundlicher Messenger-Dienst. Vor allem während der Corona-Zeit, in der viele Leute politisch aktiv wurden, die eigentlich nicht so klassisch politisiert waren, sind dann häufig welche rund um das Corona-Thema in verschwörungstheoretische Gefilde geraten. Da erlebt man einen sehr starken Anstieg bei Telegram, weil dieses Milieu während der Zeit viel größer geworden ist und auch dadurch bedingt natürlich, dass sich in der Pandemie viele Leute ins Private zurückziehen mussten. Dadurch hat auch eine Konjunktur fast aller Plattformen auch stattgefunden. Gerade für die Leute, die Zweifel an den aktuellen politischen Entwicklungen oder am System insgesamt hatten, hat sich dann natürlich Telegram da als Austauschplattform angeboten. Das ist das dominierende Thema gewesen: Corona während der zwei Jahre, dem sich dann auch die extreme Rechte nicht entziehen konnte, weil mit der Pandemie ist ihr bis dahin sehr gut gelungenes Mobilisierungsthema rund um Migration abhanden gegangen.

Darum konnte man erst mal nicht mehr mobilisieren. Da war man dann auch ein bisschen in so einer Findungsphase. Dann haben sie sich auch ein bisschen aus Verlegenheit sehr stark an diese Corona-Sachen drangehängt. Insofern ist halt ein gewisses Amalgam dann auch entstanden bei Telegram aus diesen neuen Anti-Corona-Bewegungen und auch der extremen Rechten. Es ist recht schillernd da, aber auch momentan nimmt insgesamt die Nachrichtenflut eher ab. Schon seit Monaten bin ich seit einem Jahr also konstant rückläufig, was insgesamt mit der Plattformentwicklung zu tun hat.

Thy Le (KN:IX/ ufuq.de): Die Nachrichtenflut nimmt ab. D. h., dass so ein Output, der da zu finden ist, der nimmt ab.

Holger Marcks (BAG gegen Hass im Netz): Ja, genau. Was die Kanäle, die wir z. B. in unserem Register an rechtsextremen und familienähnlichen Akteuren haben, Nachrichtenproduktion ist konstant rückläufig. Ich habe jetzt die Zahlen nicht im Kopf, aber wenn ich das Bild jetzt so abschätze, um etwa 20-30 Prozent zurückgegangen. Vielleicht im Laufe des letzten Jahres und hat natürlich auch mit einem Abflauen der Konjunktur in dieser Corona-Bewegung zu tun. Es beschäftigt immer noch viele Leute, aber es hat jetzt natürlich jetzt nicht mehr die große Brisanz wie früher. Auch, wenn sich das recht lang gehalten hat, ist das jetzt doch langsam auf dem absteigenden Ast.

Thy Le (KN:IX/ ufuq.de): Wie ist es denn bei islamistischen Akteuren? Sind die denn auch auf Telegram grundsätzlich unterwegs?

Holger Marcks (BAG gegen Hass im Netz): Ja, sicher! Telegram ist eine Plattform, die genutzt wird. YouTube und TikTok sind da sogar relevanter. Ich kann aber leider da nicht mit Zahlen dienen, weil wir bisher das noch nicht in unserem permanenten Monitoring drin hatten, also sozusagen kein Akteursregister erstellt haben. Da muss man sich erst mal hinsetzen und ein bisschen die Akteurslandschaft scannen: Wer ist da überhaupt vertreten? Dann geht man mit einem Schneeballverfahren vor, dass man auch schaut, wer ist mit wem vernetzt? Das würden wir gerne natürlich auch in den Blick nehmen. Das ist auch eine Frage der Kapazitäten, die die Forschungsstelle hat. Mal sehen, wie sich das in der nächsten Zeit so ausgeht…

Thy Le (KN:IX/ ufuq.de): Aber da sagtest du ja schon so, dass es Abweichung gibt in der Plattformpräferenz – wahrscheinlich auch noch mal Unterschiede in den Mobilisierungsstrategien und Ansprachen. Oder gibt es da eher Gemeinsamkeiten? Die Frage wäre…

Holger Marcks (BAG gegen Hass im Netz): …Unterschiede je nach Plattform?

Thy Le (KN:IX/ ufuq.de): Warum z. B. Rechte mehr auf Telegram aktiv sind oder auf anderen Plattformen? Oder islamistische Akteure auf YouTube usw.?

Holger Marcks (BAG gegen Hass im Netz): Das ist ein sehr vielschichtiges Problem. Es ist nicht unbedingt so, dass die rechte Akteure mehr bei Telegram aktiv sind. Da gibt es auf jeden Fall ein ziemliches großes Multi-Cluster an solchen relevanten Akteuren. Aber das heißt ja nicht, dass die nicht auch bei Twitter aktiv sind, v. a. seit sich das aus ihrer Sicht natürlich wieder gelockert hat mit der Übernahme von Elon Musk.

Auch TikTok wird natürlich mittlerweile stärker auch von der extremen Rechten bedient. Auf YouTube findet sich auch allerlei Material.

Was man im Blick haben muss, ist: Wer genau ist da jetzt aktiv? Bei Telegram gibt es die einen, die den Kanal bereitstellen und dann dann das auch nutzen. Aber in der Masse insgesamt findet man natürlich dort mehr diejenigen, die ich vorhin als ‚politisiert‘ bezeichnet habe, durch die Corona-Pandemie, also sozusagen wirklich relativ normale Leute, die sich über die letzten Jahre radikalisiert haben, während bei Twitter vielleicht doch eher so Menschenschlag eher zugegen ist, der vielleicht auch ein bisschen strategisch theoretisch versierter ist, tatsächlich schon mehr in die Richtung Polit-Aktivist*in vielleicht auch geht. Das sind Feinheiten, die man beachten muss, die auch ein bisschen unterthematisiert sind. Welcher soziale Typus präferiert eigentlich auf welcher Plattform? Das ist auch leider noch nicht so gut untersucht.

Thy Le (KN:IX/ ufuq.de): Uns interessiert, welche Plattform man genauer jetzt für die nächste Zeit im Blick behalten sollte.

Holger Marcks (BAG gegen Hass im Netz): Jetzt aus Forschungsperspektive stellt sich die Frage: Was kann man überhaupt bearbeiten? Da islamistisches Spektrum zu monitoren ist voraussetzungsreicher, weil da natürlich Sprachen wie Arabisch und Türkisch eine deutlich größere Rolle spielen. Das stellt auch automatisierte Methoden vor Herausforderungen. Aber wenn man jetzt generell technische Fragen und Fragen der Fähigkeiten außer Acht lässt, ist das natürlich auch ein bisschen abhängig davon, worüber wir jetzt bei Islamismus sprechen: global oder Islamismus in Deutschland? Dann auch, ob wir jetzt die Entwicklung generell den letzten Jahren meinen oder dass jetzt zum Beispiel konkret beziehen auf das, was wir jetzt seit Oktober 2023 an neuen Entwicklungen als neue Entwicklung erleben?
Aber grundsätzlich ja, TikTok spielt eine überproportional große Rolle. Im Gegensatz zu dieser extremen Rechten, die sich das stärker jetzt gerade erschließt, aber da jetzt nicht sonderlich umtriebig ist. Islamistische Propaganda setzt stark tatsächlich auf diese Plattform TikTok. Bei Telegram tummeln sich natürlich gerade für den Austausch auch recht viele Kanäle, aber das beschränkt sich nicht darauf.

Natürlich spielt Twitter auch eine Rolle. Gerade, wenn wir uns jetzt die Hizb-ut-Tahrir in Deutschland anschauen, die versucht schon seit Jahren stärker halt auch so einen Netzaktivismus herauszubilden, wie man das eigentlich eher so früher von der Identitären Bewegung aus dem Lager der extremen Rechten kannte. Ein bisschen wie identitärer Islamismus, der von der Aufmachung, der einerseits versucht, ein bisschen moderner zu wirken, aber anderseits natürlich auch radikale Botschaften transportiert. Gerade die Hizb-ut-Tahrir steht für das Ziel eines globalen Kalifat-Staats. Man versucht sich dann einen fresheren Anstrich zu geben. Generation Islam, Realität Islam. Man macht entsprechende Hashtag-Kampagnen auf Twitter, schon seit verschiedenen Jahren. #nichtohnemeinKopftuch ist vielleicht noch in Erinnerung geblieben. Jetzt vor wenigen Wochen rund um den Konflikt in Gaza/Israel hat man auch quasi versucht, einen Twitter-Sturm zu machen, der von den metrischen Daten auch gar nicht so klein war. Aber auch da geht man mit modernem Netzaktivismus gegen Techniken vor.

Thy Le (KN:IX/ ufuq.de): Da bringst du mich auf was…Ich habe letzte Woche erst hier in Berlin-Tempelhof diesen ‚schönen‘ Flyer hier gefunden. Also das kann man im Podcast nicht zeigen, aber das ist so ein gräulicher Flyer von Realität Islam. Und darauf zu sehen ist ein Kind. Wobei auch nicht klar ist, ob das KI-generiert ist…

Holger Marcks (BAG gegen Hass im Netz): Das wäre meine Frage zum Bild gewesen: Ist das ein KI-generiertes Bild?

Thy Le (KN:IX/ ufuq.de): Man weiß es nicht, aber so oder so würde ich irgendwie großen Fragezeichen setzen. Jedenfalls kann man per QR-Code zum Videolink kommen und finden es auch noch irgendwie in Bezugnahme auf die aktuellen Nahostkonflikt-Geschehnisse. Text im Grunde. Das Video lädt dann ein, sich eine Rede von Suhaib Hoffmann von Realität Islam anzusuchauen. Wie bewertest du dann hinsichtlich des Anziehungspotenzials für Jugendliche die Rolle von ich nenne sie jetzt so Islam-Influencer*innen bzw. Islamfluencer*innen?

Holger Marcks (BAG gegen Hass im Netz): Nun, wir haben ja jetzt eine neue Situation, die natürlich ein neues Mobilisierungspotenzial schafft. Da sind gerade alle ein bisschen am Grübeln, wie das alles auch einzuschätzen ist. Grundsätzlich hatten wir die Situation, dass wir schon Anfang der 2010er-Jahre mal eine Erstarkung der islamistischen Bewegung in Deutschland hatten. Mit dem Islamischen Staat in Syrien ist das so gewesen, dass hat ja viele Leute von der Szene dorthin gezogen, also gerade auch aktivistische oder überzeugte Leute. Viele sind dort gestorben. Oder desillusioniert zurückgekommen oder sitzen in Gefängnissen usw. Das hat schon einen starken Knick in der islamistischen Bewegung hier in Deutschland verursacht. Generation Islam oder auch Realität Islam sind auch Tarnorganisationen der Hizb-ut-Tahrir, die versuchen, auch erst mal wieder jünger daherzukommen und natürlich auch ein bisschen mit einem jugendlichen Anstrich junge Leute anzusprechen. Wie genau das mit dem Mobilisierungspotenzial zu bewerten ist, das hängt natürlich sehr stark mit den Milieus zusammen, die da auch adressiert werden.

Thy Le (KN:IX/ ufuq.de): Was dann verhaftet, ist dieser jugendliche Appeal – die jugendnahe Sprache vielleicht auch?

Holger Marcks (BAG gegen Hass im Netz): Die spielt sicherlich eine Rolle. Es ist auf jeden Fall die Hürde, die du nehmen musst, um die Leute zu erreichen. Wenn du, wenn du, wenn du die nicht mit der Zeit gehst und nicht die entsprechenden Formate nutzt, das entsprechende Design gibst, dann kommst du ja gar nicht erst dran teilzunehmen. Das ist so das Minimum, was jede politische Organisation heutzutage eigentlich auch leisten muss. Dadurch, dass sich viel mehr Politik auch in die Sozialen Medien verlagert hat, je mehr ästhetische Fragen auch dabei eine Rolle spielen. Insofern ist das jetzt kein Alleinstellungsmerkmal dieser Bewegung. Das gilt für jede Bewegung, die einigermaßen erfolgreich sein muss, leisten muss.

Thy Le (KN:IX/ ufuq.de): Als Projekt oder Träger ist man auch natürlich durch soziale Medien darauf angewiesen, Aufmerksamkeit für die eigene Arbeit zu erzielen. Sowieso auch für Medienpädagog*innen, um Jugendlichen zu erreichen. Dann stellen sich einige die Frage, ob sie nicht auch eine gewisse Verantwortung haben von schwierigen Plattformen wegzukommen? Was ich auch beobachte, ist, dass das dann manche nicht mehr auf Twitter oder X, wie es inzwischen heißt, nicht mehr aktiv sein möchten. Da erreicht man jetzt nicht die Jugendlichen, aber das Ganze gilt auch für TikTok. Siehst du da eine Verantwortung, das miteinander in Einklang zu bringen? Oder sollte im Vordergrund stehen, dass man attraktive Angebote für Jugendliche machen muss?

Holger Marcks (BAG gegen Hass im Netz): Das ist jetzt natürlich eine große Frage, weil auch diese Frage der Verantwortung sehr vielschichtig ist und auch eine offene Frage ist, denn es geht ja immer noch darum, in welcher Funktion man auch aktiv sein möchte. Ende der 2010er-Jahre war es ja so, dass man in Sozialen Medien merkte, ‚die extreme Rechte ist da schon im Aufwind‘ und alle hatten irgendwie auch die Vermutung, das habe mit den Sozialen Medien zu tun und da war die Gegenreaktion darauf, man dürfe ihnen diese Räume nicht überlassen. Daraufhin sind auch sehr viele Initiativen entstanden. Also wir haben einen ganzen Zusammenhang an NGOs, die sich z. B. mit Hass im Netz befassen, was vor allem diesen rechtsextremen Background hat, also die den Hintergrund dieser rechtsextremen Erfolge schon in den 2010er- Jahren, einschließlich dann auch einer kleinen Welle des Terrorismus. Es gab da Deutschland, Halle, Hanau oder in anderen Ländern Christchurch, Vieles auch in den USA. Gegenrede war dann natürlich mal das Konzept, was da viel diskutiert wurde und versucht wurde, auch zu implementieren. Damals galt gerade der Anspruch, man geht in diese Räume hinein, um das dann nicht unwidersprochen stehen zu lassen, vielleicht diese Akteure auch zu marginalisieren. Klar bringt das dann auf der persönlichen Ebene halt viele Unannehmlichkeiten mit sich.

Zum einen ist die Frage: Was kann man selbst aushalten, was man da an Content präsentiert bekommt? Nicht nur das, was man irgendwo liest, sondern das, was auch einem entgegengebracht wird. Natürlich ist es ein sehr wilder Raum und die Diskussionskultur fällt klar bei extrem Rechten oder Islamist*innen auf. Der Menschenhass fällt sehr stark ins Auge. Aber insgesamt ist es natürlich eine Verschlechterung für die für die Diskussionskultur. Jedes politische Milieu lässt sich da von gewissen toxischen Dynamiken auch immer anstecken. Wenn man das selbst nicht aushalten kann, ist das natürlich eine gute Entscheidung, davon wegzugehen. Aber man muss sich dann natürlich auch im Klaren sein, dass so etwas wie Gegenrede auch wegfällt. Natürlich zumindest direkt auf der Plattform. Wobei auch in Frage steht: Wie effektiv ist denn eigentlich auch Gegenrede? Erzeugt sie manchmal nicht sogar kontraproduktive Effekte? Das sind tatsächlich ungeklärte Fragen in der Wissenschaft.

Thy Le (KN:IX/ ufuq.de): Viele sagen, dass seit der Übernahme von Elon Musk die Zunahme von Desinformation und Hassrede wahrnehmbar sei. Kannst du diese subjektive Wahrnehmung in Zahlen bestätigen oder stimmt das vielleicht auch gar nicht?

Holger Marcks (BAG gegen Hass im Netz): Erst mal mit Zahlen ist es momentan schwierig, weil eine der Maßnahmen, die Musk ergriffen hat, ist, dass er die Schnittstellen geschlossen hat, die für Auswertung benötigten Datenzugang essenziell sind. Deswegen gibt es zumeist nur recht begrenzte Analysen davon. Wie das bei jeder Analyse ist: Die Sozialwissenschaften brauchen Zeit, um Ergebnisse wirklich validieren zu können. Das ist eine Frage der sogenannten Variablen. Was bezieht man einfach auch ein in die Studie? Nur weil wir jetzt eine Entwicklung sehen, z. B. „rechtsextreme Inhalte gehen hoch“. Klar kann man dann einiges feststellen, aber damit haben wir noch nichts über Gründe gesagt ausgesagt. Naheliegend ist natürlich, dass es mit Musks Übernahme zu tun hat. Auch, dass er bestimmte Dinge politisch propagiert hat, die diese Leute angezogen haben. Dass auch immer viel Moderation jetzt wegfällt, dass viele Sachen nicht mehr gemeldet werden. Das ist das Naheliegendste und wahrscheinlich ist es auch wahr.

Aber aus einer wissenschaftlichen Perspektive muss man das trotzdem auch erst mal beweisen. D. h., man muss Studien aufstellen und man muss auch Kontrollvariablen einbeziehen. Denn es könnte z. B. sich auf Twitter auch einfach nur ein gesellschaftlicher Trend abbilden. Diese Zunahme könnte ihre Ursachen auch außerhalb der Plattform haben und die bilden sich nur auf der Plattform ab. Würde ich selbst nicht annehmen, aber als Wissenschaftler wäre man erst mal gefordert, das sozusagen nachzuweisen. Deswegen ist es immer schwierig, so früh schon Aussagen zu treffen. Was wir sagen können, ist natürlich, dass bestimmte Inhalte zunehmen. Woran es liegt, ist etwas Anderes. Aber auch hier liegt das ein Stück weit auch im Auge des*r Betrachters*in. Auch, wenn ich selbst in dem Bereich arbeite, dass natürlich der Begriff „Hass“ jetzt z. B. sehr stark im Zentrum steht, auch sehr schwammig ist und immer auch anfällig für einen politischen Bias ist, was man darunter versteht. Was für die einen Hass ist, ist für die anderen Kritik und andersherum. Das hängt dann auch mit aktuellen Trends und politischen Gemengelage zusammen, was darunter auch gefasst wird, und das bildet sich auch in der Sozialwissenschaft ab.

Thy Le (KN:IX/ ufuq.de): Wie habt ihr das denn in der Forschungsstelle definiert?

Holger Marcks (BAG gegen Hass im Netz): Gut, wir sind generell nicht so vom Begriff überzeugt, aber wir können damit arbeiten. Grundsätzlich ist das ein Begriff, der erst mal eine ganz menschliche Emotion bedeutet, die auch einfach im Alltag immer präsent ist; auch wenn es natürlich negativ ist, das auf den politischen Bereich zu übertragen. Das ist schon jetzt schon eine gewisse Herausforderung. Deswegen haben wir es vorwiegend auch an dem Begriff der gruppenbezogenen Menschenfeindlichkeit gekoppelt. Darin geht es nicht nur darum, dass jemand beleidigt wird oder auch gemobbt wird, oder auch Phänomene, die digital natürlich stattfinden. Sondern drückt sich da tatsächlich, eine gruppenbezogene Menschenfeindlichkeit aus? Das kann man entsprechend an den anderen, an dem Kommunizierten auch operationalisieren.

Thy Le (KN:IX/ ufuq.de): Kannst du eine tendenzielle Einschätzung darüber geben, wie sich die Regulierung von Plattformen entwickeln? Da ist zumindest auf EU-Ebene viel geplant.

Holger Marcks (BAG gegen Hass im Netz): Es geht jetzt um die regulatorische Ebene, nicht wie die Plattform sich selbst entwickeln, da ist ja auch viel im Fluss. Also weil so ein bisschen der Markt ja ein bisschen in Schwung gekommen ist.
Auf regulatorischer Ebene: in Deutschland hatten wir sowieso schon das Netzdurchsetzungsgesetz bekommen, was aber weitestgehend eigentlich noch auf die individuellen Nutzer*innen abgezielt hatte. Man hat da schon die Plattformbetreiber*innen in die Pflicht genommen, aber es geht eigentlich eher darum, wie die Nutzer*innen untereinander agieren. Wir haben darüber hinaus das Digital Service Act auf der EU-Ebene, der gerade ja in Kraft tritt in verschiedenen Stufen. Der nimmt jetzt auch stärker halt die Plattformen insgesamt in die Pflicht mit sehr starken Report-Pflichten, was man auch angeben, was man auch an Transparenz bieten muss usw. Da sehen wir eine stärkere Verrechtlichung, die in Deutschland auch noch durch weitere Gesetze flankiert werden soll. Ich will auch nicht mit so rechtlichen Sachen langweilen.

Grundsätzlich gilt da auch die Frage: Ist gut gemeint auch gut getan? Denn alles beinhaltet natürlich auch immer Schattenseiten. Es gibt auch z. B. Kritiker*innen des Digital Service Act. Sie sagen, dass das doch schon sehr stark halt auch in die Meinungsfreiheit eingreifen könne, dass damit natürlich auch Instrumente geschaffen werden, die auch gefährlich sein könnten, wenn wir die politischen Machtkonstellationen mal anders wären, wenn die Wahlen z. B. immer mehr nach rechts ausfallen würden.
Aber das sind schon Sachen, die vielleicht ein bisschen noch gar nicht ausreichend diskutiert wurden, bevor man da zur gesetzgebenden Handlung übergegangen ist. Man hat da ein Handlungsbedarf gesehen. Das Problem ist evident in den Sozialen Medien, spätestens jetzt auch mit dem Ukraine-Russland Krieg, der sehr entscheidend für die Propaganda, die auch uns erreicht. Man sah sich dann natürlich unter Handlungsdruck. Das beinhaltet viele Fallstricke und das kann selbst auch zum Politikum werden, was Leute aufbringt. Wenn die Leute das Gefühl haben, hier finde zunehmend Zensur statt kann das selbst dann co-radikalisierender Faktor sein.

Thy Le (KN:IX/ ufuq.de): Du und deine Kolleg*innen setzt euch massig belastender Inhalte aus, Was empfiehlst du anderen in dem Arbeitsfeld, wie sie auf sich achten können?

Holger Marcks (BAG gegen Hass im Netz): Das lässt sich nicht generell so sagen, weil das das Limit ist für jede*n anders. Das hat selbst mit eigenen Erfahrungen auch zu tun, mit eigenen Traumatisierungen vielleicht auch die, die das dann vielleicht auch besonders schmerzhaft machen, letztendlich vielleicht auch soziale Vorprägung. In was für Milieus ist man aufgewachsen? Auch je nachdem wie Real hart das da vielleicht auch zuging. Da gibt es auch kulturelle Differenzen, also auch in jeder Nation. Grundsätzlich sollte man sich natürlich nichts antun, was einem nicht guttut.

Ich selbst arbeite jetzt schon seit über zehn Jahren in der Radikalisierungs- bzw. Gewalt- und Terrorismusforschung. Spätestens mit dem IS habe ich mich dort mit sehr viel Material auseinandersetzen müssen. Das ist nichts, was ich in einem positiven Sinne betone, aber durchaus natürlich zu einem gewissen – im Volksmund würde man wahrscheinlich Abstumpfung sagen – geführt hat. Man ordnet das dann auch selbst dann emotional letztendlich anders ein, wenn man auch daran gewöhnt ist. Aber da muss ja jede*r für sich selbst schauen. Aber das betrifft jetzt nur die Frage der Konfrontation mit Inhalten.

Wenn man sich jetzt noch in die Interaktion begibt, dann ist man ja noch mal ganz anderen Gefahren ausgesetzt. Man kriegt vielleicht Shitstorms ab, man wird also persönlich angegriffen usw. Ich persönlich würde mir so was nicht unbedingt antun wollen, deswegen bin ich da sehr dezent unterwegs, was Soziale Medien betrifft. Mit dem Abstand, den ich dazu habe, bin ich auch ein bisschen verwundert darüber, was sich viele Leute da sozusagen antun. V. a., wenn wir wissen, dass eigentlich Diskurse in den Sozialen Medien nicht gerade zu intellektuellen Ergebnissen führen…Was ist denn deine Lieblingsplattform? Die Frage hast du nicht beantwortet.

Thy Le (KN:IX/ ufuq.de): Das sind immer so Phasen. Eigentlich mochte ich ganz gerne Twitter. Das hat sich aber seit einiger Zeit gelegt. Ich finde es enorm belastend, auch gerade zu aktuellen Nachrichten überhaupt mich in Social Media herumzumtreiben. Dann hatte ich mich bei Bluesky angemeldet, Muss da aber auch sagen, dass es mir sehr komisch vorkam in den ersten Tagen. Es war wie Twitter in seinen Anfängen, ich war es gar nicht mehr gewohnt, dass da irgendwie gar keine Trolls oder Sachen, die ich nicht lesen wollte, sich dort rumtummeln. Es hat mich nachdenklich gemacht, ob das die ‚echte Welt‘ ist oder ob man sich dann irgendwie nicht auch gleichzeitig so abschottet.

Holger Marcks (BAG gegen Hass im Netz): Ja, die Frage wird ja auch viel diskutiert.

Thy Le (KN:IX/ ufuq.de): Sonst bin ich aber auch tatsächlich gerne auf TikTok. Da muss ich aber auch sagen, es dauert tatsächlich auch nicht lange, bis mir dann nach Katzen- und Kochvideos auf einmal dann Sachen unterkommen, die Verschwörungserzählungen verbreiten. Wie, dass die Regierung eine Agenda habe und sowas. Im Grunde braucht es sehr viel Medienkompetenz, auch um zu aktuellen Nachrichten Bilder auch kritisch einschätzen zu können. Ich weiß nicht mal, ob ich das gut hinkriege. Ich gebe mir Mühe, aber ich finde es Wahnsinn vor dem Hintergrund, dass 13,14-jährige Kinder sich ungefiltert dem aussetzen…

Holger Marcks (BAG gegen Hass im Netz): Richtig. Vielleicht muss man das auch alles grundlegender hinterfragen.

Thy Le (KN:IX/ ufuq.de): Ich meine, ob es jetzt damit getan ist, den Stecker zu ziehen und zu sagen: „Halt, gar kein Internet mehr.“ Da hatten wir auch in dem Vorgespräch darüber gesprochen und ich weiß nicht, ob das so eine gute Prävention ist.

Holger Marcks (BAG gegen Hass im Netz): Das wäre die radikalste Analyse.

Thy Le (KN:IX/ ufuq.de): Aber je mehr man verbietet, desto reizvoller wirkt es.

Holger Marcks (BAG gegen Hass im Netz): Richtig.

Thy Le (KN:IX/ ufuq.de): Vielen Dank, dass du heute zu Gast warst und von deiner Arbeit erzählt hast.

Holger Marcks (BAG gegen Hass im Netz): Ich danke für das Gespräch.

Thy Le (KN:IX/ ufuq.de): Das war Holger Marx mit seinen aktuellen Erkenntnissen aus der Arbeit bei BAG gegen Hass im Netz. Und das war auch die letzte Folge für dieses Jahr und auch für mich – denn ich verabschiede mich von KN:IX und ufuq.de. Ab nächstem Jahr, also ab 2024, übernimmt meine Kollegin Judith de Santis für ufuq.de. Vielen Dank, dass Sie zugehört haben.

(Hintergrundmusik)

Recherche und Moderation: Thy Le. Postproduktion: Malte Fröhlich.

(Musik)

Outro KN:IX talks: Sie hörten eine Folge von KN:IX talks, dem Podcast zu aktuellen Themen der Islamismusprävention.

KN:IX talks ist eine Produktion von KN:IX, dem Kompetenznetzwerk „Islamistischer Extremismus“. KN:IX ist ein Projekt von Violence Prevention Network, ufuq.de und der Bundesarbeitsgemeinschaft religiös begründeter Extremismus, kurz BAG RelEx.

Ihnen hat der Podcast gefallen? Dann abonnieren Sie uns und bewerten KN:IX talks auf der Plattform Ihres Vertrauens! Wenn Sie mehr zu KN:IX erfahren wollen, schauen Sie doch auf unserer Website www.kn-ix.de vorbei. Und wenn Sie sich direkt bei uns melden wollen, dann können Sie das natürlich auch machen, mit einer E-Mail an info [at] kn-ix.de. Wir freuen uns über Ihre Anmerkungen und Gedanken.

KN:IX wird durch das Bundesprogramm Demokratie leben! des Bundesministeriums für Familie, Senioren, Frauen und Jugend gefördert. Weitere Finanzierung erhalten wir von der Bundeszentrale für politische Bildung, dem Ministerium für Arbeit, Soziales, Gesundheit und Gleichstellung in Sachsen-Anhalt, der Landeskommission Berlin gegen Gewalt und im Rahmen des Landesprogramms Hessen – aktiv für Demokratie und gegen Extremismus.

Die Inhalte der Podcast-Folge stellen keine Meinungsäußerung der Fördermittelgebenden dar. Für die inhaltliche Ausgestaltung der Folge trägt der entsprechende Träger des Kompetenznetzwerks „Islamistischer Extremismus“ die Verantwortung.