Menschen und Maschinen entscheiden in Sekundenschnelle darüber, welche Inhalte in sozialen Medien sichtbar bleiben und welche gelöscht werden. Aber nach welchen Regeln funktioniert die Interaktion und funktioniert sie eigentlich so auch gut?

Rede und Antwort steht in dieser Folge Prof. Dr. Matthias C. Kettemann, Leiter des Forschungsprogramms „Regelungsstrukturen und Regelbildungen in digitalen Kommunikationsräumen“ am Leibniz-Institut für Medienforschung I Hans-Bredow-Institut (HBI). Unter seiner Leitung wurde am Alexander von Humboldt Institut für Internet und Gesellschaft (HIIG) zudem ein Code of Conduct (Verhaltenskodex) entwickelt, dessen Ziel es ist, das Vertrauen in automatisierte Moderationssysteme zu stärken. So definiert der Kodex Leitlinien für faire, transparente und nachvollziehbare Moderationsprozesse auf digitalen Plattformen und großen Online-Diensten.

Um effektive Content Moderation und den Code of Conduct geht es in dieser Folge.

Kapitelmarken:

00:00 Einführung I 01:22 Was ist Content Moderation? I 03:13 Warum Content Moderation auf sozialen Plattformen notwendig ist I 06:31 Rechtlicher Rahmen: Der Digital Services Act I 12:09 Ablauf und Beteiligte bei der Content Moderation I 17:26 Herausforderungen und Verbesserungsbedarf I 20:16 Automatisierung vs. menschliche Kontrolle I 22:58 Code of Conduct – Ziele und Leitlinien I 29:19 Durchsetzung des Code of Conduct I 31:49 Erfolgskriterien für den Code of Conduct

Links:

• Code of Conduct “Strenghtening Trust”: https://graphite.page/coc-strengthening-trust/#read-full-article





• HBI-Forschungsprojekt „DSA Research Network“: https://leibniz-hbi.de/hbi-projects/dsa-research-network/

Publikationen:

Eigenständige Werke (Studien, Working Papers):

Kettemann, M. C./Mosene, K./Stenzel, M./Mahlow, P./Pothmann, D./Spitz, S. (2025), Code of Conduct on Human-Machine Decision-Making in Content Moderation.Alexander von Humboldt Institute for Internet and Society.
https://graphite.page/coc-strengthening-trust/

Heldt, A. P./Dreyer, S./Schulz, W./Seipp, T. J. (2021), Normative Leitbilder der Europäischen Medienordnung: Leitvorstellungen und rechtliche Anforderungen an die Governance für eine demokratische Öffentlichkeit, (Arbeitspapiere des Hans-Bredow-Instituts, 54). Hamburg: Verlag Hans-Bredow-Institut.
https://doi.org/10.21241/ssoar.71716

Susi, M./Benedek, W./Fischer-Lessiak, G./Kettemann, M. C./Schippers, B./Viljanen, J. (2022), Governing Information Flows During War: a Comparative Study of Content Governance and Media Policy Responses After Russia’s Attack on Ukraine (GDHRNet Working Paper, 4). Hamburg: Verlag Hans-Bredow-Institut.
https://doi.org/10.21241/ssoar.78580

Mansell, R./Durach, F./Kettemann, M. C./Lenoir, T./Tripathi, G. P./Tucker, E., Information Ecosystems and Troubled Democracy: The State of Knowledge on News Media, AI and Data Governance (Göterborg: Nordicom, 2025).
Open access: https://norden.diva-portal.org/smash/get/diva2:20 11448/FULLTEXT01.pdf

Buchbeiträge

Mast, T./Kettemann, M. C./Schulz, W., Private ordering of media organisations and platform operators, in: Puppis/Mansell/Van den Bulck, Handbook of Media and Communication Governance (Elgar 2024), S. 260–273.
https://doi.org/10.4337/9781800887206.00030

Kettemann, M. C./Sekwenz, M.-T., Pandemics and Platforms: private Governance of (Dis)Information in Crisis Situations, in: Kettemann/Lachmayer, Pandemocracy in Europe (Hart 2021), S. 263–282.
https://doi.org/10.5040/9781509946396.ch-013

Aufsätze

Schulz, W./Ollig, C., Hybrid Speech Governance, JIPITEC 14 (2023), 560–579.
https://www.jipitec.eu/jipitec/article/view/22

Wagner, B./Kettemann, M. C./Tiedeke, A. S./Rachinger, F./Sekwenz, M.-T., Mapping interpretations of the law in online content moderation in Germany, Computer Law & Security Review 55 (2024).
https://doi.org/10.1016/j.clsr.2024.106054

Kettemann, M.C., & Tiedeke, A.S. (2020). Back up: can users sue platforms to reinstate deleted content?, Internet Policy Review, 9 (2020).
https://doi.org/10.14763/2020.2.1484

Stenzel, M./Mosene, K./Efferenn, F., Inside Content Moderation: Mensch, Maschine und unsichtbare Arbeit (Digital Society Blog 2025)
https://doi.org/10.5281/zenodo.17415009

Maranhao, J./Campos, R./Kettemann, M. C./Abrusio, J./Sartor, G., Como regular a moderação privada de conteúdo nos novos espaços públicos? (Consultor Jurídico Blog 2020),
https://www.conjur.com.br/2020-set-01/direito-digitalcomo-regular-moderacao-privada-conteudo-novos-espacos-publicos/

Mast, T./Oermann, M./Schulz, W., Doing Internet Governance: Constructing No