Plattformunternehmen stehen zunehmend unter öffentlichem Druck, gegen Hassreden und andere problematische Inhalte auf ihren Social-Media-Diensten vorzugehen. Aber wie verwalten sie die riesigen Mengen an Informationen und Daten, die wir täglich in Form von Textbeiträgen, Fotos oder Videos auf ihnen veröffentlichen? Mit Hilfe von Algorithmen! Sie versprechen eine effiziente Identifizierung von potenziell illegalem oder unerwünschtem Material.
Dieses automatisierte Filtern, Kontrollieren und Auswerten von Inhalten wirft jedoch auch viele Fragen auf: Sind die algorithmische System wirklich so intelligent, wie viele glauben? Wie können Nutzer*innen Einspruch erheben, wenn die von ihnen veröffentlichten Inhalte zu Unrecht gesperrt wurden? Und wer darf hier überhaupt entscheiden, wo die Grenze zwischen Hassrede und freier Meinungsäußerung liegt?
In der ersten Ausgabe von “Digital & Disziplinlos” reist unsere Forschungsdirektorin Prof. Dr. Jeanette Hofmann mit euch durch die Welt der Content Moderation. Mit Hilfe von Forschungsergebnissen aus dem internationalen Projekt “Ethik der Digitalisierung” geht sie der Frage nach, wie wir ein angemessenes Maß an Transparenz und Rechenschaftspflicht bei der algorithmischen Moderation von Inhalten der Plattformen sicherstellen können.
Weitere Informationen zum Forschungsprojekt "Ethik der Digitalisierung" findet ihr auf unserer Webseite: https://www.hiig.de/project/ethik-der-digitalisierung/
LITERATUR:
*Cowls, J., Darius, P., Golunova, V., Mendis, S., Prem, E., Santistevan, D., Wang, W. (2020). Freedom of Expression in the Digital Public Sphere [Policy Brief]. Research Sprint on AI and Content Moderation. Zu finden unter https://graphite.page/policy-brief-values
*Iramina, A., Spencer-Smith, C., Yan, W. (2020). Disclosure Rules for Algorithmic Content Moderation [Policy Brief]. Research Sprint on AI and Content Moderation. Zu finden unter https://graphite.page/policy-brief-blackbox
*Bloch-Wehba, H., Fernandez, A., Morar, D. (2020). Making Audits Meaningful [Policy Brief]. Research Sprint on AI and Content Moderation. Zu finden unter https://graphite.page/policy-brief-audits
QUELLEN:
*Im Video bei 01’05’’: https://help.instagram.com/234606571236360
*Im Video bei 03’33’’: https://www.bbc.com/news/54467384
*Im Video bei 04’12’’: https://www.cmu.edu/news/stories/archives/2021/february/ai-mistakes-chess-discussions.html
TEAM:
Frederik Efferenn, Vincent Frisch, Hanna-Sophie Bollmann, Johannes Girke, Caroline Heinrich, Nico-Alexander Wilhem und Miriam Menzel.
#contentmoderation #plattform #socialmedia #InhalteModeration #DigitalUndDisziplinlos #socialmediaplatforms #erklärvideo