Call for Submissions: Mensch-Maschine-Interaktion in der Content-Moderation

Wir suchen Perspektiven und Erfahrungen aus Afrika, Asien und darüber hinaus.

Wie funktioniert das Zusammenspiel von (teil-)automatisierten Systemen und menschlicher Intervention in der Content-Moderation? Wo ergänzen sich technische Filter und menschliche Entscheidungen – und wo entstehen Reibungspunkte? Welche Faktoren beeinflussen die Balance zwischen Effizienz, Fairness und Transparenz in diesem Bereich?

Wir suchen Aktivist*innen, Forschende, Journalist*innen und NGOs, die sich mit diesen Fragen beschäftigen und ihr Wissen in unsere Forschung mit eigenen Beiträgen einbringen möchten! Der Call richtet sich damit nicht nur an Einzelpersonen, sondern explizit auch an zivilgesellschaftliche Organisationen. Dabei können sowohl bestehende Arbeiten oder Projekte als auch neue Ideen eingereicht werden.

Worum geht es?

Das ForschungsprojektHuman in the Loop? Autonomie und Automation in sozio-technischen Systemen untersucht in verschiedenen Fallstudien, wie Mensch-Maschine-Interaktion in (teil-)automatisierten Entscheidungsprozessen funktioniert. Ein Fokus liegt auf der Content-Moderation: Unser Ziel ist es, herauszufinden, welche Faktoren dieses Zusammenspiel beeinflussen und wie es besser gestaltet werden könnte.

Im Fokus dieses Calls stehen Perspektiven und Erfahrungen außerhalb Europas und Nordamerikas. Länder wie bspw. Kenia oder Nigeria spielen zentrale Rollen bei der Moderation von Inhalten für globale Plattformen wie TikTok, Instagram/Facebook oder YouTube. Gleichzeitig rücken dort zivilgesellschaftliche Initiativen, die bessere Arbeitsbedingungen fordern, zunehmend in den Vordergrund. Diese verstärkte Sensibilisierung für menschliche Kosten und Faktoren in der Moderation digitaler Kommunikationsräume bietet eine wichtige Gelegenheit, globale Herausforderungen und lokale Lösungsansätze noch stärker in den Blick zu nehmen.

Warum einen Beitrag einreichen?

Wir freuen uns auf Ihre Beiträge und den gemeinsamen Austausch zu innovativen Ansätzen in der Content-Moderation! Ihre Erfahrungen helfen uns dabei, die richtigen Fragen zu stellen und Herausforderungen zu identifizieren. So können wir Handlungsempfehlungen für eine bessere Gestaltung hybrider Moderationssysteme ableiten und sie den richtigen Akteur*innen zur Verfügung zu stellen. Ihre Einsichten fließen nicht nur in unsere Forschung ein – wir möchten auch einen offenen Austausch anstoßen, von dem alle Beteiligten profitieren. Zusätzlich bieten wir:

• Veröffentlichung ausgewählter Beiträge in einer wissenschaftlichen Publikation
• Ein virtuelles Austausch-Event mit anderen Expert*innen aus Praxis und Forschung
• Eine Prämie von 500 € für den besten Beitrag

Die Auswahl erfolgt durch das Forschungsteam unter Berücksichtigung der Relevanz hinsichtlich nachfolgend genannter Themenbereiche.

Welche Beiträge suchen wir?

Wir freuen uns über praxisnahe Einblicke und neue Perspektiven – ob als Artikel, Essays, Erfahrungsberichte, Interviews, audiovisuelle Projekte oder kreative Formate. Besonders relevant sind Beiträge zu folgenden Fragen:

• Arbeitsrealität: Mit welchen Herausforderungen sind Moderatorinnen täglich konfrontiert? Welche Unterstützung erhalten sie? Wo besteht aus praktischer Erfahrung der größte Handlungsbedarf?
• Globale Perspektiven: Welche besonderen Herausforderungen entstehen bei der Bearbeitung fremdsprachiger Inhalte? Wie gehen Moderierende mit kulturellen, gesellschaftlichen oder rechtlichen Diskrepanzen zwischen dem persönlichen Kontext und dem Kontext der Inhalte um?
• Automatisierung & KI: Können automatisierte Systeme helfen, die psychische Belastung menschlicher Moderatorinnen zu reduzieren? Welche technischen Lösungen sind sinnvoll – und wo setzt Automatisierung möglicherweise an der falschen Stelle an?
• Best Practices: Welche erprobten Ansätze und Erfahrungsberichte gibt es zu Herausforderungen und Lösungen in der Moderationsarbeit? Wie schneiden technologische Lösungen im Verhältnis zur menschlichen Unterstützung erfahrungsgemäß ab?

Details

• Formate: Beiträge können in gängigen Dateiformaten (z.B. Word, PDF)via E-Mail eingereicht werden.
• Schriftliche Beiträge: Maximal 5 DIN-A4-Seiten (ohne Referenzen, Transkripte oder Datensätze).
• Andere Formate: Beiträge, die keine Artikel/Essays (Schriftstücke im weiteren Sinne) sind, sollten sich an diesem Maßstab orientieren.
• Einreichung: Bitte senden Sie Ihren Beitrag an Sarah Spitz unter .
• Einreichungsfrist verlängert bis 31. Mai 2025

Über unsere Forschung

Das Forschungsprojekt Human in the Loop untersucht, wie menschliche Beteiligung besser in automatisierte Entscheidungsprozesse integriert werden kann, um deren Qualität, Transparenz und Nachvollziehbarkeit zu gewährleisten. Durch die Analyse von vier Fallstudien, identifiziert das Projekt Faktoren, die Entscheidungen beeinflussen, identifiziert Fehler, Anfälligkeiten und Stärken aller beteiligten technischen Systeme und menschlichen Personen. Zentrale Fragen betreffen die Gestaltung sinnvoller Interaktionen zwischen Mensch und Maschine, die Bedeutung menschlicher Entscheidungen für die Qualitätssicherung von Automatisierungen sowie die Sicherstellung von Rechtssicherheit, Transparenz und Nachvollziehbarkeit in dieser Interaktion. Es werden auch Anforderungen für die Interaktion zwischen Mensch und Maschine in Bezug auf technische Systeme, menschliche Entscheidungsträger, deren Kontext und Umwelt untersucht. Das Projekt Human in the Loop wird von der Stiftung Mercator gefördert.