- Der Vergleich
- Rechnen
- Wie Reddit seine Millionen Benutzer in eine Armee von Inhaltsmoderatoren verwandelte
Eines der größten Probleme für Reddit, die selbsternannte Titelseite des Internets, besteht darin, herauszufinden, was in ihren Feeds erscheinen darf und was nicht. Wenn es um die Moderation von Inhalten geht, die in den letzten Jahren immer mehr in die öffentliche Aufmerksamkeit gerückt ist, verfolgt Reddit einen anderen Ansatz als andere große soziale Plattformen. Anders als beispielsweise Facebook, das einen Großteil der Arbeit an Moderationsfarmen auslagert, verlässt sich Reddit in hohem Maße auf seine Communities (oder Subreddits), um sich selbst zu überwachen. Die Bemühungen ehrenamtlicher Moderatoren orientieren sich an den von jedem Subreddit festgelegten Regeln, aber auch an einer Reihe von Werten, die von Reddit erstellt und durchgesetzt werden. Allerdings steht das Unternehmen für dieses Modell in der Kritik, das manche als Laissez-faire und mangelnde Verantwortung interpretieren. Chris Slowe, CTO von Reddit, sagt jedoch, dass dies eine völlige Falschdarstellung sei. „Es mag heute verrückt klingen, das im Internet zu sagen, aber der Durchschnittsmensch ist ziemlich gut. Wenn man Reddit im großen Maßstab betrachtet, sind die Menschen kreativ, lustig, kooperativ und unterhaltsam, alles Dinge, die die Zivilisation zum Funktionieren bringen“, sagte er gegenüber TechRadar Pro. „Unser zugrunde liegender Ansatz besteht darin, dass wir wollen, dass Gemeinschaften ihre eigenen, politischen Kulturen etablieren.“ und philosophische Systeme. Damit dieses Modell funktioniert, müssen wir Werkzeuge und Fähigkeiten bereitstellen, um Minderheiten anzusprechen.“
ein anderes Biest
Slowe war der erste Mitarbeiter von Reddit, der 2005 als Ingenieur eingestellt wurde, nachdem er zwei Gästezimmer von den Mitbegründern Steve Huffman und Alexis Ohanian gemietet hatte. Die drei hatten sich beim ersten Lauf des mittlerweile berüchtigten Y-Combinator-Beschleunigerprogramms kennengelernt, was bei Slowe großartige Erinnerungen hinterließ, aber auch einen verpatzten Start und Zeit zum Füllen hinterließ. Obwohl er zwischen 2010 und 2015 eine Pause bei Reddit einlegte, vermittelt Slowes Erfahrung ihm einen einzigartigen Einblick in das Wachstum des Unternehmens und wie sich die Herausforderungen, denen er gegenübersteht, im Laufe der Zeit verändert haben. In den Anfangsjahren sei es darum gegangen, die Infrastruktur auszubauen, um dem wachsenden Verkehrsaufkommen gerecht zu werden. Doch in der zweiten Amtszeit von 2016 bis heute hat sich der Schwerpunkt auf Benutzervertrauen, Sicherheit und Schutz verlagert. „Wir bieten Benutzern Tools zum Melden von Inhalten, die gegen Website-Richtlinien oder von Moderatoren festgelegte Regeln verstoßen, aber nicht alles wird gekennzeichnet. Und in einigen Fällen heißt es im Bericht, dass es zu spät ist“, erklärte er. „Als ich 2016 zurückkam, bestand eine meiner Hauptaufgaben darin, genau herauszufinden, wie Reddit-Communitys funktionieren und was eine Website gesund macht. Sobald wir die ungesunden Symptome identifiziert haben, arbeiten wir von dort aus.
(Bildnachweis: Reddit)
Automatische Steuerung
Im Gegensatz zu anderen sozialen Plattformen verfolgt Reddit einen mehrschichtigen Ansatz bei der Moderation von Inhalten, der so konzipiert ist, dass er dem „Community First“-Ethos des Unternehmens so nahe wie möglich kommt.
Die primitivste Form der Inhaltsüberprüfung wird von den Benutzern selbst durchgeführt, die die Macht haben, für Dinge zu stimmen, die ihnen gefallen und nicht gefallen. Obwohl dieser Prozess beliebte Beiträge anregt und unpopuläre Beiträge verdrängt, ist Beliebtheit nicht immer ein Zeichen von Eigenverantwortung.
Community-Mods fungieren als zweite Verteidigungslinie und sind mit der Macht ausgestattet, Beiträge zu entfernen und Benutzer zu sperren, die gegen die Richtlinien oder Inhaltsrichtlinien verstoßen. Laut Slowe lautet die häufigste Subreddit-Regel im Wesentlichen: „Sei kein Idiot.“
Der jährliche Transparenzbericht des Unternehmens, der alle jedes Jahr aus Reddit entfernten Inhalte aufschlüsselt, legt nahe, dass Mods für etwa zwei Drittel aller Post-Entfernungen verantwortlich sind.
Um von Mods übersehene schädliche Inhalte zu erkennen, gibt es Reddit-Administratoren, die direkt beim Unternehmen angestellt sind. Diese Mitarbeiter führen manuelle Stichprobenkontrollen durch, sind aber auch mit Technologietools ausgestattet, um problematische Benutzer zu identifizieren und individuelle Interaktionen zu überwachen, die privat stattfinden.
„Wir nutzen eine Reihe von Signalen, um Probleme aufzudecken und festzustellen, ob einzelne Benutzer vertrauenswürdig sind und in gutem Glauben gehandelt haben“, sagte Slowe. „Das Schwierige daran ist, dass man nie alles verstehen wird. Und das liegt zum Teil daran, dass es immer ein wenig grau sein wird und es vom Kontext abhängt. „Auf die Frage, wie diese Situation verbessert werden könnte, erklärte Slowe, dass er sich in einer schwierigen Lage befinde: hin- und hergerissen zwischen dem Wunsch, eine gemeinschaftsorientierte Unternehmenspolitik durchzusetzen, und dem Wissen, dass es auf dem Markt Zukunftstechnologien gebe, die dabei helfen könnten, einen höheren Prozentsatz zu ermitteln des Missbrauchs.
Beispielsweise beginnt Reddit bereits damit, fortschrittliche Techniken der Verarbeitung natürlicher Sprache (NLP) einzusetzen, um die Stimmung von Benutzerinteraktionen genauer zu messen. Slowe wies auch auf die Möglichkeit hin, KI zur Analyse von auf der Plattform geposteten Bildern einzusetzen, und räumte ein, dass im Laufe der Zeit mehr Moderationsmaßnahmen ohne menschliches Eingreifen erfolgen würden.
Allerdings warnte er auch vor der Fehlbarkeit dieser neueren Systeme, die anfällig für Voreingenommenheit und sicherlich anfällig für Fehler sind, und vor den Herausforderungen, die sie für das Reddit-Modell darstellen könnten.
„Eigentlich ist es ein bisschen beängstigend. Wenn wir dies als Strafverfolgungsmodell betrachten, ist es das Gleiche, als würden wir buchstäblich überall Kameras aufstellen und uns auf großherzige Maschinen verlassen, die uns informieren, wenn es ein Verbrechen gibt“, erklärte er.
(Bildnachweis: Reddit)
wenn das Gehen schwer fällt
Die Moderation von Inhalten ist ein Problem, von dessen Lösung keiner der Social-Media-Giganten behaupten kann, wie die Debatte um Donald Trumps Accounts und das Verbot des Talk-App-Stores zeigen. Auch Reddit beteiligte sich an diesen Gesprächen und traf schließlich die Entscheidung, den Subreddit r/DonaldTrump zu verbieten. So mächtig das Community-Modell auch ist, im Kern von Reddits Ansatz gibt es erhebliche Konflikte. Das Unternehmen strebt danach, seinen Gemeinden nahezu völlige Autonomie zu geben, ist aber letztendlich gezwungen, redaktionelle Entscheidungen darüber zu treffen, wo die Grenze gezogen wird. „Ich möchte nicht der akribische, willkürliche Schiedsrichter darüber sein, was richtig und was falsch ist“, sagte uns Slowe. „Aber gleichzeitig müssen wir in der Lage sein, eine Reihe von anzuwenden. Es ist ein schmaler Grat. Reddit versucht, seine Inhaltsrichtlinien so prägnant wie möglich zu halten, um Lücken zu schließen und die Durchsetzung zu erleichtern, Überarbeitungen sind jedoch üblich. Beispielsweise wurden Rachepornos im Jahr 2015 unter der ehemaligen CEO Ellen Pao von der Plattform verbannt. Im vergangenen Jahr fügte das Unternehmen eine Klausel hinzu, die die Verherrlichung von Gewalt verbietet. „Unseren Werten treu zu bleiben bedeutet auch, unsere Werte zu bekräftigen und sie neu zu bewerten, während wir neue Wege entdecken, das System auszutricksen und die Grenzen zu verschieben“, erklärte Slowe. „Wenn wir eine Änderung vornehmen, bei der es darum geht, Communities auf der ganzen Linie zu verschieben, ist das das Ende eines langen Prozesses, in dem wir Lücken in unseren Inhaltsrichtlinien finden und von dort aus zurückgehen.“ Obwohl die meisten zustimmen werden, dass das Fehlen von Rachepornos absolut positiv ist und dass auf r/The_Donald zu Gewalt aufgestachelt wurde, zeigen beide Beispiele, dass Reddit in der gleichen Weise Zurückhaltung üben sollte wie Facebook, Twitter oder andere. eine andere Plattform. Wenn schwierige Fragen gestellt werden müssen, vertraut Reddit mit anderen Worten nicht mehr darauf, dass seine Communities mit einer positiven Antwort antworten.