Zusammenfassung von Digitale Drecksarbeit

Die Säuberung des Internets

Jeden Tag stellen Facebook-Nutzer 350 Millionen Fotos in das soziale Netzwerk ein. Bei YouTube erscheint jede Minute neues Videomaterial in der Länge von 300 Stunden. Angesichts dieser riesigen Mengen frischer Inhalte ist es erstaunlich, wie wenig Gewalt, Pornografie, Kindesmissbrauch und anderes Illegales und Verstörendes auf den Plattformen zu sehen ist. Einzelfälle, die bekannt werden, bleiben nicht lange online. Dafür sorgt allerdings keine automatische Bilderkennungssoftware, denn die könnte diese komplexe Aufgabe nicht lösen: Gesichtsausdrücke, Körperhaltungen, Gegenstände – Software erkennt vieles nicht oder interpretiert es falsch, etwa im Fall eines afroamerikanischen Paars, das von einer Software als „Gorillas“ eingestuft wurde. Bei Videos ist die Trefferquote noch kleiner als bei Bildern. Lediglich eine Vorsortierung ist möglich; sie erkennt etwa Bilder, die nackte Haut oder Genitalien zeigen.

Die Frage, ob es sich bei einem Bild oder Video um etwas Anstößiges handelt, beantworten keine Algorithmen, sondern Menschen. Sogenannte Content Moderators sichten täglich Tausende Fotos. Einer...