Jeder von uns hat es bestimmt schon mal erlebt oder mitbekommen – Cybermobbing, Gerüchte im Netz oder hasserfüllte Kommentare unter Beiträgen. Mit welchen Mitteln gegen solche Inhalte gekämpft wird, erfahrt ihr in diesem Beitrag!

Manche Medien ermöglichen ihren Nutzern, Online-Beiträge zu kommentieren. Und oft kommt es zu Hasskommentaren oder gar volksverhetzenden Anmerkungen. Sie so schnell wie möglich zu löschen oder von vornherein zu verhindern, muss das Ziel jedes Mediums sein. KI-Systeme könnten schon bald in der Lage sein, Hasskommentare eigenständig zu erkennen und zu löschen – viel schneller als ein Mensch, und rund um die Uhr. Es gibt bereits heute Software zum Aufspüren von Schlagworten, die auf problematische Inhalte hinweisen. Doch die Leistungsfähigkeit dieser Systeme ist begrenzt, weil sie die Bedeutung von Texten nicht verstehen.

Der Kampf gegen Hasskommentare in Unternehmen

Künstliche Intelligenz muss nicht nur zum Löschen der Hasskommentare verwendet werden. Viele Plattformen wie TikTok checken vor Veröffentlichung eines Kommentars den Inhalt und bauen Warnungen ein, eventuell machen sie sogar Vorschläge für eine Umformulierung. Dennoch sind für die Programme viel Anpassung nötig, wie ihr an diesem Screenshot erkennen könnt. Auch wenn ihr eine Beleidigung als Kommentar schreibt, könnt ihr diesen veröffentlichen und werdet erst gesperrt, wenn euch jemand meldet.

Unternehmen, die KI nutzen wollen, müssen sich einige Gedanken machen. Denn die KI kann so eingestellt werden, dass sie nur vergleichsweise sichere Treffer anzeigt. Eine große Zahl an potenziellen Hetzkommentaren kann dabei übersehen werden. Genauso gut kann sie auch alles auflisten, was auch nur im Ansatz Hassrede sein könnte.

Das bedeutet umso mehr Kontrollarbeit für die Mitarbeiter. Jeden Tag ist genau das ihr Job: Kommentare lesen, moderieren, notfalls löschen und melden. Sobald ein möglicherweise strafbarer Kommentar entdeckt wird, muss ein einseitiges Formular ausgefüllt werden. Darin müssen die Kontaktdaten angegeben, den zu meldenden Beitrag mit Ort und Datum beschrieben sowie einige Anlagen angefügt werden – und zwar in Form von Screenshots. 

Das Problem mit der KI

• Ironie und Sarkasmus werden nicht erkannt
• Kraftausdrücke können weggelassen werden –> trotzdem Hasskommentar
• Einschränkung der Meinungsfreiheit
• Subtilen Humor, Slang oder selbstermächtigte Sprache kann sie nicht begreifen

Hasskommentare und Meinungsfreiheit

In vielen sozialen Netzwerken tummeln sich zahlreiche User*innen, die gegen ethnische, sexuelle oder religiöse Minderheiten hetzen. Jedoch ist nun die Frage, ob die KI die Meinungsfreiheit einschränkt. Denn selbst Juristen sind sich meistens nicht sicher, was man nun als Hasskommentare einstufen kann und was nicht. Oft kommt es auf den Einzelfall an.

Sollen potenzielle Hasskommentare aufgrund der Meinungsfreiheit erst einmal veröffentlicht werden, obwohl sie anschließend kaum wieder rückgängig zu machen sind? Oder soll ein Mechanismus zwischengeschalten werden, der Kommentare vor dem Online-Gehen prüft, aber Probleme über „Zensur“ entstehen könnten?

---

Als Unterstützungstool brauchen wir Künstliche Intelligenz, als automatisches Tool kann es auf keinen Fall funktionieren.

Aljoscha Burchardt vom Deutschen Forschungszentrum für Künstliche Intelligenz

---

„Das, finde ich, ist die Debatte, die stattfinden muss: Was ist der teurere Schaden?“, sagt Aljoscha Burchardt, Experte vom Deutschen Forschungszentrum für Künstliche Intelligenz. Seiner Meinung nach muss der Mensch beim Einsatz von KI immer wieder eingreifen, denn „als automatisches Tool auf keinen Fall funktionieren.“

Eine Zusammenfassung zu diesem Thema könnt ihr euch in diesem Video anschauen.

Mit dem Laden des Videos akzeptieren Sie die Datenschutzerklärung von YouTube. Durch Anklicken des Buttons „Video laden“ stellen Sie eine Verbindung zu youTube her.
Mehr erfahren

Video laden

YouTube immer entsperren

Jeder fünfte Nutzer soll ein Mal Opfer von Hate Speech geworden sein.

Eine Forschungsgruppe der Universität Leipzig hat die Ursachen, Folgen und Erscheinungsformen von Hassrede untersucht. Im Rahmen einer Umfrage wurden Teilnehmer zu diesem Thema interviewt. Knapp jeder Fünfte der Befragten war schon einmal selbst Opfer von Hate Speech im Internet. Je jünger die Befragten sind, desto höher der Anteil der Betroffenen. 32 Prozent der 16- bis 30-Jährigen wurden bereits mit Hassrede konfrontiert.

Wie ist Hassrede im Gesetz geregelt?

Das Internet war für das Strafgesetzbuch lange Neuland. Volksverhetzung, Beleidigung, Verleumdung oder üble Nachrede sind offline so wie online schon immer eine Straftat. Jedoch hat sich lange kein Gesetz mit Hassrede befasst.

Nach ersten deutschen und europäischen Urteilen hat nun der Bundestag ein Gesetz zur Rechtsdurchsetzung in sozialen Netzwerken erlassen, das am 1. Oktober 2017 in Kraft trat. Das so genannte Netzwerkdurchsetzungsgesetz (NetzDG) verpflichtet die Betreiber gewinnorientierter sozialer Netzwerke dazu, „offensichtlich strafbare Inhalte“ innerhalb von 24 Stunden nach Eingang einer Beschwerde zu löschen. Bei Nichtbeachtung dieser Vorgabe drohen den Unternehmen Bußgelder von bis zu 50 Millionen Euro.

Hinzu kommt ein entscheidendes neues Instrument: Ab Februar 2022 müssen soziale Netzwerke Mord- und Vergewaltigungsdrohungen und andere schwere Hassdelikte nicht mehr nur löschen, sondern auch dem Bundeskriminalamt melden.

Hier sind einige Gesetze aus dem Netzwerkdurchsetzungsgesetz, die auch ihr beachten solltet:

• § 86a – Verbotene Symbole
  • Hakenkreuze, die nationalsozialistische Fahne und der SS-Totenkopf
• § 111 – Öffentlicher Aufruf zu Straftaten
  • Hass gegen bestimmte Bevölkerungsgruppen
• § 130 – Volksverhetzung
  • Ein Schild mit dem Text „Maske macht frei“ – Geldstrafe
• § 131 – Gewaltdarstellung
  • Verbreitung von Videos, z.B. Enthauptungsvideos
• § 166 Beschimpfung religiöser Bekenntnisse
  • Verbreiten von Schriften den Inhalt des religiösen oder weltanschaulichen Bekenntnisses anderer in einer Weise beschimpft
• § 185 – Beleidigung
  • Geldstrafen oder Haftstrafen

Der Europarat setzt im Kampf gegen Hate Speech auf die Menschenrechte – denn jede*r hat das Recht, nicht diskriminiert zu werden. Mehr dazu findet ihr bei Bookmarks, dem Handbuch des Europarates zur „Bekämpfung von Hate Speech im Internet durch Menschenrechtsbildung“. 

Ebenso hat der Europäische Gerichtshof für Menschenrechte auf Englisch eine Faktensammlung herausgebracht. Hier könnt ihr nachlesen, welche Fälle von Hate Speech wie und warum bestraft wurden. 

Fazit

Es gibt immer noch kein hundertprozentig sicheres System, um Hasskommentare richtig zu erkennen und zu löschen. Ihr als Nutzer könnt Internet-Trolle einfach ignorieren oder bei Verstößen der Richtlinien beim Seitenvertreiber oder auch der Justiz melden.