Connect with us

Hi, what are you looking for?

C

Nachrichten

Unstatistik des Monats: Falsch positive Chatkontrolle

Seit Mitte Mai werden die Pläne der EU zur anlasslosen Durchsuchung von Mail- und Messenger-Inhalten heiß diskutiert. Der Gesetzentwurf wie auch seine Behandlung durch die Medien und die Bundesregierung sind unsere Unstatistik des Monats Juni. Denn schon allein aus statistischen Gründen schlägt die EU mit der angestrebten Chatkontrolle einen Irrweg ein.

Unstatistik des Monats: Falsch positive Chatkontrolle
Unstatistik des Monats: Falsch positive Chatkontrolle

Seit Mitte Mai werden die Pläne der EU zur anlasslosen Durchsuchung von Mail- und Messenger-Inhalten heiß diskutiert. Der Gesetzentwurf wie auch seine Behandlung durch die Medien und die Bundesregierung sind unsere Unstatistik des Monats Juni. Denn schon allein aus statistischen Gründen schlägt die EU mit der angestrebten Chatkontrolle einen Irrweg ein.

Einerseits wurden die mit dem Gesetz verbundenen Eingriffe in die Privatsphäre der Nutzer und die statistischen Probleme durchaus abgewogen: „Laut EU sollen die Provider Scan-Methoden verwenden, die nach dem Stand der Technik in der Branche den geringsten Eingriff in die Privatsphäre darstellen – auch um Fehlalarme so weit wie möglich [zu] begrenzen“, schreibt der Deutschlandfunk. Andererseits haben mehr als 70 Grundrechtsorganisationen dennoch – und aus statistischer Sicht zu Recht – gegen das Gesetz protestiert und u.a. eine Petition dagegen gestartet. Auch Volker Wissing, Minister für Digitales und Verkehr, will laut FAZ„ mit allen Argumenten dagegen vorgehen“. Inzwischen hat die Bundesregierung einen Katalog mit 61 kritischen Fragen an die EU-Kommission geschickt, der auf dem Portal Netzpolitik.org veröffentlicht wurde.

Die hier interessierende Frage Nr. 7 des Katalogs beschäftigt sich mit der Problematik der möglichen falsch positiven Treffer: „Wie ausgereift sind die modernen Technologien zur Vermeidung falsch positiver Treffer? Welcher Anteil an falsch-positiven Treffern ist zu erwarten, wenn Technologien zum Nachweis von Grooming eingesetzt werden? Hält es die COM [Kommission] zur Verringerung der falsch-positiven Treffer für notwendig, vorzuschreiben, dass Treffer nur dann veröffentlicht werden, wenn die Methode bestimmte Parameter erfüllt (z.B. eine Trefferwahrscheinlichkeit von 99,9 Prozent, dass der betreffende Inhalt angemessen ist)?“

Diese Frage legt die Vermutung nahe, dass trotz aller Debatten um falsch positive Corona-Tests immer noch sehr wenige politische Entscheidungsträger und Medienvertreter die Brisanz dieses Problems erkannt haben. Denn bei einer schier unvorstellbaren Zahl an täglich verschickten Nachrichten, von denen lediglich ein (glücklicherweise) sehr kleiner Anteil missbräuchliche Inhalte enthält, führt selbst ein exzellenter Algorithmus zu einer sehr großen Zahl an Fehlalarmen.

Allein auf WhatsApp und allein in Deutschland werden pro Tag rund 3 Milliarden Nachrichten verschickt (siehe Beiträge von Chip.de und Messengerpeople.com). Angenommen, nur 0,0001 Prozent, also insgesamt 3.000 aller dieser Nachrichten, enthalten unangemessene Inhalte. Dann werden 99,9 Prozent davon oder 2.997 Nachrichten entdeckt. Zugleich werden jedoch von den nach wie vor fast 3 Milliarden „unschuldigen“ Nachrichten 0,1 Prozent, also fast 3 Millionen Nachrichten, als unangemessen fehlklassifiziert. Die wären dann mit einem weiteren Algorithmus oder schlimmstenfalls von Menschen erneut zu prüfen. Und das jeden Tag.

Selbst mit einer viel besseren Methode, die 99,999 Prozent aller Nachrichten korrekt als „angemessen“ oder „unangemessen“ erkennt, kommen auf jede richtigerweise als unangemessen erkannte Nachricht zehn Nachrichten, die vom Algorithmus zu Unrecht als unangemessen deklariert werden.

Nun könnte man einwenden, dass Algorithmen nicht nur einzelne Nachrichten klassifizieren, sondern ganze Chatverläufe. Das verschiebt aber lediglich das Problem. Denn im Zweifelsfall müssen zwar weniger, aber dafür umso längere Nachrichtenverläufe zusätzlich geprüft werden. Das Risiko, dass ein von einer KI-Anwendung verdächtigter Nutzer zu Unrecht ins Visier gerät, bleibt auf jeden Fall unzumutbar hoch.

Und das ist es, was die Chatkontrolle für beide Seiten unverhältnismäßig macht. Für den Bürger, der selbst beim Einsatz moderner Technologien mit hoher Wahrscheinlichkeit unschuldig ist, wenn er verdächtigt wird. Und für Behörden, die dann kaum noch etwas anderes zu tun haben, als zu Unrecht Verdächtigte wieder zu entlasten. Wenn Minister Wissing und der Rest der Bundesregierung es ernst meinen damit, alle Argumente auf den Tisch zu bringen, dann sollte dieses Argument auf dem Silbertablett serviert werden.

Quelle: RWI – Leibniz-Institut für Wirtschaftsforschung e.V.

Click to comment

Leave a Reply

Deine E-Mail-Adresse wird nicht veröffentlicht.

Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.

Dir gefällt vielleicht auch

Nordrhein-Westfalen

Eine Abschätzung, wie viel man als Vertretungslehrer in NRW mit oder ohne 2. Staatsexamen in Nordrhein-Westfalen (NRW) verdient. Das Gehalt hängt von mehreren Faktoren...

Nachrichten

In der Wattenscheider Stadtmitte gibt es einen neuen polnischen Supermarkt. Den Niedergang mancher Einkaufsstraße machen manche an der Menge von Läden von und für...

Bochum

Ein außergewöhnliches Video zeigt Bochum mit Hilfe von Mikro-Drohnenaus neuen Blickwinkeln und sorgt in den sozialen Netzwerken für Aufsehen bei mehr als einer Viertelmillion...