Computerlinguistik ethisch abgerutscht

Wie prioritär die Auflösung der Bundeswehr ist, zeigt derzeit nicht nur die allabendliche Berichterstattung zu den Folgen von Krieg[1]. Nein, eine von der Gesellschaft getragene Armee macht diese – die Gesellschaft – auch furchtbar anfällig für anderweitige autoritäre Versuchungen. So ist schon Existenz einer Armee das Nachgeben gegenüber der maximalen autoritären Versuchung, denn ihr zugrunde liegt ja die Überzeugung, eine große Klasse von Problemen ließe sich lösen, indem mensch hinreichend viele der richtigen Menschen tötet – und dieses Töten sei auch gerechtfertigt, wenn nicht gar geboten.

Außerhalb des engeren Tötungsgeschäfts fallen militärisch insprierte Antworten normalerweise etwas weniger final aus, doch bleibt auch dort ethisch kaum ein Stein auf dem anderen, wenn die Armee interveniert. Ein gutes und aktuelles Beispiel ist das Projekt, von dem die Computerlinguistin Michaela Geierhos von der Universität der Bundeswehr in Computer und Kommunikation vom 9.4.2022 berichtet.

Im Groben will die ihre Gruppe statistische und vielleicht linguistische Werkzeuge („künstliche Intelligenz“) zur – immerhin noch polizeilichen und nicht militärischen – Massenüberwachung von Telekommunikation nutzen. In den Geierhos' Worten:

…den Ermittler zu unterstützen, überhaupt mal zu erkennen, was es in Millionen von Zeilen, wo kommen da überhaupt Namen vor von Personen, was ist ne Adressangabe, gehts jetzt hier um Drogen oder gehts vielleicht um ganz was anderes.

Mit anderen Worten: Die Polizei soll richtig viele Menschen abschnorcheln – denn sonst kommen ja keine „Millionen von Zeilen“ zusammen – und dann per Computer rausbekommen, welche der Überwachten die bösen Buben sind. Das ist der gute, alte Generalverdacht, und Menschen mit einem Mindestmaß an menschenrechtlichem Instinkt werden so etwas ganz unabhängig von den verfolgten Zwecken ablehnen. Grundfeste des Rechtsstaats ist nun mal der Gedanke, dass allenfalls dann in deine Grundrechte eingegriffen wird, wenn es einen begründbaren Verdacht gibt, du habest gegen Gesetze verstoßen – und auch dann können nur sehr konkrete Hinweise auf schwere Verstöße so schwere Eingriffe wie die „TKÜ“ rechtfertigen (vgl. §100a StPO).

Transparent: Wer nichts zu verbergen hat ist langweilig

2008 zierte dieses Transparent das Berliner bcc, während der CCC dort tagte.

In den Beispielen von Geierhos hingegen geht es um ein von vorneherein zweckloses Unterfangen wie die repressive Bekämpfung des illegalen Handels mit und Gebrauchs von Rauschmitteln. Das völlige Scheitern dieses Ansatzes ist ein besonders schönes Beispiel dafür, wie trügerisch die autoritäre Versuchung ist. Wie so oft mögen die (staats-) gewalttätigen Lösungsansätze naheliegend sein. Das heißt aber noch lange nicht, dass sie tatsächlich funktionieren, schon gar nicht auf Dauer. Und da habe ich noch nicht mit den schweren Nebenwirkungen angefangen.

Leider ist auch der Moderator Manfred Kloiber – versteht mich nicht falsch: das ist, soweit ich das nach Plaudereien mit ihm im DLF-Studio beim Chaos Communication Congress beurteilen kann, ein sehr netter Mensch – schon der autoritären Versuchung erlegen, wenn er fragt:

Auf der anderen Seite würde man sich ja wünschen, dass man genau davon [z.B. von Drogengeschichten] ein unabhängiges System findet, was eben halt über die Bereiche hinweg Kriminalität oder anormale Vorgänge feststellen kann.

Ich weiß nicht, ob ihm klar war, was er sich da wünscht, und die eher stolpernden Worte mögen andeuten, dass die Frage so nicht geplant war. Jedenfalls: Eine universelle Verhaltensüberwachung, die nonkonformes Verhalten (nichts anderes sind ja „anormale Vorgänge“ im sozialen Kontext) polizeilicher Intervention zugänglich machen soll? Wer könnte sich sowas unter welchen Umständen zur Lösung welcher Probleme wünschen?

Zum „wer“ kann mensch immerhin schon mal antworten: Wissenschaftlerinnen der Universität der Bundeswehr, denn Geierhos antwortet ungerührt:

Ja, das ist eine sehr große Vision, aber von dieser Vision sind wir leider noch weit entfernt.

(Hervorhebung von mir).

Zu weiteren „Kriminalitätsbereichen“, in denen Geierhos ihr digitales Stahlnetz gerne auswerfen würde, sagt sie:

Also, Wirtschaftskriminalität, wie gesagt, schwieriger, dass wir das synthetisch herstellen können […] Aber so Chatprotokolle, Telegram und wie sie alle heißen, da kann man definitiv ansetzen, wir gucken uns aber auch an, Hasskriminalität beispielsweise, Mobbing, dass es in die Richtung geht.

Klar, das sind Probleme, deren autoritäre Behandlung (in Wahrheit wohl: Verschlimmerung) das Aushebeln selbst noch basalster Menschenrechtsstandards rechtfertigt.

Oh je. Wie genau haben Costa Rica und Island es geschafft, ihr Militär loszuwerden? Können wir das bitte auch ganz schnell haben?

[1]Bei den Bildern vom Krieg bleibt, nebenbei, zu bedenken, dass an ihnen im Gegensatz zum offenbar noch verbreiteten Eindruck nichts neu ist: Armeen, auch „unsere“ Armeen und die „unserer“ Verbündeten, haben seit jeher und auch in den letzten Jahren ganz ähnliche und noch schlimmere Gräuel angerichtet. Dass nennenswert viele sogar halbwegs gutwillige Menschen die aktuellen Gräuel zum Anlass nehmen, „unsere“ Fähigkeiten zum Anrichten von Gräueln verbessern zu wollen: Das wird künftige HistorikerInnen wohl ebenso verwundern wie uns heute die Freude, mit der nennenswerte Teile der kaiserlichen Untertanen in den ersten Weltkrieg gezogen sind. Mich verwundert schon heute beides in gleichem Maße. Aber das ist nun wirklich nicht Thema dieses Artikels.

Zitiert in: Ähm – ist das ein Wort?