Überwachung, Drohnen und der ganze Scheiß

Momentan lese ich das Buch »Kill Decision« von Daniel Suarez, das im aktuellen Abhörskandal nochmal an Brisanz dazugewinnt. Im Buch geht es um Drohnen, die autonom, also ohne jemanden, der in einer Kommandozentrale in Arizona am Joystick oder X-Box-Controller sitzt, z. B. in Pakistan oder Bottrop selbständig ein Ziel anvisieren und ausschalten.

Damit ist die Titel gebende Kill Decision gemeint – die Entscheidung zu töten. Bisher hatte immer ein Mensch den Finger Abzug oder Knopf. Doch diese Tötungsentscheidung wird man vermutlich outsourcen. Sie wird dann von autonom agierenden Algorithmen getroffen, die auf der Basis von Variablen entscheiden bzw. berechnen werden, ob ein Mensch eine Bedrohung oder ein gesuchtes Ziel ist.

978-3-499-25918-0

Ob jemand eine Bedrohung ist, wird die Software dann an bestimmten Verhaltensmerkmalen festmachen. Und dann kann praktisch jeder zum Ziel werden. Denn bedrohliche Verhaltensmerkmale sind Verhaltensweisen, die von der Norm abweichen. Dafür muss eine Norm definiert werden. Es gibt also Programmierer, die bestimmen, was normales Verhalten ist, und was nicht. Weicht man von dem allgemein normalen Verhalten ab, kann wes gefährlich werden.

Eine Abweichung von normalen Verhalten, und damit verdächtiges Verhalten, kann schon sein, wenn man im Sommer mit einer dicken Jacke in die U-Bahn steigt, wie es David Mery 2005 getan hat. In London wird ja bekanntlich fast die ganze Öffentlichkeit mit CCTV-Kamerasystemen überwacht. Von solchen Kameras wurde David Mery auf seinem Weg zur Arbeit gefilmt. An der Endstation erwarteten ihn Polizisten, die ihn als potenziellen Terroristen verhafteten. Sein Haus wurde durchsucht, er wurde verhört und kam dann gegen Kaution frei. Man konnte ihn nie eines Verbrechens überführen, aber bis heute wird er als potenzieller Terrorist gelistet und bekommt kein Ausreisevisum. Und das alles nur, weil sein Verhalten – scheinbar – von der Norm abwich.

Jetzt stellen wir uns mal vor, es wären keine Polizisten gewesen, die sein Verhalten beobachtet haben, sondern ein autonomes, vollautomatisches Überwachungssystem mit einer kampffähigen Drohne in der Luft. Die Software stellt fest, das Verhalten der Zielperson ähnelt dem eines kürzlich aufgezeichneten Terroristen vor seinem Anschlag. Der Algorithmus rechnet und kommt zum Entschluss, dass die Wahrscheinlichkeit für einen bevorstehenden Anschlag hoch ist, und dass der Schaden einer irrtümlichen Extermination niedriger ist, als der potentielle Schaden eines Anschlags. Die Kill Decision wird getroffen, die Rakete fliegt und der harmlose Bürger, der nur etwas von der Norm abweicht, ist ein Kollateralschaden im Krieg gegen den Terror. Eine Person, die für die Regierung irrelevant ist.

Die Argumentation der Drohnenbefürworter läuft darauf hinaus, dass dadurch nicht mehr das Leben eigener Soldaten gefährdet wird. Das ist richtig. Aber damit wird auch die Verantwortung über das Handeln der Drohnen abgegeben. Bombardiert eine Drohne versehentlich einen Schulbus, können die Entscheidungsträger im Nachhinein behaupten, es müsse sich um eine technische Fehlfunktion gehandelt haben. Gut, im Zweifelsfall könnte man auch den Offizier, der vor Ort den Fehler begeht, einen solchen Einsatz zu befehlen, zum Sündenbock machen (oder man befördert ihn zum Brigadegeneral).

Algorithmen bestimmen unser Leben schon in vielen Bereichen, von denen wir es eventuell gar nicht ahnen. Finanzalgorithmen führen Aktientransfers in Bruchteilen von Sekunden aus, so schnell, dass die Menschen in der Finanzaufsicht es gar nicht mehr nachvollziehen können. Algorithmen berechnen, ob wir kreditfähig sind und ob wir eine Krankenversicherung oder Leistungen bekommen (Letzteres vermutlich eher in den USA als bei uns, da ist noch der medizinische Dienst der Krankenkassen zuständig.

Wollen wir wirklich immer mehr Macht an Computer und Maschinen abgeben? Wollen wir uns immer mehr von Technik abhängig machen, die irgendwann so komplex sein wird, dass niemand mehr sie versteht; die so komplex ist, dass nur wenige Menschen Macht über sie haben und damit auch über uns?

Im Vergleich zum komplexen menschlichen Gehirn und dessen vielfältigen Endscheidungsmöglichkeiten sind Computer und Algorithmen immer noch dumm wie Brot. Obwohl sie schon einige Jahrzehnte auf dem Buckel hat, steck die Forschung über künstliche Intelligenz immer noch in den Kinderschuhen. Aber irgendwann könnte der Punkt erreicht sein, an dem die künstliche Intelligenz die menschliche übersteigt. Dann sind Maschinen in der Lage sich selbst zu verbessern und auch zu reproduzieren. Dieser Moment wird Singularität genannt. Der ist Stoff zahlreicher Szenarien in der Science Fiction, wenn zum Beispiel die Maschinen in »Terminator« den Aufstand proben, oder die Zylonen in »Battlestar Gallactica« sich gegen ihre Schöpfer wenden.

Mann könnte argumentieren, dass es besser ist, sich auf intelligente Maschinen zu verlassen, als auf dumme. Denn momentan tun wir genau das. Wir geben die Verantwortung für viele wichtige Entscheidungen an dumme Maschinen ab. Ich bin durchaus Fan des technischen Fortschritts, sehe aber auch seine Schattenseiten. Besser wäre es, die Verantwortung nur sehr vorsichtig abzugeben, vor allem bei wichtigen Entscheidungen, die das zukünftige Leben einzelner oder vieler Menschen maßgeblich beeinflussen können.

Damit komme ich jetzt zur Internetüberwachung (Prism, Tempora usw.). Auch hier taucht das Argument auf, wer nicht zu verbergen habe, bräuchte sich keine Sorgen machen. Mal ganz abgesehen davon, dass unsere Privatsphäre ein Grundrecht ist, dass die NSA millionenfach mit Füßen getreten hat, ist es auch falsch. Man muss sich nur anschauen, wie viele Menschen unschuldig in amerikanischen Gefängnissen und Todeszellen sitzen. Können wir diesem Sicherheitsapparat wirklich vertrauen, dass er immer in der Lage ist, die wirklichen von den scheinbaren Bedrohungen zu unterscheiden? Das Beispiel David Mery hat gezeigt, wer einmal ins Visier der Sicherheitsbehörden geraten ist, der wird den Verdacht so schnell nicht mehr los, und sei er noch so unbegründet. Einmal auf der schwarzen Liste und die Datenbanken vergessen einen nicht mehr.

Es reicht auch schon, verdächtige Bücher (was immer das sein soll) auf seiner Amazonleseliste zu haben, und schon wird einem die Einreise in die USA verweigert (kann den Link dazu gerade nicht finden, werden ihn hier nachreichen). Äußerungen auf Twitter oder Facebook können zu einem ähnlichen Ergebnis führen. Mann sollte sehr vorsichtig damit sein, was man von sich ins Netz gibt. Aber wie Prism und Tempora zeigen, ist Nichts sicher. Selbst private E-Mails und Daten in gesicherten Bereichen. In vielen Fällen kommt man über eine Internetnutzung gar nicht mehr herum, zum Beispiel wenn es um die Steuererklärung ans Finanzamt geht. Je mehr Prozesse auf den elektronischen Weg ins Internet ausgelagert werden, desto mehr sind wir Bürgern der totalen Überwachung durch andere Staaten hilflos ausgeliefert.

Die Regierung scheint, damit kein großes Problem zu haben. Die wäre vermutlich froh, wenn der BND über ähnlich technische Möglichkeiten verfügen würde. Und die anderen Politiker regen sich nur darüber auf, wenn sie selbst plötzlich direkt davon betroffen sind, wie bei der Sache mit dem Ausspionieren der EU-Büros in Brüssel. Drohnen möchte man natürlich auch gerne haben.

Im Buch »Kill Decision« gibt es Computersimulationen, die ein komplettes Bewegungsmuster einer Stadt für 24 Stunden am Tag simulieren kann. Durch Handydaten und anderen Quellen kann man damit simulieren, wo sich wer zu welchem Zeitpunkt befunden hat. Man kann alle Gespräche rund um die Uhr rekonstruieren. Die totale Überwachung.

Drohnen sind deutlich weiterentwickelt, als die Predator- und Reapermodelle, die wir kennen. Man hat sich an den Weberameisen orientiert, den kriegerischsten Lebewesen auf unserem Planeten. Die Kolonie ist der Organismus, die einzelnen Ameisen stürzen sich todesmutig auf jeden Angreifer, egal wie groß dieser ist. Und so agieren auch die Drohnen, im Schwarm zu Hunderten oder Tausenden, autonom, Menschen werden durch bestimmte chemische Stoffe, die sie ausstoßen, erkannt. Mit Pheromonen werden sie markiert und für jede einzelne Drohne zum Zielobjekt. Die Herstellung ist einfach und findet in namenlosen Fabriken in Dritte-Welt-Ländern statt. Es ist fast unmöglich zurückzuverfolgen, wer die Drohnen geschickt hat.

Noch glauben wir, Herr über unsere Technik zu sein, aber was, wenn wir die Kontrolle endgültig verlieren? Dann sind wir nur noch Variablen in einem Algorithmus.