Home Gesellschaft Asimov wäre nicht erfreut von der Autonomie unbemannter Systeme

Asimov wäre nicht erfreut von der Autonomie unbemannter Systeme

Asimov wäre nicht erfreut von der Autonomie unbemannter Systeme

Sie gilt als modernes Instrument im Krieg gegen den Terror, Kampfdrohnen sind jedoch auch ein Vorgeschmack auf den nächsten Weltkrieg, ohne Gefangennahme. Der Begriff «autonom» ist im Zusammenhang mit Kampfdrohnen und anderen Waffensystemen brisant und prekär zugleich. Weckt er doch die Horrorvorstellung von Killermaschinen, die ohne menschliche Kontrolle töten.
Doch genau das plant das Pentagon für die Zukunft. «Die Autonomie unbemannter Systemen wird in zukünftigen Konflikten von entscheidender Bedeutung sein», heißt es in einem Bericht. Autonome Systeme könnten in unberechenbaren Situationen schnell reagieren, indem sie eigene Entscheidungen träfen.
Damit meinen die Autoren des Pentagons ausdrücklich den Einsatz von Waffen. So verweisen sie auf eine Direktive vom November 2012: http://www.esd.whs.mil/DD/ Darin heißt es, dass «autonome Waffensysteme zur Auswahl und zum Angriff auf Ziele» verwendet werden können. Die Ausnahme: Die Maschinen dürften keine Menschen ins Visier nehmen. Wie ritterlich!

Die Differenzierung könnte sich aber im Ernstfall recht schwierig gestalten. Woher etwa soll eine Drohne wissen, ob ein Panzer oder ein Gebäude verlassen sind? Dass selbst Menschen in derartigen Situationen oft überfordert sind, belegt eine Reihe tragischer Fehlentscheidungen bei Drohnenangriffen, trotz Wärmebild-Kameras. Im Pentagon scheint man dennoch der festen Überzeugung zu sein, dass die Einführung autonomer unbemannter Waffensysteme nur noch eine Frage der Zeit ist und ich befürchte, dass die Herrschaften leider recht behalten werden. «Generell entwickelt sich die Forschung weg von automatischen Systemen, die menschlicher Kontrolle bedürfen, hin zu autonomen Systemen, die ohne menschlichen Einfluss entscheiden und reagieren», heißt es in dem Bericht. Solche Programme gebe es auch in der US-Airforce, der Army, der Navy und bei der Pentagon-Forschungsabteilung Darpa. Autonome Systeme, schreiben die Pentagon-Autoren, werden eines Tages «allgegenwärtig» sein.



Der Neueste Geniestreich des militärisch-industriellen Komplexes sind sogenannte «Micro Drohnen» die boden-oder luftgestützt ausschwärmen, da sie in Schwärmen operieren: http://youtu.be/wqQG5xbelsc

Zudem wurde insbesondre das Jagdverhalten von Wolfsrudeln und anderen Raub-und Rudeltieren durch digitale Simulationen analysiert,  mit beängstigenden Erfolg getreu dem Prinzip: «Suchen, finden und vernichten!» All jene, die nicht mit dem Militär in Berührung kamen, werden sich nur spärlich die zerstörerische Effizienz eines Drohnenangriffs mit «chirurgischer Präzision» vorstellen können. Sobald ein Staat jedoch in diese Richtung forscht und rüstet, ziehen andere Nationen im Rüstungswettlauf unweigerlich nach. So verfolgen die russischen Streitkräfte ähnliche Ziele mit Schwerpunkt auf «autonomen Kettenfahrzeugen». Eine der neuen Innovationen stellt der unbemannte Turm des neuen Kampfpanzers vom Typ T-14 dar, womit er nachträglich mit einem autonomen Leitsystem ausgestattet werden kann, welches mit Hilfe von bereits vorhandenen Kameras das Fahrzeug steuert und gleichzeitig die Waffen bedient. Dies ist jedoch noch Zukunftsmusik und wenn weitere Militärs, wie das der Chinesen oder Frankreichs auch die gleichen Ziele verfolgen mögen, die Amerikaner sind derzeit auf diesem Gebiet führend und möglicherweise viel weiter, als man es zugeben will. Die taktischen Vorteile und umfangreichen Einsatzmöglichkeiten, ohne eigene Verluste an Menschenleben,  sind die eine Seite der Münze, mögliche Gefahrenszenarios wie Friendly Fire, Hackerangriffe und Kontrollverlust stellen die andere Seite dar.

Mit einer erschreckenden Genauigkeit mahnen uns Camerons Terminator Verfilmungen, in denen der Menschheit eine apokalyptische Zukunft bevorsteht, die schon heute vom technischen Gesichtspunkt aus bald zur Gegenwart werden kann. Es mag in der Natur des Menschen liegen, vernünftig zu denken und unvernünftig zu handeln, bis er früher oder später sein atomares Vernichtungspotenzial einem Supercomputer anvertraut, um selbst noch über den Tod hinaus Vergeltung zu üben. Für einen Roboter bedarf es weder einem Blechkopf noch einem Sprachsystem, oder einer Laserkanone. Jedes autonome System, das sich fortbewegen kann, erfüllt dieses Kriterium, da es sich um nichts anderes als «künstliche Intelligenz» und «mobile Robotik» handelt, die stets eng mit einander verbunden sind, ob zu Wasser, zu Land, oder in der Luft. Selbstfahrende Automobile und Pilotenhelme mit Gedankensteuerung sind nicht mehr nur Fiktion, auch wenn sie noch in der Erprobung sind. Der Countdown läuft und statt nur beschwichtigende Worte und Banalisierungen den Warnungen entgegenzubringen, sollten die Regierungen den Worten Taten folgen lassen. So ist es dringend erforderlich einen Passus im UN-Tribunal und im Römischen Statut des Internationalen Strafgerichtshof
einzubringen, der den Waffeneinsatz klar regelt und diese moderne Tötung ächtet und ausdrücklich untersagt, um dem rasanten technologischen Fortschritt zuvorzukommen. Für derart «maschinelle Tötungen» konnte das damalige Kriegsvölkerrecht unmöglich ausgelegt werden.

Solch ein Gesetzesentwurf würde zwangsläufig den Namen eines Mannes aus der Versenkung holen, der als Vater und Denker der Robotik und ihrer Ethik (die Robotergesetze) gilt – Isaac Asimov. Der US-amerikanischer Biochemiker und Science-Fiction-Schriftsteller war seiner Zeit wahrlich voraus und gehört somit zu den «Neuzeit Propheten» des Science-Fiction-Genres. Asimov ging davon aus, dass Werkzeuge im Allgemeinen so konstruiert werden, dass sie implizit diesen Gesetzen gehorchen müssen. Analog werden in seinen Werken die Gehirne von Robotern so entworfen, dass sie nicht anders können und nichts anderes dürfen, als den drei Gesetzen der Robotik zu gehorchen. Es sind Positronengehirne, die nicht die Wahl haben, explizit oder gar eigenmächtig zu entscheiden. Sie reagieren zwangsweise, ähnlich wie heutige Computersysteme nach dem Binärsystem: 0= Nicht ausführen; 1= Ausführen. Diese Gesetze sind nach Asimov notwendig, damit ein Roboter nicht zu eigenem Bewusstsein gelangt, was ein unüberschaubares Chaos und unkalkulierbare Folgen für Mensch und Maschine bedeuten könnte.

Die Asimov’schen Gesetze lauten wie folgt:
1. Ein Roboter darf kein menschliches Wesen wissentlich verletzen oder durch Untätigkeit wissentlich zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.
2. Ein Roboter muss den ihm von einem Menschen gegebenen Befehlen gehorchen – es sei denn, ein solcher Befehl würde mit Regel eins kollidieren.
3. Ein Roboter muss seine Existenz beschützen, solange dieser Schutz nicht mit Regel eins oder zwei kollidiert.

Es ist letztendlich nur ein gut gemeinter Rat, den ein milliardenschwerer Markt nicht im Traum freiwillig befolgen würde. Autonome Systeme zur zivilen Nutzung werden unseren Alltag erleichtern und teilweise verbessern, während sie gleichzeitig mehr Arbeitsplätze vernichten, als sie schaffen. Wenn es aber um die Erschließung des Alls geht, sind sie zur Rohstoffgewinnung oder für Außenarbeiten und Erkundungen unverzichtbar, angesichts der lebensfeindlichen Bedingungen, die in der Raumfahrt herrschen. Die sogenannte «Industry 4.0» ist bereits im vollen Gange. Kosteneffizienter, sauberer und intelligenter soll sie werden und bereits ab dem ersten Werksstück profitabel sein, wo eine Handvoll menschliche Mitarbeiter nur nach dem Rechten schaut, während  selbst die LKWs im Ladehof wie von Geisterhand fahren, die selbstverständlich aus dem 3D-Drucker kommen. Was Politik und Wirtschaft bei dieser futuristischen Vision offenbar übersehen haben ist neben sozialen Problemen die Machbarkeit. Es führt kein Weg am Energieproblem vorbei, neben den Arbeitsrobotern muss nämlich in Zukunft auch der Energiebedarf einer immer grösser werdenden Zahl von Elektroautos mit abgedeckt werden, der den Atomausstieg nicht interessiert. Hier ist meines Erachtens bereits zu Beginn ein Strategischer Fehler unterlaufen, als man sich allein auf die alternativen Energien verließ, obwohl die erforderliche Nutzung von Kernfusion noch in den Sternen steht. Somit wird auch hinter der 4. industriellen Revolution die Kohle und andere fossile Brennstoffe stehen, von denen man sich lossagen wollte.

Ähnlich wie in Shelleys «Frankenstein» erschafft der Mensch den Roboter und der Roboter vernichtet am Ende seinen Schöpfer, wie eine Art Urangst, gar eine Vorahnung lieber nicht seinen Gott herauszufordern, denn ist einmal der Golem losgelassen, kann niemand mehr ihn aufhalten. Die technischen Möglichkeiten und damit verbundenen Risiken könnten die Gesellschaft auf den Kopf stellen, wenn der Fortschritt uns ohne Vorwarnung überrollt. Die Büchse der Pandora wurde geöffnet und sollte diese Entwicklung gem. der Asimov’schen Gesetze nicht strengstens reguliert und unter Beobachtung stehen, besteht für mich kein Zweifel, dass autonome unbemannte Systeme die Massenvernichtungswaffen des 21. Jahrhunderts werden.

Ein Bomberpilot hat Gefühle und ein Gewissen, eine Maschine nicht. Es wäre unverantwortlich so weiterzumachen wie bisher, aber noch liegt es nicht an den Maschinen, sondern an uns Menschen, nur wie lange noch?

Foto: Prometheusfeuer


 


 

 

 

 

Kommentare deaktiviert.