Tyrannenmord und die Macht der Maschinen
von Kusanowsky
Eine aktualisierte Fassung des Artikels findet sich hier:
https://differentia.wordpress.com/2013/08/26/ethik-aesthetik-des-tyrannenmordes/
-
Abonnieren
Abonniert
Du hast bereits ein WordPress.com-Konto? Melde dich jetzt an.
Differentia 
Also, wie das mit den Maschinen ist, weiss ich zunächst auch (noch) nicht, dieser Teil des Themas hat mich zu sehr überrascht.
Die Sache mit dem Tyrannemord ist aus meiner klar (wenn auch schwierig, wenn ernst entschieden werden muss).
Ist ein Tyrann (á la Hitler oder Stalin) wirklich am Ruder, dann muss er weg, Ethik hin oder her. Nur: wer den Tyrannen weg haben will, der muss es 1) selber tun, und 2) wer einen Tyrannen beseitigt, der darf nicht auch noch selber davon profitieren wollen, (später auch noch mitregieren wollen im neuen jetzt möglich gewordenen Staat): ein Tyrannenmörder, wie zum Beispiel Stauffenberg, (der das nicht wahrhaben wollte), der muss sich OPFERN!
Vielleicht könnte man ergänzend dazu noch auf ein Problem der alten Theologie aufmerksam machen. Dabei ging es hinsichtlich der kognitiven Selbstreferenz u.a. um die Frage, ob Gott, wenn er allmächtig ist, einen Stein erschaffen könnte, der so schwer ist, dass er ihn selbst nicht hoch heben könnte. Daraus ergibt sich eine Paradoxie: wenn er allmächtig ist, müsste er dies können, könnte er den Stein aber nicht selbst hoch heben, so wäre er nicht allmächtig.
Unsere hoch intelligenten Ki-Forscher haben sich auf eine ähnliche Paradoxie eingelasssen: Was wäre, wenn die menschliche Intelligenz so leistungsfähig, also entsprechend mächtig wäre, dass sie Maschinen erfinden könnte, die intelligenter (und darum auch mächtiger) wären als die Menschen selbst? Daraus muss, ähnlich wie in der alten Theologie, die Angst folgern, dass da irgendetwas nicht stimmt. Früher war dies mit mit der riskaten Frage verbunden, ob es sein könnte, dass es keinen allmächtigen Gott gibt, und heute dürfte analog die Überlegung gelten, dass die menschliche Intelligenz nicht ausreicht, um sich überhaupt dieses Problem auszudenken, geschweige denn die Lösung. Denn das Problem intelligenter Maschinen könnte sich ja nur ergeben, wenn man eine Autopoiesis mit eigener Willkür von außen induzieren könnte, nämlich durch eine zirkuläre Operation der Ausschaltung des Ausschalters. Aber das widerspricht einem Konzept von Autopoiesis, welches ja besagt, dass die Ausschaltung des Auschalters durch das System automatisch eingeschaltet wird, also nicht willkürlich von außen induzierbar ist. Daraus könnte man folgern, dass Autopoiesis gar nicht möglich ist, oder: dass eine zweiwertige Logik nicht ausreicht, um die Einschaltung der Aussschaltung des Ausschalters zu erklären.
Und damit könnte man auch diese Angstszenarien der sog. Maschinenintelligenz miterklären. Sie enstammen immer noch einem Analyseprogramm, das evolutionär zur gleichen Zeit entstanden ist, in der auch das Problem des Tyrannenmordes entwickelt wurde, als nämlich in der Antike eine zweiwertige Logik die Aussicht eröffnete, alle möglichen Konsequenzen induktiv zu erfassen; und die Unmöglichkeit wär dann nur der blinde Fleck des Systems, durch den sich die Reproduktion des Problems autopoeitisch gegen seine Umwelt abschließt, sogar dann noch, wenn durch semantische Verschiebungen und Veränderung der Beobachtungverhältnisse von der antiken zur modernen Gesellschaft die Gründe für die Herstellung des Problems gänzlich verschieden sind.
Tot ist nicht gleich ganz tot und alles ist vorbei. Zum Beispiel erben die Erben eventuelle Urheberrecht und können sie – Stand heute – 70 Jahre monetarisieren (‚Mein Kampf‘ ist ja gerade in dieser Hinsicht aktuell) … also leben die (juristischen) Rechte noch eine ganz Weile nach dem Tod, was jetzt für Tyrannen ja auch noch bedeutsam sein könnte.
Bei Maschinen ist das mit dem Urheberrecht so ein Sache … wenn Maschinen maschinell neue Maschinen designen (in der Software und Hardware-Branche ja üblich), stellt sich die Frage, wem gehört es, wer hat es erfunden (und da kommen nicht immer die Schweizer ins Spiel)?
Bei Hunden ist das klar geregelt, ihre Produktion (Rasse-Nachkommen) gehört dem Hundebesitzer … aber wie ist das bei Sklavenhaltern? Gehört einem Arbeitnehmer oder einem Professor, wenn er denn angestellt ist und einen Scheiß-Arbeitsvertrag unterschrieben hat, tatsächlich die Verwertungstantiemen oder Lizenzgelder kassieren … oder was viel schlimmer wäre, darf er als Urheber in Erkenntnis möglicher Folgen seine eigene Erfindung zerstören? <- Dies ist insbesondere bei Genies, die dem Wahnsinn verfallen sind und deswegen unter Vormundschaft stehen könnten, eine spannende Frage: wer bin ich, und wenn ja, …
@Kusanowsky : Au Weia, jetzt wird wirklich haarig, aber gut: also, zumindest habe ich jetzt das Problem, den Komplex, den Du siehst, auch gesehen: an das Paradox mit dem Gottesstein habe ich beim ersten Lesen überhaupt nicht gedacht, nun wird es in mir lichter: also es geht um Zirkularität, Selbstreferenz, Rekursivität, Selbstwiderspruch, Autopoiesis; Systemstärken und Systemschwächen, Innen-/Aussen-Verhältnisse, also auch Fragen der Zwei-Seiten-Form.
Wenn ich jetzt mal gelassen Luft hole, muss ich mir eingestehen: jetzt hast Du wieder ein Frageding inszeniert, mit viel Klugheit, aber auch mit Chuzpe. Manchmal denke ich wirklich, Du bist eine Re-Inkarnation all der bemühten Professores der ehrwürdigen Pariser Universität des 13. bis 14. Jahrhunderts, deren Spitzfindigkeiten (daher kommt wohl der Ausdruck) sich nicht scheuten, ihre Logik dadurch zu schärfen, dass sie sie hemmungslos auf die Logik selber anwendeten und bis an den Rand der oberflächlichen Lächerlichkeit fragten, wieviele Engelchen wohl Platz hätten auf einer Nadel Spitze?. Also:
Gottes Welt war ein System und er war autopoietisch mittendrin. Vor GOTT gab es NICHTS, creation ex nihilo: Gott sprach, es werde Licht, und es ward Licht. So einfach ist das, und es scheint mir jedenfalls einleuchtender als die Sache mit den Urknall.
Gott ist also die Autopoiesis in persona: Das System schafft operabel alle seine kommunikativen Einheiten vollkommen aus sich selber. Für uns ist ein Stein Umwelt. Wir haben auf das Wesen des Steins keinen Einfluss: aus einen Stein können wir keine Butter Machen. Wir können den Stein zertrümmern, das Ergebnis aber bliebe steiniger Staub. Als Gott sagte, es werde Licht, hatte er implizit auch schon gesagt, es werde Gravitation. Er hatte sich also schon mit seinem ersten Wort selbst gebunden. Es gibt keinen Anfang: der Anfang ist der Anfang des Anfangs, wie das NICHTS der Anfang GOTTES ist, der die Gravitation schafft und das Licht und den Stein. Ein System, wenn es erst einmal IST, kann sich selbst nicht mehr verlassen. Es kann sich selbst auch nicht mehr ausschalten. Nur wenn das System an sich selbst nicht mehr anschliesst, (sei es, weil es das so will – also Schweigen, aber man kann ja nicht nicht kommunizieren – oder weil es nicht mehr kann: Ressourcenmangel), dann wäre es mit ihm zu Ende. Wenn ich noch auf dem richtigen und folgerichtigen Gedankenwege bin, dann wird es uns NICHT gelingen, eine Maschine zu bauen, die wir nicht mehr ausschalten könnten: auch die intelligenteste Maschine, die wir bauten, sogar eine solche, die nach unserem Programmiererwillen dazu in der Lage wäre, sich selbst zu reduplizieren, auch eine solche Supermaschine liesse sich von uns immer noch ausschalten: Wir können niemals einen Schalter bauen, den wir nicht selber auch in seinen Schaltfunktionen könnten oszillieren lassen in seiner Zweiseitenform von ein nach aus und wieder nach ein. Der Herr der Maschine ist und bleibt stets der Herr seiner Maschine. Gott und sein Stein sind gar kein Widerspruch: Als Gott sprach, es werde Stein, wollte er ihn nicht heben sondern in seinem Gravitationsfeld so Stein sein lassen, wie sich das nach Gottes Willen gehört. Und wenn der Mensch eines Tages seine Supermaschinen bauen wird, dann werden sie die Maschinen sein, die sie sein werden: von uns geschaffen und von uns ausschaltbar. Und auch die Supramaschine aller Supermaschinen, wenn es denn Intelligenzmaschinen sein werden, werden unsere eigene Intelligenz und ihre intrinsichen Beschränkugen niemals übersteigen können, davor sei Gödel: sind unsere Maschinen einst vollständig systematisiert und als ein System vollständig, bleibt ihnen unser Schaffens- und Gestaltungswille inhärent: unsere Fähigkeit, ihrem Laufen jederzeit Einhalt gebieten zu können, und sei es durch zerstören. Der Stein, der sich Gottes Willen wider setzen wollte, würde auf der Stelle zu Staub.
Ich lasse mal Ethik an der Ecke stehen. Ich finde die Frage der Vorschau sehr einleuchtend. Dass man Maschinen zwar Bewusstsein in Zukunft zugestehen will, nicht aber „Bewusst-Sein“ – also die Frage, wodurch kennzeichnet sich denn Bewusstsein überhaupt aus. Man muss es ja nicht definieren. Das bringt einen nicht weiter.
Wenn man so einen Haufen von Zukunftsromanen und -geschichten liest, kommen ja in der Regel recht autoritäre Gesellschaften zustande. Das ist der jeweilige Standpunkt in der Zukunft. Punkt. Keine diese Geschichten, die ich kenne, kann aber einen plausibelen Weg aufzeigen, der dorthin führt. Und zwar genau dorthin, wo diese Gesellschaften angelangt sind.
Mein Spezialtypus von Zukunftsgeschichte liegt in Samjatins Vision von „Wir“ (1920). Es sind auch dort wenigstens Reste von Bewusstsein bei einem Protagonisten vorhanden. Plötzlich merkt er hinter einer Musik, dass dort etwas anderes ist, als nur Töne. Und seine Sinne sind irritiert.
Ich frage zurück: Ist eine Maschine mit Bewusstsein denkbar, die nur rational agiert. Oder gehört zum Bewusstsein eben doch weniger (nämlich mehr), Etwas, was nicht passt. Eine Irritation. Oder wie immer man es nennen mag. Logische Operationen, meine Vermutung, können kein Bewusstsein ausbilden.
„Ist eine Maschine mit Bewusstsein denkbar, die nur rational agiert.“
So wie ich deinen Kommentar lese, hast du eigentlich den Ansatzpunkt für eine Antwort schon selber sehr gut formuliert: „Keine diese Geschichten kann einen plausiblen Weg aufzeigen, der dorthin führt.“ Damit würde ich anfangen. Wenn ich behaupte, dass wir wissen, dass es Bewusstsein gibt, ohne damit zugleich eindeutig definieren zu können (oder zu müssen), was es ist, so liegt das daran, dass wir einen Weg zurück erzählen können, sei es auch, dass die Erzählung einigermaßen bunt erscheint. Unsere Erzählung folgt der Frage, wie aus Affen Menschen werden konnten. Nicht, dass ich glaube, dass die Erzählung in jeder Hinsicht und vollständig plausibel wäre, aber doch wenigstens ist sie so gut, dass für eine Antwort auf die Frage nach dem Menschheitssrätsel so viel Raum für ganz andersartige Spekulationen auch nicht mehr gegeben ist. Die Erzählung konnte lauten, dass im Laufe der Evolution einige Affen anfingen, willentlich das eine anstelle des anderen zu tun, sie also einen Unterschied allein durch kognitive Willenskraft selbst erzeugten. Anschaulich erzählt: ein Affe hört absichtlich damit auf, sich mit den anderen um das Futter zu streiten. Stattdessen gibt er anderen absichtlich Futter. So kommt er zwar zuerst in eine nachteilige Situation, weil er Verzicht leistet, aber durch unvorhersehbare Umstände kann sich auf einmal diese willentliche Verzichtsleistung als höchst erfolgreich heraustellen, weil dieser Affe durch Futtergabe andere von sich abhängig macht, sie also domestiziert, ohne eben dies selbst wiederum absichtlich zu wollen oder vorhersehen zu können. So oder ähnlich könnte man sich vorstellen, wie eine Unterscheidung sich durch einen unvorhersehbaren evolutionären Prozess als ein entscheidender Unterschied heraustellt, der in der Folge viele weitere Unterscheidungen nach sich zieht. Es handelt sich also um die Emergenz von Bewusstsein. Dem stellen wir noch eine Theorie für die Emergenz von Kommunikation an die Seite, die etwa mit dem Satz beginnen könnte: Draw a distinction!
So jedenfalls erscheint uns schließlich die Möglichkeit von Bewusstsein und Kommunikation durch die Bedingungen ihres Zustandekommens, also mit Referenz auf Selbstreferenz, plausibel zu werden. So könnten wir uns den Weg zurück blickend irgendwie vorstellen.
Die moderne Gesellschaft allerdings hat sich ob ihres Mythos der menschlichen Allmächtigkeit das Problem eingefangen, dem sie eigentlich meinte, durch Verfolgung dieses Mythos aus dem Wege gehen zu können, nämlich: was wäre, diese Allmächtigkeit schlüge in Ohnmacht um? (Bei Günther Anders: „prometische Scham“) In eine Gefangenschaft der Menschen durch Maschinen. Woher kommt das Problem? Die Antwort könnte lauten: der Mythos stimmt nicht! Menschen machen das alles nicht, jedenfalls nicht aus sich selbst heraus, in dem Sinne, dass sie die autopoietische Selbstreferenz der Kommunikation selbst garantieren könnten. Und da wir Menschen nicht mehr zurück gehen und einfach wieder auf Gott als einen dafür zuständigen Beobachter zurückgreifen können, stehen wir nolens volens dumm da.
So stelle ich mir vor, dass diese KI-Forschung samt ihrer epistemologischen Indifferenz hinsichtlich der Bedingung ihrer Möglichkeit nur der Versuch ist, den Mythos durch Selbstbeschämung zu retten. Etwas ähnliches gilt vielleicht auch für die Hirnforschung, die ganz groß herausposaunt, dass es keinen freien Willen gibt, oder auch, immer häufiger zu hören, die ernsthafte Erwägungen von Astrophysikern, die nach Außerirdischen suchen.
Der Mythos ist auf dem Rückweg.
+1
[…] den Prozess des Ohnmächtigwerdens erzählen will, so müsste man, kurz gesagt, erzählen, wie der Ausschalter der Maschinen ausgeschaltet wurde, wie er in Vergessenheit geraten konnte. Es müsste also eine Entwicklung des […]