Die Ausschaltung des Ausschalters
von Kusanowsky
Man kennt diese Erzählprobleme aus Science-Fiction-Geschichten zur Genüge: Irgendwelche Maschinen gewinnen Macht über die Menschen und erzählt wird dann – z.B. im Fall Matrix – wie es Menschen gelingt, sich aus einer solchen Gefangenschaft zu befreien. Ein Variante dieser Erzählung ist „1984“ von George Orwell. Auch hier werden Menschen von einer dämonischen Macht unterdrückt; und es wird irgendeine Art von Befreiungskampf erzählt. Etwas anders, aber auch nicht ganz unpassend ist die Variante, dass die dämonische Macht von Außerirdischen ausgeht (Krieg der Welten), die, aus welchen Gründen auch immer, über die Menschen herfallen und sie in die Ohnmacht zwingen.
All diese Geschichten könnte man lesen, als eine Art literarische Soziologie, als ein Verstehen von Gesellschaft, die eine „was-wäre-wenn“-Bedingung zur Voraussetzung des Verstehens von Gesellschaft macht. Was wäre, wenn Intelligenz und Wissen ein Machtfaktor wären und wenn Menschen etwas erschaffen könnten, das ihr eigenes Vermögen übersteigen würde und das sich dann gegen die Menschen wendet?
Der Variantenreichtum dieser Geschichten ist enorm groß und es gibt nur wenige Varianten, die so etwas nicht mit Angst, sondern mit Hoffnung verbinden. Ein Beispiel dafür fällt mir gerade nicht ein, für einen Hinweis wäre ich dankbar. Vielleicht findet man bei Perry Rhodan solche Beispiele, aber diese Geschichten sind mir nicht bekannt. Die einzige, mir in dieser Hinsicht bekannte Geschichte ist der Roman „Accelerando“ von Charles Stross, der aber in seiner Gesamtanlage zwar die Macht der KI mit Hoffnung auf Befreiung verbindet, aber trotzdem im Laufe der Erzählung nur das potenzielle Angstszenario bewältigt.
Wie auch immer. Jedenfalls ergibt sich die Entfaltung erzählerischer Komplexität aus der Vorgabe, dass nicht erzählt wird, wie diese Ohnmacht zustande kam, wie der Prozess des Ohnmächtigwerdens, der Prozess der Gefangennahme der Menschen vonstatten ging. Wie konnte es kommen, dass Menschen das Heraufziehen dieser dämonischen Macht nicht bemerken konnten? Um beim Beispiel der Macht künstlicher Intelligenzen zu bleiben: Erscheint die Dämonie plötzlich und unvorhersehbar? Hat sie sich auf einer dunklen Seite der Welt verdeckt entwickelt und bricht plötzlich aus? Wie konnte diese verdeckte Entwicklung überhaupt möglich sein, wenn sie nicht ohne Zutun der Menschen entstehen konnte? All das wird in solchen Geschichten gar nicht erzählt. (Und wer eine kennt, so bitte ich gern um eine Information darüber.)
Und tatsächlich dürfte das auch schwer zu erzählen sein. Wenn man den Prozess des Ohnmächtigwerdens erzählen will, so müsste man, kurz gesagt, erzählen, wie der Ausschalter der Maschinen ausgeschaltet wurde, wie er in Vergessenheit geraten konnte. Es müsste also eine Entwicklung des Gedächtnisverlustes erzählt werden.
So etwas wie eine „künstliche Intelligenz“ wäre dann vorstellbar, wenn Maschinen andere Maschinen ein- und ausschalten, aber dieser Prozess selbstreferenziell geschlossen wäre. Das wiederum müsste viele soziale Voraussetzungen mitberücksichtigen, etwa die Voraussetzung, dass Maschinen aus der Verfügbarkeit von Menschen entlassen werden. Doch wer bezahlt die Stromrechnung? Die würden die Maschinen selbst bezahlen. Wie gewinnen die Maschinen die Energie? Das machen sie selbst, aber: wie erschließen sie neue Energiereserven? Wie richten die Maschinen eine eigene Infrastruktur ein und wie bauen sie sie um? Selbstreferenzialität bedeutet aber auch, dass Fehlleistungen, Täuschung, Sabotage, Konflikte und Irrtümer gar nicht ausgeschlossen sind, sondern im Gegenteil durch Selbstreferenzialität hergestellt und in Problemlösungsstrategien Eingang finden.
Und ein solcher Vorgang kann plausibel kaum auf einer dunklen Seite der Welt stattfinden. Umso schwieriger ist es zu erzählen, wie sich ein solcher Gedächtnisverlust einstellen könnte.
Und vielleicht könnte man eine solche Geschichte des Gedächntisverlustes nur dann plausibel erzählen, wenn sie nicht als fiktive, sondern als reale Realität erzählt wird. Der Ausgangspunkt dafür wäre das Internet. Das Internet würde eine Infrastruktur liefern, die diese Ein- und Ausschaltung garantiert, ohne, dass sie selbst ausgeschaltet werden könnte, weil sie von keiner Stelle eingeschaltet wurde, sondern sich selbstreferenziell durchgesetzt hat.
Wenn dann auch nicht plausibel werden kann, dass diese Entwicklung auf einer dunklen Seite der Welt stattfindet, so kann doch immerhin die Überlegung aufkommen, dass durch die Ausschaltung des Ausschalters ganz andere Problemsituationen entstehen, die auch die Möglichkeit zulassen, dass man über die Angstszenarien der Macht von „Künstlichen Intelligenzen“ irgendwann lachen könnte, und zwar nicht, weil man erkennt, dass sie falsch oder richtig waren, sondern weil auf der Basis dieser Lösungen etwas ganz anderes erscheint, das solche Angst- und Hoffnungsphanatasien als rückständige Kinderei in Erscheinung treten lässt.
Man denke zum Vergleich etwa daran, dass sich im Laufe der europäischen Entwicklung herausgestellt hat, dass es keinen Gott gibt, obwohl diese Einsicht weder richtig noch falsch ist. Es haben sich nur die Bedingungen geändert, unter denen ein Gottglaube noch relevant sein könnte. Und wenn sich dafür eine Relevanz zeigt, dann erweist sie sich nicht unter vergangenen und vergessenen Beobachtungsbedingungen. Beispiel: die katholische Kirche, die es immer noch gibt, obwohl ihre Entstehungszusammenhänge verschwunden sind. Und nur unter dieser Voraussetzung ist der bekannte Vorwurf ihrer „Mittelalterlichkeit“, mag er zutreffen oder nicht, ein moderner Vorwurf und der Widerstand der Kirche gegen die moderne Gesellschaft wäre dann eben auch modern.
Und schließlich: will man für möglich halten, dass der Prozess der Ausschaltung des Ausschalters nicht unbemerkt vonstatten gehen kann, dann dürften sich wahrscheinlich alle Hoffnungen genauso erfüllen wie alle Ängste. Das jedenfalls wäre normal. Aber: mit welchem Beobachtungsschema kann man diesen Prozess begleitend beurteilen, wenn im Laufe dieses Prozess auch die Beobachtung von Serendipität und heteroclitischen Erfahrungen eingeschlossen ist? Wenn man also einrechnet, dass man normalerweise auch damit rechnen kann, dass erstens alles ganz anders und dass zweitens auch alles ganz fremdartig erscheinen kann?
Differentia 
[…] zweite operative Ebene heißt, das durch die Ausschaltung des Ausschalters jede Interaktion gleichzeitig sowohl zwischen Anwesenden als auch zwischen Abwesenden in bezug auf […]
Hallo Klaus, das ist ein interessanter Beitrag. Dein Beispiel vom Internet, das „von keiner Stelle eingeschaltet wurde, sondern sich selbstreferenziell durchgesetzt hat“ lässt sich in etwas anderer Form wohl auch noch allgemeiner fassen:
Irgendwann einmal war die Technologie ein positives Mittel zur Erleichterung des noch nicht technisierten Lebens. Diese Rolle ist insofern in den Hintergrund getreten, als dass die Technologie mittlerweile vor allem zur notwendigen Bedingung geworden ist, ohne die unsere Gesellschaft zusammenbrechen würde. Wir sind von der Technologie schleichend abhängig geworden, ohne dass man sich bewusst für diese Abhängigkeit entschieden hätte. Es ist insofern plausibel dass es mit der KI ähnlich laufen wird wie z.B. mit der Elektrifizierung, der Automatisierung in der Produktion oder der Computerisierung.
Während der elektrische Strom und die Automatisierung der Produktion uns einen Großteil der körperlichen Arbeit abgenommen haben, haben heutige Computer auch schon einen Teil der geistigen Arbeit (vor allem im Dienstleistungsbereich) „übernommen“. Jedenfalls ist in allen drei Fällen eine starke Abhängigkeit entstanden. Zu der geistigen Arbeit, die Computer heute erledigen, gehören aber nur in recht geringem Ausmaß Entscheidungen. In erster Linie weil heutige Software in den meisten Fällen einfach „zu dumm“ dazu ist.
Mit der Entwicklung von intelligenten Maschinen würde sich diese „Dummheit“ zunehmend erledigen. Und zwar nicht plötzlich, sondern schleichend, weil Maschinen bestimmt nicht auf einen Schlag blitzgescheit sein werden. Genauso schleichend wird deshalb auch die zunehmende Integration dieser Technik in vorhandene Technologie und in die ganze Gesellschaft vor sich gehen. Wir werden dann schon allein aus ökonomischen Gründen und aus Bequemlichkeit immer mehr Entscheidungen an die Automatisierung der Intelligenz abgeben.
Dann wäre es zumindest denkbar, dass wir irgendwann bemerken, dass wir uns langsam selbst Entmündigt haben (bzw. dass das der „technologische Fortschritt“ gemacht hat, der ja als Ganzes ein unpersönlicher Prozess ist). Und dass wir dann den „Ausschalter“ nicht deswegen nicht betätigen, weil wir es nicht könnten, sondern weil wir von intelligenten Maschinen genauso abhängig geworden sind wie von der bisherigen Technologie.
Der Prozess des Ohnmächtigwerdens geht hier also über eine schleichende Selbstentmündigung, die nicht mehr ohne weiteres rückgängig gemacht werden kann. Dieses Szenario erscheint mir im Gegensatz zu anderen auch nicht besonders unwahrscheinlich. Oder wie siehst du das?
Trotzdem nenne ich für den Vorgang des Ohnmächtigwerdens auch ein anderes Szenario aus der SciFi, weil du oben danach gefragt hast. In Stanislaw Lems letztem Roman „Fiasko“ beschreibt der Autor eine menschliche Expedition zu einem relativ nahe gelegenen Sonnensystem, zu dem ein offenbar bewohnter Planet gehört. Als die Expedition ankommt, lässt der Planet zwar starke unmodulierte Sender, aber keinerlei Kommunikationsbereitschaft erkennen.
Irgendwann gelangt die Expedition zu folgender Theorie: Auf dem Planeten hat es offenbar einen Rüstungswettlauf gegeben, in dessen Verlauf die Waffensysteme zunehmend ins dortige Sonnensystem verlagert wurden. Mit der Zeit wurde es dann notwendig, dass die dortigen Waffen möglichst autonom sind, weil die Gegner die Steuerung durch Störsender zu verhindern suchen (daher die unmodulierte Strahlung) und weil die großen Abstände im Sonnensystem zu gefährlichen Verzögerungen der Kommunikation durch die begrenzte Lichtgeschwindigkeit führen. Die Autonomie der Waffensysteme musste immer weiter gesteigert werden, weil alles andere zu einer Niederlage im Rüstungswettlauf geführt hätte. Irgendwann hatte das Militär die Kontrolle über die Waffensysteme dann weitgehend verloren. Die Zivilisation hatte sich selbst schachmatt gesetzt, indem sie sich in einen Kalten Krieg versetzt hat, den sie nicht mehr beenden kann.
Die Expedition der Menschen versucht dann übrigens durch technische Überlegenheit eine Kommunikation zu erzwingen, was aber in einer Katastrophe endet. Der Titel des Romans lässt sich sowohl auf die fehlgeschlagene menschliche Expedition als auch auf das schreckliche Schicksal der außerirdischen Zivilisation beziehen.