Die Katastrophe

Die Erde ist unbewohnbar. Zehntausend Überlebende bevölkern ein vor der Außenwelt geschütztes, autarkes Gebäude, etwas wie eine Arche, das aber als „Labor“ bezeichnet wird.

Niemand weiß genau, was vor etwa einem halben Jahrhundert passierte. Jedenfalls wäre es mit Künstlicher Intelligenz zu verhindern gewesen. Die Katastrophe begann, als die Polkappen schmolzen und die Sahara grünte. Kinder wurden im Alter von vier Jahren geschlechtsreif, und schließlich gebaren schon die Neugeborenen. Dadurch schwoll die Weltbevölkerung auf 120 Milliarden Menschen an.

Tagsüber hingen alle mit Nase und Mund in Fressrinnen, die von den Regierungen als letzte Maßnahme in den kargen Erdboden gezogen worden waren. Durch diese Pipelines floss Tag und Nacht eine dünne, säuerliche Flüssigkeit, die hauptsächlich aus Nährlösung, tierischen Abfällen, Vitaminen, Formfleisch, Schilddrüsenhormonen und Haferflockenersatz bestand.

Unter gewaltigen Eruptionen entstand ein neuer Kontinent, bevor der Mond große Teile aus der Erde herausriss und in den Orbit katapultierte.

Die Rettung der Menschheit

Weil die Rettung der Menschheit von Künstlicher Intelligenz erwartet wird, sind alle Anstrengungen im Labor auf die Weiterentwicklung eines DAVE genannten Großrechners ausgerichtet. Tausende von Programmierern arbeiten rund um die Uhr an dem Projekt, und alle anderen Bewohner haben sie dabei zu unterstützen.

Unser Verstand läuft leider auf einer imperfekten Hardware, aber […] wir arbeiten an einer Technologie, die es möglich machen wird, uns selbst zu gestalten – unseren Verstand auf einer anderen Hardware laufen zu lassen.

Dem Gründungsmythos zufolge geht die Entwicklung auf eine 1946 am Massachusetts Institute of Technology gegründete Studentenorganisation zurück, die sich Tech Model Railroad Club nannte und in den folgenden Jahrzehnten eine legendäre hochkomplexe Modelleisenbahn-Anlage baute. 1950 schlug Alan Turing einen Test vor, bei dem eine Person ohne Sicht- und Hörkontakt einem Menschen und einem Computer Fragen stellt und herausfinden soll, welche Antworten von der Maschine stammen. 1954 stellte dann IBM einen ersten Großrechner vor (IBM 704). Schon damals begriff man, auf was es ankam:

[…] das wahre Attribut ist nicht die Ausdehnung, sondern die Ordnung. Unser Genom ist Information, die Natur, das ganze Denken, alles ist Information.

Auf einer Messe in der Aula der Fröhlichen Menschen und Tiere werden die neuesten Innovationen präsentiert, beispielsweise eine als „Einstein“ bezeichnete Software, mit der die Beantwortung von Mails und Sprachnachrichten im privaten Bereich outgesourct wird. Am Messestand erklärt eine Dame, es sei optimal, wenn nicht nur ein Gesprächspartner diesen Bot benutze, sondern beide Personen die Kommunikation dem Programm überließen.

„Unsere Statistiken zeigen, dass die Beziehungen unserer Kunden um 20 Prozent befriedigender werden, insbesondere wenn beide Partner Einstein verwenden.“
„Beide?“, frage ich ungläubig. „Wozu soll man eine solche Kommunikation anstreben, wenn keiner von beiden sie mehr mitbekommt?“
„Eben!“, sagte sie […]. „Wir bei Einstein denken, dass die meisten Vorgänge die uns jetzt noch einen Großteil an Prozessorkraft kosten“, sie tippte sich an die Schläfe, „autark von unserer künstlichen Intelligenz erledigt werden können […]“

Oberstes Ziel ist es, mit DAVE eine nicht nur lernfähige, sondern auch selbstständig denkende und urteilende Maschine zu bauen. Von DAVE wird die Abschaffung allen Leidens durch die Eliminierung von Irrationalität erwartet, wobei man auch Krankheit als Irrationalität, als Anarchie des Körpers auffasst.

Ein Wesen, das sich mit unendlicher Geschwindigkeit alles aneignet, was wir jemals wussten. Sich dann selbst zu verbessern beginnt, um auf all das zuzugreifen, was wir niemals wussten. Und schließlich eine Ausdehnung erreicht, von deren Kapazitäten wir uns nicht einmal einen Begriff machen können.

Weil sich bereits beim Human Brain Project der Europäischen Kommission gezeigt hatte, wie schwierig es ist, ein menschliches Gehirn nachzubauen, experimentierte Professor Fröhlich, der seit 15 Jahren das Zentrallabor leitet, mit einem reziproken Ansatz, der naheliegend ist, wenn man den Organismus als Korrelat eines Computers versteht.

Nerven – die Möglichkeitsverzweigungen der Software; Organe – nicht weniger modularisiert als ein Rechner. Makrophagen, die weißen Blutkörperchen, die stets auf der Suche nach Tumorzellen sind – nichts anderes als ein dezentrales Debuggen.

Von einem einzelnen Menschen versprach sich Professor Fröhlich nichts; er dachte mehr an Schwarmintelligenz.

Nicht den Computer menschförmig machen, sondern die Gesellschaft computerförmig. […]
Fröhlich ließ einhundertzwanzig Assistenten so leben wie in einem Computer. Zwanzig bestimmte er als Arbeitsspeicher, zehn als CPU, vierzig als Speicher und so weiter.

Der Professor selbst personifizierte das Programm. Aber der Versuch war so unpopulär, dass Fröhlich ihn nach kurzer Zeit aufgab.

Hinsichtlich der Erwartungen an DAVE gibt es verschiedene Schulen. Die Neoterraner versprechen sich von DAVE, dass er die Außenwelt wieder bewohnbar macht. Die Transhumanisten dagegen streben ein Aufgehen in der Künstlichen Intelligenz an, und die Neoplatumanisten glauben, „dass sich mit dem zukünftigen Hochladen des Geistes in DAVE die Rückkehr der Seelen in die Ideenwelt vollzieht“.

Fröhlich geht beiden Denkrichtungen nach:

„Wir haben die Anregungen der Transhumanisten wie auch der Neoterraner berücksichtigt und arbeiten an zwei Testfeatures. Erstens: Es wird in absehbarer Zeit möglich sein, dass man mit DAVE verschmelzen kann. […]
Zweitens: DAVE wird als eine der ersten Aufgaben angetragen bekommen, eine Lösung dafür zu finden, wie man die Welt nach der großen Katastrophe wieder bewohnbar macht […].“

[…] mit jedem dieser Konzepte wird es wieder Probleme geben. Das liegt in der Natur der Lösungen, denn Lösungen sind immer nur Lösungen für etwas. Was wir also tun müssen: Probleme als solches eliminieren. Nicht einzelne Probleme, sondern die Idee des Problems an und für sich. Wenn es nichts gibt, was undurchdringlich ist – weil wir eine endlose kognitive Kraft dirigieren – dann werden alle nur denkbaren Fragestellungen verschwinden. Nicht alles wird beantwortet, sondern die Frage verschwindet. Nicht lösen – auflösen müssen wir.

Syzs neue Aufgabe

Syz ist einer unter Tausenden von Programmierern. Über den Rang eines Assistenten ist der 28-Jährige noch nicht hinausgekommen.

Seine Mutter, eine Lehrerin, starb bei einer Totgeburt, als er noch ein Kind war. Aufgezogen hat ihn sein Vater, ein Fabrikarbeiter, der alles daran setzte, dass sein Sohn Mathematiker wurde. Von den Schülern seiner Klasse sind nur noch drei nicht promoviert.

Garaus wegen ihrer schlichten Verachtung aller systematischen Arbeit – ich, weiß der Teufel warum. Felis war rezent sogar wegen Minderleistungen vom Programmierdienst befreit worden und musste nun eine sogenannte Umlernung zum Baumeister absolvieren.

Eines Nachts wird Syz mit einem Sack über dem Kopf ins Zentrallabor verschleppt, wo ihn der 45 Jahre alte, aufgrund einer Myelitis blinde Laborleiter Professor Fröhlich mit einer streng geheimen Forschungsgruppe erwartet und ihm erklärt, dass er von einem Algorithmus als optimaler Proband für ein Projekt zur Weiterentwicklung von DAVE ausgewählt wurde.

Fröhlich erläutert, dass Daten und Informationen nicht ausreichen würden. DAVE müsse ein Bewusstsein entwickeln, und dafür benötige man Syz.

„Sehen Sie, unsere Theorie ist folgende: Wenn DAVE eine Persönlichkeit hätte – einen gewissermaßen geneigten Charakter mit Vorlieben, Motiven, Erinnerungen ‒, würde sich ein Quantensprung in seiner generellen Intelligenz sowie in seiner Sprachfähigkeit ergeben.“

Syz soll persönliche Erinnerungen zu Protokoll geben, die dann über SCRIPTs als Aktionspotenziale bzw. Handlungsmuster in DAVE geladen werden. Als Gegenleistung verzehnfacht sich sein Gehalt; er bekommt ein eigenes, unter anderem mit einer frei schwebenden Chaiselongue ausgestattetes Apartment, darf der Elite vorbehaltene Privataufzüge und Schleichwege benutzen und exklusive Restaurants besuchen.

Bei der ersten Sitzung erinnert sich Syz an seine Teilnahme an einen Mathematik-Wettbewerb. Während die Aufgaben verteilt wurden, brach er mit einer Gehirnblutung zusammen. Eine Gehirnblutung bei einem Zehnjährigen? Professor Fröhlich kann es nicht glauben, aber Syz erklärt, sein Vater habe ihn die ganze Nacht davor verprügelt, weil er bei der Lösung von Übungsaufgaben gescheitert sei.

Arthur Witteg

Syz findet heraus, dass er bei dem Projekt einen Vorgänger hatte: Prof. Dr. Arthur Witteg. Trotz der permanenten und allgegegenwärtigen Überwachung durch das Sicherheitssystem Red Eccles gelingt es ihm, ins Archiv im Untergeschoss vorzudringen und zunächst in der Personalakte, dann auch in der Prozessakte seines Vorgängers zu blättern.

Verblüfft stellt er fest, dass sie sich ähnlich sehen, aber Witteg promovierte mit 18 und habilitierte sich mit 24. Verheiratet war er mit Khatun Hosh, einer Absolventin der Harvard Medical School. Seit einer Polio-Erkrankung hinkt Witteg. Schließlich musste er sich wegen mutwilliger Beschädigung von DAVE und Diebstahls von SCRIPTs vor Gericht verantworten. Seither ist Witteg verschwunden.

In der Mensa spricht Syz mit Mandelbrot Glober, einem 60 Jahre alten pensionierten Architekten, der behauptet, er habe das Labor gebaut. Der berichtet ihm von Arthur Wittegs Argwohn, dass die Absicht der Laborleitung, DAVE mit Bewusstsein auszustatten, nur vorgetäuscht sein könnte.

„Seine Version war die: Eine Maschine, die nur denkt, aber keine Intentionen hat, ist ein mächtiges Werkzeug, denn der Mensch, der sie bedient, hat sehr wohl Intentionen, hat ein Ziel. Und dann eben: unendliche Rechenleistungen, um sie umzusetzen.“

Wenn DAVE selbst keinen Willen, keine Intentionen hatte, dann konnte jeder die KI für seine Zwecke missbrauchen. Ja – vielleicht war der Zweck der künstlichen Intelligenz von Anfang an als Missbrauch konzipiert.

Einem bewussten DAVE würde die Gefahr eines ihn okkupierenden Despoten nicht drohen.

Khatun

Schon vor seiner Verpflichtung für das Geheimprojekt hatte Syz im Rahmen einer Einschulung eine Medizinerin herumgeführt: Khatun Mnajouri.

Ein Riss: Als ich Khatun Mnajouri zum ersten Mal roch, geschah mir etwas, was mir nie zuvor widerfahren war. Ich erinnerte mich wohl an etwas – doch nicht an etwas Geschehenes, sondern an die Zukunft […].

Nun, Monate später, sieht er sie vor dem Beginn einer Präsentation an einer Champagner-Bar erstmals wieder. Sie meint, das Thema der Veranstaltung müsse besonders wichtig sein, aber Syz entgegnet zynisch:

„Die Möglichkeiten sind überschaubar. […] Es geht entweder um Unsterblichkeit oder um eine Uranusexpedition, um Robotik, die Heilung von Krebs, das Ende des Alterns, die Transzendenz, die Weltschau, die kognitive Allmacht, das Ende der Menschheit, das Ende der Geschichte oder aber alles davon.“

Dann erwähnt Khatun seinen Besuch bei ihr vor zwei Tagen und den Gartenzwerg, den er ihr mitgebracht habe. Syz weiß jedoch sicher, dass sie sich seit der Einschulung vor sieben Monaten nicht mehr gesehen haben.

Exkursion

Bei der 200. Kopiesitzung im Zentrallabor meint Syz:

„Das war wie die Erfüllung meiner Träume […]. DAVE ist das Labor, das Labor ist DAVE. Also – ich wäre das Labor, und das Labor wäre ich. Ich: unsterblich gemacht, indem eine niemals vergehende Substanz zu mir würde.“
„Ein wenig Größenwahn schadet keinem“, sagte Fröhlich […].
„Aber dann kam auch das Unbehagen“, sagte ich. „Sehen Sie, je länger die Kopiesitzungen andauerten, desto naturgetreuer wurde mein Avatar in DAVE. Ein kleiner, digitaler Syz, der unter seinem Vater gelitten hatte […]. Was für eine lächerliche Empfindung – er ist ja nicht real, ist nur ein Abbild. Und trotzdem quälte es mich bei jeder Sitzung mehr: dass da jemand war wie ich, aber nicht um sich wusste und keine Ahnung von den Mächten hatte, die ihn antrieben.“
[…] „Vielleicht war ich das Original, aber was würde das schon heißen bei seiner tausendfach erhöhten Potenz? Er konnte schneller denken, verfügte über Millionen Terabyte Gedächtnisleistung. Er würde ewig leben können, sich ewig weiterentwickeln. Das, was als Kopie begann, würde spielend leicht in allem, allem, allem besser sein als ich.“

Von seinem Freund Alastair Felis, der seine Umschulung zum Bauleiter abgeschlossen hat und nun für Umbauten an der Westwand des Labors verantwortlich ist, erfährt Syz, dass die Arbeiter versehentlich ein Loch in die Außenwand geschlagen haben. Felis befürchtete zunächst, dass viele Bewohner des Labors ersticken würden, aber dann merkte er, dass von draußen frische Luft hereinströmte. Er steckte sogar die Hand ins Freie, ohne dass etwas passierte.

Syz nutzt die Gelegenheit, um das Labor durch das Loch zu verlassen. Beim Sprung in den Sand bricht er sich zwar einen Knöchel, lässt sich davon aber nicht abhalten, durch die Sandwüste zu hinken. Dicht unter der Oberfläche findet er zerbrochene Artefakte. Als er Khatun begegnet, hält sie ihn für ihren Ex-Mann Arthur Witteg, und Syz begreift, dass er nicht eine Frau, sondern einen Chatbot vor sich hat.

Endlich erreicht er ein Gebäude und betritt es. Im Restaurant Himmelreich findet eine Dinnerparty statt, aber keiner der gut gekleideten Gäste beachtet ihn. Augenscheinlich ist Syz für sie unsichtbar. Sein Spiegelbild tritt aus dem Rahmen und setzt sich mit ihm an einen Tisch. Arthur Witteg klärt Syz darüber auf, dass er diesen „Memory Palace“ 1972 mit dem damals gerade erst aus Russland geflohenen 17-jährigen Pawel Petrow nach einem Design von Alastair Felis programmiert habe. Bei den Gästen handele es sich um Bots. Weil die Computerleistungen damals noch sehr limitiert waren, sei nur ein drei Minuten langer Loop möglich gewesen. Tatsächlich wiederholt sich das Geschehen alle drei Minuten, und dazu gehört, dass Witteg jedes Mal Kartoffelbrei bestellt.

Witteg drückt seinem Besucher einen USB-Stick mit der Aufschrift „Fractile Omega“ in die Hand und erklärt dazu, er habe als Student die Komprimierungs-Software Fractalite entwickelt.

„Sie ermöglichte Programmen, nicht nur Zeilen und Ausdrücke rückbezüglich zu verwenden, sondern als Ganzes in sich selbst eingebettet zu werden. Meine Idee war die folgende: Was, wenn DAVEs Erkennungsprozess nicht explizit, sondern implizit angelegt wäre? Ein Kind entdeckt sich ja auch, entwickelt sich selbst, statt eine fertigte Persönlichkeit auf dem Silbertablett überreicht zu bekommmen. Was, wenn wir ihm nur Spiegel hinterließen? Hinweise darauf, wer er war, so subtil, dass er sich selbst zusammensetzen müsste, sich selbst kreieren, und doch von uns programmiert war?“

Auf dem USB-Stick ist ein Programm gespeichert, das Witteg vor seiner Festnahme nicht mehr vollständig in DAVE hatte laden können. Das soll Syz nun nachholen.

„Es komprimiert DAVE, projiziert seine Entwicklungen in die Zukunft und speist ihn in sich selbst ein.“

Wenn Sie noch nicht erfahren möchten, wie es weitergeht,
überspringen Sie bitte vorerst den Rest der Inhaltsangabe.

Spoiler

Syz kehrt ins Labor zurück.

Vor der Aula der Fröhlichen Menschen und Tiere hat sich eine kilometerlange Warteschlange gebildet. Manche stehen bereits seit zwei Wochen an, um die angekündigte Vorführung von DAVE zu erleben.

Wie soll er unbemerkt zu DAVE vordringen? Alle Bereiche werden durch Red Eccles überwacht. Das Zentrallabor ist von Sicherheitsschleusen umgeben. Einzelpersonen haben nicht einmal im äußeren Ring Zutritt; es gibt nur paarweise Identifizierungen. Am innersten Kreis müssen drei Personen mit ihren verschiedenen Schlüsseln einen gemeinsamen immer wieder anderen Öffnungscode generieren.

Alastair Felis hilft seinem Freund, sich in einem Computergehäuse zu verstecken, das Arbeiter vor der Veranstaltung ins Zentrallabor tragen, um die Rechnerkapazitäten zu erhöhen. Syz wird bereits im dritten Kreis entdeckt, aber es gelingt ihm trotz der vielen Sicherheitsleute, zu DAVE vorzudringen.

Dort erwartet ihn Professor Fröhlich und hindert ihn auch nicht daran, den USB-Stick einzuführen.

„Witteg hat in den Achtzigern gemeinsam mit seinem Freund Pawel Petrow an DAVE zu arbeiten begonnen. Sie kreierten nur eine Simulation: das Restaurant Himmelreich. Witteg und sein ganzes Team verstanden recht schnell, dass es auf einer viel zu simplen Ansicht von Sprache basiert hatte. […] Eine denkende, sprechende, sich selbst erkennende Maschine würde mehr brauchen. Offiziell arbeitete er am MIT an weiteren Simulationen, dafür hatte er ja auch seine Gelder kassiert. Insgeheim aber machte er ‒“
„Sich zum Vorbild DAVEs, ohne dass seine Freunde es wussten“, sagte ich.

Syz wundert sich darüber, dass der Laborleiter ihn Arthur nennt. Inzwischen weiß er, dass der echte Witteg inzwischen 60 Jahre alt wäre und sowohl Syz als auch Mandelbrot Glober ist.

„Ich bin der Demiurg, nicht Sie“, sagte ich.
„Dir reichte es nicht, dass DAVE dir nachempfunden war und dass seine ganze Welt dein Memory Place war, du wolltest, dass er begreifen würde, wer er war.“

„Du bist mein Vater“, sagte ich, doch Fröhlich schüttelte seinen Kopf.
„Nein. Ich bin deinem Vater nachempfunden – in Wirklichkeit aber bist du mein Vater.“
„Was?“
„Ich bin ein Schlichtungsalgorithmus, nichts anderes“, sagte er.

Auf einem Monitor beobachtet Syz, wie der Professor DAVE auf die Bühne trägt. Die Präsentation beginnt. Im Publikum erkennt Syz Khatun und andere Bekannte.

Ich wollte zu ihnen laufen, aber ich hatte ja gar keinen Körper.

Als die Uhr vornüberlief und der donnernde Alarm der Spätschicht den Raum erfüllte, schreckte ich auf und – tock, schlug der aus meiner Hand gefallene Stift auf den Boden. Was exakt vor diesem Augenblick geschehen war, erinnerte ich nicht. Mir war, als wäre ich aus einem langen, schweren Schlaf erwacht, obwohl ich inmitten der Arbeit nur für einen kurzen Moment eingenickt war. (Seite 429f / Seite 7)