PARADIES 3000. Herbert W. Franke
bewusst. Ich bin mir nicht sicher, ob Professor Koenig noch Übersicht über sein Ergebnis behalten hat – schließlich hat er sich zu seiner Ausarbeitung des eigenen Computers bedient, und heute schon gibt es kaum einen einzigen Menschen, der eine größere Rechenanlage voll zu durchschauen vermag. Wenn sich ein solches System aber auch noch selbstständig weiterentwickelt … Ich frage mich, ob auf diese Weise nicht etwas entsteht, das niemand mehr entschlüsseln kann, vielleicht nicht einmal der Computer selbst! Aber ich möchte betonen: Das sind wirklichkeitsferne Hypothesen – schließlich haben wir einen Finger, mit dem wir auf das berühmte Knöpfchen drücken können.
Professor Toff Ich glaube nicht, dass wir es uns so einfach machen dürfen. Sicher ist es möglich, einen Computer durch Knopfdruck ein- und auszuschalten, aber wir alle wissen schließlich, dass man Schalter schon seit nahezu zweihundert Jahren elektrisch betreiben kann. Mit anderen Worten: Zweifellos findet ein intelligenter Computer auch Mittel und Wege, um zu verhindern, dass man ihn ausschaltet – wenn er nur will!
Pastor Schult Ich halte es für bedenklich, von »Entscheidungen« zu sprechen, die ein Computer fällen würde. Schließlich ist er nur imstande, positive und negative Werte zu summieren und das Ergebnis anzugeben, das dann unter dem Strich steht. Würden Sie das eine Entscheidung nennen? Dazu sind schließlich noch andere Dinge nötig – emotionale Beurteilungen und Werte.
Professor Toff Was Sie da nennen, kann ich Ihnen sofort in die Sprache der Informatik übersetzen – nicht um Sie zu schockieren, sondern um Ihnen zu beweisen, dass man diese Dinge längst mit Programmen erfassen kann. Die von Ihnen genannten Werte stehen uns längst in Form von Prioritätslisten zur Verfügung, und die Emotionen, auf die Sie so großen Wert legen, sind nichts anderes als statistische Gewichtungen, die überdies mit willkürlichen Störfaktoren belastet sind. Eine Maschine, die nach diesem System arbeitet, bastelt Ihnen heute jeder Elektroniker mit einigen ICs.
Pastor Schult Und wie steht es mit dem Willen? Und wie mit dem Geist?
Professor Toff Der Wille ist nichts anderes als die Umsatzstelle vom Gedanken zur Funktion – in der Sprache des Computers ein Startbefehl. Und der viel zitierte Geist? Ein Computer der fortgeschrittenen Klasse von Professor Koenig würde seine eigene Existenz erkennen. »Ich denke, folglich bin ich« – was sollte dieser Erkenntnis im Wege stehen?
Professor Meder Offenbar verwechseln Sie tatsächliche Existenz mit Simulation. Vielleicht können Sie alle diese Begriffe und Funktionen simulieren, und vielleicht sogar so, dass man es von außen nicht merkt. Der entscheidende Unterschied aber bleibt bestehen!
Minister Verzeihen Sie, wenn ich wieder von praktischen Dingen spreche. Für mich als Politiker ist es völlig gleichgültig, ob etwas so handelt, als wäre es mein Feind oder ob es wirklich mein Feind ist. Und dasselbe gilt für Dinge, die mir nützlich sind. Jedenfalls bin ich dafür, dass wir dieses Programm einmal ausprobieren. Vielleicht könnten Sie sich der Reihe nach dazu äußern!
Professor Pazzini Ich glaube, dass es noch ein weiter Schritt von der Theorie zur technischen Wirklichkeit ist. Ich habe keine Bedenken, dem Experiment zuzustimmen.
Professor Toff Ich glaube, ich muss eine entschiedene Warnung aussprechen. Der Gedanke, dass wir rechtzeitig ausschalten können, scheint mir illusorisch. In dem Moment, wo wir das Programm aktivieren, beginnen sich Dinge in Bewegung zu setzen, die wir nicht mehr kontrollieren können. Es ist so wie ein Krankheitskeim, der plötzlich freigesetzt wird. Die Folgen könnten schrecklich sein.
Pastor Schult Ich sagte es schon: Der Mensch hat die Demut vor der Allmacht verloren. Er glaubt es, dem Schöpfer ins Handwerk pfuschen zu können. Wie lächerlich! Sie können Ihren Versuch gern unternehmen – vielleicht werden Sie dann begreifen, wie weit Sie noch von einer Gottfunktion entfernt sind.
Professor Meder Was wir hier betreiben, ist ein Sandkastenspiel. Ein elektronisches System kann nie intelligenter werden als sein Schöpfer – da können Sie mir noch so viele Fremdworte aus der Kybernetik entgegenwerfen. Bedenken gegen den Versuch? Die habe ich nicht – ich halte ihn nur für überflüssig.
Minister Ich meine, es ist im Sinn von uns allen, dass wir das Gebot der Sicherheit ernst nehmen, und wenn die Gefahr noch so unwahrscheinlich erscheint. Ich bitte Sie, Professor Toff, eine Kommission zu bilden und alle nötig erscheinenden Maßnahmen zu treffen. Dann dürfte also einem Versuch mit dem Programm DECISION nichts mehr im Wege stehen. Haben Sie Dank für Ihr Kommen!
Die von Professor Toff eingesetzte Kommission übernahm eine Art Gesetzgeberrolle: Sie erweiterte jene Liste von Geboten, nach denen sich der Computer bei allen Aktionen zu richten hätte. In der neuen Prioritätenliste standen einige Begriffe ganz oben, die wohl noch nie in Computerprogrammen erschienen: (menschliche) Freiheit, Würde, Anerkennung usw. In welchen Steuerungs-, Kontroll- oder Ordnungsfunktionen das Programm auch eingesetzt wurde – stets musste es selbst vorher prüfen, ob irgendeine der vorgegebenen Regeln verletzt werden könnte, und in solchen Fällen nach anderen Wegen suchen, um das Ziel zu erreichen. Ja, noch mehr: Auch ohne Einsatzbefehl hatte das Programm die Pflicht, dafür zu sorgen, dass die Freiheit, die Würde des Menschen und die anderen ihm zukommenden Werte erhalten und gesteigert würden. Im Prinzip war es also möglich, dass ein Computernetz, einmal mit diesem Programm gefüttert, sofort aktiv wurde, um Möglichkeiten zur Steigerung der Lebensqualität des Menschen zu suchen – und die entsprechenden Maßnahmen ergriff. Nachdem dies alles geschehen war, konnte auch Professor Toff keine triftigen Gründe anführen, die gegen das geplante Experiment gesprochen hätten.
Vielleicht ist es ungewöhnlich, ein wissenschaftliches Experiment in Form einer Reportage zu beschreiben. Doch die Methode ist nicht neu – seit der ersten Landung auf dem Mond ist sie gang und gäbe, und wie die Erfahrung zeigt, erfasst man damit sogar mehr als mit langen Listen von Messwerten. Unser Reporter war dabei, und wir wollen zum Abschluss noch einmal seinen Mitschnitt wiedergeben, sooft er auch schon veröffentlicht wurde. Überflüssig zu erwähnen, dass die Interpretationen des Resultats bis heute noch nicht zu endgültigen Ergebnissen geführt haben. Vielleicht aber können sich unsere Leser anhand unserer ausführlichen Zusammenstellung, die auch einige neue Details enthält, selbst ein Bild davon machen.
Reporter Meine Damen und Herren, ich befinde mich im Zentrallabor des Instituts für Advanced Studies. Das Interieur erinnert ein wenig an die Zentrale einer Fernsehanstalt oder einer prozessgesteuerten Fabrik: überall Bildschirme, Messanzeigen, flackernde Lämpchen.
Etwa ein Dutzend Herren haben sich hier versammelt, die angesehensten Spezialisten aus den Fächern der Automatentheorie und der maschinellen Intelligenz. Obwohl das, was geschieht, in keiner Weise besonders erscheint, liegt doch eine spürbare Spannung im Raum, und die Bewegungen von Doktor Dessenbrinck, der an einem Schaltpult hantiert, muten fast feierlich an. Vorhin hat er drei dicke Magnetbandrollen in einen Speicher gelegt, und nun wird er die Daten in den riesigen Arbeitsspeicher des zentralen Computers überspielen. Offenbar wartet er nur noch auf die Aufforderung des Ministers, der es sich nicht nehmen ließ, hier anwesend zu sein.
Minister Ich glaube, wir sind bereit – bitte, schalten Sie ein!
Reporter (aufgeregt flüsternd) Eine kurze Handbewegung von Doktor Dessenbrinck – das ist alles. Doch wie von Geisterhand geregt füllen sich die Bildschirme mit Zeichen. Es sind Reihen von Zahlen und Buchstaben, dazwischen Symbole – Punkte, Klammern, Zeichen aus der Algebra. Vielleicht verstehen sie die Informatiker – ich habe keine Ahnung, was sie bedeuten, und so fürchte ich, dass ich Sie nur unzureichend über den Fortgang des Experiments unterrichten kann. (Kurze Pause) Dort leuchtet ein rotes Licht – das Flackern auf den Bildschirmen hat aufgehört, mir scheint, als wäre der Eingabeprozess beendet.
Minister Wie könnte das Ergebnis aussehen?
Professor Pazzini Es ist nicht vorherzusehen. Irgendeine Reaktion … irgendeine Äußerung, dass sich dieses elektronische Wesen, das sich da drinnen aufgebaut hat, seiner eigenen Existenz bewusst ist.
Professor Toff Warum sollte es sich äußern? Wenn es überhaupt aktiviert ist, dann wird es handeln!
Minister Aber wie?
Professor Toff Das wird sich zeigen.
Reporter