Kultur
Dies sind unsere Geisteskinder
Der Computerspezialist, Erfinder und AI-Pionier Ray Kurzweil sieht die Verschmelzung von Mensch und Maschine auf uns zukommen.
Der Computerspezialist, Erfinder und AI-Pionier Ray Kurzweil hält den Fortschritt der
Technologie für unvermeidbar und hofft, dass uns das menschlicher machen wird.
Mario Kaiser hat mit ihm gesprochen.
Mit 17 spielte er in einer amerikanischen TV-Show ein Klavierstück, welches, wie die
Quizgäste erraten mussten, sein Computer komponiert hatte. Das war 1965, und Ray
Kurzweil wurde über Nacht zum Wunderkind am Elektronenhirn. Kurz danach ehrte
Präsident Johnson ihn als "young American scientist". Ehrungen sollte es noch viele
geben - etwa die von Clinton überreichte Nationale Technologiemedaille. Kurzweil
wandelte sich unterdessen zum ernsthaften Informatik- und Literaturstudenten
(Abschluss am MIT), Programmierer, Firmengründer (Kurzweil Computer Products
entwickelte Schrifterkennungssoftware und den ersten Flachbettscanner), Pionier von
elektronischen Instrumenten und Erfinder im Bereich Künstliche Intelligenz (AI). Seine
Unternehmen, die er gewinnbringend verkaufte, sind noch heute in ihren Bereichen
führend aktiv. Seit 1990 ist der nunmehrige Chef von Kurzweil Technologies auch noch
als Buchautor tätig, er beschreibt die Chancen avanciertester Technik und gilt in
gewisser Weise als Gegenpol zum Techno-Pessimisten Bill Joy. Heuer wurde
Kurzweil der bedeutende und mit 500.000 Dollar dotierte
Lemelson-MIT-Innovationspreis verliehen.
Mario Kaiser:
Sie schreiben in Ihrem Buch "The Age of Spiritual Machines", die
wichtigste politische und philosophische Frage dieses Jahrhunderts sei die Definition
dessen, wer wir sind. Wer wird definieren, wer wir sind?
Kurzweil:
Auf einer philosophischen Ebene wird das jeder Einzelne für sich
entscheiden müssen. Für die Gesellschaft als ganzes wird diese Frage politisch
entschieden werden. Die politische Auseinandersetzung mit dieser Frage werden die
Maschinen gewinnen, weil sie extrem intelligent sein werden. Sie werden in der Lage
sein, sich so geschickt zu verhalten, dass sie biologische, nicht-biologische und
hybride Menschen von ihrer Definition überzeugen werden.
Mario Kaiser:
Wie wird diese Definition lauten?
Kurzweil:
Es wird keine klare Unterscheidung zwischen Mensch und
Maschine geben. Biologische Menschen werden ihre Intelligenz durch eine enge
Verbindung mit nicht-biologischer Intelligenz steigern. Wir setzen heute schon
Maschinen in unsere Körper ein, um bestimmte Behinderungen und Schwächen zu
überwinden. Im Jahr 2030 werden wir alle unsere Intelligenz mit Hilfe von Nanobotern
verbessern - das sind mikroskopisch kleine Roboter, die durch unser Blut in unser
Gehirn schwimmen können. Diese Nanoboter können milliarden verschiedene
Positionen in unserem Gehirn einnehmen. Etwa im Jahr 2035 wird der Denkprozess
in unserem Gehirn eine Verbindung aus biologischen und nicht-biologischen
Prozessen sein. Im Jahr 2050 wird der größte Teil des Denkens auf diesem Planeten
nicht mehr biologisch sein. Aber er wird eng mit biologischem Denken verbunden
sein.
Mario Kaiser:
Wird dieser neu installierte Geist ein Bewusstsein haben?
Kurzweil:
Die Frage kann man nicht wissenschaftlich beantworten. Es gibt
keine Maschine, in die man ein nicht-biologisches Wesen stecken könnte und dann
geht ein Licht an und signalisiert: Ja, es hat ein Bewusstsein. Wir führen heute die
gleiche Diskussion über Tiere. Hat ein entwickeltes Tier ein Bewusstsein? Manche
Wissenschaftler werden Ihnen eine Definition des Bewusstseins geben: Die
Fähigkeit, unter Verwendung von Sprache über sich selbst nachzudenken. Aber das ist
eine beliebige Definition. Sie beantwortet die grundlegende Frage nicht: Hat dieses
Wesen wirklich ein Bewusstsein oder verhält sie sich nur auf überzeugende Weise so,
als ob es eins hätte? Es ist schwer, über den Unterschied zwischen Menschen und
Maschinen zu diskutieren. Unsere Neuronen sind komplexe Maschinen.
Wenn ich mir die Frage stelle, was bin ich eigentlich, würde ich antworten, dass ich
zuallererst aus biologischem Material bestehe. Aber das stimmt nicht. Die Partikel,
aus denen ich mich zusammensetze, sind völlig andere als noch vor sechs Monaten.
Wir erneuern einen Großteil unsererselbst in relativ kurzer Zeit. Was also bin ich? Ich
bin im Grunde nur ein Muster von Informationen, ein Muster von Materie und Energie,
dessen biologisches Material ständig erneuert wird. Ich bin wie ein Muster im Wasser,
das einen Fels umspült. Das Muster bleibt stundenlang das gleiche, aber das
Material, aus dem es besteht, verändert sich. Wenn ich also nur ein Muster bin, gibt es
keinen Grund, warum man dieses Muster nicht kopieren und in einem anderen
Medium rekreieren könnte. Wir werden letztlich akzeptieren müssen, dass
nicht-biologische Wesen ein Bewusstsein haben. Das ist kein wissenschaftlicher
Beweis, dass sie eins haben. Aber wir werden sie nicht länger von Wesen
unterscheiden können, von denen wir glauben, dass sie ein Bewusstsein haben.
Mario Kaiser:
Internet-Pionier Bill Joy sagt, ein körperloser Geist sei wie ein
Gehirn in einer Tüte. Man könne den Geist nicht vom Körper trennen.
Kurzweil:
Ich glaube in der Tat, dass menschliche Wesen einen Körper
brauchen. Auch nicht-biologische, menschenähnliche Gehirne werden einen Körper
brauchen. Wir machen rasanten Fortschritt in der Rekonstruktion unserer Körper. Es
gibt eine Reihe von Optionen, auf die wir zurückgreifen können: menschliche Körper,
mit Biotechnologie verbesserte menschliche Körper, mit Nanotechnologie verbesserte
menschliche Körper und menschliche Körper, die nur in virtueller Realität existieren.
Mario Kaiser:
Ist das nicht ein Eingeständnis, dass, was auch immer auf uns
Menschen folgen wird, nicht menschlich sein wird?
Kurzweil:
Ich bin überzeugt, dass die Technologie, die wir kreieren, ein
Ausdruck unserer menschlichen Zivilisation ist. Diese Technologie wird letztlich so
subtil und umfassend und komplex sein, dass sie sich nicht von menschlicher
Intelligenz, menschlichem Verhalten und menschlicher Persönlichkeit unterscheiden
lassen wird. Sie wird tief in unsere Persönlichkeit integriert sein. Wir werden den Punkt
erreichen, an dem es für die Leute nicht mehr wichtig sein wird, ob das Denken und
die Persönlichkeit Teil eines biologischen oder eines nicht-biologischen Körpers ist.
Was wir heute als Maschine betrachten, werden wir in der Zukunft als menschlich
akzeptieren. Dies sind unsere Geisteskinder. Sie sind Hybriden unseres biologischen
Erbes, verbunden mit unseren technologischen Schöpfungen. Sie sind ein Ausdruck
unserer menschlichen Zivilisation, und deshalb sind sie menschlich. Es gibt viele
Dinge, die wir an Menschen wunderbar finden: die Fähigkeit, Musik zu komponieren;
den richtigen Tanzschritt zu machen; uns eloquent mit Worten auszudrücken. Aber wie
oft müssen wir feststellen, dass es uns in bestimmten Situationen nicht gelingt, ganz
und gar menschlich zu sein? Uns kommen nicht immer die richtigen Ideen, wir finden
nicht immer die richtigen Worte, wir machen nicht immer die passende Bewegung.
Mario Kaiser:
Ist es nicht genau das, was uns menschlich macht?
Kurzweil:
Ja, aber ich glaube, dass die Technologie uns ermöglichen wird,
noch menschlicher zu sein. Sie kann uns alle zu Künstlern machen, sie kann uns alle
kreativer machen. Sie kann unsere Menschlichkeit verbessern und uns im positiven
Sinne des Wortes menschlicher machen.
Mario Kaiser:
Sind unsere Schwächen nicht ein Teil unserer Menschlichkeit?
Kurzweil:
Das liegt in der Natur des Wissens. Manchmal erkennen Leute,
dass, wenn alle alles wüssten, die Herausforderung des Lernens von Wissen
verloren ginge. Es ist unmöglich, alles zu wissen. Je mehr wir wissen, desto weniger
wissen wir. Je mehr Probleme wir lösen, desto mehr Probleme werfen wir auf. Mit den
fantastischen Möglichkeiten, die in 100 Jahren existieren werden, werden wir ein
Wissen haben, das alles übertrifft, was wir uns heute vorstellen können. Aber der
Horizont unserer Ignoranz wird noch viel größer sein. Vergleichen wir nur unser
heutiges wissenschaftliches Wissen mit dem vor 500 Jahren, als es noch in eine
handvoll Bücher passte. Unser heutiges Wissen ist so umfassend, es ist aufgeteilt in
tausende Fachgebiete und vergrößert sich exponenziell. Aber das bedeutet nicht, dass
wir alle Antworten gefunden haben. Die Fragen haben sich ähnlich multipliziert. Wir
werden niemals perfekt sein.
Mario Kaiser:
Wir sind nicht so wichtig, wie wir immer glaubten - die höchste
Schöpfung der Evolution?
Kurzweil:
Ich behaupte das Gegenteil. Der Sinn des Lebens ist es, sich
weiterzuentwickeln. Evolution ist in vielerlei Hinsicht ein spiritueller Prozess. Wenn wir
die Produkte der Evolution über die Jahrtausende betrachten, werden sie intelligenter,
schöner, kreativer - alles, was wir Gott nennen. Evolution kreiert niemals einen Gott.
Aber sie nähert sich Gott. Menschen waren die erste Spezies mit der Intelligenz,
Technologie zu kreieren. Der nächste Schritt in der Evolution ist, unsere Intelligenz
durch eine Verschmelzung mit unseren Kreationen, mit unserer Technologie, zu
vergrößern. Dieser Schritt wird unsere menschliche Zivilisation noch intelligenter, noch
kreativer und noch schöner machen.
Mario Kaiser:
Was ist mit dem Argument, dass Wissenschaft das Rätsel der
Natur nicht lösen kann, weil wir ein Teil des Rätsels sind, das wir zu lösen versuchen?
Kurzweil:
So wie das wissenschaftliche Wissen gewachsen ist, haben sich
die Rätsel des Lebens vertieft. Wir verstehen jetzt besser, wie Biologie funktioniert und
wie das Universum konstruiert ist. Aber es hat das Rätsel nicht verkleinert. Es hat es
vergrößert, es hat unsere Wertschätzung dieses fantastischen Rätsels vergrößert. Die
Wissenschaft wird dieses Rätsel nicht lösen, denn das würde all die Kräfte zerstören,
die die Evolution vorantreiben. Es ist, als ob wir eine Zwiebel schälten - wir bekommen
mehr und mehr Einblicke, aber mehr und mehr Tiefen des Rätsels bleiben.
Mario Kaiser:
Bill Joy hat das mit dem Ödipus-Mythos verglichen. Ödipus
findet die Wahrheit über sich heraus und es zerstört ihn. Ist jede Wahrheit es wert,
entdeckt zu werden?
Kurzweil:
Wenn wir der Moral dieser Geschichte folgen wollten, müssten wir
die Suche nach allem Wissen beenden. Der fundamentale Fehler in Bill Joys Analyse
ist, dass man die wünschenswerten Aspekte der Technologie von den nicht
wünschenswerten trennen kann. Diese Dualität liegt in unsere Natur - menschliche
Wesen können überragend kreativ sein und überragend zerstörerisch. Ich glaube
behaupten zu dürfen, dass Wissen und Technologie der Menschheit großen Nutzen
gebracht haben. Es geht uns nachweisbar besser, und wenige Leute, einschließlich
Bill Joy, wollen wirklich zu der Art von Leben zurückkehren, wie es vor 200 Jahren war.
Aber mein Optimismus ist eher eine persönliche Einstellung als eine wissenschaftlich
belegbare Position. Obwohl Bill Joy und ich oft an zwei verschiedene Seiten gestellt
werden - er ist der Technologie-Pessimist und ich bin der Optimist - verteidige ich sehr
oft seine Position, wenn es um die existierenden Gefahren geht. Eine Reihe von
Wissenschaftlern behauptet, dass es in den kommenden 100 Jahren keine
nanotechnologischen Wesen geben wird, die sich selbst vervielfältigen können. Diese
Wissenschaftler ignorieren die Tatsache, dass sich die Fortschrittsrate beschleunigt.
Wir verdoppeln die Fortschrittsrate alle zehn Jahre. Wir werden den Fortschritt von 100
Jahren in 25 Kalenderjahren erleben, den Fortschritt von 20.000 Jahren in 100
Kalenderjahren. Diese Szenarien sind sehr realistisch, und die Antwort kann nicht
sein, sie unter den Teppich zu kehren und so zu tun, als ob nichts wäre. Die
zerstörerische Seite der Technologie wird sich genauso beschleunigen wie ihr
Potenzial.
Mario Kaiser:
Werden Menschen Implantate benutzen müssen, wenn sie mit
den Maschinen mithalten wollen?
Kurzweil:
Wir könnten Nanoboter in unser Gehirn einsetzen, um neue neurale
Verbindungen herzustellen. Statt nur 100 Billionen Verbindungen in unserem Gehirn
zu haben, könnten wir die Nanoboter dazu nutzen, die Verbindungen auf 200 Billionen
zu verdoppeln oder den Umfang des Gehirns zu vervielfachen und unser
Erinnerungsvermögen millionenfach auszuweiten. Wir wären in der Lage, Wissen
herunterzuladen und die Menge an Wissen, die wir beherrschen können, zu
vergrößern. Im Moment ist unser Denken auf diese 100 Billionen Verbindungen
beschränkt. Das ist keine besonders große Zahl, und wir stoßen ständig an unsere
Grenzen. Alle sind frustriert. Wir können nur eine gewisse Zahl E-mails beantworten,
eine gewisse Zahl Internetseiten anklicken, eine gewisse Zahl Kinofilme sehen und
uns mit einer gewissen Zahl Menschen unterhalten. Wenn wir größere Kapazitäten
hätten, könnten wir mehr Erfahrungen machen, mehr Wissen beherrschen, schneller
und klüger sein.
Mario Kaiser:
Wenn die Technologie gleichzeitig so leistungsfähig und so
billig wird, birgt das nicht auch Gefahren?
Kurzweil:
Die Gefahr, von der Bill Joy spricht - und ich bin ebenso der
Meinung, dass sie existiert - ist, dass diese Art von Kommunikationstechnologie Macht
in die Hände von einzelnen Personen legt. Aber das ist in vielerlei Hinsicht eine gute
Sache. Das ist eine demokratisierende Kraft. In den achtziger Jahren hieß es, die
Sowjetunion werde auseinander fallen wegen der demokratisierenden Kraft
elektronischer Kommunikation. Sobald Leute miteinander in Kontakt bleiben können,
zerstört es die Basis einer totalitären Kontrolle von Information. Es ist für eine totalitäre
Regierung nicht länger möglich, sich einfach die Fernseh- und Radiostation zu
schnappen und alle im Dunkeln zu lassen. Während des Putsches gegen
Gorbatschow 1991 war es nicht Jelzin auf dem Panzer, der die Machtübernahme
verhinderte, auch wenn es so aussah. Es war tatsächlich, dass illegale Netzwerk
früher Formen von E-mail und Faxgeräten, das der totalitären Kontrolle von
Informationen das Genick brach. Heute ist das Internet eine enorm leistungsfähige,
demokratisierende Kraft, und es fegt die totalitären Regime hinweg. Es demokratisiert
Dinge auch auf anderen Ebenen, zum Beispiel das Verhältnis von Ärzten und ihren
Patienten. Durch das Internet sind Patienten besser informiert als jemals zuvor, und
sie besuchen ihre Ärzte ausgerüstet mit umfangreichem Wissen.
Die Gefahr ist, dass dies auch die zerstörerische Natur der Menschen demokratisiert.
Die größten Gefahren, über die Bill Joy gesprochen hat, sind die sich selbst
vervielfältigenden Technologien. Am nächsten dran sind wir in der biologischen Welt.
Wir sind nicht mehr weit entfernt von dem Tag, in dem jemand in einem einfachen
Universitätslabor ein Designer-Pathogen kreieren kann. Die Nanotechnologie liegt
etwas zurück, aber in 20 bis 25 Jahren wird es möglich sein, nicht-biologische
Einheiten zu kreieren, die sich selbst vervielfältigen können. Diese sind potenziell
gefährlicher als biologische Pathogene, weil sie viel stärker und intelligenter sind.
Mario Kaiser:
Was schlagen Sie vor?
Kurzweil:
Die Antwort ist keine einfache und nicht unbedingt eine bequeme.
Sie ist eine Kombination aus Sorgfältigkeit auf verschiedenen Ebenen. Das beginnt
mit umfassenden ethischen Richtlinien in diesen Berufen. In der Biotechnologie
haben wir das schon. Die Kontrollen auf diesem Gebiet sind sehr strikt, es ist bereits
überreguliert. Dann gibt es gesetzliche Kontrollen, es gibt eine Überwachung, die
versucht Terroristen aufzudecken, die Technologien missbrauchen wollen. Hinzu
kommt die Entwicklung technologischer Sicherheitssysteme. Wir müssen
Technologie benutzen, um Technologie zu bekämpfen. Oft gibt uns gerade das
Wissen über eine zerstörerische Technologie den nötigen Einblick, um eine
Schutztechnologie zu entwickeln. Denken Sie nur an eine Gefahr, die vor ein paar
Jahrzehnten noch nicht existierte - das Computervirus. Als die ersten Viren
auftauchten, schlugen eine Reihe von Experten Alarm. Sie behaupteten, dass die erste
Generation von Computerviren zwar nicht besonders hoch entwickelt sei. Doch sobald
die Viren weiter entwickelt seien, würden sie Computernetzwerke völlig zerstören.
Welche Erfahrung haben wir gemacht? Es gibt Computerviren jetzt seit einiger Zeit,
und sie haben sich weiter und weiter entwickelt. Sie haben trotzdem keine
Computernetzwerke zerstört. Sie sind zerstörerisch, und wir machen uns weiterhin
Sorgen ihretwegen. Aber sie sind nicht viel mehr als eine Belästigung. Niemand
würde vorschlagen, wir sollten wegen der Viren alle Computer und das Internet und
alle Computernetzwerke abschaffen.
Mario Kaiser:
Werden wir unsterblich?
Kurzweil:
Das Wesen des Todes wird sich auf eine Weise ändern, die wir
heute noch nicht zu schätzen wissen. Wenn jemand heute stirbt, geht alles Wissen
dieser Person verloren. Es besteht eine untrennbare Verbindung zwischen der
Hardware und der Software unserer Leben. Bei unseren Computern ist das anders.
Wenn wir einen neuen Computer kaufen, werfen wir die alten Dateien nicht einfach
weg. Wir kopieren sie herüber und benutzen sie weiter. Die Software unserer
Computer hat eine Lebensdauer, die unabhängig von ihrer Hardware ist. Das heißt
aber nicht, dass sie ewig lebt. Wenn man eine Datei 15 Jahre lang nicht benutzt und
dann versucht sie zu öffnen, wird man feststellen, dass das Programm sie nicht mehr
lesen kann. Software stirbt, wenn sich niemand um sie kümmert. Wir werden an den
Punkt kommen, an dem wir so lange leben können, wie wir jemandem wichtig sind -
oder so lange wir uns selbst wichtig sind. Die Entscheidung über Leben oder Tod wird
in unseren eigenen Händen liegen. Man sollte meinen, dass die Leute diese
Kontrolle
haben wollten, aber eine Reihe von ihnen will das gar nicht. Sie beruhigt die Tatsache,
dass dies nicht in ihren eigenen Händen liegt. Die Leute wollen sterben. Nicht heute.
Nicht morgen. Aber nicht in allzu ferner Zukunft. Wir werden den Punkt erreichen, an
dem unsere Lebensdauer nicht mehr von der Lebensdauer unserer Hardware
abhängen wird.
Mario Kaiser:
Jetzt widersprechen sie einer These, die Sie in The Age of
Spiritual Machines aufstellen: dass der Tod unserem Leben einen Sinn gibt, dass Zeit
ihre Bedeutung verlieren würde, wenn es zuviel davon gibt.
Kurzweil:
So sind menschliche Wesen gewickelt, und ich glaube in der Tat,
dass wir dies überwinden müssen. Für mich persönlich ist Wissen von
überragendem Wert, und Evolution ist ein spiritueller Prozess, der sich hin zu
größerem Wissen bewegt, zu größerer Intelligenz, größerer Kreativität, größerer
Schönheit, größerer Liebe. Ich glaube an die Evolution. Evolution schafft tieferes und
reichhaltigeres Wissen, und das treibt uns letztlich vorwärts. Aber das Gefühl, dass
Zeit begrenzt ist, haben wir in uns eingebaut. Schon heute verlängern wir unsere
Lebenserwartung jedes Jahr um ein halbes Jahr, und in zehn Jahren werden wir sie
jedes Jahr um ein ganzes Jahr verlängern. Aber so denken die Leute nicht. Sie haben
immer noch die Vorstellung, dass das menschliche Leben etwa 80 Jahre lang dauert,
mit ein bisschen Glück vielleicht 90 Jahre. Dieses Gefühl, wenig Zeit zu haben, treibt
uns an. Mit der Evolution wird alles immer schneller, wir haben also weniger Zeit, um
bestimmte Fortschritte zu machen, bevor die nächste Generation kommt. Wir werden
unser mortalitätsgetriebenes Gefühl von Zeit durch ein evolutionsgetriebenes Gefühl
von Zeit ersetzen.
Mario Kaiser:
Die Zukunft braucht uns also doch?
Kurzweil:
Ich glaube schon.
(DER STANDARD, Print-Ausgabe, Album, 25. 8. 2001)