Wie wir in Zukunft leben werden, hängt auch davon ab, welche Grenzen wir neuen Technologien setzen.

Foto: imago images/Xinhua/Osman Orsal

Hätte man 2004 den Regierungen der Welt geraten, das Projekt des Studenten Mark Zuckerberg in die Schranken zu weisen, weil es möglicherweise die Meinungsfreiheit gefährden, Wahlen beeinflussen und Jugendliche in Abhängigkeit und Depression treiben könnte, ja, sie hätten einem wahrscheinlich den Vogel gezeigt. Heute zerbricht man sich die Köpfe darüber, wie man die Tech-Oligopolisten zähmen könnte. Im Nachhinein ist man immer klüger.

Was man heute hingegen schon wissen müsste: Die Zukunft kommt oft schneller als erwartet. Schienen die Weltmeere lange Zeit unerschöpflich, so sind sie nun plötzlich leergefischt. Wirkte die Klimaerwärmung lange wie ein virtuelles Konstrukt, so spüren wir jetzt deutlich die Auswirkungen. Atomwaffen galten lange als Teil von Science-Fiction-Fantasien. Heute sind sie Realität.

Was jetzt in wissenschaftlichen Papers steht, in Petrischalen oder Code-Editoren wächst, wird irgendwann Teil unseres Alltags sein. Noch haben wir also Zeit, darüber nachzudenken, bei welchen Entwicklungen und Erfindungen eine frühzeitige Regulierung Schlimmeres verhindern könnte – ohne die Innovation zu bremsen.

Die Regulierung von IT-Monopolen wurde vergeigt.
Foto: Reuters/REGIS DUVIGNAU

Climate-Engineering: Eine gefährliche Hoffnung

Je weniger Zeit bis zur Erreichung des 1,5-Grad-Ziels bleibt, desto mehr wird mit einer umstrittenen Lösung als letztem Ausweg aus der Klimakrise geliebäugelt: Climate- oder Geo-Engineering, die vorsätzliche Manipulation des Weltklimas. Anstatt weniger Treibhausgase in die Atmosphäre zu blasen und so den Klimawandel einzudämmen, will Geo-Engineering direkt in die Physik des Klimas eingreifen.

Da wäre etwa die Idee, Schwefeldioxid in die Stratosphäre einzubringen, welches dafür sorgt, dass mehr Sonnenlicht – und damit Wärme – zurück ins Weltall strahlt und nicht bei uns ankommt.

Auch hellere Wolken über den Meeren sollen dafür sorgen, dass die Wärme draußenbleibt. Erreichen will man das über spezielle Boote, die Salzwasser versprühen. Wieder andere Konzepte sehen vor, die Meere mit Eisen zu "düngen", was Algen vermehren soll, die wiederum CO2 fressen und anschließend auf den Meeresgrund absinken.

Was zunächst vielversprechend klingt, ist aber bisher kaum erforscht. Oft klafft zwischen Umweltschutz und künstlicher Klimaabkühlung ein Zielkonflikt: Denn es lässt sich nicht sagen, wie sich die Eingriffe auf sensible Ökosysteme auswirken. Beginnt man, an den Wolken herumzupfuschen, dürfte man nie wieder damit aufhören, da sich die Erde sonst noch schneller als zuvor erwärmen würde, meinen Experten. Erst diese Woche warnte deshalb eine Gruppe von Wissenschaftern in einem offenen Brief erneut vor den Gefahren des solaren Geo-Engineering und forderte ein internationales Abkommen zum Verbot der Methode. Denn derzeit gibt es nur für das Düngen von Ozeanen eine internationale, völkerrechtlich verbindliche Kontrolle.

Ob Geo-Engineering uns tatsächlich einmal helfen könnte, die Folgen des Klimawandels einzudämmen, ist höchst unklar. Sollten wir es versuchen, muss das eine wohlüberlegte, wissenschaftlich fundierte und als Weltgemeinschaft getroffene Entscheidung sein.

Gen-Schere: Schnippeln am Leben

Die Meldung verbreitete sich im November 2018 wie ein Lauffeuer um den Erdball. Ein chinesischer Genetiker habe mittels der Gen-Schere Crispr-Cas9 zwei Embryonen genetisch verändert, sodass diese ohne ein Gen auf die Welt kamen, welches eine Infektion der Zellen mit dem HI-Virus unterstützt.

Eine medizinische Höchstleistung ohne Frage, aber eine, die an den Grundfesten des Menschseins rüttelt und zahlreiche Ängste auslöst. Von "Gott spielen" war die Rede, der "Evolution reinpfuschen" nannten es den Wissenschaften gegenüber offen Eingestelltere.

Die Forschung boomt – auch dank relativ leichter Anwendbarkeit und günstiger Verfahren. Während Versuche an Menschen aus Sicherheitsgründen immer noch beinahe kategorisch abgelehnt werden, machte sich auch in der nichtmedizinischen Community seither zusehends ein Bewusstsein breit, wie verbreitet die Anwendung bei Pflanzen bereits ist und wie vielfältig die Möglichkeiten sind.

Mit der Gen-Schere lässt sich die DNA leichter verändern.
Foto: Science Photo Library/ALFRED PASIEKA

Dass Crispr theoretisch das Potenzial hat, sowohl Landwirtschaft als auch Medizin auf positive Art und Weise zu revolutionieren, davon gehen die meisten Wissenschafterinnen und Wissenschafter aus. Auch gänzlich neue Möglichkeiten tun sich mit dem Fortschritt der Forschung auf – grünere chemische Verbindungen etwa. Das US-Agrarministerium erlaubte vor ein paar Jahren gar alle Geneditierungen mittels Crispr, die mit traditionellen Methoden auch möglich gewesen wären. Mitunter will man so Pflanzen schneller an die Folgen des Klimawandels anpassen.

Schnell wurden aber auch Einsatzmöglichkeiten in der Schädlingsbekämpfung diskutiert – etwa indem man bestimmte Tiere gezielt so editiert, dass sie nur männliche Tiere einer schädlichen Spezies fressen. Das Ungeziefer würde auf diese Weise schnell aussterben.

Mindestens gleich schnell warnten aber einflussreiche Wissenschafter vor unvorhersehbaren Folgen einer solchen Praxis. Genetisch modifizierte Tiere könnten sich gar mit anderen Spezies paaren und die Erbinformation weitergeben– eventuell sogar diese ausrotten. Das klingt fürchterlich, die möglichen Vorteile der Genomeditierung hingegen fürchterlich gut.

Das sagt auch Eric Rhodes, Chef von ERS Genomics – jener Firma, die Emmanuelle Charpentier, die für die Gen-Schere mit dem Nobelpreis ausgezeichnet wurde, gegründet hat. Er vergleicht die Bedeutung von Geneditierung mit jener von Software für Computer und Robotik. Es sei das Codierwerkzeug, um die biologische Hardware unseres Lebens zu entschlüsseln. Rhodes fordert – wie viele andere Genetikerinnen und Genetiker auch – eine verhältnismäßige Regulierung auf EU-Ebene sowie global. Verhältnismäßig, sodass Positives sukzessive genutzt und erforscht werden kann, ohne dass Hasardeure zu hohe Risiken eingehen können.

Computer im Hirn: Die perfekte Dystopie

Eigentlich sollen sogenannte Brain-Computer-Interfaces, Minicomputer, die im Hirn eingesetzt werden, Gutes tun: Schon heute helfen sie etwa Menschen mit Parkinson dabei, ihre Krankheit "auszuschalten" und ein relativ normales Leben zu führen.

In Zukunft sollen sie unsere Hirnströme noch besser entschlüsseln und auch psychische Probleme von Drogensucht bis Depressionen heilen: So könnte das Verlangen nach Zigaretten ebenso deaktiviert werden wie Traurigkeit, Ablenkung oder Müdigkeit.

Computer verstehen unsere Hirne immer besser. Das wirft schwierige ethische Fragen auf.
Foto: APA/AFP/FRED TANNEAU

Doch je mehr die Computer von unserem Hirn verstehen, desto mehr heikle Fragen tun sich auf. Was passiert mit dem Datenstrom, den die Hirncomputer abgreifen? Wer verhindert, dass Menschen mit Gehirnimplantat nicht unfaire Vorteile im Job haben? Wer garantiert ein faires Gerichtsverfahren, wenn man nebenbei auch noch den perfekten Lügendetektor erfunden hat?

Und wer soll diese Technologie, die momentan auch von Tech-Giganten eifrig beforscht wird, besitzen dürfen? Auch das Injizieren von Gedanken könnte irgendwann einmal Wirklichkeit werden – und damit auch das Fundament für die schlimmste aller Dystopien.

Sollten Hirncomputer tatsächlich einmal Usus werden, bräuchte die Datenschutzgrundverordnung der EU jedenfalls ein Update. Chile hat bereits einen Vorstoß gewagt: Dort sollen neuronale Daten wie menschliche Organe behandelt werden – also unverkäuflich sein, egal ob freiwillig oder nicht.

Weltraum: Irgendwann wird es eng

Lange Zeit war es im Weltraum ruhig – zumindest was menschliche Aktivitäten angeht. Da ein Satellit, ab und zu eine Mondmission, dazu eine Handvoll Raumstationen. Doch in den letzten Jahren und Jahrzehnten hat die Drängelei im Orbit erheblich zugenommen: Neben Nationen entdecken auch immer mehr private Unternehmen den Weltraum für sich.

Starlink, Amazon und Oneweb sind nur drei der Konzerne, die mit ihren Satelliten ins All drängen und Internet in fast alle Winkel der Erde bringen wollen. Allein Elon Musk will mit Starlink langfristig bis zu 42.000 Satelliten in die Erdumlaufbahn schießen – das wären rund zehnmal so viele, wie derzeit insgesamt im Orbit unterwegs sind.

Astronomen finden diese Entwicklung zumindest "besorgniserregend", denn die vielen Satelliten hinterlassen nicht nur Lichtstreifen in Himmelsfotografien, sondern könnten auch Radioteleskope empfindlich stören.

Wer darf was auf dem Mars? Besser, wir regeln das jetzt.
Foto: AFP/JACK GUEZ

Mit mehr Verkehr nimmt auch die Gefahr von Kollisionen im All deutlich zu. Vor allem Weltraummüll ist ein Problem: Zersplittern Satelliten in viele Stücke, ist jedes einzelne eine Gefahr für andere Objekte im Orbit. Selbst millimetergroße Teile können bei Geschwindigkeiten von mehreren Zehntausend Stundenkilometern enormen Schaden anrichten – und noch mehr gefährlichen Schrott produzieren.

Eine Verkehrspolizei gibt es im All noch nicht – internationale Vereinbarungen wie der UN-Weltraumvertrag von 1967 stammen aus einer Zeit, in der sich nur USA und Sowjetunion gegenseitig übertrumpfen wollten und nicht Milliardäre. Damals war auch die Besiedelung anderer Planeten noch Zukunftsmusik. Das ist sie zwar noch immer – aber sie ist lauter geworden. Bis tatsächlich Menschen auf dem Mars landen, können zwar noch Jahrzehnte vergehen. Doch besser wäre es, wir hätten die Regeln schon, wenn es so weit ist.

Künstliche Intelligenz: Bitte um Einsicht!

Die Angst vor einer dem Menschen überlegenen künstlichen Intelligenz (KI) ist nicht neu – und fand schon vor vielen Jahren in Filmen wie Blade Runner, Terminator oder I, Robot Einzug. Anstelle einer Maschine, die die Weltherrschaft an sich reißt, unterstützt und beeinflusst uns künstliche Intelligenz heute jedoch auf wesentlich vielseitigere Art und Weise: etwa in Form von Algorithmen, die Bewerber aussortieren, unsere Internetnutzung analysieren, selbstständig Texte schreiben oder prognostizieren sollen, wie wahrscheinlich jemand kriminell wird. Staaten überall auf der Welt investieren in neue KI-Technologien, um beim "KI-Rennen" ganz vorne mitzumischen, und auch Konzerne stecken Milliarden von Dollar in die Weiterentwicklung der Technologie.

Algorithmen können jedoch auch fundamentale Menschenrechte verletzen, beispielsweise, indem sie die freie Meinungsäußerung einschränken, durch die Auswertung von Millionen von Daten über unser Leben unsere Privatsphäre gefährden oder in Bewerbungsprozessen bestimmte Personengruppen diskriminieren. Hinzu kommt das Problem, dass Algorithmen oft so komplex sind, dass sie manchmal nicht einmal von den Programmiererinnen und Programmierern selbst gänzlich verstanden werden.

Nicht zuletzt deshalb fordern viele Expertinnen und Experten, KI künftig besser zu regulieren. Zwar gibt es derzeit noch keine Gesetze, die sich speziell auf KI konzentrieren, Vorschläge dazu werden aber bereits seit Jahren diskutiert und vielerorts wohl bald umgesetzt.

Möglichkeiten für die Regulierung gibt es jedenfalls einige: Beispielsweise könnte Unternehmen und öffentlichen Stellen vorgeschrieben werden, offenzulegen, wie der Algorithmus der verwendeten KI funktioniert. Ebenso könnte der Einsatz bestimmter KI-Technologien, wie Gesichtserkennung, schon von vornherein verboten werden.

Die ambitioniertesten Vorschläge für eine solche Regulierung stammen aus der EU: Innerhalb des Digital Services Act (DSA) sollen große Tech-Konzerne bald mehr über die Funktionsweise ihrer Algorithmen offenlegen, Tracking und personalisierte Werbung könnte künftig nur noch bei erwachsenen Nutzerinnen und Nutzern erlaubt sein, insgesamt soll den großen Digitalplattformen mehr auf die Finger geschaut werden.

Für viele ist das ein erster Schritt in die richtige Richtung, hin zu einer Zukunft, in der KI unsere Gesellschaft und Wirtschaft in vielen Bereichen voranbringt, aber Menschen nicht in Freiheiten einschränkt, die sie sich über viele Jahrzehnte erkämpft haben.

Killerroboter: Lizenz zum Töten

Der Einsatz von Killerrobotern, so sollte man meinen, müsste eigentlich auf einhellige Ablehnung stoßen.

Tatsächlich aber haben nicht nur Militärs und Rüstungsfirmen ein Interesse an dem Einsatz der Kampfroboter, auch zahlreiche Experten zeigen sich zwiegespalten, ob man das grausame Töten nicht lieber einer Maschine überlassen sollte. Nicht nur weil Soldatinnen und Soldaten teils ihr Leben lang mit der Schuld leben müssen, getötet zu haben, sondern auch, weil sich der Mensch regelmäßig als brutale und fehlerhafte Tötungsmaschine herausgestellt hat.

Kampagnen zum Verbot von Killerrobotern waren bisher erfolglos.
Foto: Imago/Snapshot/F. Boillot

Autonome Waffensysteme hingegen könnten am Boden wie auch in der Luft präzisere Angriffe lancieren und zivile Opfer reduzieren, so die Behauptung. Verwechslungsfehler sind freilich dennoch nicht ausgeschlossen.

Aber der Reihe nach: Worum geht es eigentlich? Vereinfacht gesagt, handelt es sich um vollautonome Waffensysteme. Eine von einem Algorithmus gesteuerte Waffe sucht selbst ihr Ziel, findet, identifiziert und attackiert, ohne dass ein Mensch direkt in diesen Prozess eingebunden ist, die Ergebnisse verifiziert oder den Schießbefehl erteilt.

Halbautonome Waffensysteme, bei denen eine Software mögliche Ziele identifiziert und ins Visier nimmt, gibt es schon ein paar Jahre. Rein technisch könnten einige Staaten wohl auch schon heute komplett autonom agierende Waffensysteme einsetzen. Doch diesen Schritt wagen viele Staaten auch deshalb noch nicht, weil der Backlash im Falle eines Fehlers wohl immens und die Frage der rechtlichen Verantwortlichkeit mindestens schwierig, wenn nicht gar unmöglich zu beantworten wäre. Bleibt die Frage, ob nach einem Dammbruch ein Verbot wahrscheinlicher wird oder alle Zügel fallen.

Fakt ist jedoch: Seit mittlerweile fast acht Jahren versuchen einige Staaten im Rahmen der Konvention über bestimmte konventionelle Waffen ein Verbot autonomer Systeme ähnlich jenem von Blendlasern zu erwirken, scheitern aber am Widerstand manch großer Rüstungsexportländer. So auch im vergangenen Dezember. Einige Gegner der Technologie wollen deshalb durch nationale Gesetzgebung und diplomatischen Druck proaktiv eine Ächtung der Waffengattung erreichen – ähnlich wie es bei Antipersonenminen der Fall war.

Durch Vetos von Russland, den USA, Indien oder China wurde ein globales Minenverbot nicht durchgesetzt. Ihr Einsatz ist heute jedoch so verpönt, dass es kaum ein Staat wagen würde, mit ihnen anzugreifen. Dies alleine würde Terroristen freilich nicht abhalten, die Waffen einzusetzen, sollten sie diese in die Hände bekommen. (Philip Pramer, Fabian Sommavilla, Jakob Pallinger, 23.1.2022)