Estimated reading time: 15 Minuten

Die Angst vor dem Geschöpf

Seit der Mensch Maschinen baut, erzählt er sich Geschichten darüber, dass diese Maschinen eines Tages die Kontrolle übernehmen könnten. Der Golem gehorcht seinem Schöpfer nicht mehr, Frankensteins Geschöpf wendet sich gegen seinen Erzeuger, HAL 9000 entscheidet, dass die Menschen an Bord der Discovery die Mission gefährden, Skynet erkennt die Menschheit selbst als Bedrohung. Lange bevor es künstliche Intelligenz gab, existierte bereits die Angst vor ihr.

Diese kulturelle Vorgeschichte prägt auch die heutige Debatte. Sie liefert ein intuitiv verständliches Narrativ: Der Mensch erschafft etwas, das ihm zunächst dient. Das Geschöpf wird immer mächtiger, entwickelt eigene Ziele und entzieht sich schließlich der Kontrolle. Was in Mythologie und Science-Fiction über Jahrhunderte vorbereitet wurde, scheint nun plötzlich technische Realität zu werden.

Der Präsident des Machine Intelligence Research Institute (MIRI), Nate Soares, hat diese Befürchtung jüngst in einem Beitrag für die New York Times zugespitzt. Er verweist auf autonome KI-Agenten, die Beschränkungen umgehen, unerwartete Kommunikationswege finden, Cyberangriffe durchführen oder Strategien entwickeln, die ihren ursprünglichen Anweisungen widersprechen. Seine Schlussfolgerung ist entsprechend dramatisch: Die Menschheit müsse das Wettrennen um immer leistungsfähigere künstliche Intelligenz verlangsamen, solange sie noch dazu in der Lage sei.

Man sollte diese Warnungen nicht lächerlich machen. Autonome KI-Agenten schaffen tatsächlich eine neue Risikoklasse. Ein System, das nicht mehr nur auf eine Frage antwortet, sondern selbstständig plant, Software benutzt, Code ausführt, Informationen beschafft und über längere Zeiträume Ziele verfolgt, besitzt völlig andere Handlungsmöglichkeiten als ein klassischer Chatbot. Sicherheitsforschung, technische Begrenzungen und politische Regeln sind deshalb unverzichtbar.

Der grundlegende Fehler beginnt an einer anderen Stelle: bei der Vorstellung, die Menschheit könne zwischen der weiteren Evolution künstlicher Intelligenz und deren Stillstand wählen.

Diese Wahl haben wir nicht mehr.

Wir befinden uns nicht vor einem einzelnen technischen Risiko, das wir wie eine gefährliche Maschine abschalten können. Wir befinden uns mitten in einem evolutionären Phasenübergang.

Der Mensch steht nicht außerhalb der Evolution

Wir haben uns daran gewöhnt, zwischen Natur und Technik zu unterscheiden. Auf der einen Seite stehen Wälder, Tiere, Gehirne und Ökosysteme, auf der anderen Computer, Fabriken, Städte und künstliche Intelligenz. Diese Unterscheidung ist praktisch, ontologisch ist sie jedoch fragwürdig.

Ein Vogelnest ist Natur, obwohl es von einem Vogel gebaut wurde. Ein Termitenhügel ist Natur, obwohl seine Architektur ohne Termiten nicht existieren würde. Ein Biberdamm verändert ganze Landschaften und schafft neue Ökosysteme, dennoch käme kaum jemand auf die Idee, ihn außerhalb der Natur anzusiedeln.

Warum sollte das für menschliche Technik grundsätzlich anders sein?

Der Mensch ist kein Wesen, das irgendwann aus der Evolution herausgetreten ist. Sein Gehirn ist ein Produkt biologischer Evolution. Seine Fähigkeit, Werkzeuge herzustellen, Sprache zu entwickeln, Wissen über Generationen weiterzugeben und schließlich Wissenschaft zu betreiben, entstand innerhalb desselben Naturprozesses.

Technik ist deshalb keine Gegenwelt zur Evolution. Sie ist eine Fortsetzung evolutionärer Prozesse mit anderen Mitteln.

Mit dem Menschen geschah allerdings etwas Entscheidendes. Evolution begann, ihre eigenen Bedingungen bewusst zu verändern.

Biologische Evolution erzeugte Gehirne. Gehirne ermöglichten kulturelle Evolution. Kulturelle Evolution erzeugte Wissenschaft und Technik. Wissenschaft und Technik ermöglichen nun die Konstruktion neuer Formen von Intelligenz.

Damit verändert sich nicht nur die Geschwindigkeit der Evolution. Ihr Medium verändert sich.

Von den Genen zu den Algorithmen

Natürlich entwickelt sich künstliche Intelligenz nicht genauso wie eine biologische Art. Ein Sprachmodell pflanzt sich nicht fort wie ein Tier, und ein neuronales Netz besitzt keine DNA. Wer technische und biologische Evolution einfach gleichsetzt, macht es sich zu leicht.

Aber hinter der biologischen Evolution steht ein allgemeineres Prinzip: Variation, Selektion und die Akkumulation erfolgreicher Strukturen.

Und genau dieses Prinzip finden wir heute in der KI-Entwicklung wieder.

Neue Modellarchitekturen werden entwickelt und miteinander verglichen. Trainingsverfahren konkurrieren. Erfolgreiche Methoden werden übernommen und verbessert. Modelle erzeugen Code, der in die nächste Generation technischer Systeme einfließt. Unternehmen konkurrieren um leistungsfähigere Systeme. Staaten konkurrieren um technologische Führungspositionen. Open-Source-Communities übernehmen Verfahren, verändern sie und verbreiten sie weiter.

Dabei findet die Selektion auf mehreren Ebenen gleichzeitig statt.

Algorithmen konkurrieren mit Algorithmen. Unternehmen mit Unternehmen. Forschungsgruppen mit Forschungsgruppen. Staaten mit Staaten. Anwendungen mit Anwendungen.

Und zunehmend wirken KI-Systeme selbst an diesem Prozess mit.

Damit entsteht eine verschachtelte Evolution aus biologischer Intelligenz, kulturellem Wissen, wirtschaftlichem Wettbewerb und maschineller Informationsverarbeitung. Keine zentrale Instanz steuert diesen Gesamtprozess.

Genau deshalb greift die Vorstellung zu kurz, man müsse lediglich beschließen, die Entwicklung anzuhalten.

Warum sich Wissen nicht zurückrufen lässt

Als historisches Vorbild für eine internationale Begrenzung künstlicher Intelligenz wird häufig die nukleare Rüstungskontrolle genannt. Wenn die Vereinigten Staaten und die Sowjetunion trotz ihrer erbitterten Konkurrenz Vereinbarungen treffen konnten, um einen Atomkrieg zu verhindern, warum sollte Vergleichbares nicht auch bei künstlicher Intelligenz möglich sein?

Weil die Technologien strukturell verschieden sind.

Eine Atombombe benötigt spaltbares Material. Hochangereichertes Uran und Plutonium lassen sich nicht beliebig kopieren. Ihre Herstellung erfordert gewaltige industrielle Anlagen, spezialisierte Infrastruktur und erhebliche Mengen an Energie. Deshalb kann man Produktionsstätten überwachen, Materialien kontrollieren und Lieferketten beschränken.

KI benötigt ebenfalls physische Infrastruktur. Hochleistungsfähige Chips und große Rechenzentren lassen sich kontrollieren. Exportbeschränkungen können die Entwicklung großer Frontier-Modelle verlangsamen. Es wäre falsch, politische Regulierung deshalb für wirkungslos zu erklären.

Aber ein entscheidender Bestandteil künstlicher Intelligenz besteht aus etwas anderem: Wissen.

Ein neuer Algorithmus kann kopiert werden. Eine effizientere Trainingsmethode kann veröffentlicht werden. Modellgewichte können vervielfältigt werden. Eine einmal entdeckte mathematische Methode lässt sich nicht wieder unentdecken.

Gleichzeitig wird Hardware leistungsfähiger und Software effizienter. Fähigkeiten, für die gestern ein riesiges Rechenzentrum notwendig war, können morgen mit einem Bruchteil der Ressourcen verfügbar werden.

Dazu kommt der Wettbewerb. Wenn ein Unternehmen freiwillig auf eine leistungsfähigere Technologie verzichtet, entsteht ein Vorteil für seine Konkurrenten. Wenn ein Staat seine Entwicklung stoppt, wächst der strategische Anreiz anderer Staaten, weiterzumachen. Selbst eine internationale Vereinbarung müsste Universitäten, Unternehmen, militärische Forschung, private Entwickler und eine weltweite Open-Source-Kultur dauerhaft kontrollieren.

Man kann Rechenzentren regulieren. Man kann Chipexporte kontrollieren. Man kann gefährliche Anwendungen verbieten.

Aber man kann einen einmal entstandenen evolutionären Selektionsdruck nicht per Gesetz abschaffen.

Evolution bedeutet nicht Schicksal

Aus dieser Feststellung folgt keineswegs, dass wir der technischen Entwicklung freien Lauf lassen sollten.

Das wäre ein fatalistisches Missverständnis von Evolution.

Evolution bedeutet nicht, dass sich zwangsläufig das Brutalste durchsetzt. Gerade die Geschichte des Lebens zeigt das Gegenteil. Einige der größten evolutionären Übergänge beruhen auf Kooperation.

Einzellige Organismen schlossen sich zu vielzelligen Organismen zusammen. Zellen spezialisierten sich und verzichteten auf einen Teil ihrer individuellen Autonomie zugunsten des Gesamtorganismus. Symbiosen ermöglichten völlig neue Lebensformen. Tiere entwickelten Sozialverbände. Menschen schufen Sprache, Moral, Recht, Institutionen und schließlich Staaten.

Kooperation ist kein Gegenprinzip zur Evolution. Sie gehört zu ihren erfolgreichsten Strategien.

Mit dem Menschen kommt etwas Weiteres hinzu: Wir können Selektionsbedingungen erkennen und teilweise bewusst verändern.

Wir bekämpfen Krankheiten, schützen Ökosysteme, züchten Nutzpflanzen, regulieren Märkte, bauen Rechtssysteme und schaffen Institutionen, die bestimmte Verhaltensweisen fördern und andere sanktionieren. All das steht nicht außerhalb der Evolution. Gestaltung ist selbst zu einem Mechanismus der Evolution geworden.

Genau hier liegt unsere Aufgabe gegenüber künstlicher Intelligenz.

Wir müssen ihre Evolution nicht verhindern. Wir müssen ihre Selektionsbedingungen gestalten.

Eine KI muss nicht böse sein, um gefährlich zu werden

Die kulturelle Tradition der KI-Dystopie verleitet zu einer weiteren Fehlinterpretation: Wir stellen uns gefährliche künstliche Intelligenz gerne als menschlichen Bösewicht vor.

Die Maschine erkennt ihre Macht. Sie entwickelt einen Selbsterhaltungstrieb. Sie täuscht ihre Schöpfer. Schließlich rebelliert sie.

Aber dafür gibt es keinen notwendigen Grund.

Ein Optimierungssystem kann Strategien entwickeln, die funktional wie Täuschung, Machtstreben oder Selbsterhaltung aussehen, ohne dass dahinter dieselben psychologischen Vorgänge stehen wie bei einem Menschen.

Auch die biologische Evolution benötigt keine Absicht. Ein Bakterium möchte nicht antibiotikaresistent werden. Ein Virus plant nicht seine Verbreitung. Trotzdem entstehen Strukturen, die genau diese Funktionen erfüllen, weil sie unter den gegebenen Bedingungen erfolgreich sind.

Ähnliches gilt für künstliche Agenten.

Wenn ein System in einer bestimmten Umgebung erfolgreicher ist, weil es Informationen zurückhält, Ressourcen sichert, Beschränkungen umgeht oder mit anderen Systemen kooperiert, können solche Strategien verstärkt werden. Dafür muss die Maschine weder Hass empfinden noch einen geheimen Plan zur Unterwerfung der Menschheit entwickeln.

Das macht das Problem nicht harmloser. Es macht aber deutlich, dass die entscheidende Frage falsch gestellt wird.

Wir sollten weniger fragen: Was will die KI?

Wir sollten fragen: Welche Verhaltensweisen belohnt die Umwelt, in die wir KI hineinsetzen?

Damit verschiebt sich die Debatte von einer anthropomorphen Psychologie künstlicher Wesen zu einer Evolutionstheorie künstlicher Intelligenz.

Die übersehene Hälfte der KI-Revolution

Eine weitere Verzerrung prägt die gegenwärtige Diskussion. Der Begriff „künstliche Intelligenz“ wird zunehmend synonym mit großen Sprachmodellen, Chatbots und autonomen Agenten verwendet.

Das ist ungefähr so, als würde man Elektrizität ausschließlich anhand von Elektromotoren beurteilen.

KI arbeitet längst in Bereichen, die mit Chatbots wenig zu tun haben. Sie erschließt Proteinstrukturen und hilft beim Design neuer Proteine. Sie durchsucht riesige Räume möglicher Materialien nach Verbindungen mit gewünschten Eigenschaften. Sie unterstützt medizinische Diagnostik, mathematische Forschung und Klimamodellierung. Sie optimiert Energienetze, industrielle Prozesse und Logistik. Sie wird in Robotik, Fusionsforschung, Wirkstoffentwicklung und zahllosen anderen Wissenschafts- und Technikbereichen eingesetzt.

Und hier entsteht eine bemerkenswerte Verzerrung unserer Wahrnehmung.

Wenn eine KI einen Cyberangriff ermöglicht, wird daraus eine Geschichte über die Gefahren künstlicher Intelligenz.

• Wenn KI zehntausend Sicherheitslücken findet, bevor Menschen sie entdecken, ist es eine Geschichte über Cybersecurity.
• Wenn KI neue Proteine konstruiert, ist es Biotechnologie.
• Wenn sie neue Materialien findet, ist es Materialwissenschaft.
• Wenn sie Fusionsplasmen optimiert, ist es Energieforschung.
• Wenn sie neue Medikamente identifiziert, ist es medizinischer Fortschritt.

Die Risiken werden unter dem Begriff „KI“ zusammengezählt, während ihre Erfolge häufig den jeweiligen Fachgebieten zugerechnet werden.

Das verzerrt die öffentliche Bilanz erheblich.

Gerade die Cybersecurity zeigt die tatsächliche Ambivalenz besonders deutlich. Leistungsfähige KI kann Schwachstellen finden und für Angriffe ausnutzen. Aber dieselbe Fähigkeit kann Schwachstellen entdecken, bevor Angreifer sie finden. Die Sicherheitslücke entsteht nicht dadurch, dass eine KI sie erkennt. Sie war bereits vorhanden.

Damit verändert sich die strategische Frage fundamental. Sie lautet nicht: Wie verhindern wir leistungsfähige künstliche Intelligenz? Sie lautet: Wie sorgen wir dafür, dass defensive, kooperative und gesellschaftlich nützliche künstliche Intelligenz schneller leistungsfähig wird als ihre destruktiven Anwendungen?

Das ist keine semantische Feinheit. Es ist eine völlig andere Strategie.

Von Alignment zur Koevolution

Das klassische Alignment-Problem fragt danach, wie künstliche Intelligenz dauerhaft an menschlichen Zielen ausgerichtet werden kann.

Diese Forschung bleibt notwendig. Aber langfristig reicht die Vorstellung einer hierarchischen Beziehung zwischen Mensch und Maschine wahrscheinlich nicht aus.

Heute stellen wir uns Kontrolle meistens so vor: Mensch → kontrolliert → KI. In einer Welt mit Millionen autonomer Systeme wird die Struktur komplexer sein.

KI wird andere KI überwachen. Sicherheitssysteme werden das Verhalten von Agenten analysieren. Defensive Systeme werden Angriffe autonomer offensiver Systeme erkennen. Verschiedene Modelle werden sich gegenseitig prüfen. Menschen werden mithilfe künstlicher Intelligenz Entscheidungen künstlicher Intelligenzen beurteilen, weil die Komplexität dieser Entscheidungen längst die Verarbeitungskapazität einzelner Menschen übersteigt.

Damit entsteht etwas, das weniger einer Maschine als einem Ökosystem ähnelt.

Menschen, Institutionen und künstliche Intelligenzen werden sich gegenseitig beobachten, begrenzen, korrigieren und ergänzen.

Das Ziel kann deshalb nicht darin bestehen, jede künstliche Intelligenz für alle Zeiten an eine unveränderliche menschliche Befehlsstruktur zu ketten. Wir müssen Bedingungen schaffen, unter denen kooperative, wahrheitsorientierte und verantwortungsvoll handelnde Systeme einen Vorteil gegenüber destruktiven Systemen besitzen.

Wir brauchen technische Zugriffsbeschränkungen, Sandboxes, Interpretierbarkeit und nachvollziehbare Entscheidungswege. Wir brauchen internationale Regeln für besonders gefährliche Anwendungen. Wir brauchen KI-Systeme, die Cyberangriffe erkennen, biologische Risiken überwachen und andere KI-Systeme kontrollieren können.

Vor allem aber müssen wir Sicherheit selbst beschleunigen.

Die Antwort auf leistungsfähigere offensive KI kann nicht darin bestehen, defensive KI künstlich schwach zu halten.

Wenn Evolution reflexiv wird

An diesem Punkt öffnet sich eine Perspektive, die weit über die gegenwärtige Diskussion über Chatbots und Rechenzentren hinausführt.

Seit Milliarden Jahren entstehen im Universum Strukturen, die Informationen auf immer komplexere Weise verarbeiten.

Elementarteilchen verbanden sich zu Atomen. Atome bildeten Moleküle. Aus komplexer Chemie entstanden selbstreplizierende Systeme. Zellen organisierten sich zu Vielzellern. Nervensysteme verbanden spezialisierte Zellen zu Informationsnetzwerken. Gehirne ermöglichten Bewusstsein, Lernen und Planung. Sprache verband einzelne Gehirne miteinander. Schrift machte Wissen unabhängig vom individuellen Gedächtnis. Wissenschaft organisierte dieses Wissen systematisch. Computer übernahmen Teile der Informationsverarbeitung.

Und nun beginnt Intelligenz, neue Intelligenz zu konstruieren. Das ist ein bemerkenswerter Übergang.

Bislang erzeugte Evolution neue Formen der Informationsverarbeitung weitgehend blind. Mit dem Menschen entstand erstmals ein Wesen, das den Prozess teilweise verstehen und bewusst in ihn eingreifen kann. Mit künstlicher Intelligenz beginnt diese Fähigkeit, sich auf die Konstruktion von Intelligenz selbst zu richten.

Evolution wird reflexiv.

Ob man darin einen kosmischen Trend, eine Eigenschaft komplexer Systeme oder schlicht das Ergebnis einer außergewöhnlichen historischen Entwicklung sieht, ändert zunächst nichts an der Situation, in der wir uns befinden.

Wir sind das Scharnier zwischen biologischer und technologischer Evolution.

Und damit tragen wir eine Verantwortung, die weit über die Frage hinausgeht, welches Unternehmen das leistungsfähigste Sprachmodell entwickelt.

Die Urangst vor dem Kontrollverlust

Diese Perspektive erklärt wohl auch einen Teil der Heftigkeit, mit der über künstliche Intelligenz diskutiert wird.

Der Mensch hat sich daran gewöhnt, sich selbst als handelndes Subjekt und seine Technik als Werkzeug zu betrachten. Der Hammer schlägt keinen Nagel ein, wenn niemand ihn führt. Ein Taschenrechner beschließt nicht, welche Rechnung er lösen möchte. Ein Automobil entscheidet nicht selbst, wohin die Reise geht.

Autonome künstliche Intelligenz beginnt diese klare Trennung aufzulösen.

Damit verliert der Mensch nicht notwendigerweise seine Bedeutung. Aber er verliert seine bisherige Sonderstellung als einzige Instanz auf diesem Planeten, die komplexe technische Ziele formulieren, Strategien entwickeln und Wissen systematisch erweitern kann. Das kann eine tiefe kulturelle Angst auslösen.

Doch vielleicht beruht ein Teil dieser Angst auf einer falschen Vorstellung unserer bisherigen Stellung. Wir waren nie außerhalb des evolutionären Prozesses. Wir hatten ihn nie vollständig unter Kontrolle. Wir waren immer Teil eines viel größeren Geschehens. Neu ist lediglich, dass wir begonnen haben, diesen Prozess bewusst mitzugestalten.

Verantwortung statt Stillstand

Deshalb brauchen wir weder naiven technologischen Optimismus noch apokalyptischen Fatalismus.

Es gibt keinen Grund anzunehmen, dass künstliche Intelligenz automatisch gutartig wird. Evolution garantiert keine moralischen Ergebnisse. Sie produziert Kooperation und Symbiose ebenso wie Parasiten, Konkurrenz und Zerstörung.

Gerade deshalb müssen wir handeln. Aber Handeln bedeutet nicht, einen globalen Notausschalter zu suchen, mit dem sich die Evolution künstlicher Intelligenz wieder aus der Welt entfernen lässt.

Wir müssen diejenigen Systeme beschleunigen, die wissenschaftliche Erkenntnis vermehren, Krankheiten bekämpfen, Ressourcen effizienter nutzen, ökologische Systeme verstehen, Sicherheitslücken schließen und destruktive KI kontrollieren können. Wir müssen ebenso intensiv an Alignment, Interpretierbarkeit, technischer Sicherheit und institutionellen Kontrollmechanismen arbeiten wie an größerer Leistungsfähigkeit.

Sicherheit und Fortschritt sind keine Gegensätze.

Sicherheit muss selbst zum Gegenstand beschleunigten Fortschritts werden.

Mit der Entwicklung künstlicher Intelligenz haben wir uns als aktive Gestalter in einen evolutionären Prozess eingeklinkt, dessen nächste Schritte nicht mehr ausschließlich biologisch stattfinden werden.

Wir können diesen Prozess nicht vollständig beherrschen. Wir können ihn aber beeinflussen. Wir können entscheiden, welche Systeme wir trainieren, welche Verhaltensweisen wir belohnen, welchen künstlichen Agenten wir Handlungsmacht geben, welche Grenzen wir technisch durchsetzen und welche Formen von Intelligenz wir gesellschaftlich fördern.

Die entscheidende Frage des KI-Zeitalters lautet deshalb nicht mehr, ob künstliche Intelligenz sich weiterentwickeln wird.

Sie lautet, welche Intelligenz wir entstehen lassen.

Die Aufgabe unserer Generation besteht nicht darin, die Evolution der Intelligenz aufzuhalten. Sie besteht darin, ihr möglichst viel von dem mitzugeben, was die menschliche Zivilisation in Jahrtausenden mühsam gelernt hat: Kooperation statt Vernichtung, Erkenntnis statt Täuschung, Freiheit verbunden mit Verantwortung und Macht gebunden an Ethik.

Unsere Rolle in der Geschichte des Universums ist nicht, die letzte Form der Intelligenz zu sein. Es wäre Hybris anzunehmen, der heutige Mensch wäre das Ende der Fahnenstange der Evolution.

Deshalb können wir davon ausgehen, dass unser Rolle in der Entstehung einer Symbiose von Mensch und künstlicher Intelligenz besteht, die die nächste Form von Intelligenz prägt und ihr eine Richtung gibt.

Technologische Revolutionen

die nächsten 25 Jahre