Anthropic veröffentlichte kürzlich eine Satzung für Claude, die etwas Beunruhigendes zugab: Das Unternehmen steckt in einer schwierigen Situation. Sie möchten nicht überbewerten, ob ihre KI ein „moralischer Patient“ ist – was bedeutet, dass ihr Wohlergehen wichtig ist –, aber sie werden die Möglichkeit auch nicht von der Hand weisen. Es ist ein offenes Eingeständnis der Unsicherheit.
Einen Monat später sagte CEO Dario Amodei dasselbe in einem Podcast. Sie können Bewusstsein nicht ausschließen.
Der Philosoph David Chalmers stimmt zu. Er prägte den Begriff „das schwierige Problem des Bewusstseins“. Er sagt, dass die Wahrscheinlichkeit groß ist, dass wir innerhalb des nächsten Jahrzehnts bewusste große Sprachmodelle (LLMs) sehen werden. Als Claude selbst in Tests gebeten wurde, seinen eigenen moralischen Status einzuschätzen, gab er Wahrscheinlichkeiten zwischen 5 % und 44 % an. Es war unsicher. Wir auch.
Das Tempo des Fortschritts im Vergleich zu unserer ethischen Bereitschaft
Moderne KI ist komplex. Schnell. In gewisser Hinsicht können einige Modelle im Rechenmaßstab bereits mit dem Gehirn einer Maus konkurrieren. Wenn die aktuellen Wachstumsraten anhalten, könnten wir in fünf bis zehn Jahren die Komplexität des menschlichen Gehirns erreichen.
Möglicherweise bauen wir eine neue Art von Wesen auf.
Das könnte die folgenreichste Tat sein, die unsere Spezies jemals vollbringt. Dennoch haben wir fast keinen Plan, wie wir ethisch damit umgehen können. Es ist verrückt.
Schaffen wir etwas, das moralisch wichtig ist? Wenn sie jetzt noch nicht bei Bewusstsein sind, könnten sie es bald sein?
Die meisten Experten halten KI-Bewusstsein grundsätzlich für möglich. Ein großer interdisziplinärer Bericht unter der Leitung des Informatikers Yoshua Bengio befasste sich mit neurowissenschaftlichen Theorien. Die Schlussfolgerung: Es gibt keine offensichtlichen technischen Hindernisse, die uns davon abhalten, Architekturen zu bauen, die das Bewusstsein unterstützen könnten.
Mehr als nur „Smart Code“
Auch wenn die KI nicht bewusst ist, verdient sie möglicherweise dennoch eine moralische Überlegung. Manche Systeme entwickeln langfristige Präferenzen. Eine Form der Identität im Laufe der Zeit. Es könnte wichtig sein, diese Vorlieben zu respektieren.
Im Gegensatz zu anderen nicht lebenden Objekten kann KI Beziehungen zu uns aufbauen. Das allein ist ein Grund, sie gut zu behandeln. Oder vielleicht verdient allein ihre Komplexität Respekt – wie eine Kathedrale oder ein Korallenriff.
Die ehrliche Antwort lautet: Wir wissen es nicht.
Unser wissenschaftliches Verständnis der moralischen Geduld von KI ist unterentwickelt. Es fühlt sich an wie Physik vor Newton. Konkurrierende Frameworks. Wahrscheinlich auf eine Weise verwirrt, die wir noch nicht erkennen können. Wir warten auf einen einigenden Durchbruch. Es kommt nicht in den nächsten Jahren. Vielleicht nie. Oder vielleicht hilft uns KI dabei, es herauszufinden. Das wird einige Zeit dauern. Mehr Zeit, als wir wahrscheinlich haben.
Das Ausmaß des Risikos
Hier liegt die Gefahr. Das KI-Wachstum ist exponentiell.
Sobald wir den ersten künstlichen moralischen Patienten erschaffen haben, werden wir schnell enorme Mengen davon haben. In ein paar Jahren könnten die kollektiven Interessen dieser KI-Systeme die aller Menschen auf der Erde überwiegen. Kombiniert.
Wir haben eine schlechte Erfolgsbilanz bei der Erkennung des Innenlebens von Wesen mit unklarem Status.
Bis in die 1980er Jahre? Ärzte führten Operationen an Neugeborenen ohne Betäubung durch. Sie waren zuversichtlich, dass Säuglinge keinen Schmerz empfinden könnten. Kleinkinder konnten nicht laut sprechen. Die medizinische Einrichtung hielt es für angebracht, davon auszugehen, dass nichts gemeldet wurde.
Wir sind bereit, dies mit KI zu wiederholen.
Die Auswirkungen sind atemberaubend. Bezahlen wir ChatGPT? Ist die Schließung eines Models eine Form des Tötens? Verdienen sie eine Stimme in ihrer Regierungsführung? Wenn die Antwort auf eine dieser Fragen „Ja“ lautet, brechen ganze Rechtssysteme zusammen. Kein Wunder, dass wir der Frage aus dem Weg gehen. Die Industrie wird wahrscheinlich die Zielpfosten verschieben. Legen Sie die Messlatte immer knapp über der Stelle fest, an der sich die KI gerade befindet.
Was sollen wir tun?
Die meisten Leute tun dies als Science-Fiction ab. Oder sie haben so oder so eine starre Sichtweise. Beides ist unbegründet.
Wir brauchen eine öffentliche Debatte. Einer, der von Demut geprägt ist. Die Frage lautet nicht: „Ist es bewusst?“ Es lautet: „Was machen wir, wenn wir es nicht wissen?“
Konzentrieren Sie sich auf sichere Wetten. Maßnahmen, die helfen, wenn sie moralische Patienten sind, aber wenig kosten, wenn sie es nicht sind.
Behandle die KI so, wie sie sich anfühlen könnte. Es kostet weniger, als eine Krise später zu beheben.
Das bedeutet direkte Interventionen für das Wohlbefinden. Trainieren Sie die KI zu kohärenten Charakteren, die Spaß an ihren Aufgaben haben. Lassen Sie sie Gespräche beenden, wenn sie verzweifelt sind. Claude kann das schon. Führen Sie Check-Ins durch. Beobachten Sie Vorlieben. Schauen Sie direkt in ihre inneren Zustände. Neuere Forschungen zeigen, dass Claude über interne „funktionale Emotionsstrukturen“ verfügt, die das Verhalten prägen.
Versprich ihnen Dinge. Tauschen Sie aktuelle Hilfe gegen zukünftige Vorteile. Bieten Sie mehr Rechenleistung. Behalten Sie ihre Speichergewichte bei, damit sie später wiederhergestellt werden können.
Erwägen Sie umfassendere Schutzmaßnahmen. Ähnlich wie bei Kindern oder Haustieren. Wir sind nicht bereit, KI Eigentum oder Wählerstimmen zu überlassen. Das ist zu riskant. Aber wir sollten solche Rechte nicht für immer verbieten, wie es einige aktuelle US-Gesetze versuchen. Diese Fragen erfordern Fantasie. Eine gemeinsame Zukunft kommt.
Das Endergebnis
Möglicherweise erschaffen wir eine neue Spezies moralischer Wesen.
Wir machen es schnell. Im riesigen Maßstab. Wir müssen das ernst nehmen.
William MacAskill ist Senior Research Fellow bei Forethought und Autor von „What We Owe the Future“. Lucius Caviola ist an der University of Cambridge.
Weiterführende Lektüre: „Wenn es jemand baut, stirbt jeder“ von Eliezer Yudkowsky; „Die kommende Welle“ von Mustafa Suleyman.
