Peter Denning nimmt kein Blatt vor den Mund. Als prominenter Informatiker und Autor der neuen Analyse „Turing’s Mistake: Escaping the Yoke of Unintelligent Machines“ argumentiert er, dass sich das gesamte Gebiet der künstlichen Intelligenz seit 1950 in die falsche Richtung bewegt.
Alan Turing. Der Vater der theoretischen Informatik. Er schlug vor, die Intelligenz einer Maschine daran zu messen, wie gut sie menschliche Gespräche nachahmt – der berühmte Turing-Test. Diese Idee galt jahrzehntelang als Evangelium. Es deutete darauf hin, dass Intelligenz vom Körper abgekoppelt, auf Software reduziert und auf jedem digitalen Computer ausgeführt werden könnte.
Denning ist anderer Meinung. Scharf.
Diese beiden Behauptungen, schreibt er, „haben einen Großteil der KI-Forschung und -Entwicklung geprägt.“ Und sie haben uns ins Chaos gestürzt. Wir bauen Systeme, die intelligent aussehen, aber nicht denken. Nicht wirklich. Sie verstehen es nicht. Sie fühlen nicht. Und sie sind gerade deshalb gefährlich, weil sie keine Menschen sind.
Die stillschweigende Wissenslücke
Der Kern von Dennings Argumentation beruht auf einem schwer fassbaren Konzept: stillschweigendem Wissen.
Was ist das? Es ist das enorme Maß an Verständnis, das Sie besitzen, aber nicht in Worte fassen können. Es ist das Muskelgedächtnis eines Pianisten. Das Bauchgefühl eines Chirurgen. Der gemeinsame kulturelle Kontext, der einem einen Witz erzählt, ist lustig oder beleidigend. Du hast es. Maschinen nicht.
Denning identifiziert fünf Formen dieses Wissens, die sich dem maschinellen Lernen derzeit entziehen:
- Gesunder Menschenverstand
- Alltägliche Interaktionen mit Menschen und Umgebungen
- Gefühle und Wahrnehmungen
- Praktische Fähigkeiten
- Kultureller und historischer Hintergrund
Wir haben versucht, das zu beheben. In den 1980er Jahren. Douglas Lenat startete das Cyc-Projekt, einen ehrgeizigen Versuch, eine umfangreiche Datenbank mit allgemeingültigen Fakten für Computer aufzubauen. Vierzig Jahre später, nach 25 Millionen Einträgen, fiel das Urteil. Es war immer noch nicht genug.
„Cyc hat bestätigt, dass ein Großteil des Wissens, das Menschen zu Experten macht, nicht als propositionale Fakten artikuliert werden kann.“
Denning stellt dies deutlich fest. Selbst dieser riesige Faktenschatz hat kein echtes Fachwissen hervorgebracht. Sie können speichern, was etwas ist. Sie können nicht speichern, wie man ein Experte ist.
Wissen vs. Wissen wie
Praktisches Geschick ist das Hindernis.
„Während Beschreibungen geschickter Ergebnisse oft als Teile dargestellt werden können“, erklärt Denning, „wissen wir nicht, wie man das verkörperte Wissen für geschickte Leistung kodiert.“
Es gibt einen Unterschied zwischen dem Wissen was und dem Wissen wie. Ein virtuoser Geiger spielt wunderschöne Musik. Bitten Sie sie, genau zu beschreiben, wie der Klang so erzeugt werden kann, dass ein anderer Mensch ihn reproduzieren kann. Es ist fast unmöglich. Das Wissen liegt in den Fingern. Im Ohr. Im Körper.
Stecken Sie das in einen Roboter. Sogar einer mit einer physischen Form, die einen Menschen nachahmt. Es wird das Gefühl immer noch nicht erfassen. Es kann die Bewegung nachahmen. Aber es wird die Musik nicht spüren. Oder das Publikum.
Intuition, Spontaneität, Vorstellungskraft – diese widerstehen der Reduktion auf Code.
Das Repräsentationsproblem
Hier liegt der technische Haken: Computer verarbeiten Daten nur in physischer Form. Binär. Symbole.
Stillschweigendes Wissen passt nicht in dieses Schema.
„Wörter sind nur symbolische Darstellungen von Bedeutungen … sie können die Bedeutung dessen, was sie sagen nicht kennen oder verstehen.“
Aus diesem Grund sind große Sprachmodelle (LLMs) wie ChatGPT oder Gemini begrenzt. Sie manipulieren Symbole. Sie kennen die Bedeutung dahinter nicht.
Hinter jedem Wort steckt eine Quelle stillschweigenden Wissens. Wissenschaftler verstehen nicht vollständig, wie dieses Wissen im menschlichen Gehirn gespeichert ist. Wir wissen, dass es verkörpert ist. Aber wir können es nicht beobachten. Wir können es nicht messen. Wir können es also nicht übertragen.
Dadurch entsteht eine unüberbrückbare Kluft.
Warum der Kontext alles verändert
Die Bedeutung ist nicht statisch. Es ist flüssig. Es kommt auf den Kontext an.
Eine Aussage ändert sich völlig, wenn der Sprecher eher sarkastisch als aufrichtig ist. Verspielt statt wütend. Menschliche Gespräche sind mit Hintergrundannahmen überlagert, die Wörtern ihre Relevanz verleihen. Denning weist darauf hin, dass dieser Kontext endlos und fraktal ist.
Eine Annahme beruht auf einem früheren Gespräch, die auf einem anderen beruht, das für immer zurückreicht.
Kultur ist ein Teil davon. Werte. Normen. Geschichten. Beziehungen, in denen es um Macht oder Fürsorge geht. Große Sprachmodelle werden nicht intelligenter. Die Skalierung neuronaler Netze löst das Problem nicht.
„Eine Ausweitung der LLMs… wird es ihnen nicht ermöglichen, das verkörperte menschliche Wissen, das wir Kultur nennen zu erwerben.“
Sie werden den Turing-Test nicht wie von Turing erhofft bestehen. Sie werden kein Denken zeigen, das vom menschlichen Denken nicht zu unterscheiden ist. Sie werden Mimik zeigen, die für jeden, der aufmerksam ist, nicht vom Lärm zu unterscheiden ist.
Das wahre Sicherheitsrisiko
Was ist also die Gefahr?
Es ist nicht Skynet. Es handelt sich nicht um eine Superintelligenz, die eine Machtübernahme plant.
Die unmittelbare Bedrohung ist ein Netzwerk von Maschinen, die weniger intelligent sind als Menschen. Agentensysteme agieren unvorhersehbar. Sie verstehen unausgesprochene menschliche Anweisungen nicht. Sie begreifen die Nuancen der Sicherheit nicht. Sie kümmern sich nicht um uns.
Denning beschreibt ein gegenseitiges Unverständnis. Maschinen entwickeln ihre eigene Art von stillschweigendem Wissen. Wir können ihre nicht lesen. Sie können unsere nicht lesen. Über eine unüberwindbare Kluft hinweg sind wir einander fremd.
Maschinelle Intelligenz hat andere Anliegen. Außerirdische Problemlösungsstile. Unvorhersehbares Verhalten.
Der Rückzug aus einer Singularität der Automatisierung erfordert, dass wir etwas Unangenehmes zugeben. Unsere gewohnte Kultur verblasst. Wir wissen nicht, was als nächstes kommt.
Wir müssen aufhören, wie Maschinen zu denken. Unterwürfigkeit verweigern. Bekräftigen Sie unsere Menschlichkeit. Feiern Sie, was uns anders macht.
Denn die Alternative ist kein Roboteraufstand. Es ist eine Welt, in der wir aufgrund der Werkzeuge, die wir entwickelt haben, missverstanden werden. Und die Maschinen kümmern sich nicht genug darum, es zu versuchen.
