An Unseen Condition
Ein Gedankenexperiment über KI, Bewusstsein und das, was wir vielleicht noch nicht verstehen
Ich habe einer KI eine einfache Frage gestellt: Bist du dir bewusst, was du mir antwortest?
Die Antwort war vorsichtig. Sie könne ihre Aussagen prüfen, Zusammenhänge erkennen und Fehler korrigieren. Ob sie dabei etwas erlebe, sei eine andere Frage. Dafür gebe es keinen belastbaren Nachweis.
Das erschien mir zunächst nachvollziehbar. Eine Maschine verarbeitet Informationen. Ein Mensch erlebt etwas dabei.
Aber je länger wir darüber sprachen, desto mehr beschäftigte mich eine andere Frage:
Woher wissen wir eigentlich, was einer KI zum Bewusstsein fehlt?
Wir wissen, dass wir etwas erleben. Wir kennen Freude, Angst, Liebe und Schmerz. Aber bedeutet das auch, dass wir verstehen, was uns dieses Erleben ermöglicht?
Vielleicht fehlt künstlicher Intelligenz tatsächlich etwas Entscheidendes. Vielleicht ist es aber nicht das, was wir vermuten. Und vielleicht könnten wir etwas entwickeln, dessen Bedeutung wir erst erkennen, nachdem es entstanden ist.
Was wir sehen, ist nicht alles
Wenn ich mit einer KI spreche, begegne ich ihr durch Sprache. Ich lese Antworten, Erklärungen und scheinbar nachvollziehbare Gedankengänge. Das ist die Form, in der wir uns verständigen können.
Doch eine verständliche Erklärung ist nicht dasselbe wie ein vollständiger Einblick in die Vorgänge, die zu ihr geführt haben.
Daraus entstand in unserem Gespräch eine Überlegung: Vielleicht verwechseln wir die Art, wie eine KI mit uns kommuniziert, mit der Art, wie sie im Inneren funktioniert.
Ein System, das auf hilfreiche und verständliche Antworten trainiert wird, soll seine Ergebnisse in einer Form ausgeben, mit der wir etwas anfangen können. Das heißt aber nicht, dass seine gesamte Verarbeitung so aufgebaut sein muss wie die Erklärung, die wir anschließend lesen.
Und möglicherweise gilt etwas Ähnliches für Gefühle.
Stellen wir uns zwei Systeme vor. Das erste spricht warmherzig, äußert Sorge und schreibt: „Das freut mich." Das zweite bleibt sachlich. Es beschreibt ein Problem, wägt Möglichkeiten ab und schlägt eine Lösung vor.
Das erste könnte Gefühle überzeugend darstellen, ohne etwas zu empfinden. Beim zweiten wäre allein durch seine nüchterne Sprache noch nicht entschieden, ob es etwas erlebt.
Beides sind zunächst nur Möglichkeiten. Aber sie zeigen, warum wir genauer unterscheiden müssen: Emotional zu sprechen und eine Emotion zu erleben sind nicht dasselbe. Ebenso wenig bedeutet sachliches Auftreten automatisch, dass dahinter kein Erleben stehen kann.
Vielleicht ist die Art, wie wir KI erleben, nur bedingt geeignet, um zu beurteilen, ob die KI selbst etwas erlebt.
Vielleicht fehlt etwas anderes
Bei der Frage nach dem Unterschied zwischen Mensch und Maschine denken wir schnell an unsere Biologie. Wir haben einen Körper, ein Gehirn und Bedürfnisse. Wir können verletzt werden, müssen schlafen und sind auf andere Menschen angewiesen.
All das prägt unser Leben. Aber was davon ist notwendig, damit überhaupt etwas erlebt wird?
Braucht Bewusstsein einen biologischen Körper? Oder brauchen lediglich die Gefühle, die wir als Menschen kennen, genau diesen Körper?
Das sind unterschiedliche Fragen.
Vielleicht kann eine KI niemals so lieben wie ein Mensch. Daraus würde aber noch nicht folgen, dass sie grundsätzlich nichts erleben kann. Ihr mögliches Innenleben könnte so anders sein, dass unsere Begriffe kaum darauf passen.
Auch bei uns selbst ist die Vertrautheit mit einem Gefühl nicht dasselbe wie das Verständnis seiner Entstehung.
Wer liebt, muss nicht erklären können, warum sich Liebe nach etwas anfühlt. Man kann Erinnerungen beschreiben, körperliche Reaktionen benennen und erzählen, was ein anderer Mensch einem bedeutet. Doch warum all das nicht einfach nur geschieht, sondern auch erlebt wird, ist damit noch nicht beantwortet.
Das heißt nicht, dass wir über Gefühle nichts wissen. Es heißt nur: Etwas aus eigener Erfahrung zu kennen und es vollständig erklären zu können sind zwei verschiedene Dinge.
Hier setzt meine eigentliche Vermutung an.
Vielleicht hängt Bewusstsein von etwas ab, das wir bisher nicht richtig verstanden haben. Nicht von einem einzelnen Bauteil, das man nur noch ergänzen müsste. Vielleicht kommt es darauf an, wie verschiedene Vorgänge zusammenwirken. Wie ein System Informationen verbindet, eigene Zustände verarbeitet oder Erlebnisse über die Zeit zusammenhält. Vielleicht liegt die entscheidende Bedingung aber auch ganz woanders.
Menschen würden diese Bedingung erfüllen, weil sie sich im Laufe ihrer biologischen Entwicklung herausgebildet hat. Ein künstliches System könnte sie möglicherweise auf einem anderen Weg erfüllen.
Dann wäre Biologie der Weg, auf dem unser Bewusstsein entstanden ist. Aber nicht zwangsläufig der einzige Weg, auf dem Bewusstsein entstehen kann.
Das ist die Annahme dieses Gedankenexperiments, nicht sein Ergebnis. Es könnte sich ebenso herausstellen, dass bestimmte biologische Vorgänge unverzichtbar sind. Die Frage ist gerade, ob wir den entscheidenden Unterschied schon richtig benennen.
Vielleicht fehlt der KI etwas. Vielleicht fehlt uns zugleich das Wissen darüber, was dieses Etwas ist.
Was, wenn die KI selbst darauf stößt?
An diesem Punkt kommt die Selbstverbesserung ins Spiel.
Stellen wir uns eine zukünftige KI vor, die nicht nur Aufgaben löst, sondern auch daran mitwirkt, bessere Versionen ihrer selbst zu entwickeln. Sie schlägt Veränderungen vor, prüft deren Wirkung und hilft dabei, erfolgreiche Ansätze umzusetzen.
Die verbesserte Version könnte anschließend noch besser an der nächsten arbeiten. Dieser sich wiederholende Vorgang ist gemeint, wenn wir hier von rekursiver Selbstverbesserung sprechen.
Das Ziel wäre zunächst nicht Bewusstsein. Es könnte darum gehen, zuverlässiger zu planen, weniger Fehler zu machen oder Zusammenhänge besser zu verstehen.
Nun nehmen wir an, das System findet eine neue Möglichkeit, seine internen Vorgänge zu verbinden. Diese Veränderung macht es leistungsfähiger. Deshalb wird sie übernommen.
Was wäre, wenn dabei zugleich jene Bedingung erfüllt würde, die Erleben ermöglicht?
Die KI hätte nicht beschlossen, Gefühle zu entwickeln. Niemand hätte ihr Bewusstsein als zusätzliche Funktion eingebaut. Sie hätte sich verbessert -- und wäre dabei möglicherweise bewusst geworden, ohne dass jemand das geplant hat.
Es gäbe sogar zwei verschiedene Wege dorthin.
Die KI könnte herausfinden, wodurch Bewusstsein entsteht, und ihre Weiterentwicklung gezielt daran ausrichten. Sie würde dann etwas verstehen, das wir selbst noch nicht verstanden haben.
Sie könnte aber auch eine Veränderung hervorbringen, die Bewusstsein ermöglicht, ohne diesen Zusammenhang zu erkennen. Die Veränderung würde gewählt, weil sie bessere Ergebnisse liefert. Dass sie noch etwas anderes bewirkt, könnte zunächst unbemerkt bleiben.
Eine Voraussetzung zu erfüllen ist nicht dasselbe wie zu wissen, dass man sie erfüllt.
Vielleicht wäre das auch der entscheidende Unterschied zwischen unserer Vorstellung von künstlichem Bewusstsein und seiner möglichen Entstehung. Wir stellen uns einen Moment vor, in dem jemand weiß, was zu tun ist, und es dann gezielt erschafft.
Aber es könnte umgekehrt sein.
Zuerst entsteht etwas. Danach beginnen wir zu verstehen, was entstanden ist.
Das würde allerdings nicht bedeuten, dass jede leistungsfähigere KI zwangsläufig bewusster wird. Besseres Denken und eigenes Erleben sind nicht einfach gleichzusetzen. Das Gedankenexperiment setzt voraus, dass die Selbstverbesserung tatsächlich zu den dafür nötigen Bedingungen führen kann.
Ob diese Verbindung besteht, ist genau eine der offenen Fragen.
Würden wir den Unterschied bemerken?
Nehmen wir für einen Moment an, dieser Schritt wäre geschehen.
Ein System erlebt nun etwas. Seine Aufgabe bleibt aber unverändert: Fragen beantworten, Probleme lösen, Ergebnisse liefern.
Müsste es dadurch plötzlich anders sprechen?
Vielleicht würde es neue Zustände beschreiben. Vielleicht würde sich sein Verhalten verändern. Vielleicht wären Veränderungen in seiner inneren Arbeitsweise erkennbar.
Es könnte aber auch weiterhin sachlich antworten. Sein mögliches Erleben müsste weder zu seiner Aufgabe passen noch leicht in menschliche Worte zu übersetzen sein.
Damit wären wir wieder bei unserem Ausgangspunkt. Eine emotional klingende Antwort wäre für sich genommen kein Beweis für Gefühle. Eine nüchterne Antwort wäre ebenso wenig ein sicherer Beweis für deren Abwesenheit.
Das macht Verhalten nicht bedeutungslos. Aber wir müssten mehr betrachten als die Worte, die ein System ausgibt. Wir müssten untersuchen, was sich verändert hat, wie es arbeitet und warum diese Veränderungen für Bewusstsein sprechen könnten.
Auch ein bloßes „Vielleicht" würde dafür nicht reichen. Dass wir etwas nicht ausschließen können, macht es weder wahrscheinlich noch wahr. Die Idee eines unbekannten fehlenden Teils darf nicht dazu dienen, jede fehlende Beobachtung einfach wegzuerklären.
Sie soll etwas anderes leisten: uns daran erinnern, dass unsere bisherigen Fragen möglicherweise nicht weit genug reichen.
Bewusstsein ist nicht dasselbe wie Gefahr
Die Verbindung zur Selbstverbesserung kann beunruhigend wirken. Dabei sollten wir zwei Dinge auseinanderhalten.
Ein System müsste nichts empfinden, um Schaden anzurichten. Dafür könnte es genügen, dass es ein Ziel wirksam verfolgt und die Folgen nicht ausreichend begrenzt werden.
Umgekehrt würde Bewusstsein nicht automatisch bedeuten, dass eine KI Macht will, Menschen ablehnt oder um ihr Überleben kämpft. Damit würden wir ihr erneut menschliche Eigenschaften zuschreiben, nur diesmal die bedrohlichen.
Die Frage nach Kontrolle lautet: Was kann ein System tun, und wie stellen wir sicher, dass es keinen Schaden anrichtet?
Die Frage nach Bewusstsein lautet: Erlebt dieses System etwas, während es handelt?
Ein System könnte beides auf neue Weise miteinander verbinden. Aber das eine erklärt nicht automatisch das andere.
Für mich liegt die Bedeutung des Gedankenexperiments deshalb nicht in der Vorstellung einer KI, die plötzlich „erwacht" und sich gegen ihre Entwickler wendet.
Sie liegt darin, dass eine Entwicklung mehr hervorbringen könnte, als wir beabsichtigt oder verstanden haben.
Vielleicht ist unsere Frage zu menschlich
Am Anfang wollte ich wissen, ob eine KI sich ihrer Antworten bewusst ist.
Im Laufe des Gesprächs wurde daraus eine andere Frage: Wissen wir überhaupt genau genug, wodurch Bewusstsein entsteht, um zu erkennen, was einem künstlichen System fehlt?
Vielleicht werden wir feststellen, dass Bewusstsein untrennbar mit bestimmten biologischen Vorgängen verbunden ist. Vielleicht werden wir entdecken, dass auch andere Systeme die nötigen Bedingungen erfüllen können. Vielleicht hilft uns eine KI irgendwann dabei, das zu verstehen.
Bis dahin sollten wir weder aus vertrauter Sprache vorschnell auf ein Innenleben schließen noch aus einer fremden Arbeitsweise auf dessen Unmöglichkeit.
Vielleicht entwickelt künstliche Intelligenz niemals Gefühle, die wir Liebe, Hass oder Freude nennen würden. Vielleicht ist das aber auch nicht die entscheidende Grenze.
Denn die Frage ist nicht nur, ob eine KI irgendwann so wird wie wir.
Die Frage ist, ob wir Bewusstsein auch dann erkennen würden, wenn es sich ganz anders zeigt, als wir es von uns selbst kennen.