Wolf Singers Intelligenzen

Im Rahmen der öffentlichen Ringvorlesung des Zentrums für Wissenschaftstheorie der WWU Münster zum Thema Menschenbilder in der Wissenschaft sprach am 11. Mai 2023 von 18 bis 20 Uhr Prof. Dr. Dr. h.c. mult. Wolf Singer vom Frankfurter Max-Planck-Institut für Hirnforschung über »Menschenbilder aus den Perspektiven der Selbstwahrnehmung und neurobiologischer Fremdbeschreibung: Der Versuch eines Brückenschlags« im Hörsaal F4 des Münsteraner Fürstenberghauses.

Hörsaal F4 im Fürstenberghaus und Blick auf Dom, St. Lamberti und LWL-Museum (Nico Schulte-Ebbert, denkkerker.com, Mai 2023)

Singer befaßte sich mit den folgenden, eminent wichtigen, fundamentalen Fragen: Verändern künstlich-intelligente Systeme unser Menschenbild? Worin ähneln sich künstlich- und natürlich-intelligente Systeme? Müssen wir vor dem Hintergrund der neuesten technologischen Entwicklungen unsere Konzepte der Willensfreiheit und des Bewußtseins revidieren?

Stefan Roski, Geschäftsführer des ZfW, und Wolf Singer (Nico Schulte-Ebbert, denkkerker.com, Mai 2023)

KI vs. Stubenfliege

Die Evolution hat offenbar das Problem gelöst, bei Zimmertemperatur mit minimalem Energieverbrauch und mit nicht gerade optimalen Elementen wie Neuronen das zu erreichen, was Supercomputer, die man auf Tiefsttemperaturen kühlen muß, gerne machen würden. Wieviel Energie so ein Supercomputer benötigt, um einigermaßen intelligente Antworten geben zu können! Allein der Strom, der benötigt wird, um ChatGPT-3 zu trainieren, kostet einige hundert Millionen Dollar! Dagegen wirkt das autonome Leben einer Stubenfliege geradezu utopisch, ja übernatürlich: was eine unscheinbare Musca domestica alles leisten muß, um in einer komplexen Welt zu überleben, grenzt an ein neurobiologisches Wunder.

Dieser Vergleich zeigt, daß hier völlig konträre Prinzipien vorliegen müssen: Es gibt gewaltige strukturelle Differenzen zwischen künstlichen und natürlichen Systemen. (Singer verriet in der abschließenden Diskussion, daß es geheime Projekte von Google, Microsoft oder IBM gebe, die sich mit analogen Computern beschäftigten.) Während künstliche Systeme linear arbeiten, serielle Verbindungen (keine Querverbindungen) und strikte Hierarchien (keine Rückkopplungen) besitzen (sie sind dumm, weil sie nur das können, was ihnen durch iterative Lernvorgänge beigebracht worden ist), zeichnen sich natürliche Systeme durch die Parallelität von Funktionen, massive reziproke Verbindungen, eine Fülle von Rückkopplungsverbindungen zwischen höheren und niedrigen Verarbeitungsstufen sowie enge Vernetzung von Verarbeitungsmodulen (small world network) aus.

Computer operieren mit digitalen Variablen (0, 1) und ohne interne Dynamik: es gibt keine zeitliche Relation (Zeit spielt keine Rolle). Die Schalterelemente des Gehirns indes sind Neuronen (nicht-lineare, analoge Operatoren), kontinuierliche Variablen (Potential kann verschiedene Werte annehmen); die Schaltkreise oszillieren.

Die Hundewolke

Die neurobiologische Repräsentation eines komplexen, polymodalen Objektes (Singer verwendete das Beispiel eines Hundes, dessen Bellen man wahrnimmt, dessen Fell man fühlt etc.) ist eine ganz komplizierte, raum-zeitliche ›Aktivitätenwolke‹, die durch musterspezifische Eingangssignale in das Netz gespeist werden, die mit der Architektur des Netzwerkes interagieren. Dieses Netzwerk fungiert als inneres Modell der Welt, weil es in seiner strukturellen Ausbildung aufgrund genetischer Vorgaben schon sehr viel Wissen über die Welt hat, Wissen, das zusätzlich noch überformt wird durch Lernvorgänge. Das bedeutet, daß das Substrat unserer Wahrnehmung das Ergebnis einer Rekonstruktion ist, die dadurch zustande kommt, daß Signale aus der Umwelt mit einem System interagieren, dessen Architektur Vorwissen, Erwartungen, Hypothesen enthält, und aus dem Vergleich entsteht dann ebenjene Wolke, die als das interpretiert wird, was wir kennen, etwa ein Hund.

In Anspielung auf die Haeckelsche Biogenetische Grundregel, die besagt, daß die Ontogenese eine verknappte Rekapitulation der Phylogenese ist, fuhr Singer fort: Ein Teil des Weltwissens ist durch die Evolution erworben, also in den Genen gespeichert. Ein anderer Teil wird nach der Geburt durch Lernvorgänge an die jeweils spezifischen und aktuellen realen Gegebenheiten angepaßt, und diese eleganten Lernmechanismen erfolgen nach Regeln, die sich deutlich von denen künstlicher Systeme unterscheiden, siehe die Hebbsche Regel.

Das Gedächtnis des Teiches

Singer zog dann zur Verdeutlichung das Bild eines ruhigen Teiches mit völlig glatter Wasseroberfläche heran, in die ein Kind zu unterschiedlichen Zeiten und an unterschiedlichen Orten unterschiedlich große Steine wirft, so daß unterschiedliche Wellenmuster, Interferenzen entstehen. »Der Teich«, so Singer, »erinnert sich solange an die Ereignisse, als diese Wellen anhalten.« Neuronale Netze verhalten sich wie ein Teich: Wenn Informationen hereinkommen, entstehen Muster, die das Resultat eines Vergleichs der sensorischen Eingänge mit der bereits vorgegebenen Struktur sind. Sollte dies stimmen, betonte Singer, stünde die Neurobiologie derzeit vor einem Paradigmenwechsel. Auf den Diskurs der Willensfreiheit habe dies allerdings so gut wie keinen Einfluß. Singer hielt zwar fest, daß es im Augenblick der Entscheidung keine Möglichkeit gebe, sich anders zu entscheiden. Er betonte jedoch zugleich, daß Kausalität und Determiniertheit, die das System im Kopf, das an der Grenze zum Chaos funktioniere, auszeichne, durchaus mit Kreativität, Originalität und Überraschungen vereinbar wäre.

Die Qual der Qualia

Was das Bewußtsein betrifft, so gibt es kein Zentrum, keinen Ort im Gehirn, an dem man eine solche holistische Größe finden oder festmachen könnte. Was man allerdings weiß, ist, daß auch Tiere Bewußtsein haben. »Tiere können mehr, als wir ihnen oft zutrauen«, so Singer. Ungelöst bleibt nach wie vor die Frage nach der immateriellen Dimension, die man mit dem Bewußtsein verbindet: die Qualia von Bewußtseinsinhalten. Wie kann das Gehirn aus materiellen Interaktionen so etwas Immaterielles wie Gefühle, Glaubensinhalte oder Selbstwahrnehmung erzeugen? Der bruchlose Prozeß von biologischer und kultureller Evolution muß als ein natürlicher Lernprozeß verstanden werden. Die immaterielle Dimension, das Geistige, das Subjektive ist real und wirkmächtig; sie ist eine Kulturleistung, eine »soziale Realität«. Die Phänomene des Immateriellen kommen in der vorkulturellen Welt nicht vor. Sie entstehen erst durch soziale Interaktionen und gegenseitige Bespiegelung. Indem sie erkannt und benannt werden, werden sie in die soziale Realität überführt und integriert. Unsere Wahrnehmungen sind das Ergebnis von Konstruktionen, die auf Vorannahmen beruhen. Wenn das auch für die Selbstwahrnehmung gilt, bedeutet das, daß das Vorwissen auf der sozialen Realität beruht, nicht auf Erfahrungen mit der dinglichen Welt; dieses Vorwissen hilft uns bei Interpretationen, die wir uns zuschreiben. Evgeny Morozov drückte dies erst kürzlich in einem Gastbeitrag in der Frankfurter Allgemeinen Zeitung folgendermaßen aus:

Diese Art von vernunftbegabter Intelligenz kann niemals durch eine künstliche ersetzt werden, weil KI-Systeme keine Lebensgeschichte, Traumata, Hoffnungen und Ängste haben. Da sie keine Körper besitzen und nicht in der Gegenwart verortet sind, können sie nur vorhersagen, aber niemals interpretieren.

Singers Plädoyer

Singer schloß nach gut einer Stunde mit einem transdisziplinären Aufruf: Wir müssen alles tun, um die Dichotomie zwischen Natur- und Kulturwissenschaften zu beerdigen. Neurobiologen werden nie in der Lage sein, die immaterielle Dimension durch Beobachtungen am Gehirn zu erschließen; die Beschreibungskonvention ist defizitär. Hier übernehmen die Humanwissenschaften mit ihren Einsichten und ihrem Vokabular. »Wir müssen damit anfangen, miteinander zu reden«, so Singer. »Wir haben überhaupt keine Begriffe für diese Welt.« Die Philosophen müssen ihrerseits lernen, wie es in der Natur zugeht. Wir brauchen interdisziplinäre Curricula.

Es denkt in mir!

Die abschließende Diskussion brachte interessante Impulse und warf wichtige Fragen auf, etwa zur Synästhesie, zur Gehirnaktivität eines bewußtlosen Menschen im Tiefschlaf oder zu Verantwortung und Schuldfrage. Es sei nur der folgende Dialog erwähnt, gekürzt:

»Wenn ich Sie richtig verstanden habe, stellt unser Gehirn fortlaufend Vermutungen über die Welt da draußen an, gleicht die Sinneseindrücke ab und daraus konstruiert unser Gehirn die Realität, die wir wahrnehmen als eine kontrollierte Halluzination. Und mein Ich ist nichts weiter als ein Konstrukt meines Gehirns. Zweidrittel meiner bewußten Wachheit habe ich gar keine Kontrolle über meine Gedanken. Es denkt in mir! Und irgendwie versuche ich in zehn Prozent oder einem Drittel, die Gedanken zu beherrschen. Habe ich das richtig verstanden?«

»Ja, ja! Sie hätten meinen Vortrag halten können!«

(Singer nahm noch weitere Ausführungen zu dieser Problematik vor, etwa zum Bereich der sozialen Realität unterschiedlicher Kulturräume und die damit einhergehende unterschiedliche Wahrnehmung sowie die Anpassung des Toleranzbegriffs: »Man muß dem anderen zugestehen, daß er das anders sieht. Man darf ihm das nicht versuchen auszureden. Das ist seine Wahrheit; dafür kann er nichts.«)

Festlich beflaggter Prinzipalmarkt (Nico Schulte-Ebbert, denkkerker.com, Mai 2023)

Wie passend, daß diese Mitschrift des Singerschen Vortrags am 375. Jahrestag des Friedens von Münster veröffentlicht worden ist. Die sozialen Realitäten Spaniens und der Niederlande trafen sich am 15. Mai 1648 in einer feierlichen Friedenszeremonie im Historischen Rathaus und führten das Ende des Achtzigjährigen Krieges herbei.

Einsame Einzelne

Ich stoße in einem Brief Carl Schmitts an Gretha Jünger auf eine Passage, die schauderhaft berückend tönt:

Es ist merkwürdig, wie in derselben Zeit, in der die menschlichen Nachrichten- und Kommunikationsmittel ihre fabelhafteste Steigerung erreicht zu haben scheinen, der einzelne denkende Mensch mit ungeheurer Wucht auf sich selbst zurückgeschleudert wird, auf seine einzelne, einsame Einzigkeit und den Kontakt mit anderen ebenso einsamen Einzelnen.

Wüßte man nicht, daß diese Zeilen vor beinahe achtzig Jahren verfaßt worden sind, könnte man meinen, es handelte sich um eine aktuelle Zeitdiagnostik, auch und gerade im Hinblick auf die Pandemie.

Briefwechsel Gretha Jünger/Carl Schmitt (1934-1953). Herausgegeben von Ingeborg Villinger und Alexander Jaser. Akademie, 2007, p. 67. Brief v. 21. Oktober 1942.

Schwarmwissen

Daß sich Platons Sokrates seines Nichtwissens – und nicht etwa seines Nichtswissens – bewußt ist, daß er sein Wissen kritisch hinterfragt, daß er dies mit dem berühmten, verkürzten Diktum: »οἶδα οὐκ εἰδώς« ausdrückt (was mit: »Ich weiß als Nicht-Wissender« wörtlich zu übersetzen ist), zeugt von Weitsichtigkeit. Daß wir, wenn wir an unser Wissen denken, an das Wissen anderer, oder besser gesagt: an das Wissen aller denken – ein ›Schwarmwissen‹, wenn man so will –, zeichnet den Menschen wesentlich aus: »No individual knows everything it takes to build a cathedral, an atom bomb or an aircraft. What gave Homo sapiens an edge over all other animals and turned us into the masters of the planet was not our individual rationality, but our unparalleled ability to think together in large groups.« Wenn der Einzelne also wüßte, was er weiß, wüßte er, daß dieses Wissen weder der Rede noch des Sich-damit-Brüstens wert sei.

Plat. apol. 21d.

Yuval Harari. »People Have Limited Knowledge. What’s the Remedy? Nobody Knows.« Rezension zu The Knowledge Illusion. Why We Never Think Alone, von Steven Sloman und Philip Fernbach. The New York Times, Apr. 18, 2017, https://www.nytimes.com/2017/04/18/books/review/knowledge-illusion-steven-sloman-philip-fernbach.html.

Bakteriokratie

Daß Computer immer mehr Texte zu schreiben in der Lage sind, daß sie schon heute in beträchtlichem Umfang für Sport-, Finanz- und Wetterberichte eingesetzt werden – »[b]is 2020 will die AP 80 Prozent ihres Nachrichtenangebots automatisieren« –, daß diese Texte von von Menschen verfaßten kaum noch zu unterscheiden sind, daß sich die Qualität dieser künstlichen Texte permanent verbessert, daß diese Algorithmokratie auch in Bereiche vordringt, in denen der kreative, inspirierte, musengeküßte Mensch bisher die Krone der Schöpfung repräsentierte (etwa im epischen oder lyrischen Bereich) – all das scheint als Unausweichlichkeit einer technologischen Entwicklung mit einem Achselzucken zur Kenntnis genommen und unter dem Schlagwort ›Selbstentmündigung‹ ad acta gelegt zu werden. Eine andere Herrschaftsform, die wesentlich älter, ja geradezu ursprünglich ist, erscheint mir da faszinierender und in ihren Auswirkungen geradezu universell: die Bakteriokratie. Neuere Forschungsergebnisse legen nahe, daß die Mikroben, die wir in und mit uns tragen, die Mikroben, aufgrund derer wir einem potentiellen Partner attraktiv erscheinen, auch direkt unseren Fortpflanzungserfolg beeinflussen. Dachten wir noch, nach dem Tode Gottes endlich wieder selbst im Zentrum allen Seins auf einem gigantischen Massagestuhl zu sitzen, machen uns winzige Symbionten diesen Status streitig und lassen uns als fremdbestimmte biochemische Masse erscheinen. Der Wissenschaftsjournalist Moises Velasquez-Manoff denkt diese Marginalisierung in extremo, indem er zutiefst Menschliches wie Liebe, Sehnsucht oder Lyrik als ein Nebenprodukt mikrobiotischer Prozesse darstellt: »So love, desire, the cheesy rom-coms, the sappy ballads, the Shakespearean sonnets — all of them may depend on that teeming ecosystem of microbes within.« Es scheint, daß wir erneut nicht Herr im eigenen Haus sind und daß wir diese Position auch nie einzunehmen in der Lage sein werden.

Adrian Lobe. »Prosa als Programm.« Frankfurter Allgemeine Sonntagszeitung, 12. Feb. 2017, p. 47.

Moises Velasquez-Manoff. »Microbes, a Love Story.« The New York Times, Feb., 10, 2017, https://www.nytimes.com/2017/02/10/opinion/sunday/microbes-a-love-story.html.

Das digitale Böse. Gedanken zu Sascha Lobos »Die digitale Kränkung des Menschen«

Sascha Lobo fühlt sich in seinem am 12. Januar 2014 in der Frankfurter Allgemeinen Sonntagszeitung veröffentlichten Artikel »Die digitale Kränkung des Menschen« zutiefst getäuscht und nicht minder enttäuscht; die Ausmaße der geheimdienstlichen Spähaktionen habe er unterschätzt. Er spüre nach Snowdens Aufklärung Kränkung, Verstörung, hilflose Wut. Das wahre Gesicht der digitalen Welt habe sich nunmehr gezeigt, die Maske sei gefallen und also die Wahrheit ans Licht gekommen. Dieses Wissen, diese Wahrheit scheint zu kränken.

Den Ausgangspunkt der Loboschen Reflexionen bilden die von Sigmund Freud im Jahre 1917 identifizierten drei Kränkungen der Menschheit, namentlich die kosmologische (der Mensch ist nicht länger Mittelpunkt des Universums), die biologische (der Mensch stammt vom Affen ab) sowie die psychologische (das Ich ist nicht Herr im eigenen Haus). Neben diversen anderen Kränkungen (etwa der ökonomischen oder der neurobiologischen), die nach Freud geprägt worden sind, will Lobo nun eine vierte Kränkung für sich beanspruchen: »die digitale Kränkung der Menschheit, der größte Irrtum des Netzzeitalters«.

Eine Kränkung ist eine unangenehme, krankmachende Empfindung; sie schwächt, plagt, beleidigt, quält, verletzt, beschädigt. Bereits die Freudsche Verwendung des Begriffs mutet eigenartig, ja übertrieben an: Raste tatsächlich ein Kränkungstsunami um die Welt, nachdem Kopernikus, Darwin oder Freud dem Menschen eine Nebenrolle im Existenzschauspiel zugewiesen hatten? Und fühlte sich der Otto-Normal-Internet-User nach den Snowdenschen Enthüllungen tatsächlich gekränkt? Lobo relativiert: »Die tiefste Kränkung aber hat eine Gruppe erfahren, der ich angehöre: die Netzgemeinde, die Hobby-Lobby für das freie und offene Internet, vielleicht dreißigtausend Leute in Deutschland.«

Neben dieser »Hobby-Lobby« sieht Lobo auch die Politik und die Wirtschaft als gekränkt an. Lieschen Müller dürfte allerdings nicht mehr als Überraschung, vielleicht Empörung, bestenfalls Desillusionierung, also eine durchaus positive, aufrüttelnde und das eigene digitale Handeln reflektierende Ent-täuschung verspüren – wenn überhaupt, denn Lieschen Müller hat ja nichts zu verbergen, und daß sie nicht der Mittelpunkt der Welt ist, stört sie in der Regel auch nicht sonderlich. Ja, »[d]ie fast vollständige Durchdringung der digitalen Sphäre durch Spähapparate aber hat den famosen Jahrtausendmarkt der Möglichkeiten in ein Spielfeld von Gnaden der NSA verwandelt«, so Lobo, doch die »Chockwirkung« (Walter Benjamin), die die Internet-Aura zerstört, äußerst sich lediglich als Minimalausschlag des menschheitsgeschichtlichen Seismographen.

Oder doch nicht? Ist diese vierte Kränkung der Menschheit groß genug, einschneidend genug, bedeutend genug, um sie als ein drittes Beben nach 1755 und 1945 zu bezeichnen? Muß dem natürlichen Bösen und dem moralischen Bösen, das in Lissabon und Auschwitz offenbar wurde und dem Susan Neiman 2002 eine lesenswerte »andere Geschichte der Philosophie« gewidmet hat, das digitale Böse von Fort Meade beigestellt werden? Darf man überhaupt eine Naturkatastrophe mit den überdimensionalen Greueltaten des Zweiten Weltkrieges und den abstrakten Algorithmen eines globalen Panoptikums vergleichen?

Lobo wagt einen kleineren Schritt: »Und dann diese Ironie, nein, diese Verhöhnung des Schicksals: Edward Snowden, Held des Internets, bringt die Botschaft, dass mit dem geliebten Internet die gesamte Welt überwacht wird. Diese Kränkung ist so umfassend, als sei die Heimat Internet über Nacht in ein digitales Seveso verwandelt. Wütende Proteste gegen diese Vergiftung und ihre Urheber, natürlich.« Das Dioxin-Unglück des Jahres 1976, das als eines der größten europäischen Umweltkatastrophen gilt, spiegelt sich in der Kontaminierung des Internets durch PRISM und Tempora.

Doch vielleicht haben Lobo und Freud mit ihrem Gekränkt-Sein recht. Vielleicht ist diese vierte Kränkung des Menschen ja vielmehr dessen erste, da sie den Menschen, das Individuum, den Einzelnen wirklich betrifft, zumindest ihn betreffen kann: Die Welt ist nicht länger Mittelpunkt des Universums, der Mensch ist nicht länger Mittelpunkt der Welt, 2013 scheint er zurückzukehren in eben dieses schon vor Jahrhunderten verlorengegangene Zentrum. Der Mensch steht wieder im Mittelpunkt; endlich, möchte man sagen. Doch er steht im Mittelpunkt einer Überwachungs-, Kontroll- und Bestrafungsmacht, die Gottes Leerstelle einzunehmen scheint, nicht als metaphysisches Wesen, sondern als konkrete Institutionen mit metaphysisch anmutenden, unkontrollierbaren, verselbständigten, hochkomplexen Spionagemechanismen.

Die menschliche Selbstdegradierung als Selbstdezentrierung ist einer digitalen Fremdfokussierung gewichen. Das Leiden, das Unwohlsein, ja auch die Kränkung ist in beiden Positionen vorhanden. Gott ist tot, der Mensch ist tot, das Ich ist tot. Die vierte von Lobo beschriebene und durchlittene Kränkung resultiert aus der Reanimation Gottes, um die besten aller möglichen Welten zu überwachen, des Menschen, um ihn in der analogen und des Ichs, um es in der digitalen Welt faßbar, auswertbar, kontrollierbar zu machen. Die digitale Zufriedenheit ist verlorengegangen. Nun fühlt sich die »Hobby-Lobby« enttäuscht, geschockt und gekränkt, nicht weil wir an die Peripherie gedrängt, sondern vielmehr weil wir zurück ins Zentrum gezogen worden sind.

Wie trösten wir uns nach diesen Enttäuschungen, Schocks, Kränkungen? Sigmund Freud hat in seiner Schrift »Das Unbehagen in der Kultur« drei Quellen genannt, aus denen Leid entstehe: »die Übermacht der Natur, die Hinfälligkeit unseres eigenen Körpers und die Unzulänglichkeit der Einrichtungen, welche die Beziehungen der Menschen zueinander in Familie, Staat und Gesellschaft regeln«. Natur, Körper und soziale Beziehungen – diese drei Größen müssen mit den digitalen Beziehungen, den globalen Vernetzungen, der Schöpfung einer zweiten Welt ergänzt werden. Lobo rät: »Den Irrtum eingestehen, den Schmerz der Kränkung aushalten, denn dieser Tiefpunkt kann nicht, darf nicht das Ende sein. Das Internet ist kaputt, die Idee der digitalen Vernetzung ist es nicht. Die Indianer mussten irgendwann begreifen, dass die von den Eroberern geschenkten schönen Textilien verseucht waren mit Krankheitserregern. Das hat das Konzept Kleidung nicht schlechter gemacht.«

Kleidung – Gewebe – Text – Hypertext. Komplexe Vernetzungen wohin man blickt! Unmögliche Voraussagen. Unkontrollierbare Prozesse. Verklärte Aufklärung. Marco Wehr forderte am 7. Januar 2014 in der Frankfurter Allgemeinen Zeitung unter der Überschrift »Die Kompetenzillusion« einen »mathematical turn« für das 21. Jahrhundert. Wie wertvoll sind Prognosen? Wie genau können sie sein? Lobos Kränkung rührt gerade auch von der eigenen Expertenblindheit her: »Das Internet ist nicht das, wofür ich es so lange gehalten habe«, schreibt er gleich zu Beginn seines Artikels mit spürbarer Resignation. Wir müssen mit der Kränkung des Wieder-im-Zentrum-Stehens umzugehen lernen, ohnmächtig vielleicht, aber keineswegs ohne Hoffnung.