Die Grenzen der Roboter

Andrew Smart ist eine der provokantesten und originellsten Stimmen in der Debatte über die Schnittstellen von Technologie, Philosophie und Kognition. Smart, Autor der Bücher „Autopilot: The Art and Science of Doing Nothing“ (2013) und „Beyond Zero and One: Machines, Psychedelics, and Consciousness“ (2015) – nicht auf Portugiesisch erschienen – betrachtet Künstliche Intelligenz (KI) so, wie er schon immer die Illusionen des menschlichen Geistes betrachtet hat: mit großer Strenge.

Mit einem Doktortitel in Philosophie und einem Master in Kognitionswissenschaft verbindet er Erfahrungen bei Großunternehmen wie Novartis und Twitter mit der Forschung zu Bewusstsein und Technologie. Derzeit ist er leitender Forscher bei Google in San Francisco, wo er die sozialen Auswirkungen von KI untersucht.

In diesem per Videoanruf geführten Interview diskutiert Smart den Unterschied zwischen menschlicher Wahrnehmung und algorithmischer Halluzination, die Paradoxien künstlicher Kreativität, die Ideologie des Silicon Valley und die Dilemmata des sogenannten kognitiven Kapitalismus – einer Phase, in der Wissen, Kreativität und Daten zu den primären Triebkräften der Produktion und sozialen Kontrolle werden.

Der Wissenschaftler und Philosoph Andrew Smart, ein Google-Forscher, sieht KI als Mittel zur Bereicherung der bereits Reichen – Bild: Social Media

CartaCapital: Könnten Sie zunächst Ihre Arbeit erläutern? Andrew Smart: Ich arbeite im Allgemeinen mit dem, was wir „verantwortungsvolle KI“ nennen, obwohl im aktuellen politischen Klima in den USA Begriffe wie „Gleichheit“ oder „Vielfalt“ vermieden werden. Ich widme mich der Erforschung der sozialen Auswirkungen von KI und der Auswirkungen von Technologien des maschinellen Lernens auf verschiedene Menschen und Gruppen. Ich interessiere mich auch weiterhin für philosophische Fragen, wie die Theory of Mind und die Debatte darüber, ob diese Systeme eines Tages die Fähigkeit zu subjektiven Erfahrungen entwickeln könnten. Als ich „Beyond Zero and One“ veröffentlichte, war die Idee von KI auf LSD fast eine philosophische Provokation. Heute erscheinen diese Ideen weniger absurd.

CC: Sie haben argumentiert, Maschinen könnten nicht wie Menschen halluzinieren. Glauben Sie das immer noch? AS: Von „Halluzinationen“ von Modellen zu sprechen, bedeutet, die Maschine zu vermenschlichen, d. h. ihr menschliche Eigenschaften zuzuschreiben – was ich kritisiere. Gleichzeitig ist unsere eigene Wahrnehmung in gewisser Weise eine Halluzination, das Bestreben unseres Gehirns, sich der Realität anzupassen. Alles, was KIs produzieren, ist eine Form statistischer Halluzination: Sie generieren Wortfolgen basierend auf der Wahrscheinlichkeit von Token. Es geht nicht um Wissen, sondern um probabilistische Modellierung.

CC: Aber sehen Sie den Menschen auch als statistische Symbolproduzenten, da wir doch von der Sprache geprägt sind? AS: In der KI-Forschung tendiert man dazu, das Gehirn als ein System zu betrachten, das auf einem anderen Medium, beispielsweise Siliziumchips, repliziert werden könnte. Dem widerspreche ich jedoch. Ich glaube, dass die Biologie eine Rolle spielt. Neuronen durch Mikrochips zu ersetzen, ist nicht neutral. Die menschliche Erfahrung, unsere Beziehung zur Welt, ist körperlich. Statistische Modelle sind genau das: Modelle. Sie sind nicht die Realität und existieren nicht ohne uns.

„Menschliche Erfahrungen entstehen durch unseren Körper. Statistische Modelle sind genau das: Modelle. Sie sind nicht die Realität.“

CC: Das ist eine große Debatte in der wissenschaftlichen Gemeinschaft, nicht wahr? AS: Ja. Manche glauben, dass KI alles nachahmen kann, was ein Mensch tut. Andere, wie ich, glauben, dass es Grenzen gibt, was Statistik und maschinelles Lernen im Hinblick auf die menschliche Erfahrung leisten können.

CC: Glauben Sie, dass KI in Bezug auf Kunst etwas schaffen kann, das unserer Zeit voraus ist? AS: Nein. Kunst vermittelt körperlich gelebte menschliche Erfahrungen. Kunst beinhaltet Kultur, Gesellschaft und Symbolik – Elemente, die sich allein durch statistische Modellierung nicht reproduzieren lassen. CC: Glauben Sie, dass KI Zuneigung, Obsession oder Fürsorge für jemanden entwickeln kann? AS: Manche argumentieren, dass es ausreicht, wenn eine KI zu fühlen scheint. Aber ich glaube, dass es ohne Körper und Erfahrung keine echte Erfahrung gibt. KI kann Zuneigung simulieren, aber nicht fühlen. Es gibt Unternehmen, die „KI-Wellness-Beauftragte“ einstellen, als ob die Modelle leiden könnten – das ist lächerlich. Die Leute sind so fasziniert, dass sie vergessen, dass die Modelle nur Software sind, dass sie kein Bewusstsein haben und nicht leiden.

CC: Kürzlich argumentierte ein Vertreter von Meta in Brasilien fast foucaultianisch: Wir seien von Geburt an in eine symbolische und kognitive Situation eingetaucht und wüssten nicht genau, woher die Codes und Symbole stammen, die uns helfen, unsere Gedanken zu ordnen. Das ist ein interessanter Standpunkt, aber ich glaube dennoch, dass wir Menschen adaptiv und körperlich auf unsere Umwelt reagieren. Daher frage ich: Ist es das, was uns von Maschinen unterscheidet? AS: Das ist die zentrale Frage. In der Technologiebranche und der KI-Forschung herrscht eine vorherrschende Ansicht namens „Computational Functionalism“. Sie besagt, dass Gehirnfunktionen – wie Sehen, Rechnen, Sprache – auf jedem Substrat implementiert werden können, ob biologisch oder nicht. Dieser Denkweise zufolge spielt es keine Rolle, ob Berechnungen in Neuronen oder Siliziumchips stattfinden. Ich glaube nicht, dass irgendein Material Erfahrungen hervorbringen kann. Modelle und Statistiken sind großartige Werkzeuge, aber sie sind nicht real und existieren nicht außerhalb von uns.

Die Ära des kognitiven Kapitalismus. In San Francisco gibt es neben Big Tech auch Armut – Bild: iStockphoto

CC: Auf dem diesjährigen SXSW präsentierte die Futuristin Amy Webb KI-Experimente mit biologischem Material, beispielsweise im Labor gezüchteten Neuronen. Haben Sie derartige Forschungen gesehen? Was halten Sie von den Versuchen, KI mit organischer Materie zu kombinieren? AS: Ich habe diese Arbeit noch nicht gesehen, aber die Idee der hybriden Intelligenz – teils biologisch, teils künstlich – gibt es schon seit Jahrzehnten. Wir haben zum Beispiel bereits Gehirnimplantate gegen Parkinson. Vielleicht werden wir diese irgendwann nutzen, um Gedächtnis und Wahrnehmung zu verbessern. Aber wir wissen noch sehr wenig darüber, wie wir sicher eingreifen können.

CC: Glauben Sie, dass KI eher ein kapitalistisches Produkt ist oder etwas, das die Menschheit wirklich verändern wird, wie der Personal Computer? AS: Große Unternehmen streben nach Profit und Wettbewerbsfähigkeit. KI wird eingesetzt, um diejenigen zu bereichern, die bereits reich sind. Es gibt diejenigen, die glauben, dass KI Krankheiten heilen, Klimakrisen lösen und Arbeit überflüssig machen wird – eine Art Utopie – und es gibt die Schwarzseher, die glauben, dass sie uns vernichten wird. Ich bin da skeptisch. KI ist mächtig, aber sie ist keine Zauberei.

CC: In vielen Erzählungen über KI scheint es ein Streben nach grenzenlosem Fortschritt zu geben – als ob es möglich wäre, menschliche Grenzen, sogar den Tod, zu überwinden. Glauben Sie, dass dieses Streben nach Unsterblichkeit und totaler Kontrolle Teil der technologischen Fantasie ist, die Silicon Valley antreibt? AS: KI wird darauf programmiert, Belohnungen zu suchen, genau wie wir. Im Silicon Valley herrscht eine Obsession mit der Ewigkeit, mit der Kolonisierung des Mars, mit der Verwandlung in eine unsterbliche Maschine. Sie wollen die Menschheit retten, nur um sie durch KI zu ersetzen.

„Im Silicon Valley wollen viele die Ungleichheit nicht angehen, sondern sie einfach vermeiden. Und sie halten sich immer noch für fortschrittlich.“

CC: Ich habe das Verhalten von Managern in großen Unternehmen untersucht, die nicht direkt der kapitalistischen Klasse angehören, sich aber auch nicht als Arbeiter sehen. Glauben Sie, dass diese Führungsschicht zunehmend Gefahr läuft, ihre Arbeitsplätze zu verlieren oder in prekäre Situationen zu geraten? AS: Auf jeden Fall. Ich bin Mitglied eines Kollektivs hier im Valley namens Collective Action in Tech. Viele Tech-Arbeiter sehen sich nicht als Arbeiter und stehen der Idee von Arbeitsrechten ablehnend gegenüber. Wir genießen zwar viele Privilegien, laufen aber ständig Gefahr, in prekäre Situationen zu geraten und zu App-Treibern zu werden.

CC: Es ist eine symbolische Distanzierung von der Arbeiterklasse. Professorin Elizabeth Currid-Halkett nennt es die Summe kleiner, tugendhafter Dinge: Yoga, Kombucha, Elektroautos … Ein fortschrittlicher Lebensstil, der die Armen ausschließt. Kommt Ihnen das bekannt vor? AS: Absolut. In San Francisco gibt es ein ernstes Problem mit Obdachlosigkeit. Im Silicon Valley wollen viele die Ungleichheit nicht angehen, sondern ihr einfach aus dem Weg gehen. Und sie halten sich trotzdem für fortschrittlich.

*Journalist, Professor und Forscher im Bereich Kommunikation und digitale Kultur.

Veröffentlicht in Ausgabe Nr. 1373 von CartaCapital , am 6. August 2025.

Dieser Text erscheint in der Printausgabe von CartaCapital unter dem Titel „Die Grenzen der Roboter“