KI ist vieles mehr als ein Werkzeug. Kate Crawfords brillante, nun auch auf Deutsch erschienene Analyse „Atlas der KI. Die materielle Wahrheit hinter den neuen Datenimperien“ hinterfragt den Hype um Künstliche Intelligenz.
von Thomas Wagner
Ob im Marketing, als Übersetzungstool oder Inspirationsquelle im Design, als positive Zukunftsvision oder Dystopie – Künstliche Intelligenz (KI) boomt und wird heftig diskutiert. Kate Crawford ist eine der weltweit renommiertesten Forscherinnen in Sachen KI. Sie interessiert sich, wie sie im vergangenen Jahr bei der Dritten Deutschen Designdebatte des Rat für Formgebung in der Frankfurter Paulskirche eindrucksvoll bewiesen hat, weniger für die Technologie an sich, als für deren gesellschaftlichen Auswirkungen. KI sei, so Crawford, alles andere als ein neutrales Werkzeug: Dahinter stünden handfeste Interessen, die oft übersehen oder gar verschleiert würden. Bei der Lektüre von Crawfords nun auch auf Deutsch erschienenen „Atlas der KI. Die materielle Wahrheit hinter den neuen Datenimperien“ wird rasch deutlich: KI hat viele Schattenseiten. Sie ist keineswegs nur das Zaubermittel, als welches sie von vielen angepriesen wird.
Eine der zentralen Fragen des Buches lautet denn auch: Wie wird Intelligenz „gemacht“, was ist dazu nötig und welche Fallen können sich dadurch auftun? Um über den KI-Komplex umfassend aufzuklären, betreibt Crawford praktische Mythen- und Ideologiekritik. Der erste Mythos besagt, dass nichtmenschliche Systeme „dem menschlichen Geist irgendwie analog wären“. Genügend Training oder Ressourcen vorausgesetzt, kann „eine menschenähnliche Intelligenz aus dem Nichts geschaffen werden“. Ausgeblendet wird dabei, „dass Menschen körperliche und soziale Wesen sind, die in größere ökologische Zusammenhänge eingebettet sind“. Der zweite Mythos besage: Intelligenz ist etwas, „das freischwebend existiert, so als wäre sie ein natürlicher, von gesellschaftlichen, kulturellen, historischen und politischen Kräfteverhältnissen losgelöster Gegenstand“.
Crawford untersucht das gesamte Terrain, das von KI erfasst und verändert wird, und stellt kritische Fragen:
- Was wird unterschlagen, wenn behauptet wird, Maschinen könnten denken?
- Welche Formen der Politik propagiert KI?
- Wessen Interessen dient sie?
- Wer trägt das größte Risiko, Schaden durch sie zu erleiden?
- Welche sozialen und materiellen Folgen hat es, wenn KI im Bildungs- und Gesundheitswesen, in der Finanzwirtschaft, im staatlichen Handeln, bei der Einstellung neuer Beschäftigter oder im Kommunikations- und Justizsystem in Entscheidungsprozesse einbezogen wird?
- Wo sollten dem Einsatz von KI Grenzen gesetzt werden?
Crawford legt überzeugend dar, dass KI weder künstlich noch intelligent ist, sondern verkörpert und materiell. Konkret bedeutet das: Sie wird hergestellt auf der Basis von natürlichen Rohstoffen, Kraftstoffen, menschlicher Arbeitskraft, Infrastrukturen, Logistiken, Geschichten und Klassifikationen. Und sie ist „auf zahlreiche übergeordnete politische und soziale Strukturen angewiesen“. Woraus die Autorin folgert: Da für ihre Entwicklung viel Kapital eingesetzt wird und aufgrund der Arten von Wahrnehmung, die durch sie optimiert wird, „sind KI-Systeme letztlich so konzipiert, dass sie den bestehenden herrschenden Interessen dienen. In diesem Sinne ist künstliche Intelligenz ein Register der Macht“.
Crawford kartiert das unübersichtliche Gelände in sechs Kapiteln: „Erde“ betrachtet die extraktive Politik der KI, um den Bedarf des Tech-Sektors an seltenen Erden, Öl und Kohle zu decken und den immer größer werdenden CO2-Fußabdruck der KI. „Arbeit“ zeigt auf, wie KI aus menschlicher Arbeit gemacht wird – von den digitalen Tagelöhnern, „die für einen Hungerlohn Mikroaufgaben erledigen, damit Datensysteme intelligenter wirken können, als sie es tatsächlich sind“, bis zur zeitlichen Überwachung der Arbeit durch KI-Systeme. Weitere Kapitel befassen sich mit der Rolle von Daten zur Verbesserung von Algorithmen, untersuchen die Klassifikationspraktiken, um menschliche Identität zu prognostizieren, problematisieren die Geschichte automatisierter Emotionserkennung und wie KI-Systeme als Instrument der Staatsgewalt eingesetzt werden. Crawfords brillante Analyse klärt nicht nur auf. Sie stellt unbequeme, aber notwendige Fragen – und sie rüttelt wach:
„Um die KI als das zu verstehen, was sie ist, müssen wir die Machtstrukturen erkennen, denen sie dient.“
– Kate Crawford
Atlas der KI. Die materielle Wahrheit hinter den neuen Datenimperien
Kate Crawford
Aus dem Englischen von Frank Lachmann
C.H. Beck Verlag, München 2024
Gebunden: 336 Seiten, 32,00 Euro
ISBN: 9783406823336
E-Book: 24,99 Euro
Auf Social Media teilen
