All Watched Over by Machines of Loving Grace

Barbara Junge und Benedikt Weishaupt

Quantifizierung und die damit verbundenen algorithmischen Prozesse sind das zentrale Kennzeichen einer immer mehr technisch vermittelten Zeit. Dabei ist die Technologie einer Gesellschaft eng verknüpft mit Ihren spezifischen Machtmodellen (1). In diesem Projekt beschäftigen wir uns deshalb mit Technologien, die die bisherige Entwicklung algorithmischen Denkens auf ein neues Niveau hebt: »Künstliche Intelligenz«. Dafür untersuchen wir implizierte Machtmodelle und algorithmische Prozesse und versuchen mit den Mitteln der Visuellen Kommunikation deren Wechselwirkungen heraus zu arbeiten.

Kommodifizierung von Information
Offene Informationsflüsse waren häufig das Ideal von innovativen technologischen Subkulturen, so auch das World Wide Web. Nach 27 Jahren Kommodifizierung aber sind Rechenzentren, Software und IT-Spezialisten die »Main-Assets« von Firmen – die Liste der sechs wertvollsten Firmen der Welt: Apple, Amazon, Alphabet, Microsoft, Facebook, Alibaba (2).

Data-Mining versucht aus Netzwerken Mehrwert zu extrahieren. Es geht um die Akkumulation von Informationen und vor allem von Informationen über Informationen – Metadaten. Aus diesem Grund wird zentrales Innovationsziel das Design der Algorithmen laufend zu verbessern, indem sie von denen lernen, die sie benutzen. Aber auch soziale Tendenzen und Abweichungen von der Norm werden versucht vorherzusagen: Wie es besipielsweise in den Überwachungsprogrammen der NSA der Fall ist oder bei den Klimawissenschaften. Über Gamification werden Nutzer animiert als »quantified self« teilzunehmen und sich als permanent verfügbarer »Entrepreneur of the Self« zu verwirklichen.

(Selbst-)Optimierung und Selbstausbeutung in den Vordergrund zu stellen ist symptomatisch für ein neues Organisationssystem, das auf der Quantifizierung und Korrelation von Daten basiert und so eine Kontrolle von sehr subtiler und präventiver Natur erlaubt. Hier geht es um eine neue Art der Kontrolle, eine, die nichts mehr mit den paternalisierenden Machtstrukturen des Modernismus gemein hat. Und diese Kontrolle geht dabei zunehmend nicht mehr vordergründig von staatlichen Strukturen aus, sondern von Konzernen. Kapitalismus produziert längst nicht mehr physisch – er produziert in erster Linie Werte, Indikatoren, die vor allem dazu dienen zu ranken, zu gruppieren und zu prognostizieren (3).

Computerrationalität
Das algorithmische Erkennen der Welt über Statistik, Metadaten, Modelle und Mathematik unterscheidet sich vollkommen von unserem: es ist nicht visuell, nicht nachvollziehbar wie herkömmliche Zeichen, sondern Code und Zahlen. Die so gewonnenen unstrukturierten Daten sind daher zunächst einmal vollkommen abstrakt und sinnfrei (4).

Mit KI aus der digitalen Entropie
Immer geht es darum, wie man »Informationen aus den Lastwagenladungen von Daten« extrahiert (5), aus den »data-oceans«. Es wird deshalb massiv investiert in »künstliche Intelligenz» als freundliche Helferin, um mit dieser digitalen Entropie umzugehen. Produkte, welche datenbasierte prädiktive Analyseverfahren nutzen, umgeben uns heute immer nahtloser und unverholener in vielen alltäglichen Aufgabenfeldern: vom Monetarisieren kognitiver Arbeit durch soziale Medien, maschinellem Outsourcing an Computer oder (günstige) Arbeitskräfte, das Berechnen von Sprach- und Zeichen-Codes bis hin zum »Resculpting« unseres eigenen Nervensystems durch »Virtual Reality« oder Voice Interfaces.

Kritik 1: Hyperrealität
Daten, welche erst nach dem Schaffen virtueller Relationen zu Information werden, schaffen eine Realität ohne Ursprung. Wir sind angekommen in der Hyperrealität: Der »Signifikat« hat sich vom »Signifikanten« abgelöst. Alle Zeichen werden untereinander austauschbar, wenn sie sich nicht mehr gegen das Reale tauschen müssen (6).

Kritik 2: Normal
Aber was sieht ein Algorithmus, wenn er Datenakkumulationen betrachtet? Die einzige Methode große Menge von Daten zu betrachten, ist nach Mustern und Anomalien zu suchen – wobei die Abweichungen von der Norm nur durch den politischen Akt der Definition der Norm möglich ist. Es wird oft vergessen, dass vermeintlich neutrale, objektive neuronale Netzwerke trainiert werden, um etwas »wahrzunehmen«. KI wird also informiert – nicht nur durch menschliche Interaktion, sondern durch bestehende Vorstellungen, Vorurteile und Normen, die in der Gesellschaft vorhanden sind. Es entsteht eine merkwürdige Rückkopplungsschleife, eine spiegelähnliche Erfahrung. Völlig unklar ist dabei, wie AI informiert werden sollte und wer die Verantwortung dafür trägt.

Kritik 3: Predictive Analysis / Apophenia
Apophänie ist die Tendenz, Verbindungen und Bedeutungen zwischen nicht verwandten Dingen wahrzunehmen. Wir sehen bekannte Strukturen, wo sie nicht sind. Hermeneutische Herangehensweisen an Datensätze bergen dies meist als Risiko. In der medierten Popkultur wird diese einladende Datenmenge zur Möglichkeit: von der Mondlandung Stanley Kubricks bis hin zu den postmodernen Historien von Adam Curtis.

Kritik 4: Animismus / De-Säkularisierung
Animismus projiziert in nichtmenschlichen Entitäten ein autonomes Bewusstsein, sozusagen magisches Denken, was sich auch an der Diskussion um die sogenannte »Singularität« zeigt. Matteo Pasqinelli bezeichnet diese Art Diskurs über die KI als den »Animismus für die Reichen«.

Aufgabe: International Rijksstudio Award
In unserem Projekt beschäftigen wir uns mit parallelen Entwicklungen der »(historischen) Museologie« und der »künstlichen Intelligenz«. Wie prägen beide Entwicklungen unsere Kultur? Wie präsentieren sich die Entwicklungen visuell? Und vor allem: Was sind interessante Parallelen?

Aufhänger unserer Arbeit ist der Wettbewerb des Rijksmuseums. Das Rijksmuseum ist das niederländische Nationalmuseum in Amsterdam. Das Museum ist den Künsten, dem Handwerk und der Geschichte gewidmet und beinhaltet somit genügend brisantes Material. Das umfassende, digitale Bildarchiv des Rijksmuseums (mit einer sehr guten API) dient uns als Ausgangspunkt, um Parallelen zu ziehen. Ziel des Projektes ist das Erstellen einer Einreichung (gemeinsam oder individuell) zum Rijksstudio Award als Prototyp.

Über den Award
Alle zwei Jahre veranstaltet das Rijks den Wettbewerb »Rijksstudio Award«, in dem es Designer dazu auffordert das Bildarchiv des Museeums zu nutzen, um neue Sichtweisen auf die angebotenen Inhalte zu bekommen. Wir planen zum Beginn eine Exkursion nach Amsterdam.

Ablauf
Besprechungen voraussichtlich Montag Vormittag und bei Bedarf Mittwoch

Di. 30.10. Kurs Auftakt – Input Museologie und Artificial Intelligence
Mo. 05.11. Besprechung und Referate KI und Datenarbeit
Mi. 7.11. – So. 11.11. Exkursion Amsterdam. Fragen:
Was kann man mit AI machen?
Wie arbeitet das Rijksmuseum?
Mo. 12. 11. Erste Projektideen
jeweils Mo. & Mi. Weiterentwicklung von 3 Projekt- Prototypen
Mo. 03.12. Zwischenpräsentationen von 3 Prototyp Ideen
Mo. 07.01. – 11.01. Python Workshop: Umsetzung eines Prototyps
jeweils Mo. & Mi. Treffen Umsetzung Projekt
Mo. 04.02. Endpräsentation
N.A. Einreichung Rijksakademie Award

Lesen
Michel Foucault »Die Ordnung der Dinge«
Matteo Pasquinelli: »Metadata Society«


—

1 Deleuze: »Each kind of society corresponds to a particular kind of machine with simple mechanical machines corresponding to sovereign societies, thermodynamic machines to disciplinary societies, cybernetic machines and computers to control societies. But the machines don’t explain anything, you have to analyze the collective apparatuses of which the machines are just one component.«

2 https://tinyurl.com/y93jjvqw

3 »Prediction is the essence of intelligence« — Yann LeCun: https://tinyurl.com/ycpjh2r5

4 Ob der Satz »Das Tiefste am Menschen ist die Haut« jemals von einem »turing-proof« Algorithmus verstanden wird
ist ungewiss.

5 Hito Steyel in einen eFlux Artikel A Sea of Data: https://tinyurl.com/y8j52uud

6 Jean Baudrillard, Der symbolische Tausch und der Tod, München:
»Die andere Bahn des Werts setzt sich durch: die der totalen Beziehbarkeit und der allgemeinen Austauschbarkeit, Kombinatorik und Simulation. Simulation in dem Sinn, daß sich alle Zeichen untereinander austauschen, ohne sich gegen das Reale zu tauschen (und sie lassen sich nur unter der Bedingung untereinander leicht austauschen, perfekt austauschen, daß sie sich nicht mehr gegen das Reale tauschen). Emanzipation des Zeichens: entbunden von der »archaischen« Verpflichtung, etwas bezeichnen zu müssen, wird es schließlich frei für ein strukturales oder kombinatorisches Spiel, in der Folge einer totalen Indifferenz und Indetermination, die die frühere Regel einer determinierten Äquivalenz ablöst.«