Anatomy of an AI System ist eine groß angelegte Karte und ein detailliertes Essay, welches die menschlichen Arbeits-, Daten- und Planetenressourcen untersucht, die für den Bau und Betrieb eines Amazon Echo erforderlich sind. Die Explosionszeichnung kombiniert und visualisiert drei zentrale, extrahierte Prozesse, die für den Betrieb eines groß angelegten künstlichen Intelligenzsystems erforderlich sind: materielle Ressourcen, menschliche Arbeitskraft und Daten. Die Karte und das Essay betrachten diese drei Elemente über die Zeit hinweg, als eine visuelle Beschreibung der Geburt, des Lebens und des Todes einer einzigen Amazon Echo-Einheit.
In diesem Moment des 21. Jahrhunderts sehen wir eine neue Form der Ausbeutung, die weit fortgeschritten ist und in die äußersten Ecken der Biosphäre und die tiefsten Schichten des menschlichen kognitiven und affektiven Wesens reicht. Viele der von maschinellen Lernsystemen getroffen Annahmen über das menschliche Leben sind begrenzt, normativ und mit Fehlern behaftet. Doch sie schreiben und bauen diese Annahmen in eine neue Welt ein und werden zunehmend eine Rolle bei der Verteilung von Chancen, Reichtum und Wissen spielen.
Der für die Interaktion mit einem Amazon Echo benötigte Stack geht weit über den vielschichtigen „Technical Stack“ von Datenmodellierung, Hardware, Servern und Netzwerken hinaus. Der volle Stack reicht viel weiter in Kapital, Arbeit und Natur hinein und erfordert enorme Ressourcen von alledem. Die tatsächlichen Kosten dieser Systeme – soziale, ökologische, wirtschaftliche und politische – bleiben verborgen.
Wir bieten mit dieser Karte und diesem Essay eine Möglichkeit, um zu beginnen, eine größere Bandbreite von Systemextraktionen zu überblicken. Die für den Aufbau von Systemen der künstlichen Intelligenz erforderliche Größenordnung ist zu komplex, zu unklar durch das Recht des geistigen Eigentums und zu kompliziert in der Logistik, um im Moment vollständig verstanden zu werden.
Projekt Credits:
- Karten und Design: Vladan Joler and Kate Crawford
- Herausgeber: SHARE Lab, SHARE Foundation (https://labs.rs) and The AI Now Institute, NYU (https://ainowinstitute.org/)
Biografien:
Kate Crawford (AU) is a widely-published researcher, academic, and author who has spent over a decade studying large-scale data systems, machine learning and artificial intelligence. She is the co-founder and co-director of the AI Now Institute at NYU, which conducts research on the social implications of artificial intelligence. She is a Distinguished Research Professor at New York University, and a Principal Researcher at Microsoft Research New York. In 2016, she co-chaired the Obama White House symposium on the social and economic implications of AI. She has published in many academic journals and advised policy makers at the European Commission, the United Nations, the Federal Trade Commission, and the City of New York. In 2018, she was selected for a Richard von Weizsäcker Fellowship at the Robert Bosch Academy in Berlin.
Vladan Joler (RS) is SHARE Foundation founder and professor at the New Media department of the University of Novi Sad. He is leading SHARE Lab, a research and data investigation lab for exploring different technical and social aspects of algorithmic transparency, digital labor exploitation, invisible infrastructures, black boxes, and many other contemporary phenomena on the intersection between technology and society.
