Honorary Mention
Perception iO (Input Output) ist die Zukunft der Strafverfolgung. Ein KI-Datensatz, der emotional auf Teilnehmende und möglicherweise auf deren Voreingenommenheit reagiert.
Die Teilnehmenden schlüpfen in die Rolle eines Polizeibeamten bzw. einer Polizeibeamtin, der bzw. die sich ein interaktives Schulungsvideo über eine eskalierende Situation ansieht. Die Interaktion wird aus der Perspektive der Körperkamera eines Polizisten gezeigt, der (getrennt) mit einer schwarzen und einer weißen Person in Kontakt kommt. Die ProtagonistInnen spielen entweder die Rolle einer kriminellen Person oder einer Person mit psychischen Problemen.
Das Perception iO-System verfolgt den Gesichtsausdruck der Teilnehmenden. Ihre emotionale Reaktion auf die Szene wirkt sich auf die Charaktere und den verzweigten Erzählstrang aus, der die PolizistInnen dazu veranlasst, die Figur auf dem Bildschirm entweder zu verhaften, ihr zu helfen oder sie zu erschießen.
Die immersive Erfahrung der Perception iO ist eine Konvergenz von Neurowissenschaft, Verhaltenspsychologie, Film, KI, Erkennung von Gesichtsemotionen, Eyetracking, Bias und sozialer Gerechtigkeit. Es zeigt, wie die Emotionen einer Person (und die Eyetracking-Funktionalität, die sich derzeit in der Entwicklung befindet) ihre Wahrnehmung der Realität durch ein immersives Geschichtenerzählen beeinflussen.
Auf Basis umfangreicher Forschungen auf dem Gebiet der Künstlichen Intelligenz ermöglicht diese Installation den Teilnehmenden zu erfahren, wie einfach menschliche Voreingenommenheit in Netzwerke integriert werden kann und somit die Notwendigkeit von Transparenz und Regulierung im Bereich KI zu verstehen. Die immersive Erfahrung führt zu Selbstreflexion und Diskussion über Fragen der Vorurteile, der Ethik und der Verantwortung der Teilnehmenden und jenen Personen, die diese Art von Systemen entwickeln.
Die Installation ist eine Kombination von Kunst (Cooper Hewitt), Technologie (ThoughtWorks Arts) und Wissenschaft (NYU) zur Durchführung der ethischen, akademischen und philosophischen Forschung und Entwicklung. EmoPy ist das von ThoughtWorks Arts und Karen Palmer entwickelte maßgeschneiderte (Open Source) Deep Neural Net Toolkit für die Analyse von Emotionen mittels Facial Expression Recognition (Gesichtsausdruckerkennung). Perception iO wurde vom Cooper Hewitt Smithsonian Design Museum NYC in Auftrag gegeben.
Credits
Director & Producer: Karen Palmer
Commissioned by: Ellen Lupton Senior Curator, Contemporary Design, The Cooper Hewitt Smithsonian Design Museum
Software Development: ThoughtWork Arts Program Director Andrew McWilliams, Julien Deswaef & The ThoughtWorks Development Team Emilio Escobedo, Lauren O’Neal, Tom Shannon, Dan Lewis-Toakley, J.C. Holder, Stephanie Weber, Peter Graves, Lee Faria, Diana Gámez Díaz, Emily Sachs, Whelan Workmaster, Andrew Zou, Ling Tran, Margaret Plumley, Megan Andrea Louw
R&D: Emily Balcetis, Associate Professor of Psychology NYU, Lab Director The SPAM (Social Perception Action & Motivation) Lab
Special Thanks: (R&D eye gaze currently in development) Erica Wayne & Tobii Pro
Film Production Team: She Shot Me Films
Cast: Police Officer Michael Mirlas, Black Male Hassan Farrow, White Male Jeremie Egiazarian, Background female Christin Johnson
Sound Design: Mike Wyeld
Foto: Karen Palmer
Karen Palmer (GB) erzählt Geschichten aus der Zukunft, ist internationale Künstlerin und TED-Speaker.
Ihre Arbeit liegt an der Schnittstelle von KI, Immersive Storytelling, Neurowissenschaft, Verhaltenspsychologie, Implicit Bias und der Parkour-Philosophie, sich durch Angst zu bewegen. Artikel (sind erschienen) in Wired, Forbes, CBS TV , Fast Company, Engadget, The Guardian „This has Leapfrogged VR“ etc. und sie hat im V&A London, PHI Centre Montreal, FoST NYC, The Museum of Modern Art Peru, SXSW, SIDF etc. ausgestellt. Ihr vorheriger emotional bewegter Film RIOT wurde als Teil des Digital Dozen der Columbia University geehrt: Durchbrüche im Storytelling 2017.
Jury Statement
Perception iO is an interactive installation that provides an intuitive understanding of the importance of transparency and regulation of AI, especially for citizens unfamiliar with the technology. Karen Palmer (aka Storyteller from the Future) creates an immersive experience utilizing film, biometrics, and other technologies to capture and assess the emotional response of participants in the judgment enforcement process, providing a valuable insight into the unarguable dark reality of inequality.
By uncovering unconscious bias in both ourselves and the authorities, it addresses the need for a control mechanism during the conceptualization, development as well as implementation of AI. While AI is oftentimes seen as something that will replace humankind, it is also largely misunderstood. The Perception iO installation in contrast provides an insight into the implications of a flawed process, without necessitating a deep understanding of the complex technology behind it. It thereby motivates the observer to reflect on their own ethical values while also recognizing the positives and negatives of AI.