Perception iO (Input Output) ist die Zukunft der Strafverfolgung. Ein KI-Datensatz, der emotional auf Teilnehmende und möglicherweise auf deren Voreingenommenheit reagiert.
Perception iO
Die Teilnehmenden schlüpfen in die Rolle eines Polizeibeamten bzw. einer Polizeibeamtin, der bzw. die sich ein interaktives Schulungsvideo über eine eskalierende Situation ansieht. Die Interaktion wird aus der Perspektive der Körperkamera eines Polizisten gezeigt, der (getrennt) mit einer schwarzen und einer weißen Person in Kontakt kommt. Die ProtagonistInnen spielen entweder die Rolle einer kriminellen Person oder einer Person mit psychischen Problemen.
Das Perception iO-System verfolgt den Gesichtsausdruck der Teilnehmenden. Ihre emotionale Reaktion auf die Szene wirkt sich auf die Charaktere und den verzweigten Erzählstrang aus, der die PolizistInnen dazu veranlasst, die Figur auf dem Bildschirm entweder zu verhaften, ihr zu helfen oder sie zu erschießen.
Die immersive Erfahrung der *Perzeption iO* ist eine Konvergenz von Neurowissenschaft, Verhaltenspsychologie, Film, KI, Erkennung von Gesichtsemotionen, Eyetracking, Bias und sozialer Gerechtigkeit. Es zeigt, wie die Emotionen einer Person (und die Eyetracking-Funktionalität, die sich derzeit in der Entwicklung befindet) ihre Wahrnehmung der Realität durch ein immersives Geschichtenerzählen beeinflussen.
Auf Basis umfangreicher Forschungen auf dem Gebiet der Künstlichen Intelligenz ermöglicht diese Installation den Teilnehmenden zu erfahren, wie einfach menschliche Voreingenommenheit in Netzwerke integriert werden kann und somit die Notwendigkeit von Transparenz und Regulierung im Bereich KI zu verstehen. Die immersive Erfahrung führt zu Selbstreflexion und Diskussion über Fragen der Vorurteile, der Ethik und der Verantwortung der Teilnehmenden und jenen Personen, die diese Art von Systemen entwickeln.
Die Installation ist eine Kombination von Kunst (Cooper Hewitt), Technologie (ThoughtWorks Arts) und Wissenschaft (NYU) zur Durchführung der ethischen, akademischen und philosophischen Forschung und Entwicklung. EmoPy ist das von ThoughtWorks Arts und Karen Palmer entwickelte maßgeschneiderte (Open Source) Deep Neural Net Toolkit für die Analyse von Emotionen mittels Facial Expression Recognition (Gesichtsausdruckerkennung). *Perception iO* wurde vom Cooper Hewitt Smithsonian Design Museum NYC in Auftrag gegeben.
Projekt Credits
Director & Producer: Karen Palmer
Commissioned by: Ellen Lupton Senior Curator, Contemporary Design, The Cooper Hewitt Smithsonian Design Museum
Software Development: ThoughtWork Arts Program Director Andrew McWilliams, Julien Deswaef & The ThoughtWorks Development Team Emilio Escobedo, Lauren O’Neal, Tom Shannon, Dan Lewis-Toakley, J.C. Holder, Stephanie Weber, Peter Graves, Lee Faria, Diana Gámez Díaz, Emily Sachs, Whelan Workmaster, Andrew Zou, Ling Tran, Margaret Plumley, Megan Andrea Louw
R&D: Emily Balcetis, Associate Professor of Psychology NYU, Lab Director The SPAM (Social Perception Action & Motivation) Lab
Special Thanks: (R&D eye gaze currently in development) Erica Wayne & Tobii Pro
Film Production Team: She Shot Me Films
Sound Design: Mike Wyeld
Cast: Police Officer Michael Mirlas, Black Male Hassan Farrow, White Male Jeremie Egiazarian, Background female Christin Johnson
With kind support of Thoughtworks Arts
Biografie
Karen Palmer (GB) erzählt Geschichten aus der Zukunft, ist internationale Künstlerin und TED-Speaker. Ihre Arbeit liegt an der Schnittstelle von KI, Immersive Storytelling, Neurowissenschaft, Verhaltenspsychologie, Implicit Bias und der Parkour-Philosophie, sich durch Angst zu bewegen. Artikel (sind erschienen) in Wired, Forbes, CBS TV , Fast Company, Engadget, The Guardian „This has Leapfrogged VR“ etc. und sie hat im V&A London, PHI Centre Montreal, FoST NYC, The Museum of Modern Art Peru, SXSW, SIDF etc. ausgestellt. Ihr vorheriger emotional bewegter Film RIOT wurde als Teil des Digital Dozen der Columbia University geehrt: Durchbrüche im Storytelling 2017.
