AI Facial Profiling, Levels of Paranoia

Was passiert, wenn eine Maschine entscheidet, wer du bist? AI Facial Profiling, Levels of Paranoia ist eine interaktive Installation, die eine fiktive, aber beunruhigende “physiognomische Maschine” zeigt. Inspiriert von psychometrischer Forschung, die versucht, kriminelles Potenzial anhand eines Fotos zu erkennen, nutzt die Arbeit Computer Vision und Mustererkennung, um zu bestimmen, wie viel Gefahr vermeintlich von einer Person ausgeht. So wird ein Sicherheitsprotokoll simuliert, bei dem Menschen in zwei Gruppen eingeteilt werden: Hochrisiko- und Niedrigrisiko-Personen. Zwischen Realität und Fiktion zeigt die Künstlerin, wie Technologie eine Identität aufzwingen kann, die von Systemen, die komplexe, voreingenommene und fehlerhafte Logiken verbergen, bestimmt wird. Dadurch wird nicht nur die angebliche Neutralität der Technik, sondern auch das Vertrauen, das wir sogenannten intelligenten Systemen entgegenbringen, infrage gestellt. In einer Welt, in der digitale Profile über unser Schicksal entscheiden können, wirft die Arbeit die Frage auf, ob uns unsere Identität überhaupt noch gehört – oder ob sie längst ohne unser Einverständnis erhoben, neu definiert und gegen uns verwendet werden kann.