HUMAN OVERS[A]IGHT: THE OPS ROOM

HUMAN OVERS[A]IGHT: THE OPS ROOM ist eine generative, interaktive, audiovisuelle Echtzeit-Installation, die als menschliche Aufsichtsabteilung für Hochrisiko-KI-Systeme entwickelt wurde. Sie entstand in Anlehnung an die EU-KI-Verordnung, deren Artikel 14 eine Mensch-Maschine-Schnittstelle – etwa eine „Stopptaste“ – vorschreibt, um ein System bei Bedarf zum Stillstand zu bringen.
Kann das System durch einen Knopf gestoppt werden, und warum nicht? Wir untersuchen, wie ein Mensch diese Vorgänge überwachen und bewerten kann, indem wir die internen Prozesse eines automatisierten Systems visualisieren. Wir laden die Besucher*innen ein, eine zentrale Rolle in der menschlichen Aufsicht über ein Hochrisiko-KI-System zu übernehmen und ermutigen sie, sich mit einer Mensch-Maschine-Schnittstelle zu beschäftigen, um den Betrieb des Systems zu überwachen. Wir bieten den Besucher*innen Aktionsmöglichkeiten, um ihre politische Handlungsfähigkeit zurückzugewinnen und das System zu stoppen oder zu beeinflussen.