HUMAN OVERS[A]IGHT: THE OPS ROOM

HUMAN OVERS[A]IGHT: THE OPS ROOM / Kristina Tica, Joaquín Santuber - Photo: Reinhard Zach

LIT—Linz Institute of Technology Exhibition / For AI Inquirers

Exhibit

HUMAN OVERS[A]IGHT: THE OPS ROOM

Kristina Tica (RS/AT), Joaquín Santuber (CL/DE)

HUMAN OVERS[A]IGHT: THE OPS ROOM ist eine generative, interaktive, audiovisuelle Echtzeit-Installation, die als menschliche Aufsichtsabteilung für Hochrisiko-KI-Systeme entwickelt wurde. Sie entstand in Anlehnung an die EU-KI-Verordnung, deren Artikel 14 eine Mensch-Maschine-Schnittstelle – etwa eine „Stopptaste“ – vorschreibt, um ein System bei Bedarf zum Stillstand zu bringen.
Kann das System durch einen Knopf gestoppt werden, und warum nicht? Wir untersuchen, wie ein Mensch diese Vorgänge überwachen und bewerten kann, indem wir die internen Prozesse eines automatisierten Systems visualisieren. Wir laden die Besucher*innen ein, eine zentrale Rolle in der menschlichen Aufsicht über ein Hochrisiko-KI-System zu übernehmen und ermutigen sie, sich mit einer Mensch-Maschine-Schnittstelle zu beschäftigen, um den Betrieb des Systems zu überwachen. Wir bieten den Besucher*innen Aktionsmöglichkeiten, um ihre politische Handlungsfähigkeit zurückzugewinnen und das System zu stoppen oder zu beeinflussen.

POSTCITY, First Floor, JKU Square - LIT Exhibition
By starting the content, you agree that data will be transmitted to youtu.be.
Data Protection Declaration

  • Photo: Christiane Pliem

    Kristina Tica

    Kristina Tica ist Künstlerin und Forscherin, deren Praxis sich von bildenden Kunst über Programmierung und Schreiben bis zu Musik erstreckt. Sie erforscht an der Schnittstelle von Ästhetik und Ethik Anwendungen des maschinellen Lernens in visuellen Rechenprozessen. In ihrem PhD am Metaverse Lab der JKU Linz kombiniert sie Forschung zu kritischer KI und Recht. Ihre Arbeiten wurden international ausgestellt und im Leonardo Journal (57) und The Practice of Art and AI (2021) bei Hatje Cantz veröffentlicht.

  • Photo: Reinhard Zach

    Joaquín Santuber

    Joaquín Santuber ist Jurist und promovierte in Design und IT-Systemen am Hasso-Plattner-Institut (Deutschland). Als Leiter einer Forschungsgruppe im Metaverse Lab, LIFT_C an der JKU Linz, arbeitet er mit kunst- und designbasierten Ansätzen zur Gesetzmäßigkeit. Er war Assistenzprofessor an der Universidad de Los Andes, Forschungsstipendiat am HIIG Berlin und an der Universität von Coimbra. Er ist Gastprofessor an der School of Design, UC, Chile und Herausgeber des LD Journal.

Credits

With special thanks to LIT Robopsychology Lab and VAME (Katharina Planner and Jürgen Erbler). This project is supported by the State of Upper Austria. Production: Alessia Fallica, Ahmed Jamal I Software Programming: Lukas Bibl I Sound Design: Marija Šumarac I Interaction Design/Button: Jürgen Ropp I Heavy Metal/Button: Mascha Illich Video Documentation: Reinhard Zach I Coordination/Administration: Angelika Taher External Advisory Board: Marcos Chilet, Pablo Hermansen [Diseno UC/Nucleo Fair], Jonathan A. Edelman [Stanford University] With special thanks to LIT Robopsychology Lab and VAME. I This project is supported by the State of Upper Austria.