Zum vierten Mal wurde er vergeben, der STARTS Prize der Europäischen Kommission. Der Preis in der Kategorie “Artistic Exploration” ging an die ebenso einfache wie wirkungsvolle Idee, allzeitbereiten Smart Home Devices ihrerseits ein Kontrollorgan vorzusetzen, wenn sie nicht gebraucht werden. Bjørn Karmann und Tore Knudsen entwickelten dieses 3D-gedruckte „Verhüterli“ und geben uns in einem Interview einen spannenden Einblick in ihr Tun.
Ihr habt „Alias“ erschaffen, um die Kontrolle über unsere Privatsphäre (zu Hause) zurückzuerlangen. Haben wir sie verloren?
Bjørn Karmann: Aus unserer Sicht geht bei vielen Smart Products das Gefühl der Kontrolle über die Privatsphäre verloren. Für die normalen BenutzerInnen erscheinen solche Geräte als Blackboxes, die bei einer Dateneingabe eine Art Dienst bereitstellen. Aber was mit den Daten passiert, sobald sie eingegeben werden, wird von vielen Unternehmen nicht sehr gut kommuniziert. Dieser Mangel an Transparenz und Kommunikation kann leicht zu einem Mangel an Vertrauen oder einem Gefühl der Entmachtung führen. Sich in der Kontrolle zu fühlen und sich durch die intelligenten Geräte, die wir in unser Haus bringen, gestärkt zu fühlen, ist das, was wir für wichtig halten. „Alias“ ist ein Beispiel dafür, wie diese Kontrolle eine Initiative des Benutzers und nicht der Unternehmen sein kann.
Wie können BenutzerInnen sicher sein, dass „Alias“ ihre Privatsphäre nicht verletzt?
Tore Knudsen: Alias läuft offline und ist nicht mit dem Internet verbunden. Die gesamte Verarbeitung und Wake-Word-Erkennung erfolgt onboard, wodurch sichergestellt ist, dass die Daten nie das Gerät selbst verlassen. Wir haben „Project Alias“ auch als Open-Source-Projekt realisiert, um Transparenz über unsere Lösung zu schaffen und es dem Anwender zu ermöglichen, selbst zu überprüfen, was in der Software passiert – natürlich erfordert es einige Kenntnisse in der Programmierung.
Ihr nennt „Alias“ einen Parasiten und beschreibt ihn analog zu einem Cordyceps-Pilz, der Insekten infiziert, um die Kontrolle zu übernehmen. Übernehmen wir nicht einfach die Kontrolle über das eine und geben es dem anderen?
Bjørn Karmann: Ja, genau! Bei „Project Alias“ geht es darum, die Kontrolle von den Geräteherstellern an die BenutzerInnen der Geräte zu delegieren, denn dort sehen wir derzeit ein Ungleichgewicht. Der lernfähige „Parasit“ (Alias) fungiert dabei als Werkzeug. Wenn wir die Parallele zu Pilzen und Parasiten ziehen, dann weil die Natur oft ihren eigenen Weg findet, um Artenpopulationen zu regulieren, wenn eine Gruppe zu dominant wird. Unsere Erzählung spielt mit dem, wie dieses eher beängstigende Konzept in unserer Welt mit Tech-Giganten (dominanten Arten) wie Google und Amazon aussehen würde. Uns hat dieser Narrativ wirklich geholfen, unsere Botschaft auf eine Weise zu kommunizieren, die Reaktionen hervorruft.
Ihr habt den STARTS Prize in der Kategorie Artistic Exploration gewonnen. Worin seht ihr das Potential der Kunst, wenn es zu Technologie kommt?
Tore Knudsen: Wir wollen wichtige Fragen nach unserer Zukunft und dem Verhältnis zur Technologie stellen, und wir haben festgestellt, dass die Kunst der spekulativen Technologien ein großartiger Katalysator ist, um Perspektiven hervorzuheben, die im Innovationsprozess oft verloren gehen. Kunst kann uns helfen, technologische Phänomene aus neuen Blickwinkeln zu betrachten und so menschliche Werte in einer Weise hervorheben, die Unternehmen zu Innovationen motivieren. Wir wollen die Technologie humanistischer, offener und dezentraler gestalten.
Bjørn Karmann: Bei „Alias“ fokussierten wir zuerst auf Kunst und Narrativ, wollten es dabei aber so real wie möglich gestalten. Denn wenn ein spekulatives Konzept Wirklichkeit wird und die Menschen es aus erster Hand erleben können, verstehen sie die Kunst durch Handeln. Wir wollen Menschen heute in eine alternative Zukunft einladen und diskutieren, welches Verhältnis zur Technologie wir in Zukunft tatsächlich wollen.
Nutzt ihr selbst Smart Home Devices?
Tore Knudsen: Lange Zeit hatte keiner von uns irgendwelche Smart Home Devices, und wir hatten auch nicht vor, eines zu kaufen. Aber nachdem Bjørn 2017 die AI Experiment Challenge von Google gewonnen hatte, bekam er ein Google Home Device als Geschenk vom I/O Event. Trotz fehlender Begeisterung nahm Bjørn es zur Probe mit nach Hause. Erste Frustrationserscheinungen ließen nicht lange auf sich warten, die Empathie für die unheimliche Stimme verschwand. Jede Interaktion, jedes Verhaltensmuster war vorbestimmt. Er fühlte sich wie ein passiver Verbraucher, der dem armen Assistenten nur einen Namen geben wollte, der nicht die Marke des Unternehmens war.
Und dann war da noch das Mikrofon. Ein direkter Link zu den Google-Servern, immer eingeschaltet und auf Befehl wartend, auszulösen. So entstand die Idee, es zu hacken. Aber als Hersteller mussten wir uns der traurigen Wahrheit stellen, dass es sich um ein weiteres Gerät mit einem vollständig geschlossenen System handelte. Um es zu hacken, müssten wir kreativ werden. Zu diesem Zeitpunkt begann die Idee eines „Man-in-the-Middle-Angriffs“. Ein Gerät, dem wir vertrauen würden und das keine Verbindung zum Internet hat. Dessen Aufgabe es ist, die Kontrolle über den anderen Assistenten zu übernehmen. Und das einen eigenen Namen verdient.
Bjørn Karmann: Ironischerweise hätten wir „Alias“ wahrscheinlich nie gemacht, wenn es nicht Google und unsere kritische Sicht auf die Technologie gegeben hätte.
Was kommt als nächstes?
Bjørn Karmann: Seit Lancierung unserer ersten Version haben wir viele Ideen für Verbesserungen von der Herstellergemeinde erhalten. Deshalb haben wir hart daran gearbeitet, die Version 2.0 fertigzustellen, die die Installation noch einfacher macht und einige neue Funktionen einführt, wie z.B. Geschlechtseinstellungen, damit Sie Rauschen in ihre Beschriftungsalgorithmen einbauen können, indem Sie das Gegenteil oder Nicht-Geschlecht werden.
Tore Knudsen: Auf lange Sicht ist „Alias“ nur der Anfang. Wir planen, unsere wachsame Forschung fortzusetzen und weiterhin die dunklen Ecken der Technologie zu erforschen, um unsere Perspektive zu ändern.
This project has received funding from the European Union’s Horizon 2020 research and innovation programme under grant agreement No 732019. This publication (communication) reflects the views only of the author, and the European Commission cannot be held responsible for any use which may be made of the information contained therein.
