KI und Robotik: „Imperfekte Versionen unseres eigenen Geistes“

In ihrem Vortrag „The Fractured Mirror“ zeigt die Anthropologin und digitale Ethnographin Dr. Beth Singler am Ars Electronica Festival Themensymposium (7. September 2018), welche Auswirkungen Künstliche Intelligenz auf uns als Menschen hat. Im Interview hat sie mit uns schon vorab über das Thema gesprochen.

| | |

Was können wir von Künstlicher Intelligenz (KI) und Robotik über uns Menschen lernen? Welche sozialen und religiösen Auswirkungen hat der technologische Fortschritt? Und – wie menschlich sind eigentlich Roboter?

„So menschlich, wie wir sie machen“, meint Dr. Beth Singler. Die Anthropologin und digitale Ethnographin forscht an der University of Cambridge am Faraday Institute for Science and Religion zu den Implikationen von KI und Robotik. Am 7. September 2018 spricht sie am Ars Electronica Festival als eine der Vortragenden des Themensymposiums zu ihrem Forschungsgebiet – vorab hat sie allerdings im Interview schon etwas mehr verraten.

Wenn Sie den Inhalt starten, sind Sie damit einverstanden, dass Daten an www.youtube-nocookie.com übermittelt werden.
Datenschutzerklärung

Dein Vortrag am Ars Electronica Festival heißt „The Fractured Mirror: Reflecting on Artificial Intelligence and Us“. Um bei der Metapher zu bleiben – warum ist der Spiegel zersprungen?

Beth Singler: Der Spiegel ist zersprungen, er ist imperfekt, weil wir, wenn wir die Zukunft der Künstlichen Intelligenz (KI) bedenken und wie wir gerne möchten, dass sie sein soll, von unseren bestehenden Auffassungen von dem, was wir sind und sein möchten, ausgehen. Diese Auffassungen sind aber von unseren eigenen Mängeln, Vorurteilen, Annahmen und Geschichten von Ideen geprägt. Die ersten KI-Technologen und –Technologinnen definierten die menschliche Intelligenz in Bezug auf die Fähigkeit, gut in Mathematik zu sein und Strategiespiele zu spielen. Und zwar, weil diese Technologen und Technologinnen gut in Mathe und Strategiespielen waren! Die menschliche Intelligenz ist aber viel umfassender, viel reichhaltiger und auch viel sozialer als nur das. Wir können aber diesen Spiegel, den KI darstellt, betrachten und herausfinden, wo Imperfektionen existieren. Was sind die Momente des Unwohlseins, des Unheimlichen, die uns innehalten und nachdenken lassen? Wann fühlen wir uns durch die Maschine gestört und was sagt uns das darüber, was wir denken, was der Mensch ist? Natürlich verändern sich unsere Meinungen darüber, was ein Mensch ist, im Laufe der Zeit, aber in dieser Ära der fortschreitenden Technologie gibt es potentiellen Raum für eine Unterhaltung über das Weitermachen mit einer bewussteren Auffassung eines Menschen, die bereit für die Zukunft ist.

Wenn Sie den Inhalt starten, sind Sie damit einverstanden, dass Daten an www.youtube-nocookie.com übermittelt werden.
Datenschutzerklärung

In deiner Forschung beschäftigst du dich damit, wie Fortschritte in KI und Robotik uns als Menschen beeinflussen, auf soziale als auch auf religiöse Art und Weise. Was sind in dieser Hinsicht die größten Herausforderungen?

Beth Singler: Ein Großteil meiner Arbeit beschäftigt sich mit den formalen Narrativen, die Annahmen über KI untermauern. Oft sind die fesselndsten Narrativen für die Öffentlichkeit genau diese, die sehr offensichtlich dystopisch oder sogar apokalyptisch sind. Daher kommt auch der Überfluss an Terminators in Artikeln über KI! Nichtsdestotrotz bin ich weniger besorgt über diese Art von Zukunft als ich es über das Hier und Jetzt bin, in dem wir gerade leben und wo es „unsichtbare Killer-Roboter“ gibt – die Algorithmen, auf die wir uns zunehmend verlassen, um Entscheidungen über unsere individuelle Zukunft und Möglichkeiten zu fällen. Die Abhängigkeit der Gesellschaft über die entscheidungsfällenden Fähigkeiten von KI wird weitreichende sozioökonomische Folgen haben, und ich misstraue jedem, der entweder zu simple historische Analogien zu vorherigen Industriellen Revolutionen zeichnet oder der zu idealistisch über die Fähigkeit der Menschheit, ohne ihre „Arbeit“, die uns für so lange Sinn gab, zu überleben und gedeihen ist. Religionen versuchen schon lange, alternative Erklärungen dafür zu finden, warum es den Menschen gibt, und auch Antworten auf die Frage nach menschlicher Würde zu geben. Sie ermöglichen auch Gemeinschaften der Unterstützung für jene, die schwächer und verwundbarer sind. Ob man jetzt religiös ist oder nicht, und ich bin es nicht, es wird auf jeden Fall ein Bedürfnis für diese beiden Ressourcen geben. Entgegen der Annahmen über Säkularisation werden wir womöglich sogar einen Anstieg an Religiosität im automatisierten Zeitalter sehen.

Wenn Sie den Inhalt starten, sind Sie damit einverstanden, dass Daten an www.youtube-nocookie.com übermittelt werden.
Datenschutzerklärung

In deiner Dokumentarfilmreihe „Rise of the Machines“ untersuchst du sehr menschliche Konzepte wie Schmerz oder das Gute in Maschinen. Das führt unweigerlich zur Frage: Wie menschlich sind Maschinen?

Beth Singler: Sie werden so menschlich sein, wie wir sie machen, denke ich. Mit dem Vorbehalt, dass jede Person, die zu diesem Zwecke arbeitet, mit ihrem eigenen Verständnis davon, was ein Mensch „ist“, arbeitet. Sogar, wenn die Technologie nicht sehr menschenähnlich ist, wird unsere Tendenz zur Anthropomorphisierung die Lücken füllen. Sophia, der Roboter von Hanson Robotics, ist ein gutes Beispiel. Ihre KI-Technologie ist nicht sehr fortgeschritten, aber ihre Präsentation in sehr menschlichen Situationen – in denen sie in einer Morgenshow interviewt wird, ein Fashion Shooting macht oder mit Will Smith quatscht – und ihre androide Form tragen zu dieser Anthropomorphisierung bei. Ist ihre Präsentation auf diese Art und Weise unaufrichtig? Nun, ihre Erschaffer haben manchmal über sie als geskriptetes Kunstwerk oder soziales Experiment in Mensch-Maschine-Interaktionen gesprochen, aber nicht sehr oft oder sehr laut. Sogar, wenn KI ganz entkörpert ist und keinen Anspruch auf Menschenähnlichkeit über ihre Fähigkeit in einer spezifischen, traditionell menschlichen intellektuellen Domäne macht, wie zum Beispiel Google DeepMinds AlphaGo, werden Menschen trotzdem noch eine Persönlichkeit von dem Programm ableiten. Fanart von AlphaGo zeigen es zum Beispiel jubilierend in einer humanoiden Form! Es kann gut sein, dass wir nie ganz dazu fähig sein werden, die Menschenähnlichkeit einer Maschine zu beurteilen, weil wir den Turing Test als Menschen nicht bestehen! Wir schaffen es nicht, die „bestehende“ Maschine zu erkennen und ziehen uns ständig in Beziehungen mit dem Künstlichen.

Wenn Sie den Inhalt starten, sind Sie damit einverstanden, dass Daten an www.youtube-nocookie.com übermittelt werden.
Datenschutzerklärung

Was verraten KI und Robotik über uns als Menschen?

Beth Singler: Vor allem denke ich, dass unser Fokus auf KI und Robotik viel über unseren Schaffenswunsch verrät. Es gibt eine wunderbare Novelle von Catherynne M. Valenete, „Silently and Very Fast“, wo sie schreibt: „Die Menschheit lebte viele Jahre lang und regierte die Welt, manchmal weise, manchmal gut, aber meistens weder das eine noch das andere. Nach der langen Zeit am Thron sehnte sich die Menschheit nach einem Kind.“ Das Streben nach Künstlicher Intelligenz ist das Streben nach einem Other, einem Anderen – jemandem wie wir, aber vielleicht irgendwie besser, jemand, der uns helfen kann, unsere Hoffnungen für die Zukunft zu erfüllen. So wie ein Kind. Nichtsdestotrotz zeigen uns unsere Ängste über die Zukunft von KI und Robotik auch, wie wir unsere Schöpfungen fürchten, wie wir wissen, dass wir selbst sehr fehlbar sind und wie wir vermuten, dass uns unsere Schöpfungen betrügen werden, weil sie wie wir sind. Frankenstein ist ein sehr offensichtliches Beispiel dieser Narrative, und weil dieses Jahr das Jubiläum der Veröffentlichung ist, wurde jede Menge öffentliche Diskussion über KI und Frankenstein angestoßen. Ich habe an verschiedenen Orten darüber gesprochen, wie zum Beispiel am Edinburgh Science Festival, und vom Publikum kam stets die Übereinkunft, dass wir uns vor der Selbstüberschätzung der „verrückten Wissenschaftler und Wissenschaftlerinnen“ in Bezug auf KI hüten müssen. Aber das geht noch tiefer als nur die Karikatur eines verrückten Wissenschaftlers, einer verrückten Wissenschaftlerin. Der Schöpfungsdrang und unsere Ängste über fremde Geister, die imperfekte Versionen unseres eigenen Geistes sind und gegen uns rebellieren, verraten viel darüber, wie wir uns selbst als Menschen verstehen.

Wenn Sie den Inhalt starten, sind Sie damit einverstanden, dass Daten an www.youtube-nocookie.com übermittelt werden.
Datenschutzerklärung

Das diesjährige Festivalthema, „Error – the Art of Imperfection“, folgte in logischer Konsequenz auf das des letzten Jahres, „AI – Das Andere Ich“, als eine Möglichkeit, der aktuellen Begeisterung für die digitale Welt und KI einen Aufruf zu sozialer Intelligenz hinzuzufügen. Wie denkst du darüber?

Beth Singler: Soziale Intelligenz ist unabdingbar, nicht nur für KI, sondern auch für unser eigenes Verständnis von KI und dafür, wie wir diese möglicherweise weltverändernde Technologie einsetzen wollen. Natürlich ist diese Unterhaltung in gewisser Hinsicht nicht neu, wir haben uns schon seit Jahrhunderten vorgestellt, andere Wesen zu schaffen, und wir haben seit Jahrmillionen unsere Welt mit Technologie verändert. Die Mittel, mit denen wir uns entschlossen haben, Technologie in die Gesellschaft zu bringen und zu implementieren, sind oft das Resultat von Zufall, Zweckmäßigkeit  oder Gewinn. Vorsichtiges Nachdenken über den Einfluss dieser Technologien kann zu spät kommen. Wäre die Welt aber so, wie sie jetzt ist, mit allen ihren guten wie auch schlechten Seiten, wenn wir nicht die Technologien Feuer, Schrift oder Elektrizität aus vollem Herzen willkommen geheißen hätten? Im Fortschreiten in eine Zukunft, die wahrscheinlich mehr und mehr Beispiele von KI mit sich bringt, die mit Menschen interagiert, müssen wir reflektieren, wo sie uns ähnlich ist und wo sie sich aber auch von uns unterscheidet, damit wir durch diese Imperfektionen ein besseres Verständnis entwickeln, wer wir sind und wer wir sein möchten.

Dr. Beth Singler ist Anthropologin und digitale Ethnographin und erforscht die sozialen, ethischen, philosophischen und religiösen Implikationen von Fortschritten in Künstlicher Intelligenz und Robotik. Als Teil ihrer Arbeit produziert sie eine Reihe kurzer Dokumentarfilme. Das erste, Pain in the Machine, gewann den AHRC-Preis für den besten Forschungsfilm des Jahres 2017. Beth ist außerdem Associate Research Fellow am Leverhulme Center for the Future of Intelligence und arbeitet an einem CFI / Royal Society-Projekt zu AI Narratives mit. Beth ist in Radio4‘s Today, Sunday und Start the Week erschienen, um über AI, Roboter und Schmerz zu diskutieren. Im Jahr 2017 sprach sie auf dem Hay Festival als eine der „Hay 30“, den 30 besten RednerInnen, die es zu sehen gab. Im selben Jahr war sie eine der Evening Standard‘s Progress 1000 – die Liste der 1000 einflussreichsten Menschen in London. Sie hat auch am Londoner Science Museum, am Cheltenham Science Festival, am London Barbican, am Being Human Festival, am Cambridge Festival of Ideas, am Edinburgh Science Festival, am Cheltenham Science Festival und New Scientist Live über AI und menschliche Identität gesprochen.

Beth Singler spricht am Ars Electronica Festivalfreitag, 7. September 2018, im Themensymposium in der Conference Hall in der POSTCITY Linz über „The Fractured Mirror: Reflecting on Artificial Intelligence and Us”.

Um mehr über Ars Electronica zu erfahren, folgen Sie uns auf FacebookTwitterInstagram und Co., abonnieren Sie unseren Newsletter und informieren Sie sich auf https://ars.electronica.art/.