Pianographique – Music and Images by Humans and Machines: AI Reflection #1-3 photo: Tiberio Sorvillo

transart23: Pianographique

Music and Images by Humans and Machines

Das Programm „Pianographique – Music and Images by Humans and Machines“ wurde am 21. September 2023 im Rahmen des renommierten multidisziplinären Festivals transart23 in Bozen, Südtirol, präsentiert. Es vereinte zwei aktuelle künstlerische Forschungsprojekte der Ars Electronica, die sich der kreativen Verschmelzung von Instrumentalmusik und digitalen Technologien widmen.

Das Konzert begann mit KI-komponierten Musikstücken von Ali Nikrang. Nikrang ist Key Researcher und Artist im Ars Electronica Futurelab. Als Komponist und Informatiker entwickelt er Systeme, mit denen er Instrumentalmusik im Dialog mit künstlicher Intelligenz komponiert. Sein KI-Kompositionssystem Ricercar ist eine intuitive Schnittstelle: Die Ausgabe der KI-Komposition kann vom Menschen personalisiert werden.

By starting the content, you agree that data will be transmitted to vimeo.com.
Data Protection Declaration

Pianographique at transart23 / video: Marina Baldo

Menschliche Kreativität, KI und ein selbstspielendes Klavier

Für ein selbstspielendes Klavier komponiert und wie von Geisterhand von einem Steinway-Flügel gespielt, demonstrierte das erste Stück AI-Reflection #1 den aktuellen Stand der KI-Technologie – in Form einer direkten Wiedergabe des musikalischen Outputs der KI ohne menschliche Begleitung. Es folgte AI-Reflection #2, eine gemeinsame Performance mit drei Musiker*innen des MDI Ensemble (als Streichtrio) und dem selbstspielenden Klavier. AI-Reflection #2 zeigte eine weitere Qualität dieser kreativen Kollaboration: Musik, die im harmonischen Zusammenspiel zwischen Mensch und Maschine entsteht, wobei das selbstspielende Klavier hier klar die musikalische Führung übernimmt. Das dritte Stück AI-Reflection #3 schließlich stellte eine gemeinsame Aufführung des Streichquartetts und des selbstspielenden Klaviers dar, wobei die Komposition der KI, wie beim zweiten Stück, von Menschenhand für diese Instrumentierung arrangiert wurde. Hier übernahm das selbstspielende Klavier (die Maschine) eine begleitende Rolle zu den Menschen. Die Echtzeit-Visualisierung wurde von Cori O’Lan gestaltet.

Nikrang stellte anschließend mit Echtzeit-Visuals von Florian Berger Sounding Letters vor, wo das musikalische Thema aus der Idee entstand, Buchstaben als Noten darzustellen. Die Initialen des Ars Electronica Futurelab und des Ars Electronica Center wurden so 2021 – anlässlich des 25-jähriges Bestehen des Futurelab – mithilfe von Ricercar in mehrere Musikstücke verwandelt.

Persönlichkeit trifft generative KI

Den zweiten Teil des Konzerts übernahm Maki Namekawa, die mit ihrer einzigartigen Virtuosität und Sensibilität von Menschen geschaffene Musik zum Leben erweckt, mit Unterstützung durch Echtzeit-Visualisierung von Cori O’Lan. Kaum ein Stück könnte sich besser für diese dramatische Gegenüberstellung eignen als Keith Jarretts legendäres “The Köln Concert”, das sie in voller Länge präsentierte. Diese Performance hatte im September 2023 beim Ars Electronica Festival Premiere gefeiert.

Die digitalen Echtzeit-Visualisierungen für beide Teile des Konzerts entstanden in Zusammenarbeit zwischen Mensch und Maschine. Die Visuals, gestaltet von Florian Berger und Cori O’Lan, reagierten live auf die Musik, ihre Dynamik, Harmonien und Klangfarben und ließen die Bildwelten dieses Konzertabends entstehen.

Die Bilder zu Maki Namekawas Interpretation von “The Köln Concert” wurden von Cori O’Lan mit generativer KI wie MidJourney, RunwayML oder Stable Diffusion erstellt. Als Ausgangspunkt entstanden in Sitzungen mit ChatGPT Prompts zur Bildgenerierung, was zu Zehntausenden von Bildern führte, die sorgfältig ausgewählt werden mussten. Die Ambiguität darüber, mit wem oder womit man im Dialog steht, mit sich selbst, mit einer Maschine, mit den enormen Mengen an gesammelten Daten und Informationen und den daraus generierten Weltbildern, auf denen diese KI-Systeme aufbauen, ist eine Dynamik, die den künstlerischen Prozess bereichert. Man oszilliert immer an der Grenze zwischen Neuem und Wiederholung, zwischen Originalität und Nachahmung.

Um das Thema zu vertiefen, diskutierte Ali Nikrang im Rahmen von transart23 am 20. September zudem mit Patrick Ohnewein, Abteilungsleiter für digitale Technologien und IKT im NOI Techpark, über „AI, music, and creativity”.

Credits

Ars Electronica Futurelab: Florian Berger, Ali Nikrang

Piano: Maki Namekawa
AI composition: Ali Nikrang
Real time visualizations: Cori O’Lan, Florian Berger
Strings: mdi ensemble: Corinna Canzian, Elia Leon Mariani (violin), Paolo Fumagalli (viola), Giorgio Casati (cello)