Speakerin auf dem media.think.tank.24 in der Medienstadt Potsdam Babelsberg

"Das wirkliche Potential von KI im Medienbereich"

mit anschließender Diskussion Sven Bliedung (Volucap) und Anna Hoffmann

auf der Fachtagung: KI IM AUDIOVISUELLEN PRODUCTION WORKFLOW – CREATIVE COLLABORATION VON DREHBUCH BIS DISTRIBUTION

Eine Initiative der Filmuniversität Babelsberg KONRAD WOLF und des Erich Pommer Instituts am 7. Juni 2024

Workshop auf der re:publica 23 in Berlin

„AI for the planet instead of for cash“

Aufbauend auf Inputs aus den Best Practices der Ellen MacArthur Foundation zu den Möglichkeiten von KI für die Kreislaufwirtschaft entwickeln die Teilnehmenden Lösungsideen im Rapid-Prototypingverfahren (unter Einsatz von LEGO® SERIOUS PLAY®), die nach und nach zu einem Business-Ökosystem vernetzt werden. „Neue Werkzeuge wie künstliche Intelligenz können dafür sorgen, dass die einzigen Grenzen, die wir erfahren, die unserer Vorstellungskraft und der Endlichkeit der Ressourcen der Welt sind.“ Ellen McArthur Stiftung

UIG-Tagung 23: "Fokus Mensch - Digitalisierung nachhaltig gestalten", 14.9.2023 in Karlsruhe:  Talk und Workshop "Design für KI-Basierte Circular Economy"

Ein interdisziplinärer Co:Design Workshop mit haptischer Szenariomodellierung für neue, Machine Learning-basierten Lösungen für die Kreislaufwirtschaft und Closed Loops auf Basis einer Studie der Ellen McArthur Stiftung. KI kann, richtig eingesetzt, ein enorm leistungsfähiges Werkzeug sein:
Wie kann der Übergang zur Kreislaufwirtschaft durch den Einsatz von Machine Learning beschleunigt werden?
Welche Möglichkeiten ergeben sich durch den Einsatz von KI-Systemen für positive Veränderungen in einem größeren Maßstab?

Genau das sind Gen-AI Modelle wie die von OpenAI nicht: zuverlässige Maschinen. Wenn derselbe Prompt, also die gleiche Anfrage, erneut an das System gestellt wird, kommt eine andere Antwort, oder gar eine „Halluzination“, ein völlig falsches Ergebnis. Halluzinationen sind kein Fehler im KI-System, sondern die natürliche Folge eines chaotischen Systems, dass nur auf der Basis von Mustern und Wahrscheinlichkeiten operiert, ohne die Befähigung zur eigenständigen Erzeugung von Sinn und Absicht, ohne die für sinnvolle Lösungen notwendige Umfeldintelligenz. Die Antworten von Gen-AI Modellen sind beliebig, und wenn das dann zufälliger Weise überraschend intelligent wirkt, das ist das nur ein Zufall, und kein Hinweis auf echte Intelligenz. 

Umfeldintelligenz wird auch nicht durch Multimodale LLMs kommen: Nur, weil zur Eingabe jetzt auch Bilder und Videos eingesetzt werden können, erzeugen die semantischen Assoziationen in den großen Sprachmodellen nicht auf einmal echte Erkenntnisse. Neuronale Netze sind durch die Bemühungen zum autonomen Fahren schon lange auf das Erkennen von Mustern in den Ihnen präsentierten kleinen Bildkacheln der abfotografierten Wirklichkeit getrimmt. Diese erkannten Muster können jetzt durch Text beschrieben werden – das ist nur eine Umkehr der Labelingfunktion. Das, was als Beschreibung der Welt durch das Labeln von Daten in die Neuronale Netzen einprogrammiert wurde, kommt jetzt als textliche Bildzuordnung wieder aus den NNs heraus. 

Nur weil wir semantische Zusammenhänge in schöner Sprache ausgedrückt als Output der KI erleben, denkt die Maschine nicht. Die Ausgabe entspricht der auf visuelle Mustererkennung getrimmten Programmierung. Statt Zahlen oder Code erhalten wir ein Berechnungsergebnis in rhetorisch geschliffenen Worten, die auch nach Mustern blind zusammengesetzt, und nicht bewusst gewählt worden sind. Obwohl Sprache eine Grundform des Denkens darstellt (neben Bildern und Strukturen), gilt nicht der Umkehrschluss – die Nutzung von Sprachelementen ist kein Anzeichen dafür, dass die Maschine oder das KI-System denken kann oder sich intelligent verhält. Das Einspeisen von Videos und Bildern in Multimodale LLMs ist nur eine neue Form der maschinellen Verarbeitung. Es stellt keine bewusste Erweiterung des Umfeldwissens oder gar einen ersten Schritt zu echter Umfeldintelligenz dar.

Neuronale Netze sind nur rudimentär in ihrem strukturellen Aufbau der Funktionsweise der Gehirnzellen nachempfunden. Nervenzellen dienen als Inspiration für die IT-Systemarchitektur. Die KI-Form der Neuronale Netze nutzt die Struktur von Nervenzellen als Bionik-Prinzip, die Entwickler schauen sich also aus der Natur etwas ab.

Durch dieses Abschauen von Effekten wird aber das zugrundliegende Objekt nicht verändert: Nur weil eine Oberfläche den „Lotuseffekt“ hat, also Wasser besser abperlt, wird das Objekt unter der Oberfläche nicht auf einmal zu einer Lotusblüte. So wird auch ein KI-System, das in der Softwarearchitektur auf dem Bionik-Prinzip der menschlichen Nervenzellen aufbaut, auch nicht plötzlich zu einem menschlichen Gehirn und verfügt über dessen Funktionsweisen und Outputs.

Das Prinzip der Bionik wird auch bei den intelligenten Agenten eingesetzt, das Coding ist dem Prinzip des semantischen Tiefenlernens beim Menschen nachempfunden.  Damit ist die menschliche Fähigkeit zum Lernen über anknüpfende Assoziationen gemeint: Ich höre das Wort „Haus“ in einem neuen Kontext und verknüpfe für die Zukunft den neuen Begriff mit dem Wortfeld „Haus“. So kann der Begriff „Hausboot“ meinen Assoziationsraum für Wohnungen erweitern, und ich denke bei „Boot“ nicht nur an Fortbewegung, sondern auch an Aufenthaltsmöglichkeit. Genau auf diesem Verknüpfungsprinzip bauen die aktuellen GenAI-Modelle auf.

Modernen GenAI-Systeme, wie die von OpenAI, basieren auf dem Prinzip des Embeddings, das sich strukturell an das semantische Tiefenlernen beim Menschen anlehnt (Anwendung des Bionik Prinzips). Darum beherrschen GenAI Systeme Semantik auch besonders gut, aber eben nur das. GenAI Systeme können klug schwafeln, weil sie die rhetorische Grundlage dazu einprogrammiert bekommen haben. Mehr ist es nicht, auch bei den „Intelligenten Agenten“. Es macht keinen Unterschied für das Ergebnis, ob das zufällige Ergebnis nur auf einen Rutsch (wie bei Chat GPT oder durch mehrere Schritte (wie bei Modell 03) entsteht. Zuverlässiger wird das KI-System dadurch nicht.

Wenn Modell 03 besser programmieren kann, denn nicht, weil es auf einmal super logisch denken kann (das können leider auch manche Programmierer nicht), sondern weil Coding auf Programmiersprachen beruht, und Sprache und Semantikbeherrschung die wahre Befähigung der GenAI- Systeme ist. Semantik ist ein mächtiges Werkzeug, doch es sollte uns nicht darüber hinwegtäuschen, das für echte Intelligenz sehr viel mehr nötig ist.

Das menschliche Gehirn und seine Fähigkeiten zur Erkenntnis aus Wahrnehmungen, zur Weitsicht, zu authentischen Empfindung, zu komplexen logischen Schlussfolgerung, zur Erfassung von dynamischen Umgebungsbedingungen und Ableitung von Schlüssen daraus können von keiner IT-Struktur wiedergegeben werden, auch nicht von solchen, die das Wort „Intelligenz“ als Begriffsbezeichnung in sich tragen, aber eben nicht „intelligent“ handeln können, weil sie keine eigenständigen Entitäten sind. 

KI kann, insbesondere durch die sinnvolle und zuverlässige Nutzung von Machine Learning, ein sehr nützliches Werkzeug sein, wenn die Grenzen dieser Technologie für den jeweiligen Anwendungskontext genau im Auge behalten werden.  Bei dem Ausrufen von „Allgemeiner künstlicher Intelligenz“, die angeblich das systemische Denken, die weitsichtige Planung und das aktive Einbeziehen von dynamischen Umfeldbedingungen der menschlichen Intelligenz übertreffen soll, müssten die Alarmglocken laut schrillen. Nur weil etwas überzeugend verkauft wird, wird es nicht wahrer.

Anna Hoffmann 12. 1. 2025