KI im DIALOG

Am 10. April hatte ich die Freude, die Veranstaltung KI im Dialog zu moderieren. Gastgeber waren die Archimedes Exhibitions GmbH und das Internationale Design Zentrum (IDZ).
Ein Abend mit manchen Antworten und doch einigen offenen Fragen.

Die Veranstaltung war ein munterer Dialog (teilweise auch ein Metalog) zwischen den Gästen auf dem Podium und dem Publikum, das sich intensiv zum Thema eingebracht hat.
Die drei Gäste auf dem Podium waren: Jeanette Hofmann, Yasemin Keskintepe und Sebastian Löwe.
Meine Einladung zum Beginn der Veranstaltung, die eingeübten Positionen und Sprechmodule auf dem professionellen Rücksitz zu lassen, hat relativ gut geklappt.

Manche begrifflichen Tiefbohrungen konnten wir entspannt der akademischen Betrachtung überlassen und dann wurde es rege im Publikum. Viele Fragen, Kommentare und Anmerkungen.
Manche Spekulationen waren auf der Suche nach den Unterschieden zwischen den Generationen und damit dem Umgang mit Künstlicher Intelligenz im Allgemeinen, vor allem aber im konkreten Alltag unserer Gegenwart.

Erstaunt war ich über die weitgehende Entspanntheit dem Thema gegenüber. Entweder die Stimmung des Abends hat zu einer kollektiven Gelassenheit geführt oder es ist wirklich so, dass sich nur wenige Sorgen um die potenziellen, auch nachteiligen Entwicklungen machten, welche aus der Wirkmacht dessen resultieren könnten, was Künstliche Intelligenz (oder welche Begriffe auch immer man dafür verwenden mag) in der absehbaren Zukunft mit unserer Zukunft macht.

Wie auch immer. Der Abend brachte keine finalen Antworten, eher Anregungen zum Weiterdenken.

Wer zu dem Thema weiterlesen möchte, der findet auf meinem Textportal BASIC.BOOK drei Texte, die ich hierfür gerne empfehle:

SUPRAACTIVITY [künstliche intelligenz]
SOZIOMIMIKRY
KÜNSTLICHE INTELLIGENZ_2 [maschine]

Hier noch ein paar Bilder zum Abend selbst und zu diesem grossartigen Ort: Einer Werkstatt.
Für mich ein Genuss, bin ich doch mehr oder weniger in einer Schreinerei aufgewachsen.

Alle Fragen, die ich hätte stellen können, findet Ihr unten nach den Bildern (Copyright: Michael Feser / Archimedes Exhibitions).

Fragen an das Publikum:

Würdest du deine Gesundheit einem digitalen System anvertrauen?

Sollen sich ungetragene Schuhe nach einem Jahr selbst zum Verkauf anbieten?

Kannst du dir vorstellen, deine Beziehung durch einen Google-Sprachassistenten beenden zu lassen?

Fragen an Jeanette Hoffmann:

In einem Interview mit dir konnte man lesen: Die digitale Gesellschaft … hat die daraus erwachsenen Kommunikations-möglichkeiten erst gefeiert und dann normalisiert – und schlägt sich nun mit den nichtintendierten Folgen herum.
Das Collingridge-Dilemma besagt, dass eine Technologie so tief in die gesellschaftlichen Prozess eindringt, dass – wenn man die Gefahr derselben erkennt – die Rückabwicklung technisch, sozial oder ökonomisch kaum noch möglich erscheint.
Ist die Künstliche Intelligenz schon so weit vorgedrungen?

Du sprichst von Bildungsreichen und Bildungsarmen im Zusammenhang der Digitalisierung in unserer Gesellschaft.
Welche Gefahren verbindest Du im Zusammenhang der Dynamik digitaler Transformation damit = Wird die digitale Spaltung die Kluft zwischen arm und reich noch befeuern?
ODER: gibt es Ansätze, in denen Digitalität die Bildung soweit demokratisieren könnte, dass sich die Kluft langfristig verkleinert?

Fragen an Yasemin Keskintepe:

Die Kunst ist ja oft der früheste Indikator für gesellschaftliche Veränderungen. Denken wir an die 7.000 Bäume + einen Basaltstein, den Joseph Beuys 1982 als Soziale Plastik und als Mahnung gegen Verstädterung pflanzte und aufstellte.
Letztes Jahr wurde ein Bild des humanoiden Roboters Ai-Da, die ein Bild des Mathematikers Alan Turing malte für mehr als eine Million Euro verkauft. Das Bild bekam den Namen AI-God und wurde damit schon weit oberhalb der Menschheit positioniert.
Wem gehört eigentlich so ein Bild? Wem gehört eigentlich ein
KI-generiertes Kunstwerk? Dem Programmierer? Dem Provider? Oder den Künstlern, bei denen sich die KI bedient hat?

2022 warst du Kuratorin am Deutschen Hygiene Museum und der Ausstellung mit dem Titel: Künstliche Intelligenz: Maschinen – Lernen – Menschheitsträume.
Damals wurde die Frage gestellt: Sind diese hochkomplexen Systeme, die sich hinter dem Kürzel KI verbergen, wirklich intelligent – so, wie Menschen intelligent sind?
Wie würdest du heute, etwas mehr als zwei Jahre später die Frage beantworten?

Fragen an Sebastian Löwe

In einem Artikel im t3n-Magazin sagst du in deinem Fazit:
Weder sind nur Menschen wirklich kreativ – noch ist generative
KI automatisch genial. Es geht darum, menschliche Kreativität und
KI-Unterstützung zu verbinden.
Das scheint die Fragen aller Fragen im Design zu sein zu sein.
Aber wie soll das aussehen, wenn zunehmend KI-Tools entstehen, die komplette Prozesse klassischer Gestaltungs- und Konzeptionsaufgaben übernehmen?

Welchen Tipp würdest Du den Bildungseinrichtungen mitgeben, die unter dem Label der Gestaltung neuen Studierenden immer noch Fachbereiche wie Illustration, Typografie, Fotografie oder Film oder Coding anbieten?
Macht das noch Sinn, wenn die Dynamik der KI-Tools inzwischen so viele dieser Aufgaben in rasender Geschwindigkeit und beachtlicher Qualität übernehmen?
Damit verbundene Frage: Wie sollte aus deiner Sicht ein Studium im Umfeld von Design und Kommunikation aussehen, das langfristig bestehen kann?

Fragen an Alle:

Generelle Veränderungen

Serge Brin (Gründer von Google) hat Anfang dieses Jahrhunderts in einem Interview auf die Frage, warum sie auf dem Weg sind, alle Texte und Inhalte zu digitalisieren, die jemals auf diesem Planeten entstanden sind, geantwortet:
Wir digitalisieren diese Inhalte nicht, damit sie von Menschen gelesen wird, wir digitalisieren alles, damit es von einer Künstlichen Intelligenz gelesen werden kann.
Das war vor einem knappen viertel Jahrhundert. Haben wir hier etwas Grundlegendes nicht nur verpasst, sondern einfach nicht verstanden?

Geoffrey Hinton, bis 2023 bei Google als Vicepresident im Bereich der KI-Forschung tätig (+ Nobelpreis für Physik im Jahr 2024) warnt vor der Dynamik der KI-Entwicklung. Vor allem vor Artificial General Intelligence (AGI). einer seiner bekanntesten Zitate lautet: Es wäre das erste Mal in der Evolution, dass eine höhere Intelligenz (KI) von einer niedrigeren (der Menschheit) beherrscht werden würde.
Sind das nur die Ängste eines inzwischen älteren Herrn oder was davon sollten wir ernst nehmen?

Content

KI sind vor allem ausgeklügelte statistische Modelle, besonders gut in der Mustererkennung. 
Wenn über die Nutzung von KI bei der Generierung von Inhalten immer weniger neuer Inhalt anfällt, müssten KI-Systeme pro-aktiv werden.
sie müssten beginnen, selbst neue Inhalte zu schaffen, der nicht aus dem Bestand der Menschheit kommt.
Was aber passiert, wenn KI aktiv und autonom Beziehungen zu anderen Systemen und Menschen sucht, um damit neue Inhalte zu generieren?

Emotion

Die Integration des Konzeptes der Emotion in KI-systeme scheint ein Schlüssel für die weitere Entwicklung zu sein.
Neugier und Zufriedenheit funktioniert bei Menschen gut und könnte auch bei KI die Lust am Lernen und Erkunden befeuern.
Klingt erst einmal ein wenig gespenstisch. 
Aber kann es nicht sein, dass erst über die Integration von emotionalem Handeln KI-Systeme in der Zukunft in der Lage sein werden, unsere Idee von Moral und Ethik zu verstehen?
Und uns vielleicht sogar korrigieren, wenn wir diese selbst ignorieren?

Ein Trend sind KI-Systeme mit Emotionserkennung = die KI analysiert die Mimik, Stimmlage oder andere Signale (zb. Oberflächenspannung der Haut über Wearables) und passt den Lehrinhalt entsprechend an.
Vergleichbar mit den Chips in Verbrenner- oder e-Fahrzeugen wird die Leistung des Antriebs angepasst.
Eigentlich eine gute Idee.
Was bedeutet dies für die Vergleichbarkeit einer erbrachten Leistung?
Oder: Gehört nicht genau dieser Zwang der Gleichschaltung von Leistung auf den Bildungsmüllhaufen?

Einige Bereiche heutiger Dienstleistungen ändern sich durch
KI-Systeme, welche Emotionen erkennen und versuchen emotional zu reagieren bzw. mit uns zu interagieren:
ZB. in der Psychotherapie (bei Borderline), im Kundenservice durch immer cleverere Chatbots, vor allem aber in der Bildung durch adaptive Lernsysteme. Vermutlich ist das erst der Anfang und mehr als ein Trend.
Provozierende Frage: Kann es sein, dass solche Systeme am Ende zugewandter und besser für Menschen funktionieren?

Weltmodell

Das Konzept eines WELTMODELLS (Artificial General Intelligence, AGI) innerhalb der KI ist nicht neu, bekommt aber in den letzten Monaten neue Nahrung.
Kurz gesagt die Künstliche Fähigkeit, die komplexen Folgen des Handelns universell abschätzen zu können. 
Menschen machen ständig Erfahrungen (zum Beispiel fällt ihnen etwas zu Boden und damit ist klar, dass Dinge die fallen kaputt gehen können – ab dem Punkt ist im Kopf des Menschen alles innerhalb der Physik potenziell fallbar – ausser Staub,-).
Wie denkt ihr über solche Entwicklungen bzw.
Wo erkennt ihr sinnvollen Einsatz und wo Gefahren?

Psychologie

Es gibt eine grosse Zahl von Apps, die sich um die Psyche des Menschen kümmern, die mehr sogenannte Achtsamkeit, mehr Resilienz und Selbstwirksamkeit versprechen.
Tools, die wie eine permanente Anamnese die Nutzer:innen immer besser kennenlernen und dann zu einem ständigen Begleiter werden wollen.
Kann es nicht sein, dass das super gut funktioniert, da so eine digitale Begleitung durch die Berechnung aus Millionen vergleichbarer Probant:innen stochastisch einen perfekten individuellen Tipp geben kann?
Bei Google Maps zweifeln wir ja auch nicht an dem Tipp für eine ideale Strecke von A nach B.

Die Erkennung von Emotionen und damit auch die Berücksichtigung menschlicher Psyche über Sensoren, welche inzwischen Standard der digitalen Geräte wurden, spielt eine immer grössere Rolle. Vor allem wenn es um Individualisierung von Services und Angeboten bzw. generell Softwarenutzung geht.
Welche Potenziale seht ihr bzw. welche Gefahren lauern vielleicht auch, wenn KI-Systeme zu einem permanenten Begleiter werden?

Kultur und Kunst

Es gibt nicht nur Konzepte, sondern konkrete Beispiele, dass Musik individuell und situativ für einzelne Nutzer:innen in Echtzeit produziert und gespielt wird.
Wenn man bedenkt, wie leicht sich Menschen verführen lassen, algorithmisch kuratierte Playlists zu hören, statt einer eigenen Auswahl, dann ist der Schritt (schon wegen der gefühlten Hybris = das ist nur für mich) vielleicht gar nicht so weit entfernt.
Welche Folgen hat dies für Künstler:innen bzw. ab welchem Punkt ist so ein musikalisches KI-Produkt wirklich autark, beutet also nicht mehr Vorlagen aus?
Anders bzw. provokativ gefragt: Basiert nicht jede menschliche Komposition auch auf dem schon Gehörten?

In Hollywood ist es seit Jahren normal, dass Filme in der Postproduktion überwiegend mit KI-Generatoren bearbeitet werden. OpenAI hat im letzten Jahr das KI-Modell Sora vorgestellt. Damit werden über Promts kurze Filme hergestellt, deren Qualität verblüfft hat.
Wäre ein komplexer KI-generierter Film noch mit der klassischen Idee eines Films vergleichbar oder entsteht hier ein vollkommen neues Genre (eher Gaming vergleichbar)?

Gesellschaft und Politik (Autokratie)

Je nach Quelle geht man aktuell davon aus, dass knapp 50 % bzw. leicht darüber aller Länder Autokratien sind. Wichtiger noch: mehr als 70 Prozent der Weltbevölkerung lebt in Autokratien (46 % vor 12 Jahren – Y-Dem-Institut).
Welchen Einfluss haben hier digitale Medien aus eurer Sicht bzw. welche Rolle spielt hier zunehmend KI-generierter Content, der individuell und situativ auf die einzelne Person zugeschnitten wird (Mikrotargeting)?

Social Media (Mono-Plattformen)

Kann es sein, dass die Form des Zugangs zu Medien und die damit verbundene immer knapper werdende Form der Inhalte Menschen so stark beeinflussen, dass sie schlicht weg nicht mehr in der Lage sind, sich mit komplexeren Themen zu beschäftigen?
(Knapp 50 % der 18 – 29-jährigen informieren sich primär über Plattformen wie TikTok und Instagram.

Inzwischen kennen wir alle den Begriff Fake News. Viele Menschen verlieren zunehmend den Glauben an allem.
Was bedeutet dies kulturgeschichtlich oder einfacher gefragt: für das soziale miteinander in unserer Gesellschaft?

Bildung

KI ist inzwischen ein nahezu fester Bestandteil der Bildung geworden. Noch nicht unbedingt seitens der Institutionen aber die Tools (zb. chatGBT, Perplexity, Liner, DidactAI uvm.) werden relativ intensiv von den jungen Menschen genutzt.
Ein Problem ist oft das sogenannte Skill-Skipping = das, was eigentlich gelernt werden sollte (bezogen auf die individuelle Schwäche) wird durch Übernahme durch die KI übersprungen und folglich nicht gelernt.
Kann es sein, dass die KI-Tools eher zu einem oberflächlichen Problem-Vermeidungs-Tool werden?

Gleichzeitig könnten adaptive Lernsysteme (die maßgeschneidert und unter Kenntnis der Schwächen der Lernenden Inhalte so aufbereiten, dass die Person leichter lernt) die Lücken füllen,
die konfrontativer Unterricht in den Schulen kaum ermöglicht.
Dann stellt sich allerdings auch die Frage, welche neue Aufgabe Schulen im Zusammenspiel mit KI-Systemen spielen sollten?

Schulen sind heute oft Orte, die nach dem Prinzip Aufgabe und Abgabe funktionieren. Wie kann KI die Selbstwirksamkeit der jungen Menschen vielleicht wieder stärken?

Kann es sein, dass die Interaktion zwischen Lehrenden und Lernenden durch KI-Systeme leidet bzw. die damit verbundene soziale Distanz junge Menschen verunsichert?
Oder sind das nur Befürchtungen älterer Generationen, da sie nicht verstanden haben, wie selbstverständlich Menschen unter 20 mit diesen digitalen Angeboten umgehen?

Durch KI wird permanentes Lernen (vor allem im Bereich der High-Tech-Unternehmen) Teil der Produktion, ohne Sprachgrenzen und individuell auf die Menschen abgestimmt, die dort tätig sind.
Eigentlich kein schlechter Ansatz aber natürlich auch ein massives Kontrollinstrument.
Es gibt noch viele Beispiele. Wie denkt ihr darüber?

Medizin

Vor allem in der Medizin gibt es grosse Hoffnungen in die KI.
Die Bildanalyse (Diagnostik) ist in der Früherkennung von Anomalien im Körper weit entwickelt und rettet damit Leben.
Medikationen, vor allem in der Onkologie, sollen individuell die Heilungschancen verbessern.
Roboter sind in der Chirurgie auf dem Vormarsch. Exakter, reaktiver bei Problemen und ermüdungsfrei machen sie ihren Job.
Warum sollten wir das nicht gut finden?

KI-gestützte sog. Wearables tracken Körperdaten und werden selbst von Fachkreisen als sinnvolles Tool für die Gesundheitsvorsorge bezeichnet. Vor allem, wenn es um die Früherkennung von Herz-/Kreislaufproblemen geht.
Auf der anderen Seite fliessen die Daten zentral auf den Server der Unternehmen. Sollte das Sorge bereiten oder ist dies einfach der Lauf der Zeit und schlicht der Preis für den Service?

Der Datenschutz wird in Europa stark verteidigt. Gerade sensible Daten rund um die persönliche Gesundheit werden hier als ethisch sehr kritisch gesehen. Ist das noch zeitgemäß oder wird hier das mögliche Problem höher eingeschätzt als der Nutzen?

Mobilität

Vermutlich nutzen wir alle Google Maps und haben es ein wenig verlernt, mit einer Landkarte aus Papier ein Ziel zu erreichen.
Das Prinzip im Hintergrund ist relativ klar. Die Informationen vieler Nutzer:innen werden in Echtzeit für unser Ziel ausgewertet.
In Zukunft wird aber vielleicht die Gesundheit der Fahrer:in, Informationen aus dem Kalender, persönlicher Stress, sonstige Körperdaten, die Stimme aber auch Erfahrungen aus der Vergangenheit berücksichtigt, um all dies mit dem Service, ein Ziel zu erreichen, zu verbinden. vielleicht noch viel mehr.
Die Frage ist: Wollen wir das?
Wenn wir damit sicher ans Ziel kommen, vielleicht ja.

Unternehmen denken heute sehr systemisch. Die Industrie arbeitet an Exoskeletten für ältere Menschen, die nicht nur im Alltag die Bewegung unterstützen sollen, sondern die auch perfekt auf ein Transportmittel abgestimmt sind, damit Menschen bis ins hohe Alter mobil und selbstständig leben können.
Die Frage ist neben der Machbarkeit immer die Akzeptanz.
Vieles scheint uns heute noch fremd (so wie es ein Smartphone vor 25 Jahren auch war) wird dann aber doch normal.
Wie entsteht aus eurer Sicht Akzeptanz in der Gesellschaft?

Demokratie und Staat

Alle sprechen von Bürokratieabbau. KI könnte hier helfen:
Informationen könnten für Menschen individuell zusammengestellt werden (zb. in einfacherer Sprache oder als Übersetzung).
Das ganze Berichtswesen bzw. Lesen komplexer Kataloge könnte für Unternehmen durch KI wesentlich effizienter werden.
KI könnte helfen, bestimmte Notlagen vorherzusagen und damit eine wichtige Entscheidungsgrundlage für die Politik bieten.
Eigentlich doch eine grosse Chance, oder?

In der Öffentlichkeit gibt es auch die Sorge vor Manipulation
durch KI bzw. den damit generierte Inhalten. Die grosse Frage nach dem allgemeinen Verlust an Vertrauen.
Black-Box-Problematik: Letztlich sind KI-Systeme doch nicht transparent und durch die Komplexität der verarbeiteten Inhalte nicht mehr überschaubar.
Es gibt auch die Sorge der Diskriminierung von Randgruppen.
Je nachdem, welche Daten die KI nutzen konnte, kann es zu Benachteiligungen kommen.
Ist das neu oder nicht nur eine Fortsetzung struktureller Ungerechtigkeit, die jetzt auf die KI geschoben werden kann.

Shoshana Zuboff, weltbekannt geworden mit ihrem Buch
Das Zeitalter des Überwachungskapitalismus sagt:
Es reicht nicht mehr aus, den Informationsfluss über uns zu automatisieren; das Ziel ist jetzt, UNS zu automatisieren.
Tatsächlich führt ja Digitalisierung und umso mehr mit Mitteln der KI zu einer in Teilen extremen Abhängigkeit.
Relevante Bereiche des Lebens finden ohne digitale Prozesse einfach nicht mehr statt oder sie werden zunehmend abgeschafft. Teilweise ist das hilfreich, teilweisebeängstigend.
Was denkt ihr dazu?

Wenn die KI in den kommenden Jahren so schlau wird, dass ein Mensch nicht mehr wirklich mithalten kann, wäre es dann nicht konsequent, wenn Regierungen in bestimmten Funktionen von KI-Systemen abgelöst werden würden oder wenigstens zentrale Aufgaben mit einer Art Veto seitens der KI erledigt und entschieden würde (Stichwort: Autonome KI)?

Arbeit

Es gibt ja einen diffusen Elefanten im Raum, wenn es darum geht, welche Form von Arbeit und damit die Sicherung der eigenen Existenz in Zukunft von der KI bedroht sind.
Die Optimisten sagen: das war schon immer so und dann sind eben komplett neue Berufsfelder entstanden.
Pessimisten behaupten: das wird diesmal nicht so sein, da durch das Prinzip der Digitalisierung die Physik kaum noch einen Rolle spielt und Menschen eben doch Teil der Physik sind.
Sam Altman, der Chef von OpenAI sagt, mit AGI (Artificial General Intelligence) entstünden hochgradig autonome Systeme, die Menschen beim Großteil der wirtschaftlich verwertbaren Leistungen übertreffen.
Wie ist das für euch persönlich heute bzw. für eure berufliche Zukunft?

Zum Schluss ein Zitat von Kurt Marti:

Wo kämen wir hin, wenn alle sagten,
wo kämen wir hin, und niemand ginge,
um zu schauen, wohin man käme,
wenn man ginge.