Okay, eigentlich will ich ja nicht mehr über K.I. *schauder* schreiben. Aber wenn es um Monster und angebliche Anflüge von Bewusstsein geht, kann ich einfach nicht widerstehen.

Also… Willkommen zum Newsletter über den Crungus (und ein paar andere Dinge).

Rockt den Rest der Woche,

Johannes

Dall-e 2 ist eines der weitentwickelsten Machine Learning Modelle, dass derzeit auf dem Markt ist. Entwickelt von OpenAI, ist Dall-e gebaut, um aus beliebigen Phrasen Bilder zu generieren.

(Der Instagram-Account des Modells ist voll mit durchaus faszinierenden Beispielen.)

Da Dall-e 2 aber erst nach einer Bewerbung bei OpenAI genutzt werden kann, gibt es entsprechend eine… naja, Marktlücke. Enter Dall-e Mini, ein kleineres, schlechteres aber kostenloses Modell, welches in groben Zügen die gleiche Funktion erfüllt: Bilder generieren.

(Wie beispielsweise Symbolbilder zu “Innovation”, bzw. “Zukunft” zu reproduzieren. Oder anderen absurden Kram.)

Dass Dall-e Mini ein Monster erfindet, klingt auf den ersten Blick etwas… komisch, macht aber Sinn, wenn man weiß wie Machine Learning Modelle funktionieren.

Denn diese sind letztendlich (komplexe) algorithmische Statistikmodelle. Sie haben kein echtes Verständnis der Realität. Das bedeutet, ich werde für jeden Input immer auch einen Output bekommen, egal wie unsinnig oder unrealistisch.

Dass der Crungus nicht existiert, interessiert das Modell in dem Sinne nicht. Es tut nur wofür es gebaut wurde: Bilder generieren.

Und anscheinend ist das Muster, das Dall-e Mini zu “Crungus” reproduziert Monster-ähnlich. Beeindruckend ist aber, wie konsistent das Muster über verschiedene Formulierungen ist:

Und das bringt mich zu einer anderen verwandten Geschichte: die Frage, ob komplexe Machine Learning Modelle ein Bewusstsein haben. Davon ist zumindest der Entwickler Blake Lemoine überzeugt (und hat auch erstmal ein wirklich beeindruckend langes WaPo Profil bekommen).

Nach einem Gespräch mit Googles LaMDA-Modell (einem Sprachmodell) kam Lemoine auf Basis der Antworten des Modells zu dem Schluss, dies hätte nicht nur ein Bewusstsein, sondern auch Gefühle.

Liest man Lemoines Interview wird jedoch schnell klar: er fischt nach diesen Antworten.

Ähnlich wie beim “Crungus” tut auch ein Sprachmodell nur das, was ich von ihm erwarte. Frage ich es etwa nach seinem Leben als Eichhörnchen oder Katze wird es mir lang und ausführlich über seine Schlafgewohnheiten erzählen.

Das Modell reproduziert schlicht Muster, die es mit Wörtern in Verbindung bringt. Ein echtes Verständnis der Realität hat es nicht entwickelt.

Der entscheidende Faktor ist also nicht, ob ein Machine Learning ein bisher unentdecktes Monster kennt oder etwa ein Bewusstsein hat (oder eine Katze ist), sondern wie bereit ich bin dies zu glauben.

Ich hatte Martin Shawn bereits im letzten Newsletter zitiert, aber er passt auch hier perfekt:

Wenn wir nicht verstehen wie eine komplexe Maschine funktioniert, erfinden wir eine für uns plausible und spannende Geschichte. Einen Mythos. Und Machine Learning Modelle sind perfekt für die Konstruktion von Mythen, denn sie füllen die Lücken bereitwillig.

+ Das Papier “Imagining the thinking machine: Technological myths and the rise of artificial intelligence” ist eine gute Einführung in den Mythos künstliche Intelligenz

+ Meine Sammlung von Links zum Thema Magie X Technologie

Spotify & Podcasts — Ein paar spannende Zahlen aus der Investoren-Präsentation von Spotify. Der Umsatz in 2021 lag bei knapp 200 Millionen Euro (+300% YoY), jedoch immer noch mit einem Gesamtverlust für das Unternehmen von etwa 103 Millionen Euro.

Von der Hörzeit der Nutzer:innen entfallen derzeit knapp 7% auf Podcasts und von dieser Zeit kann Spotify alleine 14% direkt monetarisieren.

Nicht schlecht.

+ Gleichzeitig sägt Spotify aber weiterhin am offenen RSS-Standard. (Welcher durchaus weiterentwickelt werden sollte, aber offene Standards sind jeder geschlossenen Plattform vorzuziehen)