May 21, 2024

Artificial dependency

Gerade als ich diese Zeilen schreibe, flattert ein Update von iTerm ein. Ein Terminal was ich am Mac benutze. Die große Ankündigung im Update: Wir haben jetzt ChatGPT eingebaut!

Vor ein paar Tagen flatterte die Meldung rein, dass Slack nun alle Daten OpenAI zur verfügung stellt; Chats, Dateien, alles… Es ist gruselig und während ich noch Plugins schreibe, die AI-Bots blockieren sollen, wird uns der Boden unter den Füßen weggezogen und zwar an fast allen Stellen.

Werden wir uns in Zukunft überhaupt noch dagegen wehren können, dass alles, was wir digital in irgendeiner Form eingeben und ablegen gleich zu einem Trainingsdatensatz wird?

Was bedeutet das für mich beruflich? Wir stelle ich sicher, dass das nicht passiert, wenn ich mit sensiblen Daten arbeite, aber im Hintergrund - vielleicht unbemerkt von mir - fleißig mitgelesen wird? Was macht das mit uns, wenn wir permanent im Hinterkopf haben, dass das eine Möglichkeit sein könnte (selbst wenn dem nicht so ist)?

Ich habe nicht per se etwas gegen LLMs, Bildgeneratoren usw. Ich finde sie hilfreich, ich finde aber auch, dass wir uns Gedanken darüber machen müssen, wie Daten gehandhabt werden. Wir erleben gerade das, was wir schon so oft erlebt haben, wenn es um neue große Hype-Produkte aus Silicon Valley¹ geht. Big Tech macht die Regeln, indem sie voran preschen, sich um nichts scheren und wenn das Kind dann in den Brunnen gefallen ist, achselzuckend sagen, dass sei alles richtig und da müsse man gesellschaftlich eine Lösung finden, denn die Entwicklung schreite so schnell voran, dass das technologisch kaum möglich sei.

Die Beschleunigung findet aber natürlich durch den Kapitaldruck dieser Unternehmen statt, die noch so viel "Open" in ihren Firmennamen tragen können, es geht immer ums Geld.

Alleine die Frechheit zu besitzen und vor den Gefahren von KI zu warnen und dass man da was tun müsse, damit es nicht zu spät ist, um dann möglichst schnell daran zu arbeiten, diese Gefahren Realitität werden zu lassen - weil sie Geld bringen.

Und wir sind Idioten!

Denn wir spielen das alte Spiel mit – schon wieder!

Freudig springen wir auf den Zug auf, integrieren die Produkte und Schnittstellen so schnell es geht in möglichst viele unserer Produkte. Ich unterstelle nicht einmal, dass das immer Geldgründe hat, aber es sorgt für kurze Momente der Aufmerksamkeit, wenn ich mit überschaubar wenig Arbeit ein tolles neues KI-Feature in meinem Produkt ankündigen kann.

Was wir dabei wieder vergessen (ignorieren), ist die Abhängigkeit, in die wir uns begeben. Das haben wir in der Vergangenheit schon zu oft gemacht und wir wissen das eigentlich nur zu gut. Jetzt stehen wir da und versuchen ein offenes Web zurück zu bekommen, nachdem Facebook und Twitter und wie sie alle heißen uns erst vereinnahmt, teilweise technologisch abhängig gemacht haben und uns jetzt den Mittelfinger zeigen.

Was wird passieren? Selbstverständlich werden sich in den kommenden Monaten und Jahren die Nutzungsbedingungen der APIs von solchen AI-SaaS-Unternehmen ändern und zwar nicht in unserem Sinne, sondern im Sinne der Gewinnmaximierung dieser Unternehmen. Dann stecken diese Schnittstellen aber überall in unserer Software, also muss man wohl oder übel mitziehen.

Wenn wir etwas gelernt haben sollten, dann, dass wir uns nicht wieder so abhängig machen dürfen. Wollen wir ein offenes und demokratisch Web schaffen und erhalten, dürfe wir nicht wieder zulassen, dass große Unternehmen uns die Regeln vorschreiben, es muss anders herum laufen. Wir müssen diejenigen seien, die sagen, was mit unseren Daten passiert. Und wir müssen in der Lage sein, Features aus unserer Software zu entfernen, ohne dass diese Software dann nicht mehr funktioniert.

Wir haben es bereits geschafft, dass Social-Web kaputt zu machen und erarbeiten uns gerade Mühsam ein IndieWeb zurück; wir haben schon geschafft, dass E-Mails kaputt sind, E-Mails! Eine so alte, offene Technologie. Wir müssen jetzt höllisch aufpassen, wie wir weitermachen. Insbesondere wir, die wir Daten und Software erstellen.

Ich werde mich jetzt aufmachen und nach einer Alternative für Slack suchen, etwas bei dem ich hoffentlich davon ausgehen kann, dass meine Daten nicht bei OpenAI landen, ordnungsgemäß verschlüsselt sind und ich mich einfach nur um meine Arbeit kümmern kann, statt mir Sorgen zu machen, wer da alles mitlesen könnte.