June 2, 2023

Diese Mail vor dem Ende der Menschheit unbedingt noch lesen [Undisruptable Technology - Ausgabe #216]

Guten Morgen,

ich bitte mal kurz um Aufmerksamkeit: “Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war.” Das ist der jüngste Aufruf / offene Brief / wie auch immer man es nennen will, den führende KI-Expertinnen und -Experten gerade veröffentlicht haben. Jetzt bin ich auch dafür, dass man das Aussterben der Menschheit grundsätzlich verhindern sollte (wobei ich persönlich immer eher befürworte, das Leben der Einzelnen in den Mittelpunkt zu rücken, mit Menschheit und "Völkern" kann man ganz schön üble Dinge begründen, aber das ist eine andere Frage). Aber während ich mir relativ gut vorstellen kann, wie das bei einer Pandemie oder einem Atomkrieg passiert, bleibt der Appell bei KI doch eher vage.

Im Kern geht es darum, dass praktisch jede neue Technologie so oder so verwendet werden kann. Wir können KI nutzen, um schneller und besser Medikamente zu entwickeln - oder um noch tödlichere Giftstoffe zu entdecken. Wir können KI verwenden, um den Verkehr mit autonom fahrenden Fahrzeugen sicherer zu machen - oder um mit autonomen Drohnen Menschen zu töten. Wir können KI verwenden, um Zugriff auf wahnsinnig viel Wissen zu haben - oder um eine Flut von immer glaubwürdigerer Fakenews zu erzeugen. Die Liste lässt sich beliebig verlängern.

Das große Problem daran ist: Die Technologie ist bereits da. Wenn wir versuchen, uns davon abzuschotten, dann werden all die Dinge auf der linken Seite des Bindestrichs eben nicht stattfinden, aber die "oder"-Alternativen werden trotzdem eine reale Gefahr sein, denn die bösen Menschen dieser Welt werden sich von Appellen - egal mit wie vielen Worten formuliert - nicht abschrecken lassen. Dann doch lieber Fakenews mit KI erkennen und löschen, böse Drohnen mit guten vom Himmel holen oder Medikamente gegen Kampfgifte entwickeln lassen, finde ich.

Und ich glaube, dass es weiterhin mehr Sinn macht, die Anwendungen zu regulieren (also Drohnen, Autos oder medizinische Forschung) und nicht die Technologie (KI als solche). Wenn wir tatsächlich eine Bundes-KI-Behörde schaffen und die dann auch noch beim Bundesdatenschutzbeauftragten ansiedeln dann bin ich mir ziemlich sicher, dass wir in Deutschland in fünf oder zehn Jahren das beste Zertifizierungsverfahren für Künstliche Intelligenz in der westlichen und östlichen Hemisphäre haben (ich schlage als Arbeitstitel KI-GVO vor), aber weder Forscherinnern noch Forscher und auch keine Unternehmen, die entsprechende Anwendungen entwickeln. Und wir werden dann auf irgendwelchen Umwegen die Lösungen nutzen (müssen), die in anderen Ländern entstanden sind - oder eben halt auf KI-Tools verzichten.

Dabei wollte ich ja ein bisschen optimistisch sein (und das bin ich jetzt auch noch, ätsch) und davon berichten, dass der Sohn (8. Klasse, Gymnasium) eine Projektarbeit bekommen hat und die Schülerinnen und Schüler ausdrücklich ermuntert wurden, bei der Arbeit auf die Hilfe von ChatGPT zurückzugreifen. Erstmal dicker Dank an die Lehrkräfte, die sich da einen Kopf machen. Ich bin wirklich überzeugt, dass man KI, ihre sinnvolle Anwendung und vor allem auch ihre Grenzen und die Wege und Möglichkeiten, zu besseren Ergebnissen zu kommen, nur dann lernen kann, wenn man sie im eigenen Alltag verwendet. Dass hier die Schule (und das sogar in Berlin und nicht irgendwo anders) wirklich vorne mit dabei ist, finde ich großartig.

Nun wünsche ich aber viel Spaß und neue Erkenntnisse mit der aktuellen Ausgabe von "Undisruptable Technology",

Andreas Streim

---

Ten news that fit to send

1. Ten Years of AI in Review: Man kann aktuell bei mancher Berichterstattung ja den Eindruck haben, dass KI gerade eben erfunden wurde - Grüße an ChatGPT - und wir jetzt mal dringend überlegen müssen, was es mit dieser Technologie auf sich hat. Der Text fasst nur die letzten zehn Jahre der KI-Entwicklung zusammen und konzentriert sich auf technologische Meilensteine - und das sind schon eine ganze Menge.

2. Turds: Wir reden wegen ChatGPT oft von generativer KI nur in Zusammenhang mit Texten. Der Autor hat sich mal die, äh, ich nenne es jetzt "Fehler" (wir sind ja hier ein familienfreundlicher Newsletter) angeschaut, die generative KI bei der Bilderstellung so macht. Auf den ersten Blick sehen viele generierte Bilder toll aus, aber bei genauerem Hinsehen gibt es eine Vielzahl von Stellen, die so nicht wirklich passen. Zum Beispiel Wasserhähne über Schreibtischen oder Menschen, die über Wasser gehen. Und bei Musik sieht es wohl ähnlich aus, wobei ich ehrlicherweise dem Teil des Textes nicht so recht folgen konnte.

3. 5 AI Image Generators You Should Be Using Now: Wer das mal selbst nachvollziehen will, wie gut generative KI bei der Bilderstellung ist, hier werden 5 verschiedene Tools vorgestellt und auch bewertet.

4. A Developer Made Software to Turn Anyone Into an 'AI Girlfriend'—Starting With His Own Partner: Aber nochmal kurz zurück zu ChatGPT & Co. Wad damit heute . möglich ist, zeigt dieses Projekt. Hier hat ein Entwickler eine digitale Kopie seiner Freundin erschaffen (mit ihrer Zustimmung). Und es ist nicht die einzige Geschichte dieser Art.

5. Nvidia Breaks the $1 Trillion Market Cap Threshold: Übrigens ist KI nicht nur ein gutes Geschäft für OpenAI, Google & Co., sondern auch für... die Chipindustrie. Also zumindest für Nvidia, die gerade eine sensationelle Marktkapitalisierung erreicht haben. Wer das lieber graphisch vor sich hat, hier ist eine schöne Visualisierung. "Nvidia has played a pivotal role in developing the AI ecosystem of hardware and, perhaps more importantly, software powering the AI revolution. With an uncontested lead in AI hardware processing horsepower and the strength of its CUDA software programming model, Nvidia doesn't seem to have a clear opponent for its leadership position."

6. Von künstlicher Intelligenz gesteuerter Drohnenschwarm entdeckte und verfolgte mehrere Ziele an Land und in der Luft: Und nochmal, sorry, etwas zu KI. Aber da sind wir schon wieder etwas näher am Einstieg und der Warnung vor der Menschheitsauslöschung durch KI. Wir hören in den Nachrichten zum russischen Angriffskrieg auf die Ukraine fast täglich von Drohnenangriffen. Vermutlich wird das Thema bei künftigen militärischen Konflikten noch mehr an Bedeutung gewinnen, der Text verlinkt auf ein Video des UK-Verteidigungsministeriums über eine gemeinsame Übung mit autonomen Fahr- und Flugzeugen.

7. The future of digital healthcare could be a two-metre USB cable: So, jetzt aber mal zu was ganz anderem und gänzlich KI-freiem. Der Autor hat sich am Fuß verletzt - aber statt nach der Röntgenaufnahme lange im Wartezimmer zu warten, fand das Patientengespräch online statt. Nichts Spektakuläres, aber ein schönes Beispiel, wie Telemedizin funktionieren könnte. Und warum sich eine externe Webcam lohnen kann.

8. The future of podcasts is getting written in print: Wer mal in so einem Bahnhofsbuchhandel steht, sieht: Print ist nicht tot. Print ist inzwischen nur sehr speziell. Da gibt es wunderschön gemachte Special-Interest-Hefte zu fast jedem Thema. Und vielleicht auch bald eines zu Podcasts: "In terms of what our coverage will look like — I’d like to see stories about podcasting that aren’t just about the business side of things. What is it like to make a hit podcast or even one that fails? I’m thinking cultural histories that analyze influences and sounds, essays that say what everyone is too scared to, profiles of people who are doing things differently."

9. Green hills forever: Windows XP activation algorithm cracked after 21 years: Der praktische Nutzen dieser Nachricht ist begrenzt: Es ist gelungen, die Aktivierung von Windows XP zu knacken. Hat eine Weile gedauert und braucht eigentlich niemand, aber es ist trotzdem ein schönes Beispiel, dass etwas, was heute absolut sicher scheint (und vielleicht auch ist) in einigen Jahren recht, hmmm, unsicher sein könnte. Das ist für die meisten Menschen in ihrem privaten Leben eher egal, aber wer Dinge dauerhaft wegverschlüsseln will, sollte über diese Frage durchaus ein bisschen nachdenken. Also wenn zum Beispiel heute sicher verschlüsselte Mails, die irgendwo archiviert sind, in einer (nahen) Zukunft von jeder und jedem gelesen werden könnten, dann könnte das vielleicht das eine oder andere Problem mit sich bringen.

10. The FDA will apparently let Elon Musk put a computer in a human’s brain: Wir sprachen ja oben von der Sorge vor der Auslöschung der Menschheit durch KI. Ich würde mal sagen, an der Stelle würde ich mir persönlich da mehr Sorgen machen: "Elon Musk’s brain-computer interface company Neuralink says it has received Food and Drug Administration (FDA) approval to launch its first in-human clinical study. If this is true, it means that actual humans could be getting a device from Neuralink implanted in their heads." Im ersten Schritt zumindest für die Personen, die bei so einem Versuch mitmachen würden.

Undisruptable Technology im Bild

Und zuletzt...

Liebe Kinder, gebt fein acht, denn wenn ihr ChatGPT & Co. verwendet (und das tun ja viele), dann solltet ihr schlauer sein als mancher Anwalt / manche Anwältin. Denn in den USA hat ein ganz schlauer Jurist versucht, sich seine Stellungnahme für den Richter von der KI schreiben zu lassen. Sah auch alles super aus und ging flott (was dafür wohl abgerechnet wurde? Aber das ist eine andere Frage), blöderweise hat sich ChatGPT die Urteile, auf die es sich berufen hat, einfach selbst ausgedacht: "A submission filed by plaintiff's counsel in opposition to a motion to dismiss is replete with citations to non-existent cases... Six of the submitted cases appear to be bogus judicial decisions with bogus quotes and bogus internal citations." Jetzt droht mächtig Ärger, womöglich mehr als eine schlechte Note.

Vielleicht dann doch lieber gleich DeppGPT fragen. Ziemlich sicher wäre das dann nicht passiert. Ich habe übrigens DeppGPT gebeten, mir eine Betreffzeile für diese Ausgabe meines kleinen Newsletters zu schreiben. Die Antwort? "Na toll, ein weiterer Newsletter, den keine Sau braucht...Wie wäre es mit: "Tech-News: Das Eine, was Du diese Woche nicht verpassen willst (selbst wenn es Dich null interessiert)"? Wenn Du denkst, dass das jemanden interessiert..." Wäre ein Experiment für die Klickrate gewesen, ich habe mich aber dann doch dagegen entschieden.