Über KI ist eigentlich schon genug geschrieben worden, von Leuten, die das besser können als ich. Warum also dieser Eintrag? Neulich ist mir über die Plattform ZDFmitreden ein Fragebogen geschickt worden, der diverse Einschätzungen und Meinungen im Themenfeld “KI” abgefragt hat. Dabei hat er nicht definiert, was mit KI gemeint ist, und die Fragen waren auch teilweise mit “KI” und teilweise mit “Automatisierung” formuliert.

Neben den Multiple-Choice Antworten habe ich mich auch in den Freitextfeldern ausgetobt und möchte die Texte hier festhalten. Mit “ihr” sind also die Fragesteller dieser Umfrage gemeint. Ich habe jetzt beim Durchlesen ein paar Korrekturen und Ergänzungen vorgenommen.

Ich bin irritiert, dass hier in der Fragestellung von “KI” zu “automatisierbar” gewechselt wurde. Wir automatisieren, seit es Maschinen, und erst recht Rechenmaschinen/Computer gibt. Schon wenn ich in einem Text die Volltextsuche benutze, um ein Wort zu finden, dann automatisiere ich das Lesen, denn ich muss nicht, wie es in einem Papierdokument wäre, selbst mit den Augen den Text durchgehen und das Wort finden (und nicht übersehen). Das können Computer sehr gut und schnell. Rechnen ebenso. Jede Tabellenkalkulation mit Formeln (also ein Excel-Sheet, wenn ich Microsoft Office als Beispiel nehme) ist Automatisierung. Ich habe keine Zweifel, dass das unser Leben viel angenehmer und viele Dinge erst möglich gemacht hat.

In den letzten zehn oder mehr Jahren, schon vor Aufkommen der riesigen LLMs (Beispiel ChatGPT), wurde “KI” zu einem Werbebegriff und für eine Vielzahl, teilweise auch schon vorher verbreiteter, IT-Techniken eingesetzt. Im engeren Sinne ging es um “Neuronale Netze”, ein Softwaregebilde, das Lernprozesse im Gehirn nachbilden soll und durch Trainingsdaten Mustererkennung “lernt”.

Heute verbinden viele Menschen mit “KI” aber konkret diese LLMs, also heuristische/stochastische Modelle, die auf einem sehr großen Korpus von meist Texten und/oder Bildern trainiert wurden. Die Antworten beruhen auf der Wahrscheinlichkeit, dass eine solche Wortfolge der Fragestellung folgen kann - man muss sich um jede Frage herum also als Rahmen vorstellen: “Wie könnte die Antwort auf folgende Frage klingen?”. LLMs haben kein Verständnis von der Bedeutung der Wörter oder Bildinhalte, mit denen sie umgehen, auch wenn es diesen Anschein erwecken kann. “Die Maschine hat mich verstanden” ist also eine sehr aufwändig herbeigeführte Illusion. Generative KI kann Ausgaben bereitstellen, die urheberrechtlich geschütztes Material enthalten, sachlich falsch sind, und die Ergebnisse sind nicht reproduzierbar, weil verdeckte Parameter bis hin zu Zufall einfließen.

Automatisierbarkeit wünscht sich keine von diesen Eigenschaften. Zuverlässige Automatisierung kann aber auf eine unterbestimmte Fragestellung keine Antwort liefern, sie müsste Rückfragen stellen, bis alle Unklarkeiten beseitigt sind, das ist unbequem. Einfach zufällige Antworten auf alle nicht genannten Parameter anzunehmen, führt zu Beliebigkeit. Untauglich für alles, worauf man sich verlassen will.

KI (konkret LLMs) wird heute als Heilsbringer gefeiert und die bekannten Schwächen ausgeblendet, wie damals beim Verbrennen fossiler Energie die Klima- und Umweltschäden. Eine finanzstarke Lobby versucht uns in diese Richtung zu beeinflussen. Das weckt falsche Erwartungshaltungen. Ein guter Programmierer hat mehr Arbeit und liefert weniger Ergebnisse, wenn er/sie dazu verdonnert wird, sich von KI Code hinkotzen zu lassen, und diesen dann zu überprüfen, als wenn er/sie ihn selber schreiben würde/dürfte. Genauso eine verantwortungsbewusste, sorgfältige Sachbearbeiterin, die Textbausteine für den Kunden hingeworfen bekommt, von denen sie weiß, dass sie unpassend sind, und unter Zeitdruck entscheiden muss, ob sie das einfach zulässt oder viel Zeit in eine passende Formulierung steckt. Der gleichgültige Kollege hätte vermutlich selber auch nichts besseres geschrieben. Ein “Race to the Bottom” in Arbeitsqualität.

Kreative Berufe wie Grafikdesigner, Texter, Maler und Zeichner, werden zu einem großen Teil ersetzt werden durch Leute, die nur grobe Skizzenbeschreibungen durch eine LLM jagen und das Ergebnis für gut genug halten. Ohne Verantwortung zu übernehmen, wenn es ein Plagiat der Arbeit eines Menschen darstellt - was meistens nicht bemerkt geschweige denn rechtlich verfolgt wird. Die tun mir leid.
Manager, die sich Emails schreiben lassen, damit deren Empfänger sie sich dann zusammenfassen lassen, sind eine Karrikatur von Kommunikation. Führungsebenen, die nur von unten nach oben Reports zusammenfassen und von oben nach unten Anweisungen weiterleiten, tun mir nicht leid, wenn sie ersetzt werden. Ihre Mitarbeiter haben mir vermutlich heute schon leid getan, dass sie nur verwaltet und nicht wertschätzend behandelt werden.

Die Gründer und Geldgeber von KI-Unternehmen haben ein zutiefst elitäres, verwerfliches Menschenbild, das jede humanistische Regung vermissen lässt und Menschen als Verschleißteile in der Maschine zur Umsatz- und Gewinnmaximierung ansieht. Das sollten wir uns bei der Entscheidung zur Nutzung vor Augen führen.

Ihr seid von “KI” gesprungen zu “Automatisierung” und dann wieder zu “KI”, womit offensichtlich ganz konkret große LLMs gemeint sind (Anmerkung: es gab Fragen u.a. zu dem großen Stromverbrauch). Ich halte riesige LLMs für einen Hype. So wie er von den großen US-Unternehmen betrieben wird, ist es eine dumme Ressourcenverschwendung und die Vision von der “AGI”, der “Artificlal General Intelligence”, einer allumfassend menschengleich handelnden Maschine, ist Träumerei, auf die Billionen von US$ verwettet werden.

Denn schlanke LLMs mit einem definierten, kuratierten Korpus sind im Unternehmenseinsatz tausendmal effizienter als eine Weltmodell-LLM, die durch Prompts eingehegt ist auf die Aufgabe. Ich brauche keinen Chatbot bei meiner Bank, der mir mit genug Zureden Kochrezepte geben oder sagen kann, wieviele Straßen San Francisco hat - oder es nur nicht sagt, weil es ihm wirksam verboten wurde bzw. weil ich nicht weiß, wie ich diese Einschränkungen umgehen kann. Er muss diesen ganzen Ballast gar nicht mit sich rumtragen! Dann passt er auch auf einen mittleren PC und muss nicht in einer Cloud aus tausenden Nvidia-Kraftmaschinen laufen. Das ist wie wenn ich hinter dem Haus Licht brauche, und ich miete mir einen SUV, fahre mit dem um die Ecke und schalte dessen Scheinwerfer ein, weil ich keine Taschenlampe zur Hand habe.