In Sachen des Programmierens stimmen die Worte von Eric Schmidt deswegen auch nur so halb. Du kannst dem Computer das Domänenwissen einspeisen und ihm dann sagen, er solle Komponente X zu Y machen, Workflow a-b-c in ein moderneres d-e-f umwandeln oder eine Businesslogik von 1+1 auf 2+2 umstellen. Das wird je nach Komplexität gut oder ohne menschliche Zwischeninteraktion auch gar nicht klappen. Was aber nicht passieren wird: Der Computer entwickelt eigenständig die Domäne mit neu generiertem Wissen weiter.
Und wie ist in der Informatik so das Verhältnis aus "bereits bestehendes Wissen auf eine neue Aufgabe anwenden" zu "etwas vollkommen neues, noch nie dagewesenes machen"? 999:1? 9999:1? 99999:1?
Geniale Ideen hervorbringen ist auch unter Menschen eine ziemlich seltene Tätigkeit. Aus der Egoperspektive mag ein Mensch vielleicht noch alle paar Wochen bis Monate einen Geistesblitz haben, der für ihn neu ist. Aber in vielen Fällen wird das eine Lösung für ein Problem sein, dass andere schon auf gleiche Weise gelöst haben, nur wusste derjenige halt nichts davon. Die KI hat das globale Wissen und kommt somit zum gleichen Ergebnis - unkreativ, aber schneller. Das jemand etwas wirklich revolutionäres erdenkt und dann auch weitergibt, kommt extrem selten vor. (Ob Leute jedes Jahr etwas revolutionäres erdenken, dass sie dann aber z.B. nicht umsetzen können, weil sie nicht in entsprechender Position sind, sondern für sich behalten, kann ich nicht beurteilen. Ich hab dutzende Einfälle, die ich für genial halte
. ) Bis in tief in die Grundlagenforschung rein ist der Großteil der Arbeit Anwendung von Schema F und selbst Einstein ist heute dafür bekannt, Gleichungen in zuvor nicht gemachter Form gelöst zu haben - auch das kann KI und hat erst kürzlich ein paar große Nüsse der Mathematik geknackt.
Wenn ich aber von der Domäne, also dem Geschäft, der Logik und den Abläufen dahinter, den gesetzlichen Rahmenbedingungen, vertraglichen Vereinbarungen, Forschungserfolgen und und und nichts mitgebe, dann sind die Ergebnisse je nach Komplexität selbst bei Claude-Opus Modellen (Fable war mir zum Herumspielen viel zu teuer) teils echt fragwürdig.
Das ist aber letztlich alles nur Kontextherstelung, die du der KI zu Recht bereits zusprichst, kein kreatives Denken, dass man in Frage stellen könnte. Aktuell werden die Modelle als Werkzeug bereitgestellt und kriegen ihre Arbeitsgrundlage im Prinzip nur über den Prompt, ohne irgendetwas drumherum zu wissen. Es würde die Outputqualität dramatisch steigern, wenn man den Dingern mal beibringen würde, Rückfragen zu stellen wo etwas uneindeutig ist, anstatt mit 49:51 Wahrscheinlichkeiten weiterzumachen und das Ergebnis als ultima ratio darzustellen, klar.
Aber am Ende des Tages liegt die Fehlerursache bei Bediener und wenn du der KI z.B. permanent erlauben würdest, deine Arbeit zu beobachten und deine Firmenbürokratie zu durchforsten (also das, was einige Gemini schon in ihrem Privatleben machen), dann müsstest du diese Informationen auch nicht mehr von Hand anliefern. Dann wüsste die KI bereits, in welchem Kontext ihr ein Auftrag gegeben wird. Letztlich handelt es sich hier nicht um ein KI-Defizit, sondern um das uralte Informatikprolem "Kunde kriegt, was Kunde bestellt hat". Wenn Kunde nicht genau spezifiziert, was er braucht, ist das Ergebnis halt nutzlos. Die KI ist ein Programmierer in einem dunklenen Zimmer, die nur den einen Auftrag kennt und nicht einmal das Unternehmen gesehen hat, indem/für das sie arbeitet.
Ein Hinweis darauf, dass sich KI zum Fluch entwickeln kann/wird(?)
C't 3003 (sub)titelt "Skynet ist (leider) da". Autonome Drohne hat Soldat:in(nen) im Russland-Ukraine-Krieg getötet. In dem Video geht es (kurz) zwar nicht darum, dass eine KI die Kontrolle über das Militär erlangt hätte, aber dass eine Maschine eigenhändig Mensch(en) tötete.
Das KI längst die Kontrolle über zumindest Teile eines Militärs erlangt hat, sollte spätestens bekannt sein, seitdem Maven die iranische Mädchenschule hat dem Erdboden plattmachen lassen. Moderner Krieg wird überwiegend über abstrakte Entscheidungen geführt und die Kontrolle liegt weniger beim formellen Entscheider, der noch Mensch sein mag, als viel mehr bei der Instanz, die die Informationsgrundlagen für die Entscheidung heranträgt. Das ist schon sehr lange so, ich verweise auf den Bombenkrieg von 1940-45. Und heute übernehmen KIs die Informationsauswertung und Aufbereitung. Wenn die ein Objekt als Ziel darstellen, dann wird der formell noch in den Loop eingebundene Mensch vorhersagbar die Zerstörung anordnen.
Auch das ist übrigens qualitativ keine neue Entwicklung, Iran Air 655 lässt grüßen. Schon vor knapp 40 Jahren wurden Zivilisten in großer Zahl getötet, weil ein Computer gesagt hat, "das ist ein militärisches, extrem dringendes Ziel" und ein Soldat nur noch die Wahl hatte, der Computer-Anweisung zu folgen oder seine Befehle zu missachten und eine nach allem ihm vorliegenden Informationen falsche Entscheidung zu treffen. Klar, dass er das nicht gemacht hat, nicht jeder ist ein Stanislav Petrov oder ein Vasily Arkhipov. (Wobei ersterer Zugriff auf ein paar widersprüchliche Hinweise hatte und letzterer wusste, dass seine Entscheidung eines Fehlers nur ihm selbst und seiner Crew großen Schaden zufügen würde. In einem modernen digitalisierte Krieg, in dem die Informationszusammenführung nicht mehr bei einem Entscheider vor Ort, sondern von einer KI vor jemandem im Hinterzimmer geschieht, sieht das anders aus.)
