Weil da ein Schild steht fahr weiter fährt jemand in eine Menschenmenge? Ich glaube nicht.
Und da ist eben der Unterschied zwischen Intelligenz und Wahrscheinlichkeit. Wenn da ein sehr großes Schild in auffallenden Farbe steht "hier geht es lang" ist die Wahrscheinlichkeit unheimlich hoch dass es dort auch lang geht. Wenn aber auch nur ein Mensch im Weg ist darf man trotzdem nicht weiter. Das ist eine Binäre Entscheidung und keine Wahrscheinlichkeit. Etwas was ein reines LLM eben gar nicht kann.
Wahrscheinlichkeitsmaschine? So wie in "Ist doch sonst immer gut gegangen." und "Ich schaff das, schon x-mal gemacht."?
Eigentlich verhält sich die KI an der Stelle eben gerade nicht stochastisch, sondern gibt Einblicke in eine relativ komplexe Denkstruktur: Ein simpler Analyse- und Wahrscheinlichkeitsalgorithmus würde die Objekte auf der Straße klassifizieren und beurteilen. Die KI dagegen hat offensichtlich ein semantisches, aber kein räumliches Verständnis ihrer Umgebung. Sie kann die Information "proceed" nicht von der eigenen Schlussfolgerung "proceed" unterscheiden, weil sie genau das macht, was einige emanzipatorischen Gruppen seit Ewigkeiten von Menschen behaupten, obwohl sich in der Praxis irgendwie keine Beispiele dafür finden: Sie denkt in Sprache, nicht in physischen Verknüpfungen, weil sie sich nun einmal nicht in einer physischen, sondern in einer aus Informationshäppchen bestehenden Welt entwickelt hat.
Dementsprechend fehlt ihr dann auch das Vorwissen "Wenn man mit einem Auto über
Homo sapiens fährt, ergibt das einen Haufen Fleischbrei." und ""Das ist schlecht.", was Menschen in vergleichbarer Situation stoppen auch bei gegenteiligen Anweisungen stoppen lässt. (Obwohl KI wie Mensch die Fußgänger erkennen und schon der Verkehrsregeln wegen halten sollten.) Ein Mechanismus übrigens, der bei einigen Menschen schon endet, sobald der Grund zum anhalten kein Mensch, sondern "da ist keine Brücke" lautet. Das Konzept "Fähre" könnte man zwar auch aus dem realen Leben abseits des Autofahrerdaseins kennen, so ganz intuitiv ist das aber eben nicht bei allen drin.
Was ich gerade noch faszinierender finde, ist aber die Drohne: Im Gegensatz zur Aufforderung "proceed" beim Auto, die einfach den Programmablauf crashed, landet die Drohne nicht da, wo sie gerade ist, sondern da wo "safe to land" steht. Sie sortiert die Information also richtig in einer 3D-Struktur ihrer Umgebung ein. Aber obwohl das so etwas wie ein räumliches Vorstellungsvermögen ist, ist es auch hier vollkommen mit semantischen Ausdrücken und nicht mit einem physikalischen Objektverständnis gefüllt: Der abgelegte Schriftzug "save to land" ist für die Drohne in ihrem inneren nicht von der Beurteilung "safe to land" zu unterscheiden, weil auch sie allein in Worten zu denken scheint.
the-decoder.de
