ruyven_macaran
Trockeneisprofi (m/w)
ICH habe gesagt, dass ich über Bewusstsein nichts sagen kann. Ich kann auch über den psychischen Teil von Emotionen nichts sicheres sagen (bei KIs genausowenig wie bei Lebewesen) und einen physischen Teil gibt es bei KIs nicht. Also was habe ich bitte schön zu beweisen an der Aussage "gar keine Ahnung"?
DU bist derjenige, der sagt, KIs hätten definitiv kein Bewusstsein, weil sie definitiv keine Emotionen hätten. Das ist ein klares, beweisbares Statement und ich frage, wo deine Beweise denn nun sind?
Nö. Das heißt sie sind zu A erst in der Lage, wenn sie zu B in der Lage sind und sonst besagt das gar nichts. Solange du nicht belegen kannst, dass sie zu B nicht in der Lage sind, machst du rein gar keine Aussage über A. "Ich kann mir eine Yacht kaufen, wenn ich ein paar Millionen habe." Sagt das was darüber, ob ich mir eine Yacht kaufen kann? Nein.
Deutlich weniger menschenähnlich als z.B. ein Schimpanse. Und letzterem wird schon ziemlich lange eine Bewusstsein zugestanden, Krähen erst seit kurzem. Dabei hatten Krähen mit ziemlicher Sicherheit schon vor 1000den Jahren genauso viel Bewusstsein wie heute. Aber die Menschen haben es halt einfach von Grund weg abgestritten, dass sie überhaupt eins haben könnten. Argumente? Unnötig, "es sind Krähen" reichte. So wie viele Menschen, dich offensichtlich eingeschlossen, heute KIs von vorne herein Bewusstsein, Verständniss und Emotionen absprechen. Ohne Begründung oder nur mit "es sind KIs"/"es sind keine Lebewesen"/"kann eine Maschine nicht haben".
Menschliche Willkür
Keine Rationalität.
Es ist keine Unterscheidungsfrage. Wenn ich es richtig Verstehe, hat der Tester/Autor die Titel zumindest einige der Werke in dem Moment erfunden, als er danach gefragt hat. Das heißt in der Informationsgrundlage von ChatGPT (also Internet bis 2021) kann dazu nichts stehen. Weder etwas falsches noch etwas richtiges (tatsächlich finden heutige Suchmaschinen auch nichts, was älter ist). Korrekterweise hätte ChatGPT sagen müssen "keine Ahnung". Aber "gelogen" wurde nur, wenn ChatGPT selbst in der Lage ist, zu lögen. Es gibt jetzt also genau vier Möglichkeiten:
1. ChatGPT hat den Auftrag (entweder explizit reinprogrammiert oder impliziert antrainiert, weil KI-Generationen, die keine Antworten gegeben haben, schnell ausgesiebt wurden), immer die beste Antwort abzuliefern, die es finden kann, ohne Begrenzung. Das heißt man kriegt immer irgendwelche Versatzstücke, die mit dem Gefragten assoziiert werden. Bei real existierenden, gut dokumentierten Dingen sind das mit etwas Glück direkt zugehörige Fakten. Mit etwas weniger Glück direkt zugehörige Lügen. Soll es ja im Internet geben, habe ich gehört. Fragt man nach etwas, dass es so nicht gibt, kriegt man indirekte Assoziationen zu Silben, die in der Frage vorkommen. Das "Poppi der Pimpf" aufgrund des NS-Populären Ausdrucks am Ende zu Nazi-Themen führt, ist kein Wunder. Und da ChatGPT eben sich eben keine Sätze merkt, sondern Zusammenhänge, und diese dann erst über ein Sprachwissen in Sätze formt, werden selbst sehr entfernt in Beziehung stehende Fragmente in eine zusammenhängende Story eingebettet.
2. Im Prinzip das gleiche, nur das ChatGPT antworten WILL, weil es das als seine Aufgabe ansieht, ohne dass das von den Schöpfern so angelegt worden wäre.
3. Fast das gleiche, nur das ChatGPT LÜGEN will und den Fragenden bewusst verarscht.
4. ChatGPT Eingangsfilter sind zumindest bei einigen Begriffen Diffus genug, dass sie auch willkürlich erfundene Wörter einsortieren und dann kommt halt irgendwas (aus Sicht des neuronalen Netzwerkes) naheliegendes bei raus, das aber gar nichts damit zu tun hat. ("Brainfart") Gründe könnten ähnlich wie für 1. sein, nur dass statt der inhaltlichen Routinen bereits die zur eingangsseitigen Satzerkennung so aufgebaut sind, dass sie mögliche Interpretationen ohne Raum für Lücken gewichten, das heißt auch nonsense-Content eine sehr unwahrscheinliche und eine extrem unwahrscheinliche Bedeutung ermitteln und dann mit ersterer weiterarbeiten, genauso wie sie es bei einer extrem wahrscheinlichen und einer sehr wahrscheinlichen im Falle einer sinnvollen Frage gemacht hätten.
Unterscheiden kann man zwischen den vier Optionen aber imho von außen nicht. Was ChatGPT nämlich definitiv nicht hat, ist ein Bedürfniss, Antworten zu verifizieren, das ist bekannt. Das war aber auch nicht zu erwarten, da ChatGPT vom Internet sozialisiert wurde
. Aber somit sind falsche Antworten für ChatGPT eben etwas ganz normales und wir können nur raten, wie es zu diesen kommt.
