News KI beantwortet etliche Fragen falsch: ChatGPT nicht fürs Programmieren geeignet

[PCGH-Redaktion]

Jetzt ist Ihre Meinung gefragt zu KI beantwortet etliche Fragen falsch: ChatGPT nicht fürs Programmieren geeignet

Forscher einer US-amerikanischen Universität haben die Programmierfähigkeiten von ChatGPT auf die Probe gestellt. Das Ergebnis der Studie ist erschreckend, denn die Text-KI beantwortete etliche Fragen zum Programmieren entweder falsch, ungenau oder sorgte aufgrund ihrer Formulierungsweise für Verwirrungen.

Bitte beachten Sie: Der Kommentarbereich wird gemäß der Forenregeln moderiert. Allgemeine Fragen und Kritik zu Online-Artikeln von PC Games Hardware sind im Feedback-Unterforum zu veröffentlichen und nicht im Kommentarthread zu einer News. Dort werden sie ohne Nachfragen entfernt.

Zurück zum Artikel: KI beantwortet etliche Fragen falsch: ChatGPT nicht fürs Programmieren geeignet

 

[soa123]

jo, aktuell reicht es noch nicht. aber das ändert sich schneller als uns lieb sein wird.

 

[ZeXes]

Noch ist das ganze K.I. Thema Spielerei.

Freue mich schon auf den Moment, wenn eine K.I. auf einen Quantencomputer mit >1 Mio Qubits trifft.
Das könnte interessant werden.

 

[empy]

jo, aktuell reicht es noch nicht. aber das ändert sich schneller als uns lieb sein wird.

Ich finde immer merkwürdig, wenn Automatisierung als was schlechtes gesehen wird. Weniger Arbeit tun zu müssen, sollte eigentlich was gutes sein. Wenn das ein Problem ist, liegt das nicht an der Automatisierung sondern an anderen Faktoren.

 

[Verruckt-Birdman]

Ich finde immer merkwürdig, wenn Automatisierung als was schlechtes gesehen wird. Weniger Arbeit tun zu müssen, sollte eigentlich was gutes sein. Wenn das ein Problem ist, liegt das nicht an der Automatisierung sondern an anderen Faktoren.

Manche wollen ihre Jobs halt behalten.

 

[Prozessorarchitektur]

Und der beweis das Ai nix anderes ist als eine Börsenblase einfach Datenauswertung ist das darum wird das schnell weg sein.

 

[empy]

Manche wollen ihre Jobs halt behalten.

Wenn das ein Argument wäre, müssten wir Bergbau auch heute noch mit der Spitzhacke betreiben. Ich verstehe die Problematik, aber ich finde sie wird am falschen Ende angepackt. Kann ja eigentlich nicht das Ziel sein, die Produktivität immer genau so hoch zu halten, dass jeder 40h pro Woche beschäftigt werden kann, um so sein Dasein zu rechtfertigen.

 

[Quake2008]

Es gibt mehr als 9 Mrd Menschen auf dem Planeten, ich würde behaupten, dass wir nicht alle in Arbeit bringen können und selbst wenn jeder arbeiten würde, geht die Population zurück, aber die Müllberge würden explodieren.

 

[Verruckt-Birdman]

Wenn das ein Argument wäre, müssten wir Bergbau auch heute noch mit der Spitzhacke betreiben. Ich verstehe die Problematik, aber ich finde sie wird am falschen Ende angepackt. Kann ja eigentlich nicht das Ziel sein, die Produktivität immer genau so hoch zu halten, dass jeder 40h pro Woche beschäftigt werden kann, um so sein Dasein zu rechtfertigen.

Da gebe ich dir recht. Der Fachkräftemangel spricht auch nicht dagegen. Wäre aber echt z.B. uncool, wenn die Redakteure hier plötzlich PCGHGPT, Barde oder sonst wie heißen.

 

[Registrierzwang]

Ich finde immer merkwürdig, wenn Automatisierung als was schlechtes gesehen wird. Weniger Arbeit tun zu müssen, sollte eigentlich was gutes sein. Wenn das ein Problem ist, liegt das nicht an der Automatisierung sondern an anderen Faktoren.

Wenn es aber im Ergebnis nichts bringt, d.h. nur fehlerhafte Resultate, dann lässt man es, oder?
Das ChatGPT teilweise "phantasiert" ist aber auch abseits der Programmierung schon bekannt.

 

[empy]

Da gebe ich dir recht. Der Fachkräftemangel spricht auch nicht dagegen. Wäre aber echt z.B. uncool, wenn die Redakteure hier plötzlich PCGHGPT, Barde oder sonst wie heißen.

Kommt drauf an. Also ich denke, dass sich Menschen zumindest noch ziemlich lange lieber mit Menschen austauschen. Sich über die Daten und Erfahrungen austauschen könnte man ja immer noch. Und nur, weil eine Arbeit nicht mehr gemacht werden muss, heißt das ja nicht, dass sie nicht mehr gemacht werden darf.

Wenn es aber im Ergebnis nichts bringt, d.h. nur fehlerhafte Resultate, dann lässt man es, oder?
Das ChatGPT teilweise "phantasiert" ist aber auch abseits der Programmierung schon bekannt.

Es ging ja hier nicht um den Status Quo.

 

[flozn]

Und der beweis das Ai nix anderes ist als eine Börsenblase einfach Datenauswertung ist das darum wird das schnell weg sein.

Jein, du darfst nicht vergessen, dass ChatGPD mit Unmengen an Daten aus dem Internet gefüttert wurde und auch gar nicht erst aufs Programmieren optimiert wurde und alles kann aber nichts richtig. Außerdem hat es erst kürzlich einen Primzahltest mit einer weitaus schlechteren Trefferquote als noch vor ein paar Monaten beantwortet, d.h. da wird noch wild herumgebastelt. (Bzw. müsste eine verlässliche Version sich dann schon auch fix merken können, dass es für viele Fragen auch 100% korrekte Lösungen gibt; Primzahltest ist Stoff des ersten Informatiksemesters bzw. Oberstufe.)

Wenn es aber im Ergebnis nichts bringt, d.h. nur fehlerhafte Resultate, dann lässt man es, oder?

ChatGPD soll die eierlegende Wollmilchsau sein. Einen allwissenden Chatbot zu basteln, ist mit der aktuellen Technik nicht realisierbar bzw. schon gar nicht mit solchen Daten. Bestimmt hat niemand die Millionen von Websites, die als Trainingsdaten für ChatGPD & Co. verwendet wurden, auf Korrektheit überprüft, d.h. da muss ja zwangsläufig viel Käse dabei rauskommen. (Einen Chatbot, der gutes Programmieren als Ziel hat, dürfte man auf keinen Fall mit diesbezüglichen Internetseiten füttern und selbst in der Fachliteratur gibt es selten Erstdrucke, die fehlerfrei sind.)

In unzähligen weitaus spezielleren Anwendungsfeldern wird KI schon sehr erfolgreich eingesetzt und da könnte durchaus eine Art neue industrielle Revolution auf uns zukommen.

 

[Prozessorarchitektur]

Es gibt genug Menschen und Pläne um die population zu senken laufen bereits leider ist man sich nicht einig WIE.
Ein weiter so, wird auf lange Sicht nicht gehen . Man muss das Energieproblem Lösen dann das gier problem und zuletzt die Bildung aller steigen.
Wir könne uns glücklich sehen das wir in eine teil der welt leben wo relativ alles geregelt ist. Woanders geht es deutlich härter zu.
Das wird aber zunehmend schwieriger da auch Länder mit wenig Bildung, Wohlstand haben wollen und die kommen zu uns.
Lösung dafür wäre ein Änderung bei WTC organisation Abschaffung des dollars als Weltleitwährung und andere handelsregeln.
Wird das nicht bald angegriffen wird es einen Weltkrieg geben das ist unausweichlich. Aktuell hält sich die Lage Stabil aber wie lange noch will keiner wetten.
Derzeit ist ein Misch Situation wo beide Systeme dollar und alternativen parallel walten können das ist ein Kompromiss aktuell wie ich sagte die Lage ist stabil aber wie lange noch hängt von der Wirtschaftslage ab.
Der Stille Abgang wär die beste Lösung die schlechteste Atomkrieg.
Das wir das nochmal in die Tagespolitik Erwägung ziehen muss ist erschreckend und nein das liegt nicht an egozentrische Machthaber.
Die wahre macht hat die Wirtschaft und da geht es aktuell um gier vs Vernunft. Der Freihandel braucht regeln und die Lüge von jeder seines Glückes Schmied wird auch zunehmend durchschaut.
Das glück ist heute Wortwörtlich nur durch raub und betrug machbar. Bildung und Organisation scheitert an Egoismus der Politiker. Viele denken bwl statt vwl Das alles braucht uns privilegierte im forum über hardware diskutierend nicht interessieren. Wir sind eben zu viele das organisieren und planen von allem das die Masse nicht versteht ist das problem. Mit gier kann man Menschen lenken und wenn es um den eigene A geht wird man sogar aktiv kämpfen .
Nur das versprechen das man Reich werden kann lässt Menschen eher gegeneinander Kämpfen anstatt darüber nachzudenken wie man das Problem löst.

Das internet ist eine gute Erfindung es verkommt aber immer mehr zum jahrmarktplatz primär das was man verkaufen will bzw klauen und sekundär der Bildung und Gemeinschaftsbildung.

Um beim Thema zurückzukommen KI bzw ai was es eher ist. Ist aktuell Datenauswertung und kann lediglich antworten finden keine erfinden. Diese Studie belegt das die träume von ceo's alsbald enttäuscht werden.
Ai kann vermutlich bald helfen Bild und Ton sowie video zu verbessern eventuell noch helfen Fehler zu finden und Datenbanken zu sortieren das war es aber auch schon das muss man alles kontrollieren und das möglichst optisch

Eine Ai hat kein Bewusstsein und somit die elementare Grundstein für komplexes denken.
Wird das irgendwann passieren?Ja sicherlich aber dafür muss eine Ai Fehler machen dürfen und sich dessen bewusst sein. Es macht deutlich mehr Sinn den Menschen in die machine zu verpflanzen als eine eigenständige Ki zu erschaffen die nicht in der Lage ist ein Bewusstsein zu haben da alles Perfekt sein muss.
Der weg der Positronik (mensch + machine) wäre ne Lösung aber sehr inhuman bis grausam am ende sage ich nur die Ganzen ai Kleinkram der aktuell in den Börsen für aufsehen sorgt und nvidia wie andere riesengewinne versprechen wird platzen und das sehr bald. Maximal geb ich den trend noch bis 2026 dann wird klar was aus den AI startups wird.

 

[David-P]

Pah, diese Studie ist Blödsinn von Leuten die noch nie zusammen mit ChatGPT programmiert haben. ChatGPT ist der beste Programmierassistent der Welt, der entwickelt mit dir im Dialog nach einer Feature-Beschreibung in kürzester Zeit (im Stundenbereich) fertige Applikationen in beliebigen Programmiersprachen.

 

[Prozessorarchitektur]

Die dann abstürzt oder falsche Ergebnisse gibt

 

[RAZORLIGHT]

Bin ja gespannt, wann der AI Crash kommt

Die AIs wurden ja mit bisher allem gefüttert was es gibt, jetzt wird mit AI Generiertem gefüttert und die AIs machen massenweise Fehler...

 

[Verruckt-Birdman]

Kommt drauf an. Also ich denke, dass sich Menschen zumindest noch ziemlich lange lieber mit Menschen austauschen. Sich über die Daten und Erfahrungen austauschen könnte man ja immer noch. Und nur, weil eine Arbeit nicht mehr gemacht werden muss, heißt das ja nicht, dass sie nicht mehr gemacht werden darf.

Das Problem bei der Automatisierung ist, daß Kaufkraft verloren geht. Wer soll die ganzen Angebote noch wahrnehmen, wenn die Leute arbeitslos sind? Das ist eine Abwärtsspirale, die entsteht und nur anfänglich für Mehrgewinn sorgt.

 

[Schnitzelnator]

Pah, diese Studie ist Blödsinn von Leuten die noch nie zusammen mit ChatGPT programmiert haben. ChatGPT ist der beste Programmierassistent der Welt, der entwickelt mit dir im Dialog nach einer Feature-Beschreibung in kürzester Zeit (im Stundenbereich) fertige Applikationen in beliebigen Programmiersprachen.

Das ist kompletter Unfug! (Meiner Meinung nach)
Nach meinen eigenen Tests kann ich bestätigen, dass es hinkommt, dass ca. 77% der Ergebnisse nicht das sind, was sie sein sollen. Bei Verwendung von bestimmten Programmiersprachen wie Rust ist die Fehlerquote, dass das Programm gar nicht erst läuft, nahe an 100%. Bei HTML/CSS usw. sieht es etwas besser aus, da ist es gefühlt nur zu etwa 80% nicht das, was man haben wollte. Die Pro Version kann gar Python Code laufen lassen usw. Das ist tatsächlich im Bezug auf Python etwas hilfreicher. Sie kann auch nicht nur Text ausgeben. Aber die Arbeit abnehmen kann sie auch nicht.

Die ChatGPT's KI ist ungefär so gut, wie wenn man aus dem Gedächtnis selbst den Code als Programmieranfänger runterschreibt und dann einmalig startet. Da wird man immer mehrere Dinge übersehen haben, die Leute, die das schon 20 Jahre lang tun, bereits beherrschen und nicht mehr falsch machen.

Aber was sie eben gut kann, ist eine Schablone zu geben, wie etwas in der Regel gemacht wird, und auch Hinweise geben, was State of the Art ist und man vergessen hat.

Abseits von der Programmierung "schätzt" ChatGPT auch sehr oft nur. So hat es etwa "geschätzt", dass pfSense im Kern auf OpenBSD basiert, weil es die pf-Firewall benutzt. Es hat felsenfest behauptet, pfSense würde auf OpenBSD basieren. Aber in der Realität basiert es auf FreeBSD und benutzt trotzdem die Firewall pf von OpenBSD.
Ob eine Firewall auf FreeBSD oder OpenBSD basiert, halte ich für eine gravierende Sache, die die Entscheidung, ob man die haben möchte ins Gegenteil verkehren kann.

Ich benutze ChatGPT, weil es nützlich ist, aber wirklich akkurate Hilfe bekommt man nur, wenn man selbst echt viel weiß und sehr kritisch korrekturliest.

Das Problem bei der Automatisierung ist, daß Kaufkraft verloren geht. Wer soll die ganzen Angebote noch wahrnehmen, wenn die Leute arbeitslos sind? Das ist eine Abwärtsspirale, die entsteht und nur anfänglich für Mehrgewinn sorgt.

Tut sie gar nicht. Es wird einfach jeder Content Creator (übertrieben formuliert) und das Geld verteilt sich unter denen, die sich dadurch selbst verkaufen.
Was soll mit dem Geld auch sonst passieren? Jeder, dem Du es gibst, bringt es wieder in den Umlauf. Auch die Bank, wenn Du es ihr gibst. Auch der Milliardär, wenn er für 10 Millionen eine neue Villa kauft. Es wird einfach immer wieder nach unten verstreut, wenn es in einer Senke eingesammelt wurde. Das ist ein Kreislauf, wie ein Schwungrad eines Dampfers.

Das Volumen an Ausgaben für Unterhaltung wird folglich massiv ansteigen und es wird immer mehr Leute geben, die einfach nur die Kamera auf ihr Leben halten und quasi als lebendige Attraktion Geld einsammeln, während sie von anderen "begafft" werden, die ihnen Münzen zuwerfen. Wer dann sogar noch irgendetwas unterhaltendes kann, schafft es sogar zu Wohlstand.
Edit: Und persönlichen Kontakt als Dienstleistung kann man natürlich auch mit einer KI nicht ersetzen, also z.B. in der Krankenpflege etc.

 

[Acgira]

Chat GPT 'was Sinnvolles zu entlocken bedeutet Mehrarbeit.

 

[Schnitzelnator]

Chat GPT 'was Sinnvolles zu entlocken bedeutet Mehrarbeit.

Mehr Arbeit als nach der ersten Frage meistens schon. Aber wenn Du null Plan von etwas hast, kann es unheimlich nützlich sein. Also ich behaupte jetzt einfach mal, Du siehst nicht so aus, als ob Du Ahnung von Quantenphysik hast - nur als Beispiel.
Ich stelle ChatGPT jetzt einfach mal eine Frage, die fast alle hier vermutlich nicht beantworten könnten und ich bin mir sicher, dass jeder hier der Ansicht sein wird, dass es super erklärt wurde:

Q: Explain Schroedinger's Cat in few simple sentences.

Sure!
Schrödinger's Cat is a thought experiment in quantum mechanics. A cat is placed in a sealed box with a radioactive atom, a detector, and poison. If the atom decays, the detector triggers and releases the poison, killing the cat. If it doesn't, the cat remains alive. Quantum theory suggests that until we open the box and observe, the cat is in a superposition – it's simultaneously both alive and dead. The experiment highlights the strange and counterintuitive nature of quantum mechanics.

Q: Why is it called a Superposition when the cat is alive and dead at the same time?

The term "superposition" in quantum mechanics refers to the ability of a quantum system to exist in multiple states at the same time. When we say a quantum system is in a superposition of states, we mean that the system doesn't have a definite state until it is observed or measured. Instead, it exists in a combination of possible states.
In the Schrödinger's Cat thought experiment, the cat's state (alive or dead) is tied to a quantum event (the decay or non-decay of a radioactive atom). Until we observe the system (i.e., open the box), we don't know the outcome of this quantum event. Thus, according to the principles of quantum mechanics, the cat is considered to be in a superposition of both "alive" and "dead" states until observed.
The idea is meant to highlight the oddities and counterintuitive nature of quantum mechanics when applied to macroscopic objects. In practice, quantum superpositions are typically observed in tiny particles, like electrons or photons, not in large objects like cats.

Q: So the event is a function assigning one superposition one of x actual positions?

Yes, you're on the right track. The concept can be understood in terms of a function and its outcomes:

1. The Quantum System (Function): Before observation, the quantum system (like the radioactive atom in the Schrödinger's Cat thought experiment) is in a superposition of possible states. This means the system is described by a wave function that encompasses all possible outcomes.
2. Observation (Function Evaluation): When we observe or measure the system, this wave function collapses to one of its possible outcomes. The process of measurement "forces" the system to choose a definite state.
3. Outcome (Function Output): After measurement, the quantum system is no longer in a superposition but is in one specific state. In the context of Schrödinger's Cat, the cat is either definitively alive or definitively dead after we open the box and observe.

The challenge with quantum mechanics is that, unlike classical systems where we can predict the outcome with certainty (given initial conditions), quantum systems only offer probabilities for each outcome. The act of measurement itself determines the final state, which is a fundamental departure from our classical intuition.

Jetzt stelle Dir doch einfach mal vor, Du müsstest das recherchieren, Dich durch irgendwelche schlecht gemachten Erklärungsseiten und Publikationen wühlen, und hättest nicht die Möglichkeit, interaktiv einfach noch einmal Bezug auf einzelne Fragen zu nehmen, die Dir während der Unterhaltung mit der KI einfallen. Das würde ewig dauern.
Edit: Natürlich besteht das Risiko, dass es inakkurat ist, aber weil Du davor absolut keinen Plan hattest, macht es Dich trotzdem extrem viel besser.