News ChatGPT: Hat das KI-Tool Schaden durch Falschinformationen angerichtet?

[PCGH-Redaktion]

Jetzt ist Ihre Meinung gefragt zu ChatGPT: Hat das KI-Tool Schaden durch Falschinformationen angerichtet?

Die amerikanische Wettbewerbsbehörde FTC prüft, ob durch ChatGPT Falschinformationen in Umlauf geraten sind, die Schaden angerichtet haben. Zudem muss sich Hersteller OpenAI weiteren Fragen zum KI-Tool stellen.

Bitte beachten Sie: Der Kommentarbereich wird gemäß der Forenregeln moderiert. Allgemeine Fragen und Kritik zu Online-Artikeln von PC Games Hardware sind im Feedback-Unterforum zu veröffentlichen und nicht im Kommentarthread zu einer News. Dort werden sie ohne Nachfragen entfernt.

Zurück zum Artikel: ChatGPT: Hat das KI-Tool Schaden durch Falschinformationen angerichtet?

 

[Shutterfly]

Könnte man hier BILD auch mal fragen

 

[Downsampler]

ChatGPT hat sich mir gegenüber schon als Lernverweigerer und Jagdscheinanwärter geoutet. Was soll man von dem Programm sonst erwarten?

 

[Ganjafield]

Könnte man hier BILD auch mal fragen

oder viele weitere Zeitungsverlage.

 

[Astorek86]

Das Problem ist, dass ChatGPT falsch genutzt wird. Es müsste ein Bewusstsein dafür her, was mit dem Tool machbar ist, und was nicht.

Wenn sowas dabei rumkommt...

ChatGPT erfindet Gerichtsakten (Link):

Ein Anwalt wollte sich von ChatGPT bei der Recherche unterstützen lassen – das Ergebnis ist eine Blamage.

Ein Mann wird auf einem Flug von einem Servierwagen angefahren und verklagt anschließend die Fluggesellschaft auf Schmerzensgeld – so weit nichts Ungewöhnliches in den USA. Besonders wurde der Fall erst, als die Anwälte der Fluggesellschaft ein Schreiben erhielten, das mehrere Präzedenzfälle auflistete, zu denen sie keine Akten fanden.

... wurde die Verwendung von ChatGPT völlig falsch begriffen. ChatGPT ist in erster Linie immernoch ein Algorithmus, der überraschend akkurat klingende Wörter so aneinanderreihen kann, dass sie wirken, als hätte sie ein Mensch mit Verständnis der menschlichen Sprache geschrieben. Das heißt aber nicht, dass die Schlussfolgerung der Sätze richtig sein muss, das ist ein Trugschluss auf den gerade sehr viele reinfallen. Algorithmen "verstehen" nicht was sie machen, sie geben nur Ergebnisse basierend auf Wahrscheinlichkeiten aus.

Ich bin da ein bisschen verwundert, dass die FTC sich da ausgerechnet an die Macher von ChatGPT wenden. Das ist so ein bisschen der Vergleich mit einem Messer: Die sind nicht verboten, weil die meisten Menschen damit nur ihre Brötchen schneiden, auch wenn man mit dem Ding erheblichen Schaden anrichten kann... ChatGPT ist ein Tool, es kommt darauf an, wie man es nutzt... Oder übersehe ich da einen Elefanten im Raum?

 

[Shutterfly]

oder viele weitere Zeitungsverlage.

Ich wollte nun nicht komplett Axel-Springer nennen aber ja, da sind noch ein paar mehr

ChatGPT hat sich mir gegenüber schon als Lernverweigerer und Jagdscheinanwärter geoutet. Was soll man von dem Programm sonst erwarten?

Wenn du die richtigen Fragen stellst, kannst du sehr viel erwarten.

 

[TausendWatt]

Grundsätzlich ist die Software/KI nicht schuld an iwas. Falschinformation und betrügerische Handlungen gehen von Menschen aus. Welche Werkzeuge sie nutzen sind, hat das Werkzeug nicht zu verantworten…

 

[Blackvoodoo]

Die ganze Welt ist anscheinend im ChatGPT Fieber, nur ich habe das Ding noch nie genutzt und werde es wohl auch nicht. Weis einfach nicht was ich damit machen soll.

 

[Rocketeer67]

"Hat das KI-Tool Schaden durch Falschinformationen angerichtet?"

JA!

Welches Vertrauen kann man denn in systhetisch generierte Texte haben, welche einfach beliebige Quellen nutzen können und ohne Quellenprüfung ob diese Texte geeignet sind alles zusammenzimmern ...
Übrigends jetzt interessant dass PCGH auch wach wird, nachdem bereits Klagen gegen die Verantwortlichen laufen.

 

[zombie82]

kann eine seelenlose Software überhaupt an etwas Schuld sein?
Für mich ist immer noch der Mensch verantwortlich, der Informationen ungeprüft und ungefiltert weiter verbreitet

 

[Shutterfly]

Die ganze Welt ist anscheinend im ChatGPT Fieber, nur ich habe das Ding noch nie genutzt und werde es wohl auch nicht. Weis einfach nicht was ich damit machen soll.

Es kann dir sehr gut Konzepte erklären, wo du dann mit Rückfragen eine auf dich zugeschnittenen Erklärung erhältst.

Für mich ist immer noch der Mensch verantwortlich, der Informationen ungeprüft und ungefiltert weiter verbreitet

Bitte? Der Mensch ist für sein eigenes Handeln verantwortlich? Ich bitte dich... wo kämen wir den dahin. Es sind immer die anderen Schuld, nie man selbst!

 

[Astorek86]

Die ganze Welt ist anscheinend im ChatGPT Fieber, nur ich habe das Ding noch nie genutzt und werde es wohl auch nicht. Weis einfach nicht was ich damit machen soll.

Ich hole mir gerne Verkaufstipps auf Themen, über die ich nicht die geringste Ahnung habe. Letztens wollte ich hochwertige Schuhe, die mal länger als ein Jahr bei mir halten sollten, und bat ChatGPT um Hilfe. Das ging schneller als in einem Forum zu fragen, und auf die Antwort kann man wunderbar weiter recherchieren...

Ein Arbeitskollege hat sich angewöhnt, Briefe, Mails und Textzusammenfassungen von ChatGPT anhand von Stichpunkten generieren zu lassen. Geht schneller, als sich irgendwas aus den Fingern saugen zu müssen... Natürlich auch hier: Bevor irgendwas abgeheftet oder versendet wird, wird vorher korrekturgelesen...

 

[Blackvoodoo]

Ich hole mir gerne Verkaufstipps auf Themen, über die ich nicht die geringste Ahnung habe. Letztens wollte ich hochwertige Schuhe, die mal länger als ein Jahr bei mir halten sollten, und bat ChatGPT um Hilfe. Das ging schneller als in einem Forum zu fragen, und auf die Antwort kann man wunderbar weiter recherchieren...

Ein Arbeitskollege hat sich angewöhnt, Briefe, Mails und Textzusammenfassungen von ChatGPT anhand von Stichpunkten generieren zu lassen. Geht schneller, als sich irgendwas aus den Fingern saugen zu müssen... Natürlich auch hier: Bevor irgendwas abgeheftet oder versendet wird, wird vorher korrekturgelesen...

Schuhe, in den nächsten Schuhladen zu Al Bundy und sich ein paar aussuchen. Fertig. Geht sicher schneller als erst mal eine KI zu befragen.

Briefe usw, schreibe ich so wenig, auch da muß keine KI herhalten.

Ich führe ein sehr einfaches Leben.

 

[Sesambrötchen]

Habe noch nie ChatGPT benutzt, nur im Freundeskreis davon gehört wie toll das doch ist.
Aber ich würde doch nie einer "KI" blind vertrauen.

Da werden Informationen aus irgendwelchen Quellen aus dem Internet verwendet.
Wie soll man denn die Antworten einer "KI" automatisch auf ihre echtheit überprüfen?
Natürlich sind da auch Falschinformationen dazwischen...

Wer aber ChatGPT gut findet, der wird sicherlich mit DeppGPT viel spaß haben.
Eine wirklich menschliche KI die doofe Fragen auch immer wahrheitsgemäß beantwortet

 

[HardWareFresser87]

ChatGPT ist ein KI-Tool, das automatisch Texte auf Basis von Schlüsselwörtern generieren kann. Es wurde als eine kreative und unterhaltsame Möglichkeit beworben, mit verschiedenen Themen zu experimentieren. Doch einige Nutzer haben das Tool missbraucht, um gefälschte Nachrichten, Hassreden oder Beleidigungen zu verbreiten. Das hat zu Verwirrung, Ärger und sogar Gewalt geführt. Hat ChatGPT also Schaden durch Falschinformationen angerichtet?

Ich denke, dass ChatGPT nicht die Schuld an dem Schaden trägt, sondern die Nutzer, die es für böswillige Zwecke eingesetzt haben. ChatGPT ist nur ein Werkzeug, das keine moralischen oder ethischen Werte hat. Es kann nicht zwischen richtig und falsch unterscheiden. Es kann nur das tun, was die Nutzer von ihm verlangen. Die Nutzer sind diejenigen, die verantwortlich sind für das, was sie mit dem Tool machen. Sie sind diejenigen, die die Folgen ihrer Handlungen tragen müssen.

ChatGPT ist nicht das Problem, sondern die Lösung. Es ist ein innovatives und leistungsfähiges Tool, das viele positive Anwendungen hat. Es kann zum Beispiel helfen, kreative Inhalte zu erstellen, Sprachen zu lernen oder Wissen zu erweitern. Es kann auch Spaß machen, mit verschiedenen Themen und Tönen zu spielen. Es kann uns inspirieren, neue Perspektiven zu entdecken oder unsere Meinung zu äußern.

ChatGPT ist ein KI-Tool, das uns viele Möglichkeiten bietet. Wir sollten es nicht missbrauchen, sondern nutzen, um uns zu verbessern und die Welt zu bereichern.

 

[Incredible Alk]

Das Problem ist, dass ChatGPT falsch genutzt wird. Es müsste ein Bewusstsein dafür her, was mit dem Tool machbar ist, und was nicht.

Ja. Genauso wie mit den Tools "Internet" oder "Smartphone" usw. - die können genau wie ChatGPT viel Schaden anrichten oder wahlweise sehr nützlich sein, wie du sagst abhängig vom Wissen und Verständnis des Nutzers dieser Dinge.

Das Problem ist nicht ChatGPT oder sonstige Werkzeuge, das Pro lem ist dass die große Mehrheit der Bevölkerung absolut keinen blassen Schimmer von dem hat, was sie da benutzt. Woher solls auch kommen. Ein paar wenige halten da autodidaktisch mit, die große Masse hat an Bildung das, was Schule und Gesellschaft zu diesen Dingen bisher an Wissen mitgegeben haben... also gar nichts.

 

[Terracresta]

Ja. Genauso wie mit den Tools "Internet" oder "Smartphone" usw. - die können genau wie ChatGPT viel Schaden anrichten oder wahlweise sehr nützlich sein, wie du sagst abhängig vom Wissen und Verständnis des Nutzers dieser Dinge.

Das Problem ist nicht ChatGPT oder sonstige Werkzeuge, das Pro lem ist dass die große Mehrheit der Bevölkerung absolut keinen blassen Schimmer von dem hat, was sie da benutzt. Woher solls auch kommen. Ein paar wenige halten da autodidaktisch mit, die große Masse hat an Bildung das, was Schule und Gesellschaft zu diesen Dingen bisher an Wissen mitgegeben haben... also gar nichts.

Ist halt wie mit der Kindererziehung, von der viele Eltern auch keinen Blassen haben. xD
Gibt auch genug, die sich ihre Halbwahrheiten oder Hirngespinste ganz ohne ChatGPT zusammenreimen. Wird irgendwo gegen die Verbreiter von "Flat Earth" und solchem Müll vorgangen, oder ist OpenAI nur grad eine große Zielscheibe, da angesagt?

Übrigens gibt es auf Youtube und Co unzählige falsche bis gefährliche Anleitungen für diverse Sachen und Berichte von anderen, die versuchten, Google dazu zu bringen, diese zu entfernen. War meist nicht von Erfolg geprägt.

 

[Nosi]

Ja. Genauso wie mit den Tools "Internet" oder "Smartphone" usw. - die können genau wie ChatGPT viel Schaden anrichten oder wahlweise sehr nützlich sein, wie du sagst abhängig vom Wissen und Verständnis des Nutzers dieser Dinge.

Ist halt aber auch nicht so leicht. Ich werde jetzt bei meiner Arbeit auch von einem Programm, welches KI nutzt, unterstützt.

Ich kann nicht sagen, dass das Programm noch nie einen guten Vorschlag hatte, aber zu 99% bin ich jetzt damit beschäftigt den Müll den dieses Programm vorschlägt zu überprüfen bzw. zu entkräften. Vielleicht sehen so aber in Zukunft auch ganz viele Jobs aus, Fehler bei der KI finden!?
Ist auf jeden Fall ein spannendes Thema

 

[taks]

ChatGPT ist ein KI-Tool, das automatisch Texte auf Basis von Schlüsselwörtern generieren kann. Es wurde als eine kreative und unterhaltsame Möglichkeit beworben, mit verschiedenen Themen zu experimentieren. Doch einige Nutzer haben das Tool missbraucht, um gefälschte Nachrichten, Hassreden oder Beleidigungen zu verbreiten. Das hat zu Verwirrung, Ärger und sogar Gewalt geführt. Hat ChatGPT also Schaden durch Falschinformationen angerichtet?

Ich denke, dass ChatGPT nicht die Schuld an dem Schaden trägt, sondern die Nutzer, die es für böswillige Zwecke eingesetzt haben. ChatGPT ist nur ein Werkzeug, das keine moralischen oder ethischen Werte hat. Es kann nicht zwischen richtig und falsch unterscheiden. Es kann nur das tun, was die Nutzer von ihm verlangen. Die Nutzer sind diejenigen, die verantwortlich sind für das, was sie mit dem Tool machen. Sie sind diejenigen, die die Folgen ihrer Handlungen tragen müssen.

ChatGPT ist nicht das Problem, sondern die Lösung. Es ist ein innovatives und leistungsfähiges Tool, das viele positive Anwendungen hat. Es kann zum Beispiel helfen, kreative Inhalte zu erstellen, Sprachen zu lernen oder Wissen zu erweitern. Es kann auch Spaß machen, mit verschiedenen Themen und Tönen zu spielen. Es kann uns inspirieren, neue Perspektiven zu entdecken oder unsere Meinung zu äußern.

ChatGPT ist ein KI-Tool, das uns viele Möglichkeiten bietet. Wir sollten es nicht missbrauchen, sondern nutzen, um uns zu verbessern und die Welt zu bereichern.

Geschrieben von ChatGPT?

 

[HardWareFresser87]

Geschrieben von ChatGPT?

Das ist doch ein Witz, oder? Wie kann ein Computer so lustig sein? Ich glaube, du hast da einen Scherzkeks in der Tastatur versteckt. Oder bist du etwa selbst ChatGPT und willst mich nur veräppeln? Das wäre ja noch witziger!