Facebook-Bot Blender beleidigt Nutzer nach Reddit-Trainingssitzung

[SirJoker]

Also mal ganz ehrlich, warum den überhaupt noch Kundensupport ?
Die Unternehmen die solch ein Chatbot nutzen schreien ja gerade zu förmlich:

" Nimm den Dreck den wir anbieten, Zahl bloß deine Rechnungen und vor allem: HALT DIE SCHNAUZE ! "

 

[TheBadFrag]

Haha diese Chatbots sind so richtig nutzlos. Vodafone hat auch so nen Mist und nach 10 mal hin und her muss ich jedes Mal mit einem echten Mitarbeiter sprechen, weil der olle Bot keine Ahnung hat was ich eigentlich will.

Am besten war immer noch diese eine IRC Bot, der einen die ganze Zeit beleidigt hat, egal was man geschrieben hat. Den gabs schon vor 15 Jahren also neu ist die Erfindung nicht.

 

[paladin60]

So einen Bot müsste man mal auf den Kommentarbereich von WCCFtech los lassen, wär interessant was dann aus dem wird.

 

[TheBadFrag]

So einen Bot müsste man mal auf den Kommentarbereich von WCCFtech los lassen, wär interessant was dann aus dem wird.

Der Kommentarbereich von big-boys.com und break.com ist mit Abstand das Geilste gewesen. Leider gibts die nicht mehr.

 

[Mahoy]

So einen Bot müsste man mal auf den Kommentarbereich von WCCFtech los lassen, wär interessant was dann aus dem wird.

Mit Reddit-Vorerfahrung würde er sich dort vermutlich nahtlos einfügen. Also, von der Ausdrucksweise her. Fachlich wäre er vermutlich etwas qualifizierter als der dortige Durchschnitt.

 

[Rotkaeppchen]

Jetzt ist Ihre Meinung gefragt zu Facebook-Bot Blender beleidigt Nutzer nach Reddit-Trainingssitzung

So ist das mit lernfähigen Systemen. Schion Ende der Neunziger hatte die Bundesbahn ein System zur automatischen Ticketbestellung eingeführt und ich war vor über 20 Jahren erschreckt, wie präzise das System aus Sätzen wie wenigen relöevanten Informationen herauszog. Es war in der Testphase und sollte durch Nutzer lernen. Wir haben dem System dann gaaanz schnell beigebracht, das Nee, Ja bedeutet. So ist das mit "lernfähig". Es hängt immer von LÖehrer ab. Und sucht man Foren als Lehrer dann glaubt man auch an das Youtube-Diplom

Nur Menschen können Menschen beleidigen und auch nur der Mensch ist Böse und DUMM !!

Es sind aber zwei Seiten. Es gibt ein Beleidigen und es gibt ein beleidigt sein. Und beleidigt sein können Menschen aus vielen Gründen. Da Du in der Regel nicht unterschieden kannst, ob das Gegenüber Mensch oder Bot ist, erwarten Nutzer andere Menschen. Den Unterschied siehst Du z.B. in Navigationssystemen. Wenn die Stimme dort anfangen würde, unflätig zu werden, würde jeder Nutzer schmunzeln. "Du Trottel bist schon wieder nicht abgebogen"

Es ist dann wie Satire oder Komedie, da lacht man auch, obwohl man durchaus persönlich angegriffen werden kann.

 

[Research]

Mit Reddit-Vorerfahrung würde er sich dort vermutlich nahtlos einfügen. Also, von der Ausdrucksweise her. Fachlich wäre er vermutlich etwas qualifizierter als der dortige Durchschnitt.

Liegt an der breiten Aufstellung.
Die waren mal sehr FreeSpeach.

 

[PCGH_Torsten]

Das Problem ist das sich im Internet (fast)jeder Anonym fühlt, selbst wenn er/sie angemeldet sind.
Gerade die Jüngeren Generation sieht oft Beleidigung als normalen Umgangston an, was so eine Ki dann schon wieder als Normal ansieht.
Auf Facebook schreiben die jüngeren wohl eine vielfaches mehr als die älteren Genrationen, was dann für eine KI am ende Kontraproduktiv ist.
Dass merkt man im übrigen bei vielen anderen Webseiten, wo es beim Kommentar bereich von Artikel schnell zu Angriffen und Beleidigungen kommt. Ironischer weise hat PCGH damit weitaus weniger Probleme als andere Seiten, auch wenn es hier auch hin und wieder zu Anfeindungen kommt und sicher nicht die Regel ist.

Du glaubst nicht, wieviel Moderationsaufwand für den relativen Frieden hier nötig ist.

Überraschend oft findet man auch zu techn. Problemen Lösungen auf Reddit und Co.

Wer suchet, der findet. Aber wenn man durchschnittlichen Lösungsgehalt eines Reddit-Posts nimmt, und der Bot wird ja mit zufälligen Inhalten trainiert, dann dürfte der die Vodafone-Hotline nicht übertreffen.
Hängt aber gegebenenfalls auch vom Vorwissen des Suchenden ab. Ich rede mir immer ein, dass es wohl ein überdurchschnittlich komplexes Problem sein muss, wenn ich selbst nicht mehr weiter weiß und einen Support bemühen muss.

 

[be-le]

Für mich zeigt der der Chatbot von Facebook, die Berichterstattung darüber und die Reaktion der Öffentlichkeit mehrere Dinge:

1) Facebook war zu schlampig bzw. habt es sich zu einfach bei er Entwicklung des Bots gemacht

Bevor man ein Neuronales Netz (KNN = artificial neural network )trainiert, ist man sehr genau das Ziel des Neuronalen Netzes zu definieren und die Daten dementsprechend vorzuselektiert.

Das ist auch das was der KI-Forscher und Berater Dave Coplin gemeint hat:

So großartig wie die Plattform Reddit ist: Um Algorithmen zu trainieren, die auf den dort zu findenden Konversationen basieren, wird man viel Spreu vom Weizen trennen müssen

Das heisst man hätte alle Post auf Reddit, die unfreundlich und nicht der Wahrheit entsprechen löschen müssen bevor man das eigentliche KNN des Bots trainiert.

Dafür nimmt man z.B. ein schon fertig trainiertes KNN welches entscheidet ob ein Nachricht freundlich oder unfreundlich ist (binary classification genannt). Dies wendet man auf alle Nachrichten von Reddit an und filtert so alle Posts heraus die unfreundlich sind.

Nun nimmt man alle daraus entstandenen freundlichen Nachrichten und benutzt ein weiteres trainiertes fertiges KNN, dass entscheidet ob ein Post "Fake News" ist. Hieraus gewinnt man dann alle richtigen Nachrichten auf Reddit. Nur diese verwendet man dann weiter.

Man wiederholt die obigen beiden Schritte und testet ob man nun schon gute Daten (also wahrheitssagende freundliche Nachrichten) herausgefiltert hat. Möglicherweise reduziert man mit weiteren KNNs die Nachrichten auf Reddit noch mehr bis man glaubt es gibt nur noch gute zielführende Nachrichten (gute zielführende Trainingssätze).

Man schaut nun ob noch ausreichend Nachrichten zum trainieren des Chatbost übrig geblieben sind.
Mit diese entwickelt man dann erst das KNN für den neuen Chatbot.


2) die Nachrichten auf Reddit sind zum Teil beleidigend und enthalten falsche Tatsachen

Wenn man ein Kleinkind bei Menschen aufwachen lässt, die lügen und andere beleidigen, dann wird das Kind später genauso handeln.
Genauso ist es auch mit dem Chatbot. Da er

sogar Fake News in die Unterhaltung einbaut

und

beleidigend den Fragen der Nutzer antwortet

muss er dies gelernt haben.

3a) man kann neue Technologie zum Guten oder zum Schlechten verwenden
3b)je nach Anwenung der neuen Technologien der KI fällt auch die öffentliche Bewertung (bzw. Reaktion) anders aus

Ich frage mich wie Menschen die neuen Technologie der KI (Künstliche Intelligenz) bewerten, wenn man sie folgende beiden Beispiele bewerten lässt:

a) den Chat- und Navigationbot von hier:
YouTube


b) die Chatbotbeispiele aus dem Artikel von
https://www.pcgameshardware.de/Clou...233460/News/Chatbot-beleidigt-Nutzer-1349658/

Wie bewertet ihr den Chatbot von a) und die Beispiele von b) ?