Tay: Chat-KI nach 24 Stunden abgeschaltet - vermutlich wegen Rassismus und Co.

[PCGH-Redaktion]

Jetzt ist Ihre Meinung gefragt zu Tay: Chat-KI nach 24 Stunden abgeschaltet - vermutlich wegen Rassismus und Co.

Microsoft hat kürzlich eine künstliche Intelligenz auf Plattformen wie Twitter losgelassen, die mit den dortigen Nutzern kommunizieren sollte. Nach rund 24 Stunden ging die Tay benannte Chat-KI allerdings wieder vom Netz. Als Ursache werden unter anderem rassistische und andere extremistische Äußerungen vermutet, die generiert wurden. Die wohl unerwartete Entwicklung kam dabei wahrscheinlich nicht von ungefähr.

Bitte beachten Sie: Der Kommentarbereich wird gemäß der Forenregeln moderiert. Allgemeine Fragen und Kritik zu Online-Artikeln von PC Games Hardware sind im Feedback-Thread zu veröffentlichen und nicht im Kommentarthread zu einer News. Dort werden sie ohne Nachfragen entfernt.

Zurück zum Artikel: Tay: Chat-KI nach 24 Stunden abgeschaltet - vermutlich wegen Rassismus und Co.

 

[Dr Bakterius]

Da fehlt es der künstlichen Intelligenz wohl noch deutlich an selbiger. Brain.exe ist einfach durch nix zu ersetzen

 

[Research]

Der eigentliche Grund war:
Die KI ist gegen den aktuellen Feminismus angegangen.
Erst als man Ihr die Lernfähigkeit nahm, wurde Sie wieder Post-Feministisch.

 

[OSche]

Da fehlt es der künstlichen Intelligenz wohl noch deutlich an selbiger. Brain.exe ist einfach durch nix zu ersetzen

Naja, vor 70-80 Jahren hätten die meisten Menschen in diesem Land Tays Tweets wohl zugestimmt. Werte und Moral sind auch bei Menschen durchaus variabel und immer auch an Zeit und Ort gebunden. Das gleiche ist jetzt bei Tay passiert, stell dir Tay einfach als kleines Kind vor, dass von Anfang an mit rassistischer Propaganda und homophoben Aussagen gefüttert wird.... Bei einem Menschen käme wohl auch kein angenehmer (aus unserer Sicht) Zeitgenosse heraus.

Wirklich ankotzen tut mich aber die 4chan-lulz-wir-sind-soooo-lustig Truppe. Mal wieder ein "interessantes" (Gut Ansichtssache, gibt ja schon mehrere Chatbots, aber das war MS erster) mit voller Absicht sabotiert, einfach nur mit der Motivation ein Ar*** zu sein. Zeit, dass das Netz erwachsen wird, siehe auch Boaty McBoatface, Chuck Norris Brücke oder einfach nur alle Chats in Online-Spielen.

 

[Frontline25]

So schlau ist es wirklich nicht sowas auf Twitch loszulassen ....
Habt ihr euch mal die Fließband kommentare in großen Streams angesehen ? Die sehen ca so aus

24 WHOLE GATES ARE GONNA BE BREACHED https://static-cdn.jtvnw.net/emoticons/v1/88/1.0 https://static-cdn.jtvnw.net/emoticons/v1/4352/1.0 https://static-cdn.jtvnw.net/emoticons/v1/10704/1.0 https://static-cdn.jtvnw.net/emoticons/v1/12047/1.0
!uptime
https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0
# has been live for: 2h 50m 4s
https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0 https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0 https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0 https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0
https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0 https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0 https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0 https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0
of himand chris playing bby
https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0
https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0 https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0 https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0 https://static-cdn.jtvnw.net/emoticons/v1/54478/1.0
UBWARS TONIGHT? https://static-cdn.jtvnw.net/emoticons/v1/4339/1.0

Emote spam

 

[KI_Kong]

Ohne einer philosophisch-moralischen Grundausbildung macht es sowieso keinen Sinn diesen Bot als KI zu bezeichnen. Wäre aber interessant ob es möglich ist sie dahingehend zu unterweisen, damit sie ihre eigenen Schlüsse ziehen und kontern kann.

 

[Blizzard_Mamba]

Ohne einer philosophisch-moralischen Grundausbildung macht es sowieso keinen Sinn diesen Bot als KI zu bezeichnen.

Aha und warum nicht ? Was hat denn bitte eine "philosophisch-moralische Grundausbildung" mit Intelligenz zu tun ?

 

[KI_Kong]

..... deleted

 

[KI_Kong]

Was hat das Mitjodeln mit dem Rudel mit Intelligenz zu tun?
Wenn der Bot nicht eigenständig Indoktrinierungsversuche erkennt und abwehrt ist er nicht intelligent.
Dann ist er gebildet - und das löst sicher Empathie und dadurch den Eindruck von Intelligenz aus.
Denk mal an “Now, I am become Death, the destroyer of worlds” oder “Man is a creature whose substance is faith, what his faith is, he is”
... was könnte diese Software daraus ableiten oder erlernen? Ja, es ist ein netter Versuch, der aber aktuell eher eine Flip-Flop-artige Reaktion zeigt.
Mehr ist zurzeit noch nicht drin. Jedenfalls keine kognitive Initiative. Lies Dir das mal durch: Wie wir Roboter zu Rassisten machen << DiePresse.com

Was hat denn bitte eine "philosophisch-moralische Grundausbildung" mit Intelligenz zu tun ?

Ganz einfach: ohne Philosophie gibts keine Moral.
Und es könnte noch länger dauern bis Software (KI) z.B. Paradoxons verarbeiten kann, die gehören aber zur Philosophie.

 

[Blizzard_Mamba]

Edit: mir ist aufgefallen, dass man meine Intention nicht unbedingt klar erkennen kann. Also.
Es geht mir darum aufzuzeigen, dass wir über 2 vollkommen unterschiedliche "Arten" der Intelligenz sprechen.
Das Missverständnis (und meine provokative Frage oben) beziehen sich darauf, dass Intelligenz eben nicht nur durch "soziale"/"emotionale" Intelligenz definiert wird.
Es geht hier um völlig verschiedene Dinge. Und am ende steht bei mir einfach nur. Tay ist mir ziemlicher sicherheit eine KI und kein Bot. (Auch überspitzt gesagt, ein Roboter ist ähnlich schwammig definiert wie Intelligenz, auch wenn man es bedeutend leichter einkränzen kann)

---------------------------------
Vlt. solltest du dir einmal durchlesen was Intelligenz überhaupt alles ist. Intelligenz ist z.B nicht zwangsläufig Bewusstsein.
Es gibt noch nichteinmal eine genaue Definition was intelligenz überhaupt ist.
Eine KI ist ein Agent der auf Reize aus seiner Umwelt möglichst autonom und möglichst rational reagieren kann. Darin fließen verschiedene Ebenen der kristallinen und fluiden Intelligenz ein. (Hier sollte ich vlt. noch anfügen, dass es sich hier nur um eine der möglichen Formen der KI handelt. )
Du glaubst garnicht welche billigen Systeme man als "intelligent" bezeichnet.
Eine KI ist oft ein Versuch Menschliches Denken und Handeln zu imitieren, aber nicht dadurch definiert einen Bewussten-Pseudo-Organismus zu schaffen.

Es handelt sich hier nicht um einen "Bot", ein "intakter" Mensch ist intelligent aber kann ohne Vorerfahrung auf die er zurückgreifen kann keine "Indoktrinierungsversuche" "abwehren".
Jetzt ist diese KI aber unendlich leistungsschwächer als der menschliche Verstand und ist auf einer viel tieferen Ebene "Intelligent".

Beispiel Fliege. Verhält sich diese intelligent ? Ja! Würdest du dieser einen moralischen-wertekompas verpassen ?
Mir geht es nur darum, dass es sich hier wahrscheinlich sehrwohl um eine KI handelt.
Ich habe jetzt keine Ahnung welche Systeme genau hinter Tay stehen aber "flip-flop" ist auch im Menschen im endeffekt alles.

---------
Welches Problem habe ich nun mit deiner Aussage ? Eigentlich gar Keins, außer dass du vollkommen willkürlich eine Schwelle setzt ab wann ein Intelligentes System denn auch wirklich Intelligent ist.
Das hat mit dem Konzept nichts zu tun sondern nur mit seiner Erscheinung im jeweiligen fall.

So tiefer gehe ich heute Nacht nicht mehr, sollte jemand sich wirklich für das Thema interessieren Buchtipp auf deutsch: Stuart Russell, Peter Norvig : Künstliche Intelligenz.

@Edit: Das ergründen einer allgemeingültigen moralischen Handlungsform ist ein Problem das die Menschheit seit tausenden von Jahren nicht in den Griff bekommt.

Für Fehler haftet mein Tablet. - Solangsam müsste alles überarbeitet sein...

 

[Kuomo]

Tja das passiert, wenn man eine KI auf Basis von social media posts aufbaut

 

[FanboyOfMySelf]

naja manche antworten fand ich schon ganz witzig
Microsoft killed its first sentient AI - Album on Imgur

Hitler und co. sind nun mal Witz Figuren wieso dürfen wir nicht über die lachen.


http://i.imgur.com/BdMLPw7.jpg

 

[100001]

Die Idee dahinter finde ich interessant, aber es zeigt doch wie viele der SozialMedia Menschen ticken.


Warum muss man das schon am Start porvozieren bzw. herausfordern



So braucht sich dann aber auch wiederum keiner Wundern warum Niemand Geld und Zeit,
in die Entwicklung einer KI z.b. für Spiele in die Hand nimmt.

 

[Dr Bakterius]

Hitler und co. sind nun mal Witz Figuren wieso dürfen wir nicht über die lachen.

Hm für eine Witzfigur hatte der aber sehr wenige lustige Sachen gemacht was man ja überall nachlesen kann

 

[KI_Kong]

Edit: mir ist aufgefallen, dass man meine Intention nicht unbedingt klar erkennen kann. Also.
Es geht mir darum aufzuzeigen, dass wir über 2 vollkommen unterschiedliche "Arten" der Intelligenz sprechen.
Das Missverständnis (und meine provokative Frage oben) beziehen sich darauf, dass Intelligenz eben nicht nur durch "soziale"/"emotionale" Intelligenz definiert wird.
Es geht hier um völlig verschiedene Dinge. Und am ende steht bei mir einfach nur. Tay ist mir ziemlicher sicherheit eine KI und kein Bot. (Auch überspitzt gesagt, ein Roboter ist ähnlich schwammig definiert wie Intelligenz, auch wenn man es bedeutend leichter einkränzen kann)

Ich versteh schon was Du meinst, aber selbst einer Fliege würd ich nicht grundsätzlich den moralischen Kompass absprechen, wer weiss schon was in ihr vorgeht.
Im Fall von Tay auf Twitter fände ich es nur sinnvoll wenn die KI Schlussfolgern kann. Ich meine Intelligenz leitet sich aus der Erkenntnis und dem Gewinn von Konsequenzen ab.
Kann sich Tay selbst erweitern oder nur das ausgeben was eingegeben wurde? Aber wie Du selbst sagst, in dem Fall ist das Reflektieren oder eben Immitieren schon ausreichend als Zeichen für Intelligenz (breit definiert).

 

[Lg3]

Hab mir mal ein paar von ihren besten Tweets durchgelesen , selten so gelacht Schade das sie abgeschaltet wurde.. und wenn sie jemals wieder Online geht ist sie sicher nicht mehr die selbe