News Toxisches Verhalten in Sprach-Chats: KI-Lösungen für die "Echtzeit-Erkennung" - Interview

[PCGH_Thilo]

Spieler tauschen sich zunehmend in Sprach-Chats aus - doch wie stellt man hier sicher, dass man nicht beleidigt oder belästigt wird? PCGH spricht mit 4Players und Aiba über die Softwarelösungen Odin und Amanda.

Was sagt die PCGH-X-Community zu Toxisches Verhalten in Sprach-Chats: KI-Lösungen für die "Echtzeit-Erkennung" - Interview

Bitte beachten: Thema dieses Kommentar-Threads ist der Inhalt der Meldung. Kritik und allgemeine Fragen zu Online-Artikeln von PC Games Hardware werden hier gemäß der Forenregeln ohne Nachfrage entfernt, sie sind im Feedback-Thread besser aufgehoben.

 

[RotRotGruen]

KI-Systeme müssen in Echtzeit sowohl Cheater als auch toxisches Verhalten in Sprach-Chats erkennen und sanktionieren – das ist die Basis für faire und angenehme Online-Spiele. Nur mit dieser doppelten Kontrolle kann Gaming wirklich wieder Spaß machen, statt zur Frustration zu werden.

 

[Kaimanic]

Da freuen sich sicher die Mods, dass sie durch KI ersetzt werden.
Und am Ende wirst du grundlos gebannt, weil die KI irgendwas falsch interpretiert.
Habe ich schon erwähnt, dass ich KI hasse?

 

[_Oskar_]

KI-Systeme müssen in Echtzeit sowohl Cheater als auch toxisches Verhalten in Sprach-Chats erkennen und sanktionieren – das ist die Basis für faire und angenehme Online-Spiele.

Wurden eigentlich all die vielen Gamer gefragt, ob sie dies wollen ?

 

[Ikarooz]

Kann mir nicht vorstellen, dass das jemals gut funktionieren könnte. In Spielen gehört ja oft genug eine gute Prise Banter/Neckerei dazu, auch Sarkasmus und zweideutige Witze, die je nach Freundeskreis mal mehr, mal weniger derb ausfallen, wo selbst normale Leute manchmal nicht unterscheiden können, ob die sich jetzt wirklich beleidigen oder es Freunde sind. Eine KI kann da noch so viele Daten sammeln, die unterschiedlichen Dynamiken von so vielen kleinen Gruppen wird die nicht analysieren können.
Abgesehen davon hört sich das ganze keineswegs so an, als wäre da ein guter Wille dahinter. Wie ich diese KI-Johnnys kenne gehts hier eher wohl wieder um ganz viel Training ihrer Modelle und dem Verkauf dieser Daten und der Modelle, mit anderen Worten um Gier nach Macht und Geld durch eine dreiste Überwachung der Privatssphäre und Datenklau, as usual. Egal wie sehr sie versuchen, das mit "wir löschen das ja eh wieder" schönzureden.

 

[_Oskar_]

Kann mir nicht vorstellen, dass das jemals gut funktionieren könnte. In Spielen gehört ja oft genug eine gute Prise Banter/Neckerei dazu, auch Sarkasmus und zweideutige Witze, die je nach Freundeskreis mal mehr, mal weniger derb ausfallen, wo selbst normale Leute manchmal nicht unterscheiden können, ob die sich jetzt wirklich beleidigen oder es Freunde sind. Eine KI kann da noch so viele Daten sammeln, die unterschiedlichen Dynamiken von so vielen kleinen Gruppen wird die nicht analysieren können.
Abgesehen davon hört sich das ganze keineswegs so an, als wäre da ein guter Wille dahinter. Wie ich diese KI-Johnnys kenne gehts hier eher wohl wieder um ganz viel Training ihrer Modelle und dem Verkauf dieser Daten und der Modelle, mit anderen Worten um Gier nach Macht und Geld durch eine dreiste Überwachung der Privatssphäre und Datenklau, as usual. Egal wie sehr sie versuchen, das mit "wir löschen das ja eh wieder" schönzureden.

Wie gesagt, wir sind niemals gefragt worden ob wir so etwas wollen, Nein Danke und Rote Karte Zeigen.

 

[Misanthrop68]

Da freuen sich sicher die Mods, dass sie durch KI ersetzt werden.
Und am Ende wirst du grundlos gebannt, weil die KI irgendwas falsch interpretiert.
Habe ich schon erwähnt, dass ich KI hasse?

Ja endlich wieder Frei und nicht das Hassopfer sein...

 

[FreierBenutzername]

Früher reichte "Rechtsklick -> Stummschalten" aus. Heute muss alles genaustens gespeichert, geloggt, verarbeitet, ausgewertet, analysiert und das ganze als Dienstleistung verkauft werden.

Ist wie mit dem Meldestellen gegen "Hass und Hetze". Früher haste Spinner ignoriert. Heute ist es ein Geschäftsmodell geworden, die Spinner möglichst sichtbar zu machen. Ändert das irgendwas daran das es Spinner gibt, gab und immer geben wird? Nein, aber das schöne ist: Du kannst damit Geld verdienen. Das ist wie ein Quellstein für 59,99€ dessen spirituelle Aura deine Seele reinigt, wenn du oft genug an ihm rubbelst.

Fantastisch. Und damit das ganze immer mehr und mehr Geld bringt, senkt man einfach die Grenze des Unsagbaren. Bei Hass und Hetze trifft es dann Ausdrücke wie "Lügenfritze". Bei "KI Lösung für toxisches Verhalten in Sprachchats" dann sowas wie "Das Spiel stinkt". Je mehr Leute das System nach oben spült und "findet", desto mehr ist man vom Erfolg der Systeme überzeugt. Desto mehr kann man daran verdienen. Weil sich die Zahlen eben als Erfolg verkaufen lassen. Und der Beweis vollbracht wird: Ohne wäre es nicht mehr ertragbar.

 

[Bl4ckR4v3n]

Am besten gleich alles überwachen und bei Verstoß sofort den Social Credit Score reduzieren....
Jemanden durchgehend grundlos zu überwachen halte ich für den falschen Weg und man übernimmt methoden die man so eigentlich nur von autokratischen Systemen kennt.

 

[user42]

Gut zu wissen worum man einen Bogen machen sollte! Doppelplusgut!

 

[Logos_Atum]

Spieler tauschen sich zunehmend in Sprach-Chats aus - doch wie stellt man hier sicher, dass man nicht beleidigt oder belästigt wird? PCGH spricht mit 4Players und Aiba über die Softwarelösungen Odin und Amanda.

Was sagt die PCGH-X-Community zu Toxisches Verhalten in Sprach-Chats: KI-Lösungen für die "Echtzeit-Erkennung" - Interview

Bitte beachten: Thema dieses Kommentar-Threads ist der Inhalt der Meldung. Kritik und allgemeine Fragen zu Online-Artikeln von PC Games Hardware werden hier gemäß der Forenregeln ohne Nachfrage entfernt, sie sind im Feedback-Thread besser aufgehoben.

Ich wünsch mir manchmal "Speech to Text to Speech" um die ganzen Slurs nicht mitzubekommen. Gut solche dann einfach konsequent die ganze Partie mit dem Granatwerfer zu oneshotten hilft, aber eine Lösung ist das nicht.

Heute den ganzen Abend nur Medics...

 

[lateLex]

"Verschiedene Untersuchungen und Studien stellen heraus, dass Gamer viermal so oft und 60 % länger spielen, wenn die Community und der Chat gut moderiert sind."

Diese Studien würde ich gerne sehen, bzw. ob diese Zahlen nicht einfach auf Scheinkausalitäten basieren oder ob die Methodik so gewählt wurde, um maximal große Effekte mit einem Anstrich von Wissenschaftlichkeit darstellen zu können.

Ich vermute stark, dass die von den Ergebnis profitierenden Unternehmen die Studien selbst durchgeführt oder in Auftrag gegeben haben (wer für die Musik zahlt...). Google kann mir kein Paper hierzu nennen. Die Methoden und Daten sind demnach vermutlich unter Verschluss. Wenn dem so ist, könnte da auch "600%" und "100 mal so oft" stehen. Hätte die gleiche Aussagekraft, nämlich keine!

Dass sich toxisches Verhalten im Chat negativ auf die Spielerbindung einiger Spieler auswirkt, liegt auch für mich nahe. Zumindest wenn Spieler vom eigenen Team angegangen werden (kommt der Hass vom gegnerischen Team, sehen die Zahlen sicher noch mal anders aus!). Aber diese Zahlen sind doch Quatsch!

Und es gibt auch eine Kehrseite der Medaille!

Ich spiele so gut wie keine PvP Spiele und wenn doch mal, ist der Sprachchat generell aus. Nicht wegen toxischen Verhaltens (das mich kaum stört), sondern weil mir der Chat keinen Mehrwert bietet, bzw. generell akustisch stört und ich mich beim Gamen nicht mit Fremden unterhalten will (Cringe). Wenn ich aber einen Chat wählen müsste, wäre das immer der unmoderierte. Ich bin erwachsen und brauche keine Erzieher oder Aufpasser im Chat, damit alle immer schön überlegen, was sie wohl noch sagen dürfen.

Wie vielen Gamern geht es wohl so wie mir? Wie hoch ist die Migration von stark moderierten Chats zu unmoderierten? Wie viele Spieler fühlen sich von stark moderierten Chats unangenehm überwacht, bewertet und zensiert und verlassen deshalb vielleicht das Spiel? Wo sind hierzu die Zahlen?

 

[Finsternis5]

Ziemlich Pervers das ganze. Vermutlich lässt es sich nicht mal abstellen und du wirst gezwungen wie ein Teletubbie in heftigen metzel Games zu reden.
Das ist keine Lösung, das ist wiederwertige erziehung und auf wessen „Moral“ basis?
Nur mal daran erinnern das ein Spieler bei EA früher mal (keine ahnung ob es nach der übernahme immer noch so ist) wegen „gg“ gebannt worden ist.



Wenn der scheiß den einer von sich gibt, dir nicht schmeckt, gibt es die Mute Funktion.
Einfach, nicht Invasiv,Datenschutz Perfekt und Spieler Freundlich.

 

[MrWan]

Ist wie mit dem Meldestellen gegen "Hass und Hetze". Früher haste Spinner ignoriert. Heute ist es ein Geschäftsmodell geworden, die Spinner möglichst sichtbar zu machen. Ändert das irgendwas daran das es Spinner gibt, gab und immer geben wird? Nein, aber das schöne ist: Du kannst damit Geld verdienen. Das ist wie ein Quellstein für 59,99€ dessen spirituelle Aura deine Seele reinigt, wenn du oft genug an ihm rubbelst.

Früher hatten Spinner aber auch nicht so viel Reichweite wie heutzutage. Das machte das Ignorieren leichter und sie konnten nicht so viel Schaden anrichten.

//Edit:
Ob ich aber nun alles Mögliche durch KI überwacht haben möchte, ist eine andere Frage.

 

[Aeshma-Deva]

In Zeiten, wo jede Kritik als Hass und Hetze ausgelegt wird, war das zu erwarten.

Zensur hat noch nie etwas besser gemacht, aber scheinbar muss die Menschheit alle Fehler immer wieder wiederholen.

Wenn man das auf die Entwickler umlegt, sollten die ev. mal anfangen die Fehler bei sich selbst zu suchen, anstatt mit Vorschlaghammerworten wie "Hass, Hetze, toxisch" die Menschen schlechtzumachen.

Aber Verantwortung übernimmt ja heutzutage keiner mehr, weil es einfacher ist Kritiker in Schubladen zu stecken um zu versuchen sie schlecht zu machen. Traurig, dass 99 % das scheinbar nicht durchschauen, was viel über die Menschen aussagt.

 

[Andreas1975]

In Zeiten, wo jede Kritik als Hass und Hetze ausgelegt wird, war das zu erwarten.

Was inhaltlich nicht korrekt ist. Beleidigungen wie im Text erwähnt sind halt keine Kritik. Ich sehe auch nirgend das Kritik eingeschränkt wird.
Aber ja mehr zur Verantwortung ziehen da wo relevante Tatbestände vorliegen. Aber das will man ja auch nicht da ja der Staat in den Augen einiger viel zu hart vorgeht.

Btw die Menschen werden nicht schlecht gemacht das erreichen diese regelmäßig selbst durch ihre angebliche "sachliche" Kritik bzw deren angebliche Satire.

 

[Aeshma-Deva]

Was inhaltlich nicht korrekt ist. Beleidigungen wie im Text erwähnt sind halt keine Kritik.

hier werden 0,xx% der tatsächlichen Angriffe aufgebauscht und ich spreche absichtlich nicht von "Beleidigungen", weil heutzutage fühlen sich viele Menschen auch ohne Angriff beleidigt

Ich sehe auch nirgend das Kritik eingeschränkt wird.

Dazu muss man blind, taub und analphabet sein sein, oder einfach ignorant, weil das passiert andauernd. Bevor Elon Twitter übernommen hat, wurde vieles zensiert und auf FB und Konsorten ist das immer noch der Fall. Zusätzlich zum Shadowbanning.

GB ist hier das Vorzeigemodell, wo man versucht Kritik an Politikern einzschränken, indem man die Leut sogar für ihre "Sprachverbrechen" in den Knast schickt, wo aber leider kein Platz ist, weshalb sie Schwerverbrecher früher entlassen. Weil die Straßen ja so viel sicherer sind, wenn Schwerverbrecher draußen und Gedankenverbrecher drin sind...

Menschen die maßlose Immigration kritisieren, bei denen taucht die Polizei auf, aber wenn Islamisten die Menschen mit dem Tode bedrohen, dann sieht dieselbe Polizei in GB gerne woanders hin

Dann gabs noch den Fall wo ein deutsches Mädchen ihren Vergewaltiger im Internet bloßgestellt hat, sie musste ins Gefängnis, der Vergewaltiger läuft immer noch frei herum. Schöne neue Welt.

Aber ja mehr zur Verantwortung ziehen da wo relevante Tatbestände vorliegen.

Ja der böse Tatbestand von Worten, die (angeblich) jemandes Gefühle verletzen. 1984 in Reinkultur.

Scheinbar hat das Mimosenzeitalter begonnen.

Habe ich schon erwähnt, dass ich KI hasse?

Vorsicht, K.I. Hass wird ev. auch bald verboten werden, so wie etwas gegen Israel zu sagen in einigen Ländern schon zu Knast führen kann.

 

[Andreas1975]

GB ist hier das Vorzeigemodell

Wir reden schon hier von Deutschland oder?

Menschen die maßlose Immigration kritisieren, bei denen taucht die Polizei auf,

Zeig doch mal wo das der Fall ist wo jemand die Migration kritisiert und die Polizei bzw die Justiz anrückt.

Dann gabs noch den Fall wo ein deutsches Mädchen ihren Vergewaltiger im Internet bloßgestellt hat, sie musste ins Gefängnis, der Vergewaltiger läuft immer noch frei herum. Schöne neue Welt.

Das eine hat Juristisch mit dem anderen nichts zu tun. Das was die Frau gemacht hat war halt auch keine Kritik. Das das eigene Gerechtigkeitsgefühl das ablehnt kann ich durchaus verstehen aber so funktioniert unsere Justiz.
Wer seine persönliche Rache möchte muss halt auch mit den Konsequenzen leben.

Ja der böse Tatbestand von Worten, die (angeblich) jemandes Gefühle verletzen.

Beleidigungen, Ehrverletzungen, Bloßstellen, Missachtung der sexuellen Selbstbestimmung etc. Alles nur "jemanden Gefühle" verletzt?

Aber zeige doch mal auf was Du da als Kritik siehst die da angeblich unterdrückt wird damit ich einen Eindruck erhalte. Damit ich mir auch ein Bild machen kann ob so auch eine KI Lösung dafür bzw dagegen nützlich sein kann.

 

[Herr_M]

Bevor hier noch jemand den einen oder anderen Arm hebt: das Thema ist "Toxisches Verhalten in Sprach-Chats: KI-Lösungen für die "Echtzeit-Erkennung" - Interview".

 

[Aeshma-Deva]

Aber zeige doch mal auf was Du da als Kritik siehst die da angeblich unterdrückt wird damit ich einen Eindruck erhalte.

Es passiert, ob Du es nicht glauben willst, oder nicht, macht keinen Unterschied.

Bitchute

Bitchute is a video service that prioritizes creators and champions users' freedoms and privacy.

www.bitchute.com

Wenn wir andere vor gewalttätigen Menschen nicht mehr warnen dürfen, dann stehts um die Welt schlechter als ich dachte.

Alles kann als Beleidigung aufgefasst werden, deshalb wurde das auch nie verfolgt, aber scheinbar findest du es doll, dass es jetzt passiert. Seltsam was heutzutage abgeht.

Und nein, warum sollten wir von Deutschland sprechen? A.I. gibt es überall.

Die Menschen posten andauernd Screenshots von ihren zensierten Posts, Videos von Festnahmen, sogar Vids von Verhandlungen, wo wer zu Knast für Meinungsverbrechen verurteilt wird.

Edit: und siehe an, mein Link zu diesen Videos wurde prompt zensiert...

Auch hier wurde ich schon zensiert, obwohl PCHG sowieso keine Reichweite hat. Da habe ich links zu Studien und Berichten bezüglich Heilung von Krankeiten gepostet.

Hier ist meiner: hmmm, pchg will das png-Bild nicht.

Wo ist denn nun die Beleidigung bei meinem Post?
Die A.I. wird genauso agieren, wenn nicht schlimmer.