News Toxisches Verhalten in Sprach-Chats: KI-Lösungen für die "Echtzeit-Erkennung" - Interview

Es steht Dir natürlich jederzeit dieses Land zu verlassen. Du wirst ganz sicher etwas finden wo Du Dich wohl fühlst.
Genau, weil vor Problemen davonzulaufen ist ja die Lösung, anstatt positive Veränderungen herbeizuführen!

Wer ein kaputtes System verteidigt und wegzulaufen vorschlägt, ist Teil des Problems.

Wann hat es je geholfen, vor Problemen wegzulaufen?
 
Zuletzt bearbeitet:
Wurden eigentlich all die vielen Gamer gefragt, ob sie dies wollen ?
Ich verstehe deinen Einwand, aber was soll das bringen? Den Mobber fragen ob er eine Instanz möchte die ihn sanktioniert? Was denkste antwortet der?

Ne, hier sollte man die mods lassen wo sie sind, zusätzlich so eine KI anlernen und versuchsweise einsetzen und dann anhand der Reaktionen der Spieler ermitteln ob hilfreich oder frustrierend.
Man kann ja nach dem Testzeitraum die User fragen, statt vorher.
Wichtig wäre nur, dass jeder Bann von den Mods kontrolliert wird und diese KI nicht irgendwelchen Mist verzapft, denn wenn diese dann die falschen User bannt, sind deren Stimmen nicht mehr erreichbar.
Wenn sich sowas wirklich durchsetzt wird die KI wohl öfter mal den Bannhammer schwenken! :devil:
Was nicht unbedingt etwas schlechtes sein muss.
 
Was nicht unbedingt etwas schlechtes sein muss.
Hier wurden ja schon Zweifel geäußert, ob die KI zwischen echten Mobbing/Beleidigungen oder freundschaftlichen "dissen" unterscheiden kann?

Edit: Das fällt Menschen schon schwer wenn sie die anderen nicht kennen.
 
Zuletzt bearbeitet:
Hier wurden ja schon Zweifel geäußert, ob die KI zwischen echten Mobbing/Beleidigungen oder freundschaftlichen "dissen" unterscheiden kann?

Edit: Das fällt Menschen schon schwer wenn sie die anderen nicht kennen.
Ja genau. Deswegen wird sie am Anfang viel zu streng sein und die mods müssen das dann prüfen (noch vor dem Permabann bitte) und ihr beibringen.
Dadurch greift am Anfang aber erstmal die Panik um sich und die welche es nicht freundschaftlich meinen, werden vorsichtiger. So zumindest mein Gedanke.
 
Die Problematik bei dem ganzen ist, dass dieser Wandel teilweise nur in gewissen Bubbles stattfindet und weite Teile der Bevölkerung manche Dinge eben nicht so sehen aber man versucht das ganze diesen umzustülpen. Bist du nicht dafür, dann bist du teilweise einfach ein aussätziger. Mit sowas radikalisierst du die Leute. Wir haben in der heutigen Zeit einfach verlernt einen diskurs zu führen oder Meinungen auch mal zu tolerieren auch wenn diese uns nicht gefallen.
In Spielen wir das ganze besonders radikal enden. Jeder wird in Watte gepackt und jeder der auch nur den Gedanken hat etwas negatives zu sagen, kassiert direkt nen Auto-Ban.
Es geht doch gar nicht darum, dass man keine eigene Meinung haben darf. Aber Beleidigungen, Anfeindungen und Drohungen sind halt keine Kritik oder Meinung.
Ein Diskurs zu führen wird tatsächlich immer schwieriger auch gerade weil die Toleranz fehlt. Aber für die von mir oben angesprochenen Dinge sollte es gesamtgesellschaftlich keine Toleranz geben da dieses meiner wahrnehmung dazu führt zu radikalisieren.

Es geht gerade in Spielen, Sprachcheats oder auch im Forum ja nicht darum, dass jeder in Watte gepackt wird. Aber Beleidigungen, Anfeindungen, Drohungen etc sollten unterbunden werden. Wenn da technisch unterstützt werden kann warum nicht. Wichtig ist, dass die Entscheidung abschließend zu eventuellen Konsequnezen bei einem Menschen liegt.

Was ist mit den Menschen, die das nicht tun, sich vielleicht durch Beleidigungen oder einen Shitstorm gekränkt fühlen? Eine stoische Haltung kann bspw. dich selbst schützen, weil du dich von einer Beleidung gegen dich distanzieren kannst. Wem das aber nicht gelingt, wird normativen Schutz durch Beschränkungen der Meinungsfreiheit zu schätzen wissen.
Wie Du geschrieben hast das kann nicht jeder. Es wird auch nicht die Meinungsfreiheit eingeschränkt. Es werden die Grenzen zu den strafbewehrten Äußerungen sichtbar gezogen.
Geht es hier um 'Toxisches Verhalten in Sprach-Chats: KI-Lösungen für die "Echtzeit-Erkennung" - Interview' oder was die Politik so treibt?
Hier wird es jetzt aber sehr Offtopic!
Man möge mir verzeichen das auch ich aus Deiner Sicht ins OT abdrifte. Aber einerseits gibt es Behauptungen welche ich so nicht stehen lassen kann da diese einfach falsch sind. Und zweitens wird offensichtlich die Trennung was eine KI-Lösung für jemanden im Internet erbringt und wo der Staat eingreift nicht erkannt zu werden.
Wer ein kaputtes System verteidigt und wegzulaufen vorschlägt, ist Teil des Problems.
Ich laufe gar nicht weg da ich nicht behaupte, dass dieses System kaputt ist.
Was machst Du eigentlich um Einfluß auf dieses System zu nehmen?

Btw wie wirst Du Dich verhalten wenn ein Sprachcheat seine Regeln mit KI Überwacht und ggf Äußerungen von Dir nicht veröffentlicht.

Mitlerweile ist das von Dir geteilte Bild ja sichtbar. Es ist eine Sperre von Steam wenn ich das richtig sehe. Ergo hat das nichts mit dem Staat oder staatlicher Zensur zu tun. Wie man da von einer Einschränkung der Meinungsfreiheit in einem Kaputten System sprechen kann diese Antwort hast Du bisher nicht beantworten können.
Das Grundgesetz hebt die Meinungsfreiheit nicht umsonst auf einen sehr hohen Sockel. Auch geschmackslose Kommentare, die unterhalb der Strafbarkeit laufen sind einfach auszuhalten und gehören nicht zensiert oder verfolgt, sonst kommen wir in Teufels Küche.
Unterhalb der Strafbarkeit ist das Zauberwort. Mir wäre auch nicht bekannt, dass diese zensiert oder verfolgt werden.

@Aeshma-Deva
Ich hatte Dir ja einige Fragen gestellt die Du nicht beantwortest. Diese täten mich aber weiterhin interessieren.

Ich gehe davon aus, dass Du mir jetzt Politiker zeigen kannst die über dem Gesetz stehen? Auch wo diese Politiker das "Volk" "abzocken" (diesen Begriff dürfstes Du auch gerne erläutern).
Da kannst Du ganz sicher auch hunderte Beispiele aufzeigen oder? Eines täte mir reichen.

Nun könnte ich Dich einen Lügner schimpfen wenn ich nachweisen kann, dass Du wissentlich die Unwahrheit erzählst. Das wäre keine Beleidigung sondern eine Tatsache. Da ich aber nicht wissen kann ob Du wissentlich etwas falsches erzählst kann ich das nicht. Das sollte auch für jeden anderen Menschen wie zum Beispiel unsere Politiker gelten.
Wenn ich Dich mit Schimpfwörtern betitel so wird das früher oder später ein Moderator lesen und gemäß den Forumsregeln handeln. Auch bevor Du dieses selber gelesen hast. Ist das eine Zensur? Ja. Wird damit meine Meinung eingeschränkt. Nein wird sie nicht da ich mich nicht an die Regeln gehalten habe.
Hat das etwas mit Zensur durch den Staat bzw wie Du es nennst das System zu tun. Nein nicht im geringesten. Da Du dich nicht beim Staat über diese Einschränkung beschweren kannst. Daher findet keine staatliche Zensur im Internet statt wenn ein Betreiber seine Regeln umsetzt.

Ja und natürlich verteidige ich unsere Demokratie. Ich bitte Dich auch nicht immer vom "Volk" zu sprechen sondern liber von Dir selbst wenn Dir etwas nicht passt/gefällt/gegen den Strich geht. Ich denke nicht das Du eine legitimation hast für das Volk oder eine größere Menge des selben zu sprechen. Ich kann nicht einmal für den Teil des Volkes sprechen was meine Familie ausma
Ne, hier sollte man die mods lassen wo sie sind, zusätzlich so eine KI anlernen und versuchsweise einsetzen und dann anhand der Reaktionen der Spieler ermitteln ob hilfreich oder frustrierend.
Man kann ja nach dem Testzeitraum die User fragen, statt vorher.
Wichtig wäre nur, dass jeder Bann von den Mods kontrolliert wird und diese KI nicht irgendwelchen Mist verzapft, denn wenn diese dann die falschen User bannt, sind deren Stimmen nicht mehr erreichbar.
Da bin ich bei Dir.
Hier wurden ja schon Zweifel geäußert, ob die KI zwischen echten Mobbing/Beleidigungen oder freundschaftlichen "dissen" unterscheiden kann?
Daher ja auch der Mensch am Ende der Kette. Damit Trottelchen und Dummerchen sich weiterhin liebkosen können.
 
Weil KI wirklich so clever ist...
Und wenn Mods dahinter sind um das was die KI ausbrütet nochmals zu monitoren? Was glaubt ihr wo die sitzen?
Ich Hochlohnland D'land? Oder eher Indien o.ä. Ländern?
Glaubt ihr eine KI kann "insert lokalen Dialekt hier" richtig erkennen? Glaubt ihr der Mod aus Niedriglohnland X kann lokale Dialekte aus (bsp) Deutschland erkennen? Wenn der Hamburger den Berliner, der den Schwaben und der den Sachsen nicht versteht?
Ich habe in der Schule jahrelang Englisch gehabt, aber glaubt ihr ich kann nen Schotten verstehen wenn der mal richtig loslegt? In unserer Berufsschul Prüfung in Englisch bei der Hörverstehensaufgabe hat der prüfende Englischlehrer nicht mal das verstanden was gesagt wurde (da hat einer aus den Golf-Staaten gesprochen und wir als Schüler sollten das zusammenfassen)

Und wenn das mal von Spielefirmen implementiert ist, was glaubt ihr WER da über kurz oder lang auf der Matte steht?
Ich sag nur "Function Creep" (was man über die letzten Jahre sehr gut beobachten konnte [Maut, VDS, Covid-Gästelisten])
Es werden ja jetzt schon Sachen die die Politik gemäß GG nicht darf schon an private ausgesourced (Meldestellen) die dann Kommentare einmal mit der Schrotflinte "durchgehen" - ein böser und justiziabler wird dann schon dabei sein. Und wenn man aber 99 Unschuldige trifft... :ka: Who Cares

Ist schon aufgefallen, dass der Begriff mittlerweile immer weiter gefasst wird?
Warum wohl? Weil man ja seine Existenz als "Insert böses Topic" bekämpfende Stelle ja gefährden würde, wenn man sagt "Ach, unsere Arbeit war gut und hat zum Rückgang des bösen um x% geführt"
Da wird lieber gesagt "nein, "böses Topic" wird immer schlimmer - gebt uns mehr Mittel zum Kampf dagegen"

Da geben viele mittlerweile ihre Freiheit mit Freuden auf um Sicherheit zu "gewinnen" und kreieren einen Überbordenden Nanny-Staat / Nanny-Firmen die einen zum Schutz in Watte packen.
 
Weil KI wirklich so clever ist...
Und wenn Mods dahinter sind um das was die KI ausbrütet nochmals zu monitoren? Was glaubt ihr wo die sitzen?
Ich Hochlohnland D'land? Oder eher Indien o.ä. Ländern?

Da ist ist etwas dran.

Glaubt ihr eine KI kann "insert lokalen Dialekt hier" richtig erkennen? Glaubt ihr der Mod aus Niedriglohnland X kann lokale Dialekte aus (bsp) Deutschland erkennen? Wenn der Hamburger den Berliner, der den Schwaben und der den Sachsen nicht versteht?

Du hast es diesbezüglich gut auf den Punkt gebracht.
 
Zuletzt bearbeitet:
Ich bin da zwiegespalten. Einerseits finde ich es nicht gut, wenn eine KI Möglichkeiten hat, jemanden in irgendeiner Art und weise zu gängeln, ob nun zu recht oder unrecht, sei mal dahingestellt.
Andererseits hat eine KI gewisse Vorteile:
Sie hat z.B. keine Gefühle. Sie kann also nicht überreagieren, wie es ein Mensch aus Gefühlen heraus mitunter tut (Ja auch Mods können sich fehlverhalten, vor allem wenn in einem Streitfall Personen involviert sind, zu denen der Mod eine Beziehung hat).
Gesetzt dem Fall, dass die KI also korrekt programmiert ist, wird sie eine Entscheidung immer ganz klar regelbasiert treffen und ist unbestechlich.

EDIT:
Das erinnert mich ein bissel an die Perry Rhodan Serie, in denen zu Beginn der Serie die Arkoniden derart degeneriert waren, dass sie ihr Imperium nicht mehr selbst verwalten konnten und daher ein riesiges Robotgehirn die Regierung übernahm. Das ging letztlich für alle Beteiligten nicht so gut aus.
Kann uns nicht passieren? Da wäre ich mir nicht so sicher, diese Meldung weckte in mir sehr ungute Befürchtungen:

Und wenn man jetzt noch bedenkt, dass der Zyklus mit dem arkonidischen Robotgehirn schon in den 60ern geschrieben wurde...
 
Zuletzt bearbeitet:
Es geht doch gar nicht darum, dass man keine eigene Meinung haben darf. Aber Beleidigungen, Anfeindungen und Drohungen sind halt keine Kritik oder Meinung.
Ein Diskurs zu führen wird tatsächlich immer schwieriger auch gerade weil die Toleranz fehlt. Aber für die von mir oben angesprochenen Dinge sollte es gesamtgesellschaftlich keine Toleranz geben da dieses meiner wahrnehmung dazu führt zu radikalisieren.

Es geht gerade in Spielen, Sprachcheats oder auch im Forum ja nicht darum, dass jeder in Watte gepackt wird. Aber Beleidigungen, Anfeindungen, Drohungen etc sollten unterbunden werden. Wenn da technisch unterstützt werden kann warum nicht. Wichtig ist, dass die Entscheidung abschließend zu eventuellen Konsequnezen bei einem Menschen liegt.
Dafür Daumen hoch
 
Es geht doch gar nicht darum, dass man keine eigene Meinung haben darf. Aber Beleidigungen, Anfeindungen und Drohungen sind halt keine Kritik oder Meinung.
Das Thema Beleidigung kann man meiner Ansicht nach debattieren. Es gibt Länder in denen sowas unter Meinungsfreiheit fällt. Zudem gibt es Satire mit der man sich sehr gerne mal genau in dem Bereich der Beleidigung und Anfeindung befindet und die von der Meinungsfreiheit auch hier gedeckt wird. Ist halt keine sachliche Kritik oder Meinung aber das muss es auch nicht sein. Es gibt halt einen Graubereich der Spielraum zulässt.
Ein Diskurs zu führen wird tatsächlich immer schwieriger auch gerade weil die Toleranz fehlt. Aber für die von mir oben angesprochenen Dinge sollte es gesamtgesellschaftlich keine Toleranz geben da dieses meiner wahrnehmung dazu führt zu radikalisieren.
Dann sollte man erstmal einen gesamtgesellschaftlichen Konsens finden was eine Beleidigung/Anfeindung ist. Denn genau hier hat man so viel Interpretationsspielraum und Ansichten dass es nahezu unmöglich ist und vieles in Bereich der Subjektivität abdriftet. Und radikalisierung wird ziemlich sicher nicht durch 0-Toleranz gelöst. Vermutlich wird sogar das Gegenteil eintreten denn damit radikalisierst du die ausgegrenzten erst richtig.
Es geht gerade in Spielen, Sprachcheats oder auch im Forum ja nicht darum, dass jeder in Watte gepackt wird. Aber Beleidigungen, Anfeindungen, Drohungen etc sollten unterbunden werden. Wenn da technisch unterstützt werden kann warum nicht. Wichtig ist, dass die Entscheidung abschließend zu eventuellen Konsequnezen bei einem Menschen liegt.
Genau das wird aber passieren wenn du jeden immer und überall überwachst. Und ich kann wirklich darauf verzichten dass da ständig ein Tool meine Sprachnachrichten überwacht. Ich sehe es schon kommen: Jemand zockt mit seinen Kumpels der eine baut scheiße und einer in der Gruppe beginnt einen Rant mit nicht ernst gemeinten Beleidigungen und ist paar min später gebannt... Dann lieber das ganze lokal transkribieren und wenn man etwas meldet dann eben an ne KI schicken. Und zu glauben dass Menschen das am Ende noch überwachen werden, ist wirklich naiv. Das wird der erste Posten sein den man sich einspart. Das sieht man schon heute wo es ausreichend ist wenn 2-3 personen jemanden melden ohne dass dieser irgendwas getan hat und schon einen Autoban kassiert.

Unterhalb der Strafbarkeit ist das Zauberwort. Mir wäre auch nicht bekannt, dass diese zensiert oder verfolgt werden.
Ich würde mal empfehlen anzuschauen wie viele Verfahren für §188 so gestartet werden und wie erfolgreich diese verlaufen und das ganz ohne zutun der betroffenen Person. Sowas kann schon als repression interpretiert werden.
 
Oder in UK die sog. "Non Crime Hate Incidents"... bei dem zwar keine Straftat begangen wurde, der aber vom Melder oder einer anderen Person als feindselig oder voreingenommen gegenüber bestimmten geschützten Merkmalen wahrgenommen wird.
 
Was genau heißt toxisches Verhalten? Wer bestimmt das und setzt die Regeln fest?
Ich meine, so ein wenig ausfallend werden, lauter werden etc gehört doch zum guten Umgangston 😂 kennt man dich und gehört dazu, gerade wenn man mit Freunden spielt.
Das sollte man etwas differenzieren und ich vermute Mal das KI das nicht schafft.


Aber im Grunde ist es auch wieder das Gleiche Spiel wie im allgemeinen in unserer heutigen Gesellschaft. Sie ist verweichlicht und besteht aus Heulsusen.
 
Zuletzt bearbeitet:
Zurück