News WhatsApp: KI-gestützter Chat ab sofort als Beta-Version verfügbar

[binär-11110110111]

Eine kurze Frage von jemandem, der für sein Leben gerne liest (und dabei auch tatsächlich Hardcover/Paperbacks bevorzugt): Warum muss es denn ein "staubiges" Märchenbuch sein? Die Geschichte selbst, die vorgelesen wird ändert sich nicht, nur weil sie von einem eBook kommt.

Weil nur die dicken alten (verstaubten) Märchenbücher die Magie ausstrahlen. Natürlich geht auch ein eBook, aber echter Zauber geht nur von einem Buch aus - wenn möglich mit dickem Einband und schön verziert. Altdeutsche Schrift rundet das Erlebnis noch ab. Nur so verzaubert man Kinder. Ich spreche da aus Erfahrung.

 

[Drayygo]

Weil nur die dicken alten (verstaubten) Märchenbücher die Magie ausstrahlen. Natürlich geht auch ein eBook, aber echter Zauber geht nur von einem Buch aus - wenn möglich mit dickem Einband und schön verziert. Altdeutsche Schrift rundet das Erlebnis noch ab. Nur so verzaubert man Kinder. Ich spreche da aus Erfahrung.

Nah, da muss ich widersprechen. Wie und was man vorliest ist viel wichtiger. Das dickste, staubigste und schönste Märchenbuch bringt dir nix, wenn du beim vorlesen klingst wie Eric Claptons Gesicht beim Gitarre spielen.

 

[PCGH_Torsten]

Mir erschließt sich die Sinnhaftigkeit nicht. Wozu brauche ich bitte eine KI in einem "KurzNachrichtenDienst"???

Stell dir vor, du hättest keine Freunde, die mit dir über absolut alles reden wollten, dass Zuckerberg interessieren könnte (also ABSOLUT alles). Dann würden Meta ja die Hälfte der Informationen entgehen, die sie zu Geld machen könnten! Deswegen gibt es jetzt KIs, mit denen du plaudern kannst.

 

[RyzA]

Stell dir vor, du hättest keine Freunde, die mit dir über absolut alles reden wollten, dass Zuckerberg interessieren könnte (also ABSOLUT alles). Dann würden Meta ja die Hälfte der Informationen entgehen, die sie zu Geld machen könnten! Deswegen gibt es jetzt KIs, mit denen du plaudern kannst.

Die Nachrichten sind ja angeblich "Ende zu Ende" verschlüsselt. Meinst du Meta liest wirklich mit?

 

[PCGH_Torsten]

Ich nutze Whats App selbst nicht, aber meinem Wissen nach muss man keine privaten Schlüssel anlegen und Meta hat die Möglichkeit, anstößige Inhalte zu moderieren respektive Illegales zu filtern. Sie verfügen also über die nötigen Schlüssel für eine Dekodierung – Ende zu Ende ohne persönlichen Key schützt nur vor Dritten, aber nicht vor dem, der die (automatische) Verschlüsselung eingerichtet hat. Ob Meta sowas auch regelmäßig macht, weiß ich nicht. Offiziell werten sie nur Metadaten (haha!) aus sowie alles im Profil Hinterlegte einschließlich sämtlicher Informationen, die sich über Dritte in Adressbüchern und ähnlichem finden. (Womit nahezu jeder Whats-App-Nutzer gegen die DSGVO verstoßen haben dürfte.) Aber offiziell dulden sie auch keine Minderjährigen auf Instagram und stehen jetzt trotzdem wegen Jugendschutzverstößen vor Gericht.

Für die KI-Chat-Partner, um die es hier geht, spielt all das jedenfalls keine Rolle: Nirgendwo steht etwas davon, dass diese Modelle auf dem jeweiligen Endgerät laufen sollen und die meisten Smartphones werden kaum die nötige Leistung dafür haben. Also stellt die noch nicht näher beschriebene Beta-Funktion eine Verbindung zu den Meta-Servern her. Wenn man direkt an Zuckerberg schreibt, spielt es wohl keine Rolle, ob und wie während der Übertragung verschlüsselt wird. Die KI muss am Ende "mitlesen", denn sie soll sogar antworten.

 

[RyzA]

Ich nutze Whats App selbst nicht, aber meinem Wissen nach muss man keine privaten Schlüssel anlegen und Meta hat die Möglichkeit, anstößige Inhalte zu moderieren respektive Illegales zu filtern. Sie verfügen also über die nötigen Schlüssel für eine Dekodierung – Ende zu Ende ohne persönlichen Key schützt nur vor Dritten, aber nicht vor dem, der die (automatische) Verschlüsselung eingerichtet hat. Ob Meta sowas auch regelmäßig macht, weiß ich nicht. Offiziell werten sie nur Metadaten (haha!) aus sowie alles im Profil Hinterlegte einschließlich sämtlicher Informationen, die sich über Dritte in Adressbüchern und ähnlichem finden. (Womit nahezu jeder Whats-App-Nutzer gegen die DSGVO verstoßen haben dürfte.) Aber offiziell dulden sie auch keine Minderjährigen auf Instagram und stehen jetzt trotzdem wegen Jugendschutzverstößen vor Gericht.

Vielleicht filtern sie die Chats nach Keywords. Aber selbst das wäre ein erheblicher Aufwand.
Bei weltweit 2 Milliarden aktiven Nutzern.

 

[Drayygo]

anstößige Inhalte zu moderieren

Nein. Außer evtl. in öffentlichen (lies, Business) Accounts. In meinen privaten Chats kann ich posten was ich will - auch Nacktbilder, Screenshots aus Games/Filmen mit Gore etc.

Ich weiß nicht, wie es aussieht, wenn mein Gegenüber das meldet - aber ohne Aktion eines Chatteilnehmers hat Meta keinen Einfluss auf deine privaten Chats.

Nachtrag mit Quelle:

Metadaten: Wo das eigentliche Privacy-Problem von WhatsApp liegt

Hat WhatsApp ein Problem mit der Ende-zu-Ende-Verschlüsselung? Ein Investigativbericht aus den USA legt das fälschlicherweise nahe. Deutsche Medien greifen die Meldung auf und übernehmen das schwierige Framing. Darüber gerät die eigentliche Gefahr aus dem Blick. Ein Kommentar.

netzpolitik.org

TLDR: Nein, Whatsapp kann ohne Zutun von dir oder deinem Chatpartner keinen deiner Chats lesen. Die Verschlüsselung ist dahingehend sicher und korrekt. Deutsche Medien waren nur doof und hatten keine Lesekompetenz und haben es falsch ausgedrückt. Was Whatsapp hingegen kann ist, GEMELDETE Inhalte (und nur diese, nicht den restlichen Chatverlauf) untersuchen. Wenn man also Hitlerbilder verschickt, ungefragt Pimmelfotos versendet oder ähnliches, dieses dann (zu Recht) gemeldet wird, dann kann sich Meta das angucken und ggfs. entfernen/rechtliche Schritte einleiten.

 

[PCGH_Torsten]

Als Teil der "doofen" deutschen Medien brauche ich dann wohl noch einmal Nachhilfe in Sachen Textverständniss: Was meint Whats App wohl mit folgenden Zeilen?

Erkennung
Um sexuelle Ausbeutung von Kindern weiter zu bekämpfen, stützt WhatsApp sich auf sämtliche verfügbaren unverschlüsselten Informationen, einschließlich Meldungen von Benutzern, um diese Art von Missbrauch zu erkennen und zu verhindern. Wir arbeiten fortlaufend daran, unsere Erkennungstechnologie zu verbessern.
[...]
Außerdem verwenden wir Klassifizierungen durch maschinelles Lernen, um sowohl Textabschnitte wie Benutzerprofile und Gruppenbeschreibungen zu scannen als auch um Gruppeninformationen und verdächtiges Verhalten hinsichtlich des Teilens von kinderpornografischem Bildmaterial zu bewerten.
Neben unseren eigenen proaktiven Anstrengungen zur Erkennung ermutigt WhatsApp seine Benutzer, fragwürdige Inhalte zu melden.

Wie WhatsApp den Kampf gegen Kindesmissbrauch unterstützt | WhatsApp-Hilfebereich

faq.whatsapp.com

Meldungen sind laut Meta selbst nur ein ergänzender Bestandteil. In erster Linie analysiert man "proaktiv" das "Verhalten" von Usern ohne explizite Zugangsgewährung. Wenn ich die Formulierung eng auslegt, können sie möglicherweise nur auf geteilte Inhalte zugreifen, sehen also nicht den eigentlichen Chat-Verlauf, sondern nur eingebundene Dateien, Links, etc..

Vielleicht filtern sie die Chats nach Keywords. Aber selbst das wäre ein erheblicher Aufwand.
Bei weltweit 2 Milliarden aktiven Nutzern.

Textverarbeitung ist technisch sehr simpel. Ein einfacher Textfilter nicht einmal ein Millionstel der Rechenleistung (grobe Schätzung – vermutlich ist es weniger als ein Milliardstel) einer Chat-KI. Und genau deren Roll-Out bereiten sie gerade für alle aktiven Nutzer vor, also haben sie offensichtlich die nötige Rechenleistung.