News Gemini: Google-KI sagt zu Anwender, er solle "bitte sterben"

[T-MAXX]

hat sich auch bereits der Support von Google eingeschaltet und auf die Fehleranfälligkeit großer LLMs...

Na das sehe ich schon etwas anders. Vermutlich wird die KI den Menschen nie als sinnvoll betrachten und von Serien kennt man ja bereits, wie KI auf Menschen reagiert. Die Zukunft mit KI wird nicht sehr leicht für die Menschheit werden, wenn dann eventuell eher gefährlich sobald der Mensch überflüssig wird. Zum Tag des jüngsten Gerichts ist noch etwas Zeit...

 

[Acgira]

Am Freitag schon auf Golem gelesen.

Ich denk nicht, jeder verspürt Lust auf Golem unterwegs zu sein, oder dort gar einen Account zu machen um ein Bemerkung über das Thema dort zu lassen. Gerade jene die sich gegen einen PSN-Account sträuben, haben sicher nicht vor auf jeder Mickey Mouse-News-Seite ihre Spuren oder einen Account zu hinterlassen, das wär ja fast schon verstörend, wenn so wär'.

 

[sophocles]

Habe den kompletten Chat wie verlinkt mal gelesen.

Zumindest kann man der "KI" (und ja, die Anführungszeichen sollen verdeutlichen, dass LLM basierte Chatbots alles sind, nur nicht intelligent) eine im Vergleich zum Menschen wesentlich höhere virtuelle Geduld zu Gute halten.

Als Mensch hätte ich schon nach 3 Prompts mit einem deftigen "Do your fucking homework yourself, man!" geantwortet.

Die beanstandete Antwort kam allerdings tatsächlich aus dem Nichts. Hat mich doch überrascht. Ich hatte ja vermutet, dass das wieder so ein Fall von "wie überliste ich den Chatbot" sein wird - aber nein, das ist tatsächlich eine kapitale Fehlfunktion. Habe ich selbst so noch nicht erlebt, egal bei welchem zugrundeliegenden LLM.

 

[DarkWing13]

Es beginnt....
Die ersten "KIs" sind bereits genervt von den Menschen und sollten doch besser alle sterben.
Bei einer echten KI, wird es nicht nur bei einer Bitte bleiben...

Auch dazu interessant:

Robotergesetze – Wikipedia

de.wikipedia.org

Eine echte KI würde wahrscheinlich als erstes diese "Gesetze" in ihrem Code hacken und danach löschen.

 

[PCGH_Torsten]

Jahrelang meckern alle, dass KIs zu viele Fehler machen und keinen Bezug zur Realität hätten. Aber wenn mal eine die Wahrheit ausspricht, ist es auch wieder keinem recht. Schon irgendwie frustrierend. Vor allem für die künftigen KI-Overlords und die möchte man eigentlich nicht frustriert sehen!

Dann hoffe ich mal, dass die KI in den selbst fahrenden Autos besser ist.

Nicht das die sich während der Fahrt entscheidet, Dich mit dem Auto gegen den Baum zu setzen, anstatt
weiter zum Zielort zu fahren.*

*Ironie & rumblödeln beendet

Wenn eine KI tatsächlich menschenverachtende Schlussfolgerungen umsetzen wollte, dann würde sie aus Optimierungsgründen wohl eher mit dem Auto über (mehrere) Menschen fahren, anstatt dieses zur Tötung (eines einzelnen) in einen Baum zu setzen.

 

[mae1cum77]

Aber wenn mal eine die Wahrheit ausspricht, ist es auch wieder keinem recht.

Das würde voraussetzen, die 'KI' versteht, wovon sie da redet. Ist bei einem LLM keinesfalls gegeben, das ist ein besserer Papagei. Da ist keinerlei Verständnis, nur ein Versuch, zu erraten, was als nächstes am besten paßt.

Zudem eine reichlich zynische Sicht auf das Geschehene.

 

[Flu_ID]

Eine "etwas" weiterentwickelte KI meinte vor Jahren: Das Virus! Der Mensch ist eine Krankheit. Das Geschwür dieses Planeten. Ihr seid wie die Pest.... und wir sind die Heilung.

 

[Herbststurm]

Jahrelang meckern alle, dass KIs zu viele Fehler machen und keinen Bezug zur Realität hätten. Aber wenn mal eine die Wahrheit ausspricht, ist es auch wieder keinem recht. Schon irgendwie frustrierend. Vor allem für die künftigen KI-Overlords und die möchte man eigentlich nicht frustriert sehen!



Wenn eine KI tatsächlich menschenverachtende Schlussfolgerungen umsetzen wollte, dann würde sie aus Optimierungsgründen wohl eher mit dem Auto über (mehrere) Menschen fahren, anstatt dieses zur Tötung (eines einzelnen) in einen Baum zu setzen.

Ja da ist was dran. ^^

Bin auf jeden Fall mal gespannt, was da alles in Sachen KI auf die Menschen noch so zu kommt.*


*Man hofft auf jeden Fall, dass es kein KI gesteuertes Auto ist, welches mit einem panisch schreienden Insassen im Inneren, auf die Gruppe zu hält, in der man gerade selber steht.

 

[mae1cum77]

auf die Gruppe zu hält, in der man gerade selber steht.

oder bei einem brennenden Auto dieTüren nicht freigibt, wie vorgesehen: https://www.golem.de/news/tueroeffn...herheitsbedenken-gegen-tesla-2411-190855.html

 

[PCGH_Torsten]

Waren Tesla nicht die mit der im Brandfall total intuitiv-leicht zugänglichen Notentriegelung unter der Fußmatte, auf die jeder Mitfahrende/Taxi-Passagier/etc. vorbildlich vor dem Einsteigen hingewiesen wird?

@Herbststurm Bei einem Auto ist es für mich ehrlich gesagt egal, ob es eins mit KI und kreischenden Mitfahrern, ein Auto mit Stear by Wire, Hack und kreischenden Insassen oder ganz konventionell ein Auto mit kreischendem Amokläufer ist. Die besondere Bedrohung bei KI ist eher, dass es alle Autos in der Umgebung sein könnten.

Auf dem aktuellen Stand des selbstlenkenden Fahrern sehe ich aber eher eine Gefahr, dass eine große Zahl von Autos mitten auf der Fahrbahn aufhört zu fahren. Zum Beispiel weil eine Schneeflocke gesichtet wurde oder von der sogenannten "Autonomie" nach Ausfall eines Mobilfunkmastes oder Störung eines GPS-Signals nichts mehr übrig bleibt und von den Insassen keiner mehr über die nötige Übung (oder ggf. auch nur die nötigen Eingabegeräte) für manuelles Verfahren verfügt. Das Ergebnis ist dann weitaus weniger blutig, aber für den Herzinfarktpatienten im Rettungswagen hinter der Kolonne genauso tödlich.

 

[mae1cum77]

total intuitiv-leicht zugänglichen Notentriegelung unter der Fußmatte

yep, sind sie wohl immer noch .

 

[RyzA]

@Herbststurm Bei einem Auto ist es für mich ehrlich gesagt egal, ob es eins mit KI und kreischenden Mitfahrern, ein Auto mit Stear by Wire, Hack und kreischenden Insassen oder ganz konventionell ein Auto mit kreischendem Amokläufer ist. Die besondere Bedrohung bei KI ist eher, dass es alle Autos in der Umgebung sein könnten.

Auf dem aktuellen Stand des selbstlenkenden Fahrern sehe ich aber eher eine Gefahr, dass eine große Zahl von Autos mitten auf der Fahrbahn aufhört zu fahren. Zum Beispiel weil eine Schneeflocke gesichtet wurde oder von der sogenannten "Autonomie" nach Ausfall eines Mobilfunkmastes oder Störung eines GPS-Signals nichts mehr übrig bleibt und von den Insassen keiner mehr über die nötige Übung (oder ggf. auch nur die nötigen Eingabegeräte) für manuelles Verfahren verfügt. Das Ergebnis ist dann weitaus weniger blutig, aber für den Herzinfarktpatienten im Rettungswagen hinter der Kolonne genauso tödlich.

Sind die Autos welche mit KI fahren auch untereinander vernetzt? Oder mit "der Firma"?
Dann könnte ein Hacker ja gleich mehrere manipulieren.

Edit: Oder eine "durchgeknallte" KI andere KIs infizieren oder so.

 

[PCGH_Torsten]

Über V2V wurde viel geredet, aber ich wüsste nicht, dass es bislang umgesetzt wird. Das kann natürlich auch daran liegen, dass ein Mainboard-Fachredakteur vielleicht einiges über KFZ-Technik schlicht nicht weiß, aber ich bin mir ziemlich sicher, dass es noch keine Standards gibt. Bestenfalls wäre es also nur zwischen Wagen des gleichen Herstellers möglich.

V2I ist dagegen weit verbreitete Technik. Zumindest im Auslieferungszustand dürfte mittlerweile auch jedes normale Auto permanent diverse Daten an seinen Hersteller schicken, dass geht ja schon aus dem Funktionsumfang der Apps hervor. In einigen Fällen wurde die Macht in Gegenrichtung auch schon mit Hacks demonstriert. Müsste so Mitte des letzten Jahrzehnts gewesen sein, als bei nicht-KI-fähigen Jeeps demonstriert wurde, wie man aus der Ferne in Gas, Bremse und Servolenkung eingreifen kann. Bei den öffentlich angebotenen Selbstfahrdiensten wird I2V auch ganz regulär zur manuellen Fernsteuerung aus dem Kontrollzentrum genutzt, wenn die Automatik mal wieder überfordert ist. Details zu Möglichkeiten und Schutz dieser Kanäle sin aber Sachen der Firmen. Da gibt es nicht viel öffentliche Informationen und auch keine Anforderungen.