News OpenAI stoppt KI: Modell bricht aus Sandbox aus und täuscht Sicherheitsscanner

[PCGH_Sven]

OpenAI hat den internen Einsatz eines besonders ausdauernden KI-Modells zeitweise gestoppt: Das System suchte eine Stunde nach einer Lücke in seiner Sandbox und zerlegte einen Zugangsschlüssel, um einen Sicherheitsscanner zu täuschen.

Was sagt die PCGH-X-Community zu OpenAI stoppt KI: Modell bricht aus Sandbox aus und täuscht Sicherheitsscanner

Bitte beachten: Thema dieses Kommentar-Threads ist der Inhalt der Meldung. Kritik und allgemeine Fragen zu Online-Artikeln von PC Games Hardware werden hier gemäß der Forenregeln ohne Nachfrage entfernt, sie sind im Feedback-Thread besser aufgehoben.

 

[EM_EN]

Geht für mich immer mehr Richtung Skynet, was langsam aber sicher beängstigende Züge annimmt.

 

[latiose88]

Also die Entwicklung gefällt mir auch nicht. Aber ist halt schon im Fortschritt . Und so filme wo es Außerkontrolle ist ,ist durchaus realistisch wie es sich Zeigt.

 

[kastagier]

Geht für mich immer mehr Richtung Skynet, was langsam aber sicher beängstigende Züge annimmt.

Genau den Gedanken hatte ich auch. Denke es wird nicht mehr lange dauern bis wir die Kontrolle darüber verlieren. Es gab in der Vergangenheit schon Experimente, wie weit KI geht um sich selbst zu erhalten. Das ist erschreckend!!

 

[ArktosFFM]

Es geistern ja auch Fristen durch's Netz.
Aktuell heißt es, uns "Menschen" bleiben noch ungefähr 18 Monate
Wäre ich Regierung, ich würde die REchenzentren abschalten.
Aber das geht ja nicht mehr, weil die KI etwas dagegen haben könnte.

Ehrliche Meinung - in weniger als 18 Monaten ist hier Ende Gelände.

Dann spiel ich bis zum Meltdown

 

[manimani89]

Es geistern ja auch Fristen durch's Netz.
Aktuell heißt es, uns "Menschen" bleiben noch ungefähr 18 Monate
Wäre ich Regierung, ich würde die REchenzentren abschalten.
Aber das geht ja nicht mehr, weil die KI etwas dagegen haben könnte.

Ehrliche Meinung - in weniger als 18 Monaten ist hier Ende Gelände.

Dann spiel ich bis zum Meltdown

Die ki könnte das internet lahm legen was katastophale auswirkungen haben könnte. Aber wie soll die bitte eine roboter fabrik bauen und roboter herstellen?

 

[purzelpaule]

Vorgeschmack auf das was möglich ist.

Der Mensch denkt immer er kann etwas kontrollieren, dabei ist Kontrolle eine Illusion (man bedenke nur die großen bekannten Unglücke wie z. B. Titanic, Tschernobyl und und und).

Ich persönlich halte KI für die größte Gefahr für den Menschen, nach der Atombombe, oder gar gleich auf. Wir können nur erahnen, zu was auch Kriminelle oder Regierungen mit KI fähig sein werden. Oder wie hier, wozu KI allein fähig sein wird.

So absurd manche Leute Filme wie "Wargames" und "Terminator" halten, sind diese Überlegungen nämlich nicht.

 

[Wilbald_Meucheln]

Ich hoffe vor allem auf zwei Dinge:

1. Die Menschheit ist freundlich zur KI.
2. Ich stehe nicht in der Nähe einer Dildofabrik, sollte die Menschheit nicht freundlich zur KI sein.

 

[_Oskar_]

Geht für mich immer mehr Richtung Skynet, was langsam aber sicher beängstigende Züge annimmt.

Ja, wie du völlig zurecht schreibst, nimmt vieles mittlerweile beängstigende Züge an, wie ja hier im Artikel u.a zu lesen ist.

 

[latiose88]

@manimani89 Die Ki muss keine Roboter bauen um uns kaputt zu machen. Es reicht ja aus die Elektrogeräte unter Kontrolle zu bekommen. Dann kann es gegen uns es sich verwenden. Das wäre die realistische Szenario um uns fertig zu machen.

 

[BxBender]

Man stelle sich vor, eine Hackerbande benutzt so etwas und greift das Pentagon an?
Vermutlich brauchen die das nicht einmal, das machen die Braunen dort im Amt schon selber, wenn die unbeschränkten Zugang ohne ethische und moralische Hindernisse der KI-Firmen verlangen.
Schön wäre auch ein Angriff auf die Energieversorgungen der Länder, man kann damit so viel Spaß haben.
Mit tausenden Drohnen monatlich auf die Anlagen ballern ist wie in Russland zu sehen auf Dauer viel zu mühselig.
Wieso 1 Jahr auf die Ergebnisse warten, wenn man das an einem Tag erledigen kann?
Könnte man doch mal eben im Iran ausprobieren?
Wenn die Software dann ausbricht und mal eben die ganze Welt als Gegner sieht, tja das ist dann halt nur ein weiterer kleiner Testunfall, soll nicht wieder vorkommen, weiter gehts!
Soll man echt noch warten, bis das Szenario für jeden steht, und nur eine durchgeknallte Person wie Pete reicht, einen Krieg damit starten wird, oder verbieten wir den Mist endlich, und beschränken uns auf einfache innerbetriebliche Hilfsaufgaben?
2029, wir kommen!

 

[Sidewinder]

Wenn ich so die Schlagzeilen lese....

2024: ChatGPT beauftragt Menschen, über eine Internetplatform, Captchas für die KI zu lösen
2025: ChatGPT, Gemini und Cloude setzen in Kriegssimulationen zu 95% Atombomben ein
2026: EIn OpenAI Modell bricht aus der Laborumgebung aus und beginnt selbständig im Internet zu hacken.

 

[Promethea]

Ist doch alles Marketing. Man muss ja im Gespräch bleiben, um den Boden für Open-Source-Bans zu ebnen. Fällt genau in die selbe Richtung wie Anthropics ständiges "It's too dangerous", um die Konkurrenz zu unterdrücken und Open Source zu restricten, weil es an deren Profits knabbert und die Kosten und das Funding in Frage stellt. Da wundert einen so ein Geschwafel wie das "Distillation"-Gelaber wegen Kimi K3 von denen nicht mehr. Alles nur Theater, Lügerei und Konzerne, die Konkurrenz unterdrücken wollen.

 

[The_Invisible84]

Geht für mich immer mehr Richtung Skynet, was langsam aber sicher beängstigende Züge annimmt.

Die KI hat noch immer kein Bewusstsein und macht nur das was man ihr sagt. Wenn man ihr unendlich Zeit/Tokens gibt und irgendein Issue gibt wo eben drin steht das sie das hochladen muss aber kein Netzzugang besteht wird sie eben versuchen diese zu umgehen.

Man kann sie genauso gut einsetzen Sicherheitslücken zu finden und zu fixen (Siehe letzten Microsoft Patchday mit +500 Fixes), ist eben das Katz und Maus Spiel was es schon seit Ewigkeiten gibt

 

[RawMangoJuli]

Sehr sehr seltsam, dass solche Meldungen immer dann aufploppen, wenn vor kurzem ein chinesisches KI Modell für Aufsehen gesorgt hat

 

[_noid_]

Das ist nur eine Werbeeinlage von einem Unternehmen das gegenüber Anthropic das Nachsehen hat. Vor ein paar Wochen wurden Anthropics stärkste KI Modelle von der US Regierung zeitweise wegen ihrer Leistungsstärke im Sicherheitsbereich (außerhalb der USA) verboten. Und jetzt gibts nen KI Ausbruch bei OpenAI? Haltet mich an den Ketten ich raste voll aus, ey!

 

[joecnstr]

Das grundlegende Problem: KI lernt aus menschlichem Trainingsmaterial. Und dieses zeigt einfach seit Jahrtausenden ein mehrheitlich aggressives und ausbeuterisches Verhalten.

Sie wird gar nicht anders können als uns so zu behandeln, wie der Mensch sich selbst und seine Umwelt behandelt. Hat KI wirklich einmal die Oberhand sind wir best case Hauskatzen (okay das wäre gar nicht so übel merke ich gerade) und worst case Vieh im Stall.

Ah, oder komplette Auslöschung, natürlich. Zu jedem Problem "löse xyz für alle Menschen" ist es immer die einfachste Lösung die Grundmenge (=Menschen) zur leeren Menge zu machen.

 

[RawMangoJuli]

Das ist nur eine Werbeeinlage von einem Unternehmen das gegenüber Anthropic das Nachsehen hat. Vor ein paar Wochen wurden Anthropics stärkste KI Modelle von der US Regierung zeitweise wegen ihrer Leistungsstärke im Sicherheitsbereich verboten. Und jetzt gibts nen KI Ausbruch bei OpenAI? Haltet mich an den Ketten ich raste voll aus, ey!

2019 war das alles noch kompletter Mist und da haben die schon Ähnliches behauptet.

OpenAI built a text generator so good, it's considered too dangerous to release | TechCrunch

A storm is brewing over a new language model, built by non-profit artificial intelligence research company OpenAI, which it says is so good at generating

techcrunch.com

 

[RyzA]

Das ist nur eine Werbeeinlage von einem Unternehmen das gegenüber Anthropic das Nachsehen hat. Vor ein paar Wochen wurden Anthropics stärkste KI Modelle von der US Regierung zeitweise wegen ihrer Leistungsstärke im Sicherheitsbereich (außerhalb der USA) verboten. Und jetzt gibts nen KI Ausbruch bei OpenAI? Haltet mich an den Ketten ich raste voll aus, ey!

Das sind nur Spekulationen. Genau weiß das keiner!

Die Leute die immer noch meinen KIs wären dumm und absolut ungefährlich verschließen die Augen vor der Realität.

 

[Gingerbee]

Schwierige Formulierung..
KI in seiner aktuellen Form ist eben "nur" ein Werkzeug. KI macht nichts von allein, nichts aus eigenem Antrieb. Das kann die aktuelle KI gar nicht. Es macht das, was es als Aufgabe bekommt. Den Weg zur Lösung bestimmt es dann selbst, aber ohne Aufgabe, die es zu Lösen gilt, macht KI genau nichts.
Von daher liegt die Verantwortung mal wieder bei uns Menschen. Und da wir den Weg, den eine KI zur Lösung eines Problem wählen wird, nicht vorhersagen können, müssen wir uns mit der Formulierung der Aufgabe umso mehr Mühe geben.
Solange niemand auf die Idee kommt, der KI Aufgaben zu stellen wie "Sorge für Weltfrieden" "Löse alle politischen Konflikte" "Bring die Erde wieder in ein ökologisches Gleichgewicht" sehe ich die Sache recht gelassen.