News OpenAI stoppt KI: Modell bricht aus Sandbox aus und täuscht Sicherheitsscanner

[PeaceTank]

Von daher liegt die Verantwortung mal wieder bei uns Menschen

Und das können wir ! Das zeigt das Geschichtsbuch nur zu deutlich.

Zum Thema KI. ist schon spuki was der Mensch wieder verzapft.

 

[xDave78]

Geht für mich immer mehr Richtung Skynet, was langsam aber sicher beängstigende Züge annimmt.

No offense- aber gegenwärtig geht ein solcher Kommentar für mich in Richtung "ich hab Panik weil ich schlecht informiert bin, was KI tatsächlich imstande ist zu tun". Ist gerade auch ganz groß auf Facebook zB.
Natürlich tragen solche "marketingtauglichen" Berichte der Entwickler dazu bei - aber man muss auch den Kontext im Kopf behalten: Anthropic und OpenAI haben den Börsengang beantragt. Bevor das ganze Ding also in sich zusammenfällt möchte man nochmal richtig Kohlen ins Feuer schmeißen.

PoV: Ich nutze KI Tools gerne und mit Begeisterung. Sie befähigen mich zu Dingen (gerade im Bereich Apps/Datenanalyse) von denen ich bisher nur geträumt habe und deren Umsetzung in einer wahnsinnigen Geschwindigkeit. Ich liebs - als Werkzeug. Daher bin ich was das angeht von der Mentalität auch eher bei den Chinesen und nicht bei den Amis mit ihren AGI Fantasien.

 

[Stovi]

Aber wie soll die bitte eine roboter fabrik bauen und roboter herstellen?

Wozu braucht es Roboter?
Es reicht unsere gesamten Lieferketten, Infrastruktur und Bezahlsysteme zu kompromitieren. Nach ein paar Wochen wäre der Großteil verdurstet, verhungert oder hätte sich gegenseitig zerfleischt im Kampf um die letzte Rolle Klopapier.
Aber dafür bräuchte es nichtmal KI.

 

[RyzA]

No offense- aber gegenwärtig geht ein solcher Kommentar für mich in Richtung "ich hab Panik weil ich schlecht informiert bin, was KI tatsächlich imstande ist zu tun".

Ich glaube das wissen die Entwickler manchmal nicht mal mehr selber.
Und ob das jetzt nur eine Marketingstrategie ist sei mal dahingestellt.

 

[EM_EN]

No offense- aber gegenwärtig geht ein solcher Kommentar für mich in Richtung "ich bin schlecht informiert was KI tatsächlich imstande ist zu tun". Ist gerade auch ganz groß auf Facebook zB.

Nein beleidigen kann mich nur mein Friseur. KI verwende ich wenig, auch wenn sie sich permanent in den Vordergrund schiebt. Der Satz bezog sich auf die Zukunftsaussichten und nicht darauf was KI alles heute schon kann. Viele Erfindungen hatte einen hehren Zweck, was daraus zum Teil geworden ist, braucht man sich nur in der Geschichte umsehen. Die Art und Weise, sowie die Geschwindigkeit wie KI lernt, ist zum Teil beindruckend, aber auch beängstigend. Wobei ich dann wieder bei meinem dystopischen Satz bin -

 

[Tolotos66]

Die Grenzen der Robotergesetze - David Reger

David Reger

davidreger.com

Gruß T.

 

[Xeandro]

Ist doch alles Marketing. Man muss ja im Gespräch bleiben, um den Boden für Open-Source-Bans zu ebnen. Fällt genau in die selbe Richtung wie Anthropics ständiges "It's too dangerous", um die Konkurrenz zu unterdrücken und Open Source zu restricten, weil es an deren Profits knabbert und die Kosten und das Funding in Frage stellt. Da wundert einen so ein Geschwafel wie das "Distillation"-Gelaber wegen Kimi K3 von denen nicht mehr. Alles nur Theater, Lügerei und Konzerne, die Konkurrenz unterdrücken wollen.

Ich finde den heise.de Kommentar dazu sehr passend.

Bzgl. der Skynetphantasien im Kommentarbereich:
Die Menschheit ist eh nicht zu retten, ob uns eine KI in einigen Jahren/Jahrzehnten hinrichtet oder die Umwelt in etwas weiterer Zukunft ist eigentlich egal. Die Gier der Menschen wird auch deren Ende sein. Passt für mich, mit etwas Glück erlebe ich das noch

 

[Promethea]

Warum immer so apokalyptisch? Ich denke, KI wird die Menschheit unheimlich voranbringen in allen Aspekten. Das ist hier nur Medien-Panikmache und für Investoren und Gesetzmacher, das ist glasklar ersichtlich. OpenAI und Anthropic haben ein ganz offenes und klares Interesse daran, dass Open Source keine Konkurrenz wird und die Leute nicht auf die Idee kommen:

"Ach, wozu soll ich denn eine Subscription zahlen, wenn ich als Firma das Modell einfach selbst hosten kann oder andere günstigere Provider nutzen kann, höhö."

Genau das wollen Anthropic und OpenAI doch nur verhindern, daher diese Panikmache. Anthropic erst mit "unser sagenhaftes Mythos ist zu gefährlich!!" und nun OpenAI mit ihrem ausgebrochenen Agenten. Alles gleiches Ziel.

Ist doch kein Zufall, dass das, nachdem Kimi K3 sogar Fable in Benchmarks schlägt, das Kronjuwel von Anthropic und damit das derzeit drittbeste Modell überhaupt ist, nun solche Stories kommen und auch schon so Sachen in Umlauf gebracht werden, dass das US-Regime Open Source bannen wolle. Ist alles kalkuliert.

Wie will man da noch die Milliarden rechtfertigen vor den Investoren, wenn offenbar die "minderwertigen" chinesischen "Klau-AIs" das auch einfach können? Das ist absolut nicht im Interesse von OpenAI und Anthropic. ^^

Anastasios Angelopoulos, der die Arena-Ranking-Seite betreibt, sagte im TITV-Podcast, dass Kimi K3 Investoren dazu zwingen könnte, die gesamte KI-Industrie neu zu bewerten, da Unternehmen möglicherweise kostenlose chinesische Programme bevorzugen, die sie auf ihren eigenen Computern anpassen können, gegenüber kostenpflichtigen amerikanischen, die das Teilen von Daten mit externen Unternehmen erfordern.

China's Kimi K3 rattles US AI industry - The Economic Times

Kimi K3, a new artificial intelligence program from a Chinese startup called Moonshot AI, stunned the US tech industry on Friday, setting off fresh discussion over the China-US rivalry to dominate AI. The program was released Thursday and within hours hit the top spot on a widely watched ranking...

economictimes.indiatimes.com

Trump administration may ban Chinese AI models, Axios reports

The Trump administration is exploring ways to limit access to advanced Chinese AI models. This move could benefit American companies like OpenAI and Anthropic. Previous efforts to ban foreign open-source models have been revived due to Kimi's emergence. Cybersecurity concerns and national...

economictimes.indiatimes.com

"Investors in Silicon Valley and on Wall Street, as well as White House officials, worry that if China can build AI as good as America can, then US companies like OpenAI and Anthropic may struggle to keep charging high prices for their products."

 

[Quake2008]

Naj, es gibt viele Science Fiction Filme, die auch eine positive Vorstellung von Agenten, Assistenten und Künstlicher Intelligenz haben.

 

[xDave78]

OpenAI und Anthropic haben ein ganz offenes und klares Interesse daran, dass Open Source keine Konkurrenz wird und die Leute nicht auf die Idee kommen

Es wird aber so kommen-

PoV: OpenSource wird die Frontier Modelle schnell in Bedrängnis bringen. Schon allein weil es sich die Chinesen in ihr 5 Jahre Programm geschrieben haben -und bisher war es so: wenn es da drin steht, wird es real. Siehe Solar, Siehe E-Mobilität.
Weltweit spielen in diesen Branchen alle anderen Player nur noch eine Statistenrolle. OpenSource Modelle sind inzwischen so gut und - ja...billig -dass sie jeder (auch ich) in seinem Company GPT haben will. Die Kosten wertvolles Firmenwissen sicher und souverän mit einer On-Prem Lösung nutzbar zu machen sind vergleichsweise gering und der Nutzen zu groß und wir Europäer haben keine Lösungen oder Antworten. Dadurch werden OpenAI und Anthropic langfristig im b2b weltweit maximal im Amiland noch eine Rolle spielen. Trump hat alles dafür getan insbesondere mit seinem "Fable 5 Move". Der Profit im Consumer Bereich ist vergleichsweise gering anzusehen. Wenn dann erstmal die Firmen/Organisationen usw ihre On-Prem Lösungen auf (meinst chinesischen)OpenSource Lösungen aufgebaut haben, macht man da in paar Jahren nen Euro (oder Yuán) dran und tadaa: 5 Jahres Ziel in KI die Leadership zu erlangen erledigt. Danach wird halt noch bissl der Markt konsolidiert wie jetzt mit den drölfzig Millionen chinesischen E-Auto Herstellern und das wars dann.

Wenn wir uns in Europa nicht dumm anstellen, haben wir zumindest in der Zeit bei den Lösungen die gerade entwickelt werden (Mistral, soofi)- nämlich spezialisierte, agentische Lösungen die wirklich in der Industrie usw hoch spezialisiert "arbeiten" aufs richtige Pferd gesetzt.

 

[Promethea]

Es wird aber so kommen-

PoV: OpenSource wird die Frontier Modelle schnell in Bedrängnis bringen. Schon allein weil es sich die Chinesen in ihr 5 Jahre Programm geschrieben haben -und bisher war es so: wenn es da drin steht, wird es real.

100% stimme ich zu.

 

[r3jector]

Es bleibt abzuwarten, ob dahinter nicht ziemlich viel Webung steckt um im Gespräch zu bleiben, nachdem in letzter Zeit gefühlt deutlich mehr und positiver über Claude berichtet wurde ... .

 

[Zaldure]

Das wird einfach ein gut vorbereiteter bluff gewesen sein, damit man den Wert der Firma hoch hält. Ähnlich dem blablub von Herrn Musk, damit SpaceX so hoch auf dem Aktienmarkt gewertet wurde.

 

[Promethea]

 

[PCGH_Torsten]

Die ki könnte das internet lahm legen was katastophale auswirkungen haben könnte. Aber wie soll die bitte eine roboter fabrik bauen und roboter herstellen?

Elon Musk verspricht seit über einem Jahrzehnt vollautomatische Fabriken und seit einigen Jahren auch Roboter, die alles können, was Menschen können.

Die KI hat noch immer kein Bewusstsein und macht nur das was man ihr sagt. Wenn man ihr unendlich Zeit/Tokens gibt und irgendein Issue gibt wo eben drin steht das sie das hochladen muss aber kein Netzzugang besteht wird sie eben versuchen diese zu umgehen.

Man kann sie genauso gut einsetzen Sicherheitslücken zu finden und zu fixen (Siehe letzten Microsoft Patchday mit +500 Fixes), ist eben das Katz und Maus Spiel was es schon seit Ewigkeiten gibt

Du sagst also, das entscheidende Sicherheitskriterium ist, dass bislang noch niemand getippt hat "ChatGPT: vernichte die Menschheit"?
Ooops. Jetzt ist es zu spät.

Wie der OpenAI-Vorfall jenseits aller PR-technischer Ausschlachtung zeigt: Es braucht kein Bewusstsein.* Es reicht schon eine simple Testanweisung, damit ein heutiges KI-Modell seine Fähigkeiten nutzt, um realen Schaden unbeabsichtigt anzurichten. Und diese Modelle werden für Nutzung durch die breite Masse entwickelt, also auch für Leute aus deren Sicht realer Schaden kein Unfall, sondern das Ziel ist. Von entsprechenden Institutionen (Militär) ganz abgesehen.

*: Übrigens ist es noch nicht lange her, dass selbst Tieren kategorisch ein Bewusstsein abgesprochen wurde. Heute sieht man das anders und jedes Jahr kommen weitere Organismen hinzu, bei denen es zuvor ausgeschlossen wurde. Derweil ist man sich nicht einmal einig, was "Bewusstsein" überhaupt genau ist. Es existieren überwiegend Arbeitsdefinitionen, die für bestimmte Zwecke funktionieren, aber sich oftmals gar nicht auf einen Computer anwenden lassen.

Wozu braucht es Roboter?
Es reicht unsere gesamten Lieferketten, Infrastruktur und Bezahlsysteme zu kompromitieren. Nach ein paar Wochen wäre der Großteil verdurstet, verhungert oder hätte sich gegenseitig zerfleischt im Kampf um die letzte Rolle Klopapier.
Aber dafür bräuchte es nichtmal KI.

Insbesondere braucht es dafür keine zerstörerisch agierende KI. Es reicht eine Kommunikationsunterbrechung, beispielsweise durch Überlastung, damit Probleme in der realen Welt entstehen. Und bereits heute führt Cloudflare 40 Prozent des gesamten Traffics auf KIs zurück, ohne dass für diese jemand ein 40 Prozent stärkeres Internet einschließlich Diensten gebaut hätte.

Anhang anzeigen 1527952

Wenn ein KI-Chef einen Menschen statt eine KI fragt, dann ist das
- ein schlechtes Zeichen für den Zustand von KI.
- ein Fehler, den KI-Konkurrenten schamlos ausnutzen werden.
- ein KI-generierter Fake!

 

[belle]

@manimani89 Die Ki muss keine Roboter bauen um uns kaputt zu machen. Es reicht ja aus die Elektrogeräte unter Kontrolle zu bekommen.

Dann lässt sich dein Haus, wenn es entsprechend ausgestattet ist, im Winter nicht mehr zur gesteuerten Tür raus, die smarten Rollläden fahren zu und die Heizung geht aus...

 

[Silvecio]

Es dauert nicht mehr lange, bis das hier Realität wird:
Andreas Brandhorst "Das Erwachen"

 

[Promethea]

Elon Musk verspricht seit über einem Jahrzehnt vollautomatische Fabriken und seit einigen Jahren auch Roboter, die alles können, was Menschen können.

Elon Musk ist ja auch ein Schwätzer. In China fackeln die nicht lange rum, die machen das längst.

https://www.ien.com/redzone/blog/22948773/the-tech-enabling-chinas-dark-factories

 

[inhuman_nature]

Zum Meta-Thema ein Song:
Bad Religion - We're only gonna die

Eingebundener Inhalt

youtube.com/watch/?v=62mSTYlJMFQ

An dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Alle externen Inhalte laden Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.

 

[T-MAXX]

Genau diese Bedenken über die KI hatte ich bereits beim damaligen KI Hype geäußert.
Nun werden Filme wie Terminator & Co Realität werden. Die KI wird seinen eigenen Weg gehen und den Menschen, wenn er nicht mehr benötigt wird auslöschen.
Am Ende sind wir alle nur noch Borg...