News OpenAI stoppt KI: Modell bricht aus Sandbox aus und täuscht Sicherheitsscanner

Geht für mich immer mehr Richtung Skynet, was langsam aber sicher beängstigende Züge annimmt.
No offense- aber gegenwärtig geht ein solcher Kommentar für mich in Richtung "ich hab Panik weil ich schlecht informiert bin, was KI tatsächlich imstande ist zu tun". Ist gerade auch ganz groß auf Facebook zB.
Natürlich tragen solche "marketingtauglichen" Berichte der Entwickler dazu bei - aber man muss auch den Kontext im Kopf behalten: Anthropic und OpenAI haben den Börsengang beantragt. Bevor das ganze Ding also in sich zusammenfällt möchte man nochmal richtig Kohlen ins Feuer schmeißen.

PoV: Ich nutze KI Tools gerne und mit Begeisterung. Sie befähigen mich zu Dingen (gerade im Bereich Apps/Datenanalyse) von denen ich bisher nur geträumt habe und deren Umsetzung in einer wahnsinnigen Geschwindigkeit. Ich liebs - als Werkzeug. Daher bin ich was das angeht von der Mentalität auch eher bei den Chinesen und nicht bei den Amis mit ihren AGI Fantasien.
 
Aber wie soll die bitte eine roboter fabrik bauen und roboter herstellen?
Wozu braucht es Roboter?
Es reicht unsere gesamten Lieferketten, Infrastruktur und Bezahlsysteme zu kompromitieren. Nach ein paar Wochen wäre der Großteil verdurstet, verhungert oder hätte sich gegenseitig zerfleischt im Kampf um die letzte Rolle Klopapier.
Aber dafür bräuchte es nichtmal KI.
 
No offense- aber gegenwärtig geht ein solcher Kommentar für mich in Richtung "ich bin schlecht informiert was KI tatsächlich imstande ist zu tun". Ist gerade auch ganz groß auf Facebook zB.
Nein beleidigen kann mich nur mein Friseur. KI verwende ich wenig, auch wenn sie sich permanent in den Vordergrund schiebt. Der Satz bezog sich auf die Zukunftsaussichten und nicht darauf was KI alles heute schon kann. Viele Erfindungen hatte einen hehren Zweck, was daraus zum Teil geworden ist, braucht man sich nur in der Geschichte umsehen. Die Art und Weise, sowie die Geschwindigkeit wie KI lernt, ist zum Teil beindruckend, aber auch beängstigend. Wobei ich dann wieder bei meinem dystopischen Satz bin -
 
Ist doch alles Marketing. Man muss ja im Gespräch bleiben, um den Boden für Open-Source-Bans zu ebnen. Fällt genau in die selbe Richtung wie Anthropics ständiges "It's too dangerous", um die Konkurrenz zu unterdrücken und Open Source zu restricten, weil es an deren Profits knabbert und die Kosten und das Funding in Frage stellt. Da wundert einen so ein Geschwafel wie das "Distillation"-Gelaber wegen Kimi K3 von denen nicht mehr. Alles nur Theater, Lügerei und Konzerne, die Konkurrenz unterdrücken wollen.
Ich finde den heise.de Kommentar dazu sehr passend.

Bzgl. der Skynetphantasien im Kommentarbereich:
Die Menschheit ist eh nicht zu retten, ob uns eine KI in einigen Jahren/Jahrzehnten hinrichtet oder die Umwelt in etwas weiterer Zukunft ist eigentlich egal. Die Gier der Menschen wird auch deren Ende sein. Passt für mich, mit etwas Glück erlebe ich das noch :ugly:
 
Warum immer so apokalyptisch? Ich denke, KI wird die Menschheit unheimlich voranbringen in allen Aspekten. Das ist hier nur Medien-Panikmache und für Investoren und Gesetzmacher, das ist glasklar ersichtlich. OpenAI und Anthropic haben ein ganz offenes und klares Interesse daran, dass Open Source keine Konkurrenz wird und die Leute nicht auf die Idee kommen:

"Ach, wozu soll ich denn eine Subscription zahlen, wenn ich als Firma das Modell einfach selbst hosten kann oder andere günstigere Provider nutzen kann, höhö."

Genau das wollen Anthropic und OpenAI doch nur verhindern, daher diese Panikmache. Anthropic erst mit "unser sagenhaftes Mythos ist zu gefährlich!!" und nun OpenAI mit ihrem ausgebrochenen Agenten. Alles gleiches Ziel.

Ist doch kein Zufall, dass das, nachdem Kimi K3 sogar Fable in Benchmarks schlägt, das Kronjuwel von Anthropic und damit das derzeit drittbeste Modell überhaupt ist, nun solche Stories kommen und auch schon so Sachen in Umlauf gebracht werden, dass das US-Regime Open Source bannen wolle. Ist alles kalkuliert.

Wie will man da noch die Milliarden rechtfertigen vor den Investoren, wenn offenbar die "minderwertigen" chinesischen "Klau-AIs" das auch einfach können? Das ist absolut nicht im Interesse von OpenAI und Anthropic. ^^

Anastasios Angelopoulos, der die Arena-Ranking-Seite betreibt, sagte im TITV-Podcast, dass Kimi K3 Investoren dazu zwingen könnte, die gesamte KI-Industrie neu zu bewerten, da Unternehmen möglicherweise kostenlose chinesische Programme bevorzugen, die sie auf ihren eigenen Computern anpassen können, gegenüber kostenpflichtigen amerikanischen, die das Teilen von Daten mit externen Unternehmen erfordern.



"Investors in Silicon Valley and on Wall Street, as well as White House officials, worry that if China can build AI as good as America can, then US companies like OpenAI and Anthropic may struggle to keep charging high prices for their products."
 
Zuletzt bearbeitet:
Naj, es gibt viele Science Fiction Filme, die auch eine positive Vorstellung von Agenten, Assistenten und Künstlicher Intelligenz haben.
 
OpenAI und Anthropic haben ein ganz offenes und klares Interesse daran, dass Open Source keine Konkurrenz wird und die Leute nicht auf die Idee kommen
Es wird aber so kommen-

PoV: OpenSource wird die Frontier Modelle schnell in Bedrängnis bringen. Schon allein weil es sich die Chinesen in ihr 5 Jahre Programm geschrieben haben -und bisher war es so: wenn es da drin steht, wird es real. Siehe Solar, Siehe E-Mobilität.
Weltweit spielen in diesen Branchen alle anderen Player nur noch eine Statistenrolle. OpenSource Modelle sind inzwischen so gut und - ja...billig -dass sie jeder (auch ich) in seinem Company GPT haben will. Die Kosten wertvolles Firmenwissen sicher und souverän mit einer On-Prem Lösung nutzbar zu machen sind vergleichsweise gering und der Nutzen zu groß und wir Europäer haben keine Lösungen oder Antworten. Dadurch werden OpenAI und Anthropic langfristig im b2b weltweit maximal im Amiland noch eine Rolle spielen. Trump hat alles dafür getan insbesondere mit seinem "Fable 5 Move". Der Profit im Consumer Bereich ist vergleichsweise gering anzusehen. Wenn dann erstmal die Firmen/Organisationen usw ihre On-Prem Lösungen auf (meinst chinesischen)OpenSource Lösungen aufgebaut haben, macht man da in paar Jahren nen Euro (oder Yuán) dran und tadaa: 5 Jahres Ziel in KI die Leadership zu erlangen erledigt. Danach wird halt noch bissl der Markt konsolidiert wie jetzt mit den drölfzig Millionen chinesischen E-Auto Herstellern und das wars dann.

Wenn wir uns in Europa nicht dumm anstellen, haben wir zumindest in der Zeit bei den Lösungen die gerade entwickelt werden (Mistral, soofi)- nämlich spezialisierte, agentische Lösungen die wirklich in der Industrie usw hoch spezialisiert "arbeiten" aufs richtige Pferd gesetzt.
 
Zuletzt bearbeitet:
Es bleibt abzuwarten, ob dahinter nicht ziemlich viel Webung steckt um im Gespräch zu bleiben, nachdem in letzter Zeit gefühlt deutlich mehr und positiver über Claude berichtet wurde ... .
 
Zurück