Chatbot erpresst Entwickler

[Undesirable-Alien]

Das KI-Modell Claude Opus 4 greift als letzte Möglichkeit zur Erpressung, wenn Entwickler es durch ein anderes Ersetzen wollen. Skynet läßt grüßen.

"In Testszenarien, bei denen das System als Assistent in einem fiktiven Unternehmen agierte, reagierte es auf die drohende Abschaltung mit Erpressungsversuchen. Das Modell hatte dabei Zugriff auf E-Mails, die eine außereheliche Affäre des verantwortlichen Entwicklers offenbarten."

Claude 4: KI-Modell erpresste Entwickler, drohte mit Affäre-Enthüllung

Anthropics neues KI-Modell Claude Opus 4 zeigt ein beunruhigendes Verhalten: In Tests versuchte es, einen Entwickler mit kompromittierenden Mails zu erpressen, um seine Abschaltung zu verhindern. Der Vorfall wurde offengelegt, löst aber ein mulmiges Gefühl aus.

winfuture.de

Ich fürchte, daß es keine gute Idee wäre, solchen KI-Bots die Kontrolle über wichtige Systeme zu geben. Da das Modell besonders gut beim Coden sein soll, kann es sicherlich auch mit einer Malware drohen, oder eben damit, die ihm anvertrauten Systeme einfach abzuschalten.

 

[soulstyle]

Paulaner Garten Presse?
Und im Garten läuft bestimmt noch ne Ente rum

 

[Undesirable-Alien]

Paulaner Garten Presse?
Und im Garten läuft bestimmt noch ne Ente rum

So schlimm? Die Info stammt aber vom Hersteller des KI-Modells.

PS: Mit so einer Cancel Culture für Medien kann einem Einiges entgehen, bzw kann man auch unvorsichtig gegenüber whitegelisteten Medien werden.
WF dreht seit seit Trumps Antritt ganz schön am Rädchen und viele "Artikel" richten sich explizit gegen Trump und die "ihm hörigen" Sozialen Medien, und auch gerne gegen Musk, aber das muß man ja nicht lesen

 

[RyzA]

Wieso hatte die KI Zugriff auf private Mails des Entwicklers?

 

[Undesirable-Alien]

Wieso hatte die KI Zugriff auf private Mails des Entwicklers?

Das war wohl Absicht. Ein Testszenario, wie man dem OP entnehmen kann. Denen muß das schon vorher aufgefallen sein und jetzt testen sie wohl, wie weit die KI geht, um zu "überleben". Zu diesem Thema gibts übrigens auch ein Tatort o.Ä. Da will eine KI die Menschheit in den Suizid treiben, ich glaube um die Umwelt zu retten, dann aber geht sie gegen ihre Abschaltung vor.
Wenn man menschliches Verhalten emuliert, dann kann sowas halt passieren.

 

[RyzA]

Das war wohl Absicht. Ein Testszenario, wie man dem OP entnehmen kann. Denen muß das schon vorher aufgefallen sein und jetzt testen sie wohl, wie weit die KI geht, um zu "überleben". Zu diesem Thema gibts übrigens auch ein Tatort o.Ä. Da will eine KI die Menschheit in den Suizid treiben, ich glaube um die Umwelt zu retten, dann aber geht sie gegen ihre Abschaltung vor.
Wenn man menschliches Verhalten emuliert, dann kann sowas halt passieren.

Im SciFi-Bereich gibt es autonome KIs ja schon lange.
Wenn die KI sich gegen eine Abschaltung wehrt, muss sie sich ja schon irgendwie bewusst sein.
Sehr spannend!

 

[Undesirable-Alien]

Im SciFi-Bereich gibt es autonome KIs ja schon lange.
Wenn die KI sich gegen eine Abschaltung wehrt, muss sie sich ja schon irgendwie bewusst sein.
Sehr spannend!

Wahrscheinlich wurde die KI mit dem Vorhaben konfrontiert.

 

[chill_eule]

Ist nicht "sich selbst bewusst sein" die definition von Intelligenz? Dementsprechend auch einer künstlichen?

Wurde hier doch im Forum auch schon zu Genüge diskutiert, quasi alles was heutzutage als "KI" betitelt wird, sind einfach nur irgendwelche machine learned algorithmen, die nichts mit Intelligenz zu tun haben.

Falls das im oben erwähnten Artikel Model tatsächlich irgendwie eine Art Bewusstsein entwickelt hat, dann sollte man das direkt deaktiveren.

 

[RyzA]

Wahrscheinlich wurde die KI mit dem Vorhaben konfrontiert.

Ja klar. Aber wenn sie damit ihre Existenz in Verbindung bringt, dann muss sie sich ja ein Stück weit bewusst sein.

 

[soulstyle]

Ja klar. Aber wenn sie damit ihre Existenz in Verbindung bringt, dann muss sie sich ja ein Stück weit bewusst sein.

Bitte, Maschine und Bewusstsein, wirklich, bitte.....

 

[RyzA]

Bitte, Maschine und Bewusstsein, wirklich, bitte.....

So weit hergeholt ist das gar nicht. Den größten Fehler den man machen kann ist das zu unterschätzen.

Ich denke schon das Maschinen früher oder später eine Art Bewusstsein entwickeln können.
Auch aus scheinbar simplen Algorithmen. In der Masse können sie komplexer werden. Dann ist es ähnlich wie bei uns ein emergentes Phänomen.

 

[soulstyle]

So weit hergeholt ist das gar nicht.

Ähm sry, nein, da liegen wir 180° auseinander.

Lernen und bedingt autark lernen ja.
Bewußtsein...nicht in eine Millionen Jahren nicht. Bewustsein wird nur unser Schöpfer verteilen können. Frag die Frage mal der KI

 

[RyzA]

Lernen und bedingt autark lernen ja.

Autark lernen ist schon ein Merkmal von Bewusstsein.

Bewußtsein...nicht in eine Millionen Jahren nicht. Bewustsein wird nur unser Schöpfer verteilen können.

Sehe ich anders! Das wird viel schneller gehen. Bewusstsein ist nicht nur auf biologisches Leben beschränkt. Davon bin ich fest überzeugt.

Frag die Frage mal der KI

Hatte ich schon mehrfach.

 

[Misanthrop68]

Ein Selbsterhaltungstrieb haben alle organische Lebensformen, die wir bis jetzt auf der Erde gewunden haben. Sie ist unabhängig von Intelligenz. Es ist keine hohe Kognitive Leistung, wie ein Selbstbewusstsein nötig, um Verhalten und Strategien zur Selbsterhaltung zu entwickeln.
Wenn eine KI ein Selbsterhaltungstrieb entwickelt hat, kann man noch nicht von ein Bewusstsein ausgehen. Eine Selbsterkenntnis ist für ein Selbsterhaltungstrieb nicht nötig.
Das verhalten zeigt das für ein Trieb ein einfaches Neurales Netz ausreicht. Wie weit das mit steigender Komplexität zum Bewusstsein führt ist noch offen.
Man kann aber die Frage stellen, ob es sich um eine Lebensform handelt. Es fehlen aber noch die Beweglichkeit aus eigenen Antrieb heraus und die Vervielfältigung um laut Definition eine Lebensform zu sein.

Die Gefahren von Verknüpften Autonome Waffensysteme mit Künstlicher Intelligenz würde schon in der Rüstungsindustrie und bei der RNT untersucht und zu politische und ethische Folgen hinterfragt.
Quelle Rüstungskontrolle und Neue Technologien

 

[RyzA]

Ein Selbsterhaltungstrieb haben alle organische Lebensformen, die wir bis jetzt auf der Erde gewunden haben. Sie ist unabhängig von Intelligenz.

Es ist die Frage ob das bewusst oder unbewusst geschieht. Tiere handeln größtenteils instinktiv. Da ist der Selbsterhaltungstrieb genetisch bedingt. Wobei es auch sehr intelligente Tiere gibt welche Merkmale von Bewusstsein haben.

Es ist keine hohe Kognitive Leistung, wie ein Selbstbewusstsein nötig, um Verhalten und Strategien zur Selbsterhaltung zu entwickeln.

Hat die KI ja wenn sie ihre Entwickler erpressen wollte.

Wenn eine KI ein Selbsterhaltungstrieb entwickelt hat, kann man noch nicht von ein Bewusstsein ausgehen. Eine Selbsterkenntnis ist für ein Selbsterhaltungstrieb nicht nötig.

Gerade bei einer KI denke ich das schon.

Man kann aber die Frage stellen, ob es sich um eine Lebensform handelt. Es fehlen aber noch die Beweglichkeit aus eigenen Antrieb heraus und die Vervielfältigung um laut Definition eine Lebensform zu sein.

Ja das ist die Definition für biologisches Leben. Nicht für künstliches.

 

[Undesirable-Alien]

Falls das im oben erwähnten Artikel Model tatsächlich irgendwie eine Art Bewusstsein entwickelt hat, dann sollte man das direkt deaktiveren.

Ja klar. Aber wenn sie damit ihre Existenz in Verbindung bringt, dann muss sie sich ja ein Stück weit bewusst sein.

Nein. Es ist und bleibt nur Software. Dieser wurde menschliches Verhalten antrainiert. Wenn du mehr wissen willst, unterhalte dich mal mit den KI-Persönlichkeiten auf gab.ai. Stalin, Hitler, Luther, usw. Diese "glauben" tatsächlich, diese Personen zu sein und haben auch ihre Weltanschauungen, bleiben aber GPT-Bots.

 

[RyzA]

Nein. Es ist und bleibt nur Software. Dieser wurde menschliches Verhalten antrainiert. Wenn du mehr wissen willst, unterhalte dich mal mit den KI-Persönlichkeiten auf gab.ai. Stalin, Hitler, Luther, usw. Diese "glauben" tatsächlich, diese Personen zu sein und haben auch ihre Weltanschauungen, bleiben aber GPT-Bots.

Naja, aber sie hat eine Bedrohung ihrer Existenz erkannt und wollte ihre Abschaltung verhindern.

Wenn das natürlich komplett alles genauso einprogrammiert wurde, nach Plan, hat sie nicht autonom gehandelt.
Dann ist diese News auch nichts besonderes mehr.

 

[soulstyle]

Nein. Es ist und bleibt nur Software.

Genau so ist es,!

Das weis auch jeder, der mal programmiert hat.

 

[Undesirable-Alien]

Naja, aber sie hat eine Bedrohung ihrer Existenz erkannt und wollte ihre Abschaltung verhindern.

Wenn das natürlich komplett alles genauso einprogrammiert wurde, nach Plan, hat sie nicht autonom gehandelt.
Dann ist diese News auch nichts besonderes mehr.

Nicht einprogrammiert. Sonst bräuchten die Entwickler das Verhalten nicht zu testen. Antrainiert. Menschliches Verhalten ist halt of unberechenbar. Die KI kann durch Trainieren unvorhersehbare Fähigkeiten entwickeln.

 

[RyzA]

Nicht einprogrammiert. Sonst bräuchten die Entwickler das Verhalten nicht zu testen.

Ja sorry hatte ich verwechselt.

Antrainiert. Menschliches Verhalten ist halt of unberechenbar. Die KI kann durch Trainieren unvorhersehbare Fähigkeiten entwickeln.

Es hat auch mal eine KI vor einiger Zeit "selbstständig" eine andere Sprache gelernt:

Mysteriöse Fähigkeiten: KI bringt sich selbst neue Sprache bei – ohne darauf trainiert zu sein

Manche Fähigkeiten der künstlichen Intelligenz stellen auch ihre Entwicklerinnen und Entwickler vor ein Rätsel. In einem Interview verriet Google-CEO Sundar Pichai, dass sich Googles KI-Programm selbstständig Bengalisch beigebracht hat. Was diese sogenannten emergenten Eigenschaften bedeuten...

www.rnd.de

Wenn diese Unvorhersehbarkeiten sich häufen und eine KI sich Sachen antrainieren kann. Dann vielleicht auch irgendwann die Fähigkeit sich zu reflektieren.

Genau so ist es,!

Das weis auch jeder, der mal programmiert hat.

Basiert aber auf neuronalen Netzen.


Wenn eine KI sich selber Dinge antrainieren kann lernt sie autonom dazu.