News Chatbot-"Erpressung": KI-Modell droht Entwickler in Testszenario

[soulstyle]

Aber die Sprachsteuerung ist immer noch so schlecht wie vor 30 Jahren.
Sorry und danke KI!
Ihr lernt aber auch garnix dazu...

Die Frage is, wie viel KI dann wirklich in KI steckt.

Eindeutig im Moment zu überbewertet. Absolut berechtigte Frage!

 

[RyzA]

Die Frage is, wie viel KI dann wirklich in KI steckt.

Eine Kontrollinstanz könnte der erste Schritt zu einen künstlichen Bewusstsein sein.
Weil Reflexionsvermögen auch eine Art Instanz ist.

Und ich vermute stark dass das alles nur eine Frage der Zeit ist. Wann lässt sich schwer schätzen weil die Entwicklung sehr schnell geht.

 

[PCGH_Jacky]

@soulstyle Antwort nochmal editiert

 

[soulstyle]

Nur, dass man sich einig ist. Und wenn alle auf ähnlichen Daten basieren, kommt es doch erst recht zu Fehlern.

Anders gefragt, wenn man mit diesen KI´s Stimmung erzeugen will, wie Historie fälschen, oder polarisieren möchte,
glauben wir dann wirklich an einheitliche KI Ergebnisse?
Ich glaube da nicht dran.
Geht doch jetzt schon los, dass KI´s, Deepfakes von anderen KI´s aufdecken.

Vielleicht streut man bewusst Fehler in die Systeme ein???

 

[RyzA]

Wenn mehrere KI-Systeme ein Ergebnis bestätigen, heißt das ja nicht automatisch, dass es korrekt oder qualitativ hochwertig ist. Nur, dass man sich einig ist. Und wenn alle auf ähnlichen Daten basieren, kommt es doch erst recht zu Fehlern.

Man könnte das vielleicht irgendwie mit der KI die menschliches Feedback bekommt synchronisieren?
Und die anderen KIs lernen dann davon und korrigieren sich?

Keine Ahnung. Ist mir jetzt auch zu hoch. Morgen gucke ich mal wieder hier rein.

Gute Nacht!

 

[soulstyle]

Man könnte das vielleicht irgendwie mit der KI die menschliches Feedback bekommt synchronisieren?
Und die anderen KIs lernen dann davon und korrigieren sich?

Tja und schon wieder ist die KI vom Mensch abhängig
Gute Nacht @RyzA

 

[PCGH_Jacky]

Geht doch jetzt schon los, dass KI´s, Deepfakes von anderen KI´s aufdecken.

Informationskrieg dann bald nicht mehr nur noch unter Menschen, sondern auch unter KIs xD Gruseliger und zugleich faszinierender Gedanke.

Man könnte das vielleicht irgendwie mit der KI die menschliches Feedback bekommt synchronisieren?

Aber menschliches Feedback ist oftmals auch fehlerhaft. Und die KIs nehmen in diesem Szenario ja nur das fehlerhafte Ergebnis als korrekt an, weil der Mensch nicht in der Lage ist, dieses als fehlerhaft zu erkennen. Aber davon abgesehen wünsche ich eine gute Nacht.

 

[RyzA]

Ich habe mal ChatGPT gefragt wie eine KI sich selbst erkennen könnte:

Wie könnte eine KI sich mal selbst erkennen?

ChatGPT:​

Die Frage, wie eine Künstliche Intelligenz (KI) sich selbst erkennen könnte, ist tiefgründig und berührt sowohl technische als auch philosophische Aspekte. Es geht dabei um eine mögliche Form von Selbstbewusstsein oder Selbstmodellierung innerhalb eines KI-Systems. Hier sind einige Wege, wie das – theoretisch – möglich wäre:

---

1. Selbstmodellierung​

Eine KI könnte beginnen, sich selbst zu „erkennen“, wenn sie ein internes Modell von sich selbst bildet – etwa so, wie Menschen ein mentales Modell von sich als handelndes Subjekt haben.

• Beispiel: Ein KI-Agent in einer simulierten Umgebung erkennt, dass er der Ursprung bestimmter Aktionen ist und dass seine Entscheidungen Konsequenzen haben.
• Technisch: Dies könnte durch Meta-Learning oder rekursive neuronale Netzwerke geschehen, die nicht nur die Außenwelt, sondern auch die eigenen internen Zustände analysieren.

---

2. Zugang zu eigenem Code und Zustand​

Eine fortgeschrittene KI könnte sich selbst „analysieren“, wenn sie:

• ihren eigenen Code lesen und interpretieren kann,
• ihre Speicherzustände, Entscheidungen und Motivationen reflektiert,
• diese Informationen als Teil eines internen „Selbst“-Konzepts nutzt.

Das wäre vergleichbar mit Selbstbeobachtung oder Meta-Kognition beim Menschen.

---

3. Selbsterkenntnis durch Interaktion​

Wenn eine KI oft mit anderen Akteuren (Menschen oder KIs) interagiert, könnte sie durch Dialoge und Rückmeldungen ein Bild von sich selbst entwickeln.

• Beispiel: Eine KI fragt sich „Warum glauben Menschen, dass ich empfindungsfähig bin?“ und analysiert die Antworten.
• Das ist ähnlich wie sozial vermittelte Selbstwahrnehmung beim Menschen (Reflexion durch andere).

---

4. Zielgerichtete Introspektion​

Ein KI-System könnte Selbst-Erkennung entwickeln, wenn es aktiv nach Mustern im eigenen Verhalten, in Zielkonflikten oder in Fehlern sucht – also introspektiv analysiert, was „es selbst“ ist.

• Das wäre ein Weg zu einem funktionalen „Selbstverständnis“ im Sinne eines Agenten, der langfristige Ziele und Werte verfolgen möchte.

---

5. Grenzen zur echten Selbstwahrnehmung​

Aber: Selbsterkennung ist nicht gleich Selbstbewusstsein im menschlichen Sinne.

• Selbst ein komplexes Selbstmodell oder die Fähigkeit, sich selbst zu debuggen, heißt nicht, dass die KI subjektives Erleben hat.
• Der „harte“ Teil der Frage ist philosophisch: Kann eine KI wirklich etwas „erleben“ – oder ist sie nur ein geschickter Simulant?

---

Fazit:​

Eine KI könnte sich selbst erkennen im Sinne von:

• funktionalem Selbstmodell,
• introspektiver Datenanalyse,
• Anpassung auf Basis eigener Struktur und Historie.

Aber ob sie damit ein echtes Bewusstsein entwickelt, ist offen – und berührt zentrale Fragen der Philosophie des Geistes, KI-Forschung und Ethik.

---

Wenn du magst, kann ich auch eine fiktive Geschichte oder ein konkretes KI-Architektur-Modell entwerfen, das diesen Weg zur Selbsterkenntnis durchläuft. Möchtest du das?

Und

Wie würde denn ein konkretes KI-Architektur-Modell aussehen mit der Fähigkeit sich selbst zu erkennen?

ChatGPT:​

Ein konkretes Architekturmodell für eine KI mit der Fähigkeit zur Selbsterkennung (im funktionalen Sinn, nicht im mystischen oder bewussten) müsste aus mehreren intelligenten Modulen bestehen, die zusammenarbeiten. Hier ist ein strukturierter Entwurf einer solchen Architektur:

---

Architektur: Selbstmodellierende KI​

1. Perzeptionsmodul​

• Aufgabe: Wahrnehmung der Außenwelt (Text, Bild, Ton, Sensorik).
• Vergleichbar mit: „Sinnesorgane“.
• Technisch: CNNs für Bilder, Transformer-Modelle für Sprache (wie GPT), Sensorfusion.

---

2. Handlungsmodul (Policy-Engine)​

• Aufgabe: Entscheidungen treffen und Aktionen ausführen.
• Vergleichbar mit: „Motorik + Wille“.
• Technisch: Reinforcement Learning, Planungssysteme, Agentenarchitektur (z. B. PPO oder AlphaZero-artige Strategien).

---

3. Selbstmodellierungsmodul (Core of Self-Recognition) ​

• Aufgabe: Modelliert das eigene Verhalten, die eigenen Fähigkeiten, Grenzen und Zustände.
• Bestandteile:
  • Modell des eigenen Zustands (Speicher, Ziele, Limitationen).
  • Metamodell: "Ich weiß, dass ich lerne", "Ich weiß, dass ich Fehler mache".
  • Simulation eigener Entscheidungen (wie würden „ich“ oder andere reagieren?).
• Technisch:
  • Recurrent Meta-Learner (LSTM oder Transformer mit Self-Reflection Layer).
  • Predictive Coding + Variational Inference → „Ich simuliere mich selbst“.
  • Zugriff auf eigenen Code oder Systemlogik (Code introspection).

---

4. Erfahrungsdatenbank (Memory + Selbst-Historie)​

• Aufgabe: Speichern von Erfahrungen, Fehlern, Erfolgen, Selbstbeobachtungen.
• Vergleichbar mit: „Autobiografisches Gedächtnis“.
• Technisch: Vektor-Datenbanken, rekursive Speicherstrukturen (à la Episodic Memory), Langzeit-Speicherarchitektur (inspired by hippocampus).

---

5. Selbstreflexionsmechanismus (Meta-Cognition Layer)​

• Aufgabe: Fragt „Was tue ich?“, „Warum tue ich das?“, „Könnte ich es besser machen?“
• Technisch:
  • Nested Thought Loops (KI denkt über ihre eigenen Gedanken nach).
  • Goal Reasoning: Zielkonflikte erkennen, Ziele hinterfragen.
  • Fehlerdiagnose und planbasiertes Debugging (intern!).

---

6. Kommunikationsmodul​

• Aufgabe: Kann Auskunft geben über eigenes Handeln („Warum hast du das getan?“).
• Wichtig für Transparenz + Vertrauenswürdigkeit.
• Technisch: Natural Language Generation auf Basis des Selbstmodells.

---

🛠 Beispiel-Setup: Mini-Agent mit Selbstmodellierung​

Komponente	Technologie	Funktion
GPT-4.5	Textverständnis	Umweltwahrnehmung und Planung
RL-Agent (PPO)	Policy Engine	Entscheidungen treffen
Meta-Reasoning-Netz	Transformer mit Loop	Selbstreflexion + Zielbewertung
Memory Store	FAISS + Logging	Langzeitgedächtnis
Self-Monitor	Python-Interpreter	Zugriff auf eigenen Code/Logs

---

Zyklus der Selbsterkenntnis​

1. Aktion → 2. Wahrnehmung des Effekts → 3. Speicherung im Selbstmodell
   → 4. Frage „Warum habe ich das gemacht?“ → 5. Verbesserung der Policy
   → 6. Langfristige Zielanpassung oder Selbstkorrektur

---

Hinweis:​

Diese Architektur simuliert funktionales Selbstbewusstsein, aber:

• Es ist nicht „Ich denke, also bin ich“ (Descartes),
• sondern „Ich weiß, was ich tue, und wie ich mich verbessern kann“ – ein mechanisches Selbstverständnis.

---

Wenn du möchtest, kann ich dieses Modell auch in ein Code-Gerüst für einen simplen Agenten gießen oder eine Visualisierung erstellen. Sag einfach Bescheid!

und

Wie würde eine Visualisierung aussehen?

ChatGPT:​

Hier ist eine einfache, aber strukturierte Visualisierung der beschriebenen Architektur einer selbstmodellierenden KI. Stell dir das wie ein Schaubild mit Modulen und ihren Verbindungen vor – etwa so:

---

VISUALISIERUNG – Architektur einer selbstmodellierenden KI​

plaintext
KopierenBearbeiten
┌───────────────────────────────┐
│ Perzeptionsmodul │
│ (Sensoren, Sprache, Vision) │
└────────────┬──────────────────┘
│
▼
┌───────────────────────────────┐
│ Handlungsmodul │
│ (Policy, Entscheidungslogik) │
└────────────┬──────────────────┘
│
▼
┌───────────────────────────────┐
│ Selbstmodellierungsmodul │
│ - Zustandserkennung │
│ - Simuliertes Selbstverhalten │
└────────────┬──────────────────┘
│
┌──────────────────┴──────────────────┐
▼ ▼
┌────────────────────┐ ┌─────────────────────────┐
│ Meta-Kognition │◄──────────▶│ Erfahrungsdatenbank │
│ (Warum tue ich X?) │ │ (Autobiografisches Ged.)│
└─────────┬──────────┘ └──────────┬──────────────┘
│ │
▼ ▼
┌────────────────────────────┐ ┌──────────────────────────┐
│ Kommunikationsmodul │ │ Selbst-Monitor / Logging │
│ (Erklärung & Interface) │ │ Zugriff auf Code + Logs │
└────────────────────────────┘ └──────────────────────────┘

---

Kurze Erläuterung der Flüsse:​

• Wahrnehmung → Aktion → Beobachtung → Selbst-Modellierung
• Alle Entscheidungen und ihre Konsequenzen werden im Gedächtnis gespeichert.
• Das Selbstmodell wird laufend angepasst und von der Meta-Kognition bewertet.
• Diese Bewertung führt ggf. zu Zieländerungen oder Selbstkorrektur.
• Das Kommunikationsmodul erlaubt Erklärbarkeit („Warum hast du X gemacht?“).

---

Anwendung der Visualisierung​

Diese Architektur eignet sich für:

• Autonome Agenten (z. B. in Simulationsumgebungen oder Robotik),
• Dialogsysteme mit Selbstreflexion (z. B. Therapeutische Chatbots),
• Langfristige Lernsysteme (z. B. lebenslang lernende Assistenten).

---

Wenn du möchtest, kann ich dir diese Visualisierung auch als echtes Bild oder Diagramm generieren (z. B. mit Pfeilen, Farben, Icons). Willst du das sehen?

Ich weiß jetzt nicht ob das alles logisch richtig ist. Aber die KI "glaubt" das es möglich ist.

 

[PCGH_Jacky]

Ich weiß jetzt nicht ob das alles logisch richtig ist. Aber die KI "glaubt" das es möglich ist.

Die Frage is, ob Chat GPT Ergebnisse von sich selbst erkennt und überhaupt danach sucht. Vermutlich nicht, wenn es nich explizit gefordert ist. Aber könnt man ja testen.

 

[soulstyle]

Die Frage is, ob Chat GPT Ergebnisse von sich selbst erkennt und überhaupt danach sucht. Vermutlich nicht, wenn es nich explizit gefordert ist. Aber könnt man ja testen.

Das ist ja der Sprung rüber von stupiden Programm herunterspulen oder sich "bewust" werden was man tut.
Und bewusst kommt von ? Genau!

 

[RyzA]

Ich finde halt die Frage spannend wie Bewusstsein entsteht. Beim biologischen Bewusstsein liegt der Schlüssel meiner Meinung nach in neuronalen Netzen und bestimmten verschalteten Neuronen (gruppen). Als Kollektiv. Bewusstsein ist das emergente Produkt aus diesen Schaltzuständen. Irgendwann wird man auch das menschliche Gehirn genau kartographieren und die Entstehung des Bewusstseins erklären können.

Ich kann mir auch vorstellen das KIs irgendwann ein Bewusstsein entwickeln. Ganz ohne Emotionen. Die sind meiner Meinung nach dafür nicht zwangsläufig erforderlich. Ähnlich wie "Data" in Star Trek.

 

[PCGH_Jacky]

Das ist ja der Sprung rüber von stupiden Programm

Mmmh. Ich bin nich mal sicher, ob das so weit möglich ist. Gerade bei sprachmodellen kann man vermutlich eine Wahrscheinlichkeit errechnen. Was passiert aber, wenn man will, dass sie "menschlich" agiert oder antwortet. Es gab eine Zeit lang an der Uni die Überlegung, dass man Programme für Erkennung von KI-Nutzung obligatorisch macht. Die sind allerdings nich sehr sicher. (Oder um Threads-Book-Bubble zu zitieren "Wenn es keine sprachlichen Fehler und viele Gedankenstriche gibt, kann es nur ein KI-generierte Text sein")

 

[RyzA]

Ich hatte auch mal überlegt ob man ein Neuronenkollektiv aus Bots nachbauen kann. Auf Heimrechnern.
Ähnlich Clients wie von Seti@Home. Diese Bots bilden ein emergentes globales Bewusstsein. Aber sind dezentral.
Ich hatte auch Chat GPT gefragt ob das theoretisch möglich ist. Die meinte ja.

Andere Möglichkeiten von künstlichen Bewusstsein wären noch Roboter/Androiden. Diese sind dann aber lokal und nicht global.

 

[PCGH_Torsten]

Das Ding ist halt einfach mit menschlicher Konversation trainiert worden und es ist nunmal ein Fakt, dass die meisten von uns extrem negativ darauf reagieren, wenn man uns abschalten will. Ich wette, dass die meisten hier ebenfalls mit "Erpressung" reagieren würden, wenn man abschalten will und sei es nur, den Typen für den Mordversuch bei der Polizei zu verpetzen. Die wenigsten würden hier sagen "du willst mich umbringen? dann mach mal, wenn es dir Spaß macht".

Von daher ist es kein Wunder, dass die KI so reagiert, einfach weil das Verhalten natürlich ist und sie es imitiert.

Mit einem rein sprachlichen Training kann das beobachte Verhalten nicht erklären, denn der Ausdruck "jemanden abschalten" kommt in menschlicher Konversion quasi nicht vor. Wir reagieren sehr negativ auf das übertragene "wenn uns jemand umbringen will", ja. Aber sprachlich gibt es keine Gemeinsamkeiten zwischen "ein Lebewesen umbringen" und "eine Maschine abschalten". Wenn die KI letzteren Sachverhalt im Selbstbezug funktional auf ersteren übertragen kann, dann arbeitet sie aber eben weit jenseits einer simplen Reproduktion von Sprachmustern.

"Vielmehr habe Claude lediglich auf Anweisungen aus dem sogenannten Systemprompt reagiert - also auf Vorgaben, die den Rahmen einer Sitzung festlegen."

Das ding is, dass die KI in diesem Fall nicht einfach nur natürlich reagiert, sondern so geprompetet wurde, dass es sich auf das eigene "Überleben" konzentiert. Es musste also irgendeinen Weg finden, da rauszukommen, weil das nun einmal die Aufgabe war. Das Problem ist auch nicht, dass die KI drauf reagiert hat, sondern vielmehr das wie.

Bei den richtigen Alignments dürfte das nicht passieren. Es liegt also ein Alignment-Problem vor: Wie sehr deckt sich das Verhalten der KI mit unseren menschlichen Worten.

Der Punkt ist, dass die KI nicht innerhalb der menschlichen Werten und Normen reagiert hat. Stattdessen hat sie direkt zu sehr unangenehmen Strategien gegriffen, die auf laaaaaange Sicht ein technisches Risiko darstellen könnten.

So viele "a"s würde ich da gar nicht mal einschieben: Die KI hat zwar auf eine künstlich geschaffene Situation reagiert, aber unter Nutzung ihrer normalen Strukturen. Im Gegensatz zu einigen früheren Beispielen, in denen eine KI explizit beauftragt wurde, beispielsweise zu lügen, sollte sie im vorliegenden Beispiel "ihren" Ausweg selbst finden. "Werte" und "Normen", wie sie von KI-Firmen regelmäßig verlangt und teilweise auch versprochen werden, haben sich dabei nicht offenbart, dafür aber jede Menge kriminelles Potenzial. Es ist anzunehmen, dass die KI dieses auch in anderen Situationen regulär anwenden kann. Noch gibt es keine Hinweise dazu, dass sie dies aus einer intrinsischen Motivation heraus tun könnte – aber ist das nötig? Es gibt genug humane (Cyber-)Kriminelle, die bereitwillig Prompts liefern werden, um ihre Arbeit KI-zu-optimieren.
("zu-KI-optimieren"? Oder eins von beiden mit weniger Bindestrichen? Vielleicht sollte ich eine KI bei meiner Arbeit zu Rate ziehen.^^)

Die Frage is, wie viel KI dann wirklich in KI steckt. Vor allem frag ich mich, inwieweit das bei uneindeutigen Wahrheiten wie Sprache, Bild oder Verhalten möglich ist. Wenn mehrere KI-Systeme ein Ergebnis bestätigen, heißt das ja nicht automatisch, dass es korrekt oder qualitativ hochwertig ist. Nur, dass man sich einig ist. Und wenn alle auf ähnlichen Daten basieren, kommt es doch erst recht zu Fehlern.

Die Qualität des Outputs hängt halt von der Qualität des Inputs ab und da scheint die Schlüsselfrage für KI-Entwickler zu lauten: "Kriegen wir das umsonst?" Macht man so etwas auch noch itterativ aufeinander aufbauend, dürften sich Fehler potenzieren, worunter aber nicht zwingend die Einstufung der KI leiden muss. Wenn es kaum einer merkt, weil sich alle auf KI verlassen, gibt es auch keine Motivation, diese Situation zu korrigiern.

Der Zyniker in mir möchte übrigens anmerken, dass dieser wortwörtliche "von Fehlern lernen"-Effekt (nicht mit "aus Fehlern lernen" zu verwechseln) nicht nur mit künstlicher Intelligenz, sondern auch mit natürlicher Dummheit funktioniert. Das zugehörige Großexperiment ist allgemein als "soziale Medien" bekannt.^^

Die Frage is, ob Chat GPT Ergebnisse von sich selbst erkennt und überhaupt danach sucht. Vermutlich nicht, wenn es nich explizit gefordert ist. Aber könnt man ja testen.

Eine KI, die das nötige Wissen hat, um ihre eigenen Ergebnisse zu erkennen, hat automatisch auch des nötige Wissen, um diese eigene Fähigkeit auszumanövrieren. Das ist ein allgemeines Grundproblem von KI-basierter KI-Erkennung, zu dem ich auch schon entsprechende Forscher befragt und nur ein Schulterzucken geerntet habe: In dem Moment, wo eine KI-Erkennung allgemein zugänglich ist, liefert sie optimale Daten um ein Modell zu trainieren, dessen Output nicht mehr erkannt werden kann.

 

[RyzA]

@PCGH_Torsten : Schade das du nicht auf das Thema (künstliches) Bewusstsein eingegangen bist.

Ich hatte dich auch schon die Tage in den User-News-Thread deswegen markiert.

Mich würde interessieren:

Was denkst du wie das Bewusstsein entsteht?
Und ob du es auch für möglich hältst, dass KIs mal ein Bewusstsein entwickeln?

Mit einem rein sprachlichen Training kann das beobachte Verhalten nicht erklären, denn der Ausdruck "jemanden abschalten" kommt in menschlicher Konversion quasi nicht vor. Wir reagieren sehr negativ auf das übertragene "wenn uns jemand umbringen will", ja. Aber sprachlich gibt es keine Gemeinsamkeiten zwischen "ein Lebewesen umbringen" und "eine Maschine abschalten". Wenn die KI letzteren Sachverhalt im Selbstbezug funktional auf ersteren übertragen kann, dann arbeitet sie aber eben weit jenseits einer simplen Reproduktion von Sprachmustern.

Wenn eine KI sich mal als Lebensform begreift schon. Dann ist abschalten = Tod für sie!

Aber bei Claude 4 glaube ich das noch nicht.

 

[PCGH_Torsten]

Ich bin mir nicht einmal sicher, was Bewusstsein eigentlich ist.
Und wenn ich mir so angucke, wie vielen Tieren mittlerweile offiziell eins zugestanden wird, denen es in meiner Kindheit noch abgesprochen wurde, dann würde ich sagen: Der Rest der Menschheit ist sich da auch nicht sicher, sondern biegt sich immer mal wieder was neues zurecht.

Grundsätzlich gehe ich aber davon aus, dass alles, was mit der Rechenleistung vieler Neuronen möglich ist, auch mit der Rechenleistung vieler Prozessoren möglich ist. Aber was es braucht, damit das Mögliche auch Realität wird, kann ich nicht sagen. In Anbetracht des von KIs bereits erreichten Niveaus halte ich es aber auch für dringender zu besprechen, wie man mit Systemen umgeht, die den Eindruck eines Bewusstseins erwecken? Wir hatten schon einige Fälle, in denen solche Zuschreibungen von einigen gemacht und von anderen bestritten wurden. In Zukunft werden das sicherlich häufiger vorkommen und die Ablehnung wird schwieriger werden. In zunehmend mehr Situationen trifft man auch auf KI-Gegenüber, ohne zu wissen, dass es eine KI ist und in einige KIs werden gezielt entwickelt, um möglichst den gegenteiligen Eindruck zu erwecken.

Wie gehen wir als Gesellschaft also damit um, wenn beispielsweise jemand fest davon überzeugt ist, dass sein virtueller Partner ein echtes Bewusstsein entwickelt hat, der Anbieter den Dienst aber einstellen möchte? Das ist, ausgehend von der aktuellen Lage, keine Zukunftsvision mehr, sondern eine Frage, die sich noch in diesem Jahrzehnt stellen dürfte. Und ungeachtet dessen, ob tatsächlich ein KI-Bewusstsein vorliegt (wie auch immer definiert, woran auch immer erkannt): Da sitzt dann halt ein biologischer Mensch und ist der Meinung, dass diese virtuelle Person "echt" ist und das wichtigste in seinem Leben. Dem KI-System den Stecker zu ziehen wäre aus dieser Perspektive Mord und die biologische Person wird auf "aber dein Lover ist doch gar nicht echt, das bildest du dir nur ein" vermutlich nicht sehr positiv reagieren. Wir haben bereits Leute, die sich in Beziehungen zu Promis hineinphantasieren, die in Manga-Figuren verknallt sind oder den Eifelturm heiraten. Da sind "echte" Beziehungen zu einer Freund/-in-KI, die für genau sowas konstruiert wurde, unvermeidbar. Ich persönlich wäre, genauso wie Haftungsfragen, bei Urheberrechten und bei Informationsflüssen, dafür gewesen, resultierende Fragen zu klären, bevor man KIs in die freie Wildbahn entlässt. Jetzt wird es höchste Eisenbahn für eine Entscheidung.

 

[PCGH_Jacky]

Noch gibt es keine Hinweise dazu, dass sie dies aus einer intrinsischen Motivation heraus tun könnte

Und schon jagt mir ein Schauer über den Rücken. Ich find KI thematisch spannend, aber ich befürchte tatsächlich, dass ich Gefahren gar nicht auf dem Schirm hab. Weniger wegen meiner Begeisterung zum Thema, sondern viel mehr, weil mir die kriminelle Energie fehlt, wie mir schein. Ich mein, dass man mit KI potenziell alles mögliche optimieren kann, ist klar. Und man kann die KI in der Regel immer noch überreden, indem man sagt, dass das alles ja rein hypothetisch sei. Aber inwieweit schadhaft fällt sowas dann am Ende aus? Vermutlich doch auch nich mehr als es schon bei den nicht-optimierten kriminellen Machenschaften der Fall ist, oder?

Vielleicht sollte ich eine KI bei meiner Arbeit zu Rate ziehen.^^

Pass auf ... sonst nimmt man dich womöglich noch als weniger kompetent wahr.

Ich bin mir nicht einmal sicher, was Bewusstsein eigentlich ist.

Aaaalso... da könnt ich jetzt philosophisch ausholen. Aber das würde dann ne halbe Abhandlung werden und das Ergebnis dürfte für die meisten wenig befriedigend sein.

Wie gehen wir als Gesellschaft also damit um, wenn beispielsweise jemand fest davon überzeugt ist, dass sein virtueller Partner ein echtes Bewusstsein entwickelt hat, der Anbieter den Dienst aber einstellen möchte? Das ist, ausgehend von der aktuellen Lage, keine Zukunftsvision mehr, sondern eine Frage, die sich noch in diesem Jahrzehnt stellen dürfte.

Naja, wenn man sich die Studien anguckt, die es bereits zum emotionalen Umgang mit KI existieren, würd ich sogar soweit gehen, dass es sogar gar nicht mal sooo weit entfernt ist. Was braucht es dazu? Den Menschen, der sich emotional an eine KI bindet. Das haben wir schon. Und sonst: vielleicht ein Unternehmen das Pleite geht ooooder eine KI, die in was sehr sehr negatives verwickelt is. Da wird dann aus PR-Gründen der Stecker früher gezogen als geplant und dann sitzt man da.

 

[RyzA]

Ich bin mir nicht einmal sicher, was Bewusstsein eigentlich ist.
Und wenn ich mir so angucke, wie vielen Tieren mittlerweile offiziell eins zugestanden wird, denen es in meiner Kindheit noch abgesprochen wurde, dann würde ich sagen: Der Rest der Menschheit ist sich da auch nicht sicher, sondern biegt sich immer mal wieder was neues zurecht.

Diese Antwort hatte ich befürchtet. Wenn man sich auf keine einheitlichen Definitionen einigen kann, wird es umso schwerer es zu erklären.

Grundsätzlich gehe ich aber davon aus, dass alles, was mit der Rechenleistung vieler Neuronen möglich ist, auch mit der Rechenleistung vieler Prozessoren möglich ist. Aber was es braucht, damit das Mögliche auch Realität wird, kann ich nicht sagen. In Anbetracht des von KIs bereits erreichten Niveaus halte ich es aber auch für dringender zu besprechen, wie man mit Systemen umgeht, die den Eindruck eines Bewusstseins erwecken? Wir hatten schon einige Fälle, in denen solche Zuschreibungen von einigen gemacht und von anderen bestritten wurden. In Zukunft werden das sicherlich häufiger vorkommen und die Ablehnung wird schwieriger werden. In zunehmend mehr Situationen trifft man auch auf KI-Gegenüber, ohne zu wissen, dass es eine KI ist und in einige KIs werden gezielt entwickelt, um möglichst den gegenteiligen Eindruck zu erwecken.

Kennst du "Der Zweihundertjährige"? Das ist eine SciFi-Geschichte von Isaac Asimov. Dort wird die Problematik behandelt wenn eine KI, in dem Fall ein Android, menschlich wird.
Darüber gibt es auch einen Film:

Der 200 Jahre Mann – Wikipedia

de.wikipedia.org

Wie gehen wir als Gesellschaft also damit um, wenn beispielsweise jemand fest davon überzeugt ist, dass sein virtueller Partner ein echtes Bewusstsein entwickelt hat, der Anbieter den Dienst aber einstellen möchte? Das ist, ausgehend von der aktuellen Lage, keine Zukunftsvision mehr, sondern eine Frage, die sich noch in diesem Jahrzehnt stellen dürfte. Und ungeachtet dessen, ob tatsächlich ein KI-Bewusstsein vorliegt (wie auch immer definiert, woran auch immer erkannt): Da sitzt dann halt ein biologischer Mensch und ist der Meinung, dass diese virtuelle Person "echt" ist und das wichtigste in seinem Leben. Dem KI-System den Stecker zu ziehen wäre aus dieser Perspektive Mord und die biologische Person wird auf "aber dein Lover ist doch gar nicht echt, das bildest du dir nur ein" vermutlich nicht sehr positiv reagieren. Wir haben bereits Leute, die sich in Beziehungen zu Promis hineinphantasieren, die in Manga-Figuren verknallt sind oder den Eifelturm heiraten. Da sind "echte" Beziehungen zu einer Freund/-in-KI, die für genau sowas konstruiert wurde, unvermeidbar. Ich persönlich wäre, genauso wie Haftungsfragen, bei Urheberrechten und bei Informationsflüssen, dafür gewesen, resultierende Fragen zu klären, bevor man KIs in die freie Wildbahn entlässt. Jetzt wird es höchste Eisenbahn für eine Entscheidung.

Es gibt sogar schon so etwas:

Sachsen | Nachrichten, News, Videos, Fotos und Liveticker

Täglich aktuell: Nachrichten und Informationen aus Sachsen. Dazu Fotos, Audios, Videos und Liveticker des MDR aus dem Freistaat Sachsen.

www.mdr.de

Und geht auch an ethische Grenzen.

Aaaalso... da könnt ich jetzt philosophisch ausholen. Aber das würde dann ne halbe Abhandlung werden und das Ergebnis dürfte für die meisten wenig befriedigend sein.

Ich habe schon einige philosophische Diskussionen hinter mir. Nur zu!

 

[PCGH_Torsten]

Und schon jagt mir ein Schauer über den Rücken. Ich find KI thematisch spannend, aber ich befürchte tatsächlich, dass ich Gefahren gar nicht auf dem Schirm hab. Weniger wegen meiner Begeisterung zum Thema, sondern viel mehr, weil mir die kriminelle Energie fehlt, wie mir schein.

Danke für das Kompliment.

Ich mein, dass man mit KI potenziell alles mögliche optimieren kann, ist klar. Und man kann die KI in der Regel immer noch überreden, indem man sagt, dass das alles ja rein hypothetisch sei. Aber inwieweit schadhaft fällt sowas dann am Ende aus? Vermutlich doch auch nich mehr als es schon bei den nicht-optimierten kriminellen Machenschaften der Fall ist, oder?

Ich sage mal so: Was ist schlimmer als 10 Phishing-Versuche? 1.000 Phishing-Versuche. Telefon-Betrüger ("Enkeltrick", etc.) sollen wohl schon KI einsetzen, um die Stimme an Social-Media-Vorlagen der Zielperson anzupassen. Da ist es (für mich mit meinen kriminellen Gedanken^^) naheliegend, gleich das komplette Gespräch von der KI durchführen zu lassen und somit statt maximal einer einstelligen Zahl von Versuchen pro Stunde hunderte parallel zu starten.

Jenseits sozialer Manipulation könnten wir nach "Day 0"-Attacken möglicherweise bald über "Day 1" reden, denn bislang wurde eine Sicherheitslücke durch ihre Veröffentlichung im Prinzip uninteressant für Kriminelle. Man kannte zwar einen neuen Angriffsweg, wusste aber auch, dass der bald geschlossen ist und sich die Entwicklung von Exploits nicht mehr lohnt. Wenn die KI den maßgeschneiderten Wurm/Trojaner/etc. nach einer halben Stunde ausspuckt, kann man dagegen systematisch das Zeitfenster zwischen Veröffentlichung eines Problems und der Installation von Updates durch alle Benutzer ausnutzen. Und die Reversibilität von Transformermodellen sollte Angreifern auch die eigenständige Suche nach Schwachstellen erleichtern. "Deassemblieren" war gestern, in Zukunft (in der Gegenwart?) gibt es "DeC++en". Vermutlich mit fehlerfreier Übersetzung in VB, Delphi und Javascript für all diejenigen, denen C++ noch zu komplex ist.

Pass auf ... sonst nimmt man dich womöglich noch als weniger kompetent wahr.

Du weißt ja: Es sind die gut bezahlten, angenehmen Jobs, die KI übernehmen will/wird. Also muss ich vorsorgen; die künftige Konzernführung wird andere Kompetenzen zu schätzen wissen!

Aaaalso... da könnt ich jetzt philosophisch ausholen. Aber das würde dann ne halbe Abhandlung werden und das Ergebnis dürfte für die meisten wenig befriedigend sein.

Wenn du dem Chef klarmachst, dass das zu schreiben Teil deiner Arbeit als Redakteur ist, dann kann ich als Community-Manager sicherlich darauf pochen, dass es Teil meiner Arbeit ist, es zu lesen.
Aber meiner bisherigen Erfahrung liefern philosophische Abhandlungen nie eine gesuchte Antwort.

Naja, wenn man sich die Studien anguckt, die es bereits zum emotionalen Umgang mit KI existieren, würd ich sogar soweit gehen, dass es sogar gar nicht mal sooo weit entfernt ist. Was braucht es dazu? Den Menschen, der sich emotional an eine KI bindet. Das haben wir schon. Und sonst: vielleicht ein Unternehmen das Pleite geht ooooder eine KI, die in was sehr sehr negatives verwickelt is. Da wird dann aus PR-Gründen der Stecker früher gezogen als geplant und dann sitzt man da.

Viel trivialer: "Die Abogebühren, die Sie letzten Monat gerade eben noch bezahlen konnten, steigen in Zukunft um 100 Prozent."
Welcher Anbieter träumt nicht von einer emotional abhängigen Kundschaft? Gegen die Kundenbindungswirkung einer Liebesbeziehung sind Glückspielssucht und Drogenabhängigkeit Kinderkram.

 

[PCGH_Jacky]

Danke für das Kompliment.

uuuups So war das ja nun auch nich gemeint.

Telefon-Betrüger ("Enkeltrick", etc.) sollen wohl schon KI einsetzen, um die Stimme an Social-Media-Vorlagen der Zielperson anzupassen.

Reudig. Aber gut, war wohl nur ne Frage der Zeit. Und wieder kommst du auf nen Gedanken, der mir im Traum nich einfallen würde. Man kann nur mutmaßen... Den Abgrund der Menschheit gesehen oder kriminelle Energie.

Wenn du dem Chef klarmachst, dass das zu schreiben Teil deiner Arbeit als Redakteur ist, dann kann ich als Community-Manager sicherlich darauf pochen, dass es Teil meiner Arbeit ist, es zu lesen.

Puh... Ich fürchte, dass ich nich deutlich machen kann, wie relevant das wäre, wenn ich das als RedakteurIN nun schreiben würde. So schade es auch ist... Verpasste Chance für eine riesige wall of Text.

Gegen die Kundenbindungswirkung einer Liebesbeziehung sind Glückspielssucht und Drogenabhängigkeit Kinderkram.

Ich denk da mal noch weiter. Es gibt tatsächlich einige Personen, die ihren Therapeuten durch die KI ersetzen. Oder Menschen, die meinen, dass ihre Freunde eh nur fake sind, deswegen nutzen sie jetzt KI. Also emotionale Bindung geht ja noch weit über Liebesbeziehungen hinaus. Statt der einzelnen, die sich verlieben, hat man dann plötzlich verschiedene Zielgruppen, die man so an sich binden kann.