News Chatbot-"Erpressung": KI-Modell droht Entwickler in Testszenario

[Herr_M]

Ich bin mir nicht einmal sicher, was Bewusstsein eigentlich ist.

Aaaalso... da könnt ich jetzt philosophisch ausholen. Aber das würde dann ne halbe Abhandlung werden und das Ergebnis dürfte für die meisten wenig befriedigend sein.

Ich bitte darum.

Vor einigen Jahrzehnten entwickelten die Neurowissenschaften sich so weit, dass sie versuchten, dass Bewusstsein naturwissenschaftlich zu beschreiben. Man erkannte aber bald, wie schwierig es ist, qualitative subjektive Zustände mit naturwissenschaftlichen Attributen zu fassen. Entsprechend ergab sich ein Diskurs zwischen Neurologen und Philosophinnen. Die Philosophie konnte Begriffe, Modelle, Schlussfolgerungen oder auch nur Brückenparadigmata einbringen. Gegenwartsphilosophen wie Thomas Metzinger und Neurowissenschaftlern wie Wolf Singer haben interessante Synergien entwickelt. Heute arbeitet Metzinger auch an der philosophischen Sicht der KI.
Was wird gebraucht? Die Zusammenarbeit von Philosophie, Neurowissenschaften und Informatik, um das (menschliche) Bewusstsein besser zu verstehen und zu beschreiben.

 

[RyzA]

Was wird gebraucht? Die Zusammenarbeit von Philosophie, Neurowissenschaften und Informatik, um das (menschliche) Bewusstsein besser zu verstehen und zu beschreiben.

Ja das nennt sich interdisziplinäre Wissenschaft. In der mehrere Fachbereiche zusammenarbeiten.

Aber wie ich schon schrieb: man sollte sich schon auf einheitliche Definitionen einigen wenn man was verstehen und erklären will.

Auf Wikipedia sind ganz nette Punkte zusammengefasst welchen ich zustimmen kann:

Man unterscheidet heute in der Philosophie und Naturwissenschaft verschiedene Aspekte und Entwicklungsstufen:

1. Bewusstsein als „belebt-sein“ oder als „beseelt-sein“ in verschiedenen Religionen oder als die unbegrenzte Wirklichkeit in mystischen Strömungen.
2. Bei Bewusstsein sein: Hier ist der wachbewusste Zustand von Lebewesen gemeint, der sich unter anderem vom Schlafzustand, der Bewusstlosigkeit und anderen Bewusstseinszuständen abgrenzt. In diesem Sinn lässt sich Bewusstsein empirisch und objektiv beschreiben und teilweise eingrenzen. Viele wissenschaftliche Forschungen setzten hier an; insbesondere mit der Fragestellung, auf welche Weise Gehirn und Bewusstsein zusammenhängen.
3. Bewusstsein als phänomenales Bewusstsein: Ein Lebewesen, das phänomenales Bewusstsein besitzt, nimmt nicht nur Reize auf, sondern erlebt sie auch. In diesem Sinne hat man phänomenales Bewusstsein, wenn man etwa Schmerzen hat, sich freut, Farben wahrnimmt oder friert. Im Allgemeinen wird angenommen, dass Tiere mit hinreichend komplexer Gehirnstruktur ein solches Bewusstsein haben. Phänomenales Bewusstsein wurde in der Philosophie des Geistes als Qualiaproblem thematisiert.
4. Zugriffsbewusstsein: Ein Lebewesen, das Zugriffsbewusstsein besitzt, hat Kontrolle über seine Gedanken, kann Entscheidungen treffen und koordiniert handeln.
5. Bewusstsein als gedankliches Bewusstsein: Ein Lebewesen, das gedankliches Bewusstsein besitzt, hat Gedanken. Wer also etwa denkt, sich erinnert, plant und erwartet, dass etwas der Fall ist, hat ein solches Bewusstsein. In der Philosophie des Geistes wurde es als Intentionalitätsproblem thematisiert.
6. Bewusstsein des Selbst: Selbstbewusstsein in diesem Sinne haben Lebewesen, die nicht nur phänomenales und gedankliches Bewusstsein haben, sondern auch wissen, dass sie ein solches Bewusstsein haben.
7. Individualitätsbewusstsein besitzt, wer sich seiner selbst und darüber hinaus seiner Einzigartigkeit als Lebewesen bewusst ist und die Andersartigkeit anderer Lebewesen wahrnimmt. Man trifft es beim Menschen und andeutungsweise im Verhalten einiger anderer Säugetierarten an.

Bei einen künstlichen Bewusstsein würden wahrscheinlich Emotionen und Qualia wegfallen. Und sind meiner Meinung nach auch nicht dafür erforderlich. "Spiritualität" braucht eine KI auch nicht.

 

[Herr_M]

Bei einen künstlichen Bewusstsein würden wahrscheinlich Emotionen und Qualia wegfallen. Und sind meiner Meinung nach auch nicht dafür erforderlich. "Spiritualität" braucht eine KI auch nicht.

Warum sind Emotionen und Qualia für ein Bewusstsein nicht notwendig?

Edit: gemeint ist Bewusstsein einer KI

 

[RyzA]

Warum sind Emotionen und Qualia für ein Bewusstsein nicht notwendig?

Ich hatte geschrieben für ein künstliches Bewusstsein.

Emotionen sind eine Eigenschaft von biologischen Leben. Aber ein künstliches Lebewesen muss das meiner Meinung nach nicht zwangsläufig haben. Ich verweise da nochmal auf "Data" in Star Trek.

 

[PCGH_Jacky]

Ich verweise da nochmal auf "Data" in Star Trek.

Dem in "Wem gehört Data" erst aufgrund seiner Emotionen die "Menschlichkeit" und ein eigenes Bewusstsein zugestanden wird.

 

[Herr_M]

Data ist eine fiktivie Figur, konstruiert nach Konzept, aber nicht nach kausalen Kritierien entwickelt. Bewusstsein ist aber kausal verursacht. Ob Emotionen mit Bewusstsein einhergehen oder kausal verknüpft sind, weißt du nicht. 'Data und 'Seele' sind eher Mythos als Forschung.

 

[RyzA]

Dem in "Wem gehört Data" erst aufgrund seiner Emotionen die "Menschlichkeit" und ein eigenes Bewusstsein zugestanden wird.

Aber mit Emotionschip hat er seine Emotionen nicht unter Kontrolle und dreht durch.

Ob Emotionen mit Bewusstsein einhergehen oder kausal verknüpft sind, weißt du nicht.

Wissen tu ich es nicht aber ich vermute das für ein KI-Bewusstsein Emotionen nicht notwendig sind.

Ich hatte übrigens ChatGPT nochmal gefragt:

Kann man Bewusstsein als emergentes Produkt eines Neuronenkollektivs verstehen? Und es künstlich auf dem selben Prinzip nachbilden?

ChatGPT:​

Ja, das Konzept, dass Bewusstsein als emergentes Produkt eines Neuronenkollektivs verstanden werden kann, ist eine weit verbreitete und plausible Hypothese in den Neurowissenschaften, der Philosophie des Geistes und der Kognitionswissenschaft. Es lässt sich in zwei Teile gliedern:

---

1. Bewusstsein als emergentes Phänomen​

Emergenz beschreibt Eigenschaften oder Phänomene, die auf einer höheren Ebene auftreten, wenn viele einfache Einheiten miteinander interagieren — wobei diese Phänomene nicht vollständig durch die Eigenschaften der Einzeleinheiten erklärbar sind. Im Fall des Bewusstseins:

• Einzelne Neuronen sind nicht "bewusst".
• In großer Zahl und unter spezifischer Organisation (z.B. in Netzwerken mit rekursiven Schleifen, dynamischer Aktivität und Plastizität) emergiert aus ihrer kollektiven Aktivität möglicherweise Bewusstsein.
• Gehirnbereiche wie der präfrontale Cortex, der Thalamus, das Default Mode Network oder die Global Workspace Theory (Baars, Dehaene) versuchen, das Zusammenspiel dieser Netzwerke zu beschreiben, aus dem bewusste Erfahrung entstehen könnte.

---

2. Künstliche Replikation des Prinzips​

Die zweite Frage ist, ob wir dieses Prinzip künstlich nachbilden können. Die kurze Antwort lautet: Vielleicht – aber wir sind noch nicht so weit.

Gründe, warum es theoretisch möglich sein könnte:​

• Neuronale Netze und Deep Learning zeigen, dass Systeme durch vernetzte einfache Einheiten (wie Neuronen) komplexe Fähigkeiten entwickeln können (z.B. Sprachverständnis, Bilderkennung).
• Es gibt KI-Architekturen (z.B. Global Workspace Architectures, Rekursive neuronale Netze, Transformer mit Selbstaufmerksamkeit), die strukturell Ähnlichkeiten zu einigen vorgeschlagenen Modellen des Bewusstseins aufweisen.
• Projekte wie das Human Brain Project oder das Blue Brain Project versuchen, das Gehirn in Computermodellen detailliert zu simulieren.

Aber: Wichtige offene Fragen​

• Was genau ist Bewusstsein? Es gibt keine einheitliche Definition. Ist es nur "Information global verfügbar machen"? Oder braucht es subjektive Erfahrung ("Qualia")?
• Ist Nachbildung gleich Erzeugung? Nur weil ein System bewusstes Verhalten nachahmt (z. B. ein Chatbot), heißt das nicht, dass es "bewusst erlebt".
• Substratabhängigkeit: Ist Bewusstsein an biologische Substrate (z. B. Biochemie des Gehirns) gebunden? Oder genügt abstrakte Informationsverarbeitung?

---

Fazit​

Ja, Bewusstsein kann als emergentes Produkt eines neuronalen Kollektivs verstanden werden — das ist eine weit verbreitete Theorie.
Ob man dieses Prinzip künstlich so nachbilden kann, dass dabei wirklich künstliches Bewusstsein entsteht, ist offen – aber theoretisch denkbar.
Wenn du möchtest, kann ich einige prominente Theorien oder Simulationsexperimente genauer vorstellen.

und

Sind Emotionen und Qualia für ein künstliches Bewusstsein notwendig?

ChatGPT:​

Das ist eine zentrale Frage in der Debatte um künstliches Bewusstsein – sie berührt tiefgreifende Probleme der Philosophie des Geistes und der KI-Forschung. Lass uns sie in zwei Schritten betrachten:

---

1. Sind Emotionen notwendig für künstliches Bewusstsein?​

Emotionen haben in biologischen Systemen zentrale Funktionen:

• Sie strukturieren Aufmerksamkeit, motivieren Verhalten und bewerten Reize.
• Neurobiologisch sind Emotionen eng mit dem limbischen System verbunden – z. B. Amygdala, Hypothalamus.

Argumente dafür:​

• Einige Theorien (z. B. Antonio Damasios "Somatic Marker Hypothesis") sehen Emotionen als grundlegend für jede bewusste Entscheidungsfindung.
• Ohne Emotionen fehlt dem System möglicherweise eine wertbezogene Orientierung – alles wäre gleich "bedeutungslos".

Argumente dagegen:​

• Es gibt theoretische Modelle von Bewusstsein, die ohne Emotionen auskommen – z. B. die Global Workspace Theory (Baars, Dehaene), die eher informationsverarbeitend denkt.
• Maschinen könnten auch durch formale Zielsysteme (z. B. Belohnungsfunktionen) Prioritäten setzen, ohne echte Emotionen.

Zwischenfazit: Emotionen sind in biologischen Systemen zentral, aber künstliche Systeme könnten theoretisch auch ohne "echte Emotionen" bewusst sein, wenn sie andere Mechanismen zur Reizbewertung nutzen.

---

2. Sind Qualia notwendig für künstliches Bewusstsein?​

Qualia sind die subjektiven Erlebnisse von Erfahrung – etwa wie es sich anfühlt, rot zu sehen oder Schmerz zu spüren.

Argumente dafür:​

• Viele Philosophen (z. B. Thomas Nagel, David Chalmers) sehen Qualia als das Wesen von Bewusstsein – ohne subjektive Erfahrung gibt es kein "Bewusstsein", sondern nur Informationsverarbeitung.
• Ein System, das ohne Qualia arbeitet, wäre funktional bewusst, aber nicht phänomenal bewusst – also eher eine Simulation als ein echtes Gegenüber.

Argumente dagegen:​

• Qualia sind schwer messbar – vielleicht sind sie nur ein epiphänomenales Nebenprodukt komplexer Informationsverarbeitung, ohne kausale Relevanz.
• Einige Theorien (z. B. funktionalistische KI-Modelle) halten es für möglich, dass ein System "bewusst funktioniert", ohne echte Qualia zu haben oder zu brauchen.

Zwischenfazit: Wenn man Bewusstsein auf subjektive Erfahrung (phänomenales Bewusstsein) reduziert, sind Qualia essentiell. Wenn man es eher funktional oder informationell denkt, nicht unbedingt.

---

Endfazit​

Emotionen sind für künstliches Bewusstsein nicht zwingend notwendig, aber wahrscheinlich hilfreich für Motivation, Kontextbewertung und Verhaltenssteuerung.
Qualia hingegen sind dann notwendig, wenn man unter Bewusstsein vor allem subjektives Erleben versteht – was viele tun.

---

Wenn du magst, kann ich auch eine Übersicht machen über:

• Funktionales vs. phänomenales Bewusstsein
• Bekannte Theorien wie IIT, GWT, HOT, etc.
• Wie heutige KI-Systeme in diese Kategorien passen

Möchtest du das?

Ganz auf dem Holzweg scheine ich ja nicht zu sein. Wobei "Qualia" eigentlich auch Emotionen sind. Das erleben selber ist ja eine Art Emotion.

 

[PCGH_Jacky]

Aber mit Emotionschip hat er seine Emotionen nicht unter Kontrolle und dreht durch.

Er hat schon vorher Emotionen. Wie gesagt "Wem gehört Data". Er behält aus nostalgischen Gründen Erinnerungen an Tasha. Er hat schon Emotionen bevor er den Emotionschip überhaupt hat. fuuuunfact: Ich hab mal ne Philosophie Hausarbeit zu der Folge "Wem gehört Data" geschrieben. War ne 1,7 ^^

 

[RyzA]

Er hat schon vorher Emotionen. Wie gesagt "Wem gehört Data". Er behält aus nostalgischen Gründen Erinnerungen an Tasha. Er hat schon Emotionen bevor er den Emotionschip überhaupt hat. fuuuunfact: Ich hab mal ne Philosophie Hausarbeit zu der Folge "Wem gehört Data" geschrieben. War ne 1,7 ^^

Achso ok. Ist lange her wo ich das gesehen habe. Ich hatte bisher angenommen, dass er nur mit Emotionschip Emotionen hatte.

Aber es gibt auch noch andere Beispiele für KIs ohne Emotionen im SciFi-Bereich.