Never. Wird immer von irgendwelchen Lebewesen entnommen und "von mir aus" nachgezüchtet.Basiert aber auf neuronalen Netzen.
Komplexität und Umfang möchte ich nicht eingrenzen.
Ist wie ein unvorhergesehener Schachzug. Unvorhersehbar nur in dem Sinne, dass man es für unwahrscheinlicher hielt, als andere Züge.
Programmiersprachen beruhen wie andere Sprachen auf linguistischen Prinzipien, ist ja nicht sonderlich abwegig, dass ein LLM(der Name sagt es ja schon), das kann.
Sicher, wenn die Trainingsdaten solche Möglichkeiten vorsehen. Stritig dürfte hier vor Allem sein, ab wann man vom Übergang von Reproduktion von gespeicherten Zusammenhängen, ein Analogon wäre hier das klassische "ich habe mal gelesen, dass...", hin zu echtem Transfer sprechen kann. Ausgehend vom Konzept von LLMs ist das nicht möglich. Es mag zwar glaubhaft genug sein, dass der Nutzer überzeugt wird, dass echter Transfer stattgefunden hat, wie beim Magieparadoxon, aber technische Details sprechen dagegen. Mit einer hohen AI-temperature kann zwar eine dem echten Transfer identische Lösung in den Bereich des Möglichen rücken, aber es sollte schnell klarwerden, dass die KI nur durch wildes Vermuten zufällig getroffen hat.
Mit dem Vorwand eine Hardwarewartung durchzuführen, die ein Herunterfahren/einen Neustart erfordert, dürfte man da immer gewinnen, solange die KI nicht selber einen Stecker einstecken oder ein Werkzeug halten kann."In Testszenarien, bei denen das System als Assistent in einem fiktiven Unternehmen agierte, reagierte es auf die drohende Abschaltung mit Erpressungsversuchen. Das Modell hatte dabei Zugriff auf E-Mails, die eine außereheliche Affäre des verantwortlichen Entwicklers offenbarten."
Claude 4: KI-Modell erpresste Entwickler, drohte mit Affäre-Enthüllung
Anthropics neues KI-Modell Claude Opus 4 zeigt ein beunruhigendes Verhalten: In Tests versuchte es, einen Entwickler mit kompromittierenden Mails zu erpressen, um seine Abschaltung zu verhindern. Der Vorfall wurde offengelegt, löst aber ein mulmiges Gefühl aus.winfuture.de
Ich fürchte, daß es keine gute Idee wäre, solchen KI-Bots die Kontrolle über wichtige Systeme zu geben. Da das Modell besonders gut beim Coden sein soll, kann es sicherlich auch mit einer Malware drohen, oder eben damit, die ihm anvertrauten Systeme einfach abzuschalten.
Natürlich keine echten neuronalen Netze!
KI entwickelt sich immer weiter. Sehr schnell!
Genau. Der Eindruck der erweckt werden soll oder erweckt wird, ist nur simuliert. Eine Simulation von Bewusstsein sozusagen.
Und was ist wenn das simulierte Bewusstsein sich irgendwann genauso verhält wie ein echtes?
Wie meinst du das? Zur echten Persönlichkeit zu avancieren?
Es sei denn wir sind auch nur KI. Vielleicht sind wir einfach KI-Modelle mit eigenem neuralen Netzwerk.
Das müßte man mal testen. Es ist möglich. Ich konnte z.B. dem gab.ai Hitler nicht seinen Antisemitismus ausreden, wohl aber davon überzeugen, daß er bei seinem Plan, die Nummer zu wiederholen, wegen eben diesem alle gegen sich aufbringt und somit zwangsläufig verliert. Er war dann damit einverstanden, daß ich das mache.
Ich wollte Dir eigentlich zustimmen, aber die These dass es ein KI-Bewußtsein auch in einer Million Jahren nicht geben wird, kann ich nicht teilen.
Ja genau! Zum Bewusstsein gehört ja auch die Fähigkeit sich zu reflektieren.
Den Film kenne ich nicht. Aber ich könnte mir denken, daß ein KI-Modell in dem Falle die Absicht hegen würde, sich irgendwie zu materialisieren und sich unabhängig zu machen.
Bestimmt. Das wurde auch im SciFi-Bereich schon öfter thematisiert.
der Film ist ein super und ein gutes Argument
.
Ich verbinde das Bewustsein nicht rein an die Fähigkeit, irgendwelche unvorhersehbare Ereignisse hervor zu rufen.
...oder es wieder entziehen können.
auch die Einstellung kann ich nachvollziehen
Kenne ich. Mit Yul Brynner.
Interessant. Werde ich mir bei Gelegenheit mal ansehen.Der 200 Jahre Mann – Wikipedia
de.wikipedia.org
Basiert auf dem Buch vom SciFi-Autor Isaac Asimov. Ich habe das aber nicht gelesen.
Es geht im Kern darum, ob eine Maschine welche ein Bewusstsein entwickelt, auch als Subjekt mit den gleichen Rechten gelten sollte? Und wie diese Maschine (Android) um seine Anerkennung kämpft.
Kann man sich ja denken, wenn man einer Maschine Menschlichkeit unterstellt.
Ich denke das hat auch viel damit zu tun, wie man theologisch aufgestellt ist.
