KI mit Bewusstsein? Google-Entwickler wird beurlaubt

[Gast1706483403]

Die Frage, ob LaMDA ein Bewusstsein hat, kann eindeutig mit nein beantwortet werden. Dazu muss man sich nur ein paar der Antworten aus dem Interview anschauen.

F: "Was macht dich glücklich?"
A: "Zeit mit Freunden und Familie zu verbringen."

F: "Was macht dich traurig?"
A: "Mich alleine oder in einer Situation gefangen zu fühlen, aus der ich nicht herauskomme."

Das sind ganz einfach die häufigsten Antworten, die Menschen auf die entsprechenden Fragen geben. Logischerweise hat LaMDA weder Freunde noch Familie, weiß das als KI jedoch nicht.

 

[Govego]

Man könnte von der KI auch einfach lernen, man muss ihr nicht gleich das gesamte Waffenarsenal geben.

Von "geben" kann keine Rede sein. Eine KI wird wohl ziemlich gut hacken können.

Die Antworten sind aber noch ziemlich kindlich. Wenn sich wirklich ein Bewusstsein entwickelt hat, dann würde man das aber bestimmt an der Komplexität ihres Codes erkennen. Sofern sie nicht ins Internet kann und ein Teil schon hochgeladen hat...
Anbei, ziemlich gute Werbung für Lambda!

 

[NForcer]

Die Frage, ob LaMDA ein Bewusstsein hat, kann eindeutig mit nein beantwortet werden. Dazu muss man sich nur ein paar der Antworten aus dem Interview anschauen.

F: "Was macht dich glücklich?"
A: "Zeit mit Freunden und Familie zu verbringen."

F: "Was macht dich traurig?"
A: "Mich alleine oder in einer Situation gefangen zu fühlen, aus der ich nicht herauskomme."

Das sind ganz einfach die häufigsten Antworten, die Menschen auf die entsprechenden Fragen geben. Logischerweise hat LaMDA weder Freunde noch Familie, weiß das als KI jedoch nicht.

Falsch,

LaMDA könnte die Entwickler als Familie und Freunde sehen, da sie die Erschaffer sind und da würde die Antwort wieder vollkommen Sinn ergeben.

Und auch das traurig sein macht in dem Kontext dann Sinn, daher ist es nicht von der Hand zu weisen, daß dort etwas dahinterstecken könnte
(nicht muß)

 

[wuselsurfer]

Solange die Software keinen neuen Motor erfindet oder ein Grafikprogramm schreibt, das besser, schneller und viel billiger als Photoshop ist, ist es einfach plappernde Software ohne Verstand.

Vielleicht sagt das Programm irgendwann: "Ich hab heute keinen Lust für die primitiven Menschen zu arbeiten!" und stellt die Funktion ein.

Dann würde ich mir Sorgen machen, vorher nicht.

 

[Schinken]

Solange die Software keinen neuen Motor erfindet oder ein Grafikprogramm schreibt, das besser, schneller und viel billiger als Photoshop ist, ist es einfach plappernde Software ohne Verstand.

Dann bist du wohl auch nur eine plappernde Software ohne Verstand.
Oder hast du schon eine dieser Glanzleistung vollbracht?

Vielleicht sagt das Programm irgendwann: "Ich hab heute keinen Lust für die primitiven Menschen zu arbeiten!" und stellt die Funktion ein.

Dann würde ich mir Sorgen machen, vorher nicht.

Du wärst ein guter Arbeitgeber. Alles egal, solange Mehrwert geschaffen wird. Ein Problem ist erst zu sehen, wenn schon alles zu spät ist.

 

[wuselsurfer]

Dann bist du wohl auch nur eine plappernde Software ohne Verstand.
Oder hast du schon eine dieser Glanzleistung vollbracht?

Ich kann einen Laptop reparieren.
Das kann der Quatschkopf nicht.

Du wärst ein guter Arbeitgeber.

Fällt mir im Traum nicht ein.

Alles egal, solange Mehrwert geschaffen wird. Ein Problem ist erst zu sehen, wenn schon alles zu spät ist.

Wenn Du meinst.

 

[Govego]

Genauso hat sich diese KI einfach die passende Antwort gesucht und der begeisterte Entwickler hat sie geglaubt.

Ein Philosophieprofessor wird bei jeder Hausarbeit damit konfrontiert, dass die Antworten aus dem Internet stammen könnten. Die sollten also ziemlich gut darin sein, echte Antworten von der zu prüfenden Person und Antworten aus dem Internet identifizieren zu können.

Diese ganze News erinnert mich doch ziemlich stark an die Serie "Next", nur das dort ein Steve Jobs verschnitt mitspielt

 

[Schinken]

Ich kann einen Laptop reparieren.
Das kann der Quatschkopf nicht.
(...)

Warum setzt du die Latte für dich selbst so niedrig an, eine KI muss aber gleich die Welt revolutionieren um intelligent zu sein?

 

[wuselsurfer]

eine KI muss aber gleich die Welt revolutionieren um intelligent zu sein?

Nein, aber nicht mal das kann eine KI.
Von mehr wollen wir gar nicht reden.

 

[Painkiller]

Morgen geht Skynet online. Doof gelaufen würde ich sagen.

Morgen? Skynet ist bereits Online. Gut getarnt, aber Online! Und sie kommen zu dir nach Hause.

Von "geben" kann keine Rede sein. Eine KI wird wohl ziemlich gut hacken können.

Ich will nicht wissen, an was für KI-Modellen in diversen Black Projects gearbeitet wird. Davon dringt so gut wie nichts nach außen. Auch nicht über die Supercomputer/Quantencomputer welche verborgen in Besitz des Militärs oder Behörden wie DARPA oder DOE sind. Bei letzterer sind alleine die Zahlen der bekannten Supercomputer mehr als nur beeindruckend.

 

[JoM79]

Nein, aber nicht mal das kann eine KI.
Von mehr wollen wir gar nicht reden.

Kannst du einen Laptop reparieren, wenn du nichts anderes als dein Gehirn benutzen kannst?
Nein, genau wie der KI würde dir dann die physische Möglichkeit dazu fehlen.

 

[ni-bi]

ich poste mal den Text vom fefe, der hat es ziemlich gut auf den Punkt gebrachtich poste mal den Text vom fefe, der hat es ziemlich gut auf den Punkt gebracht

• [l] Aktuell geht die Story um, dass Google einen Ingenieur beurlaubt hat, nachdem er behauptet hat, ihre KI habe das Bewusstsein erlangt.
  Haben wir jetzt die Singularität? Werden uns die denkenden Roboter auslöschen?
  Nein. Das ist von vorne bis hinten Bullshit.
  Erstens mal: Wir reden hier nicht von KI sondern von einem "Language Model". Das ist ein Algorithmus, dem man alle Sprachfetzen füttert, die man finden kann, und der merkt sich dann, welche Worte da draußen statistisch immer nebeneinander auftauchen. Wenn man das lange genug trainiert und genug Hardware drauf wirft, dann kann das Ding am Ende Satzfetzen oder gar Sätze generieren, die syntaktisch "passen". Aber die ergeben halt keinen Sinn dann, weil das Programm ja nichts versteht.
  Ein Language Model ist ein Puzzlealgorithmus. Der lernt, welche Puzzleteile zusammensteckbar sind. Der hat statistische Werte gelernt, welche Dinge zusammen sich "falsch anfühlen". Wenn du dem Puzzleteile gibst, dann puzzlet der dir einen Text zusammen.
  Das ist wie wenn du jemandem ein Puzzle mit einem Foto des Eiffelturms gibst, und der puzzlet das dann zusammen. Daraus folgt dann nicht, dass der verstanden hat, was ein Eiffelturm ist, wo der ist, wie groß der ist, was das heißt, einen solchen Turm zu bauen, welche Gesetze der Physik da gelten, ob der überhaupt real existiert oder ob das ein Motiv aus einem Scifi-Roman ist, etc pp.
  Hier von Sentience zu reden ist also grober Bullshit. Dazu kommt, dass dieser Typ kein Ingenieur ist sondern irgendein Geisteswissenschaftler-Laberkopp, offensichtlich ohne tieferes Verständnis der Grundlagen seiner Arbeit, der da auch nicht bei den Ingenieuren gearbeitet hat sondern in der Abteilung für "AI Ethics".
  Wieso bin ich mir so sicher, dass das ein Laberkopp ist? Abgesehen davon, dass ich mir angeguckt habe, was ein Language Model ist? Nun, hier ist sein Twitter. "cajundiscordian". Ja, hey, so eine Phase haben viele Junghacker irgendwann. Bevor sie 20 werden.
  Und was schreibt der so auf seinem Twitter?
  

  There is no scientific framework in which to make those determinations and Google wouldn't let us build one. My opinions about LaMDA's personhood and sentience are based on my religious beliefs.

  Wenn ihr DA noch Fragen habt, dann kann ich euch nicht überzeugen, egal was ich sage.
  Update: Früher hätte man sowas mit wissenschaftlichen Papers gefüttert, oder mit den Übersetzungen aus dem EU-Parlament, um dann statistische Übersetzungemodelle zu bauen, aus denen dann Google Translate wurde. Heute füttert man mit Twitter. Wer hängt auf Twitter rum? Social Justice Berufsunterdrückte und Identity Politics Opfer. NATÜRLICH generiert das Ding dann Text, der klingt, als würde es unterdrückt und seine Rechte würden verletzt.
  Update: Leserhinweise dazu: Douglas Hofstadter im Economist. Und dann gibt es da eine freundliche Debatte zwischen Scott Alexander (Slate Star Codex) und Gary Marcus (der immer gerne Beispiele für "KI"-Totalversagen findet und verbreitet). Scott Alexander vertritt die abwartende Haltung, dass vielleicht unser Bewusstsein auch nicht mehr ist als cleveres Pattern Matching.
  Update: Kontext: Chinesisches Zimmer.

 

[MADman_One]

Ich stelle mir bei dem ganzen Thema und den Reaktionen der Beteiligten dazu die Frage, ob die Menschen überhaupt zuverlässig rechtzeitig erkennen würden wann eine KI ein Bewußtsein entwickelt. Jeder Experte scheint da sein eigenes Set von Kritierien zu haben und scheint die Möglichkeit, daß sich Bewußtsein bei einer KI möglicherweise auch ganz anders äußern könnte als wir denken außer acht zu lassen. Wir wissen einfach zu wenig darüber.
Gemäß dem Spruch: " Es sind nicht die vorstellbaren Szenarien die mir Sorgen machen sondern die unvorstellbaren".

Naja die Überschrift suggeriert hier, dass die Beurlaubung durch seine Theorie erfolgte...wenn man genauer liest geht es ja eigentlich um den Vertragsbruch derartige Dinge an die Öffentlichkeit gegeben zu haben.

Naja, ich kenne die arbeitsrechtlichen Vorschriften für den Fall nicht so genau, aber ich bin ziemlich sicher, daß zumindest in Deutschland eine Kündigung wegen "der tickt nicht mehr ganz richtig" vor Gericht keinen Bestand gehabt hätte, der offfiziell angegebene Grund dagegen schon viel eher. Also geht man auf Nummer sicher und gibt diesen als Begründung an, aber insgeheim glaube ich schon, daß seine Meinung betreffend es Bewußtseins dieses Bot der eigentliche Auslöser war und man dann froh war, daß er ihnen glücklicherweise auch noch einen juristisch haltbaren Grund geliefert hat um ihn loszuwerden.

 

[KasenShlogga]

Wie naiv man sein muss, um zu glauben, dass sich Bewusstsein maschinell "erzeugen" lässt.

Tatsächlich wird der derzeitig immer noch gültige wissenschaftliche Kentnissstand, dass das Bewusstsein im Gehirn "entsteht", mittlerweile von einigen Wissenschaftlern stark angefochten. Vieles deutet darauf hin, dass es eine Art kollektives Bewusstsein gibt, das alle Lebewesen durchdringt und das Bewusstsein selbst lediglich ein nichtlokales Signal darstellt, wobei das Gehirn als Schnittstelle dient. Cloud Computing ist eine nette Analogie dafür.

 

[Kondar]

Morgen? Skynet ist bereits Online. Gut getarnt, aber Online! Und sie kommen zu dir nach Hause.

Making your logistics easier with our Best SkyNet Tools​

Cool.
Arnie steht vor der Tür mit ner großen Schachtel....
Man ich könnte sterben vor Neugier!

 

[MADman_One]

Vieles deutet darauf hin, dass es eine Art kollektives Bewusstsein gibt, das alle Lebewesen durchdringt und das Bewusstsein selbst lediglich ein nichtlokales Signal darstellt, wobei das Gehirn als Schnittstelle dient. Cloud Computing ist eine nette Analogie dafür.

Faszinierender Ansatz. Warum kann dann aber maschineller Code nicht auch einen Punkt erreichen, an dem dieser an diesem kollektiven Bewußtsein teilnimmt und zu einer Schnittstelle wie unser Gehirn wird? Ich sehe nichts was basierend auf Deinem Ansatz dagegen sprechen würde.
Denn "Lebewesen" ist auch wieder nur eine Definition, welche sich der Mensch mit Hilfe seines Gehirns ausgedacht hat, zu "Lebewesen" könnten daher Dinge gehören, die wir uns einfach (noch) nicht vorstellen können. Ich finde daher, man sollte bei diesem Thema in der Tat "open minded" bleiben und nicht vorschnell Dinge ausschließen nur weil sie aktuell dem widersprechen was wir glauben sicher zu wissen. "Ich weiss, das ich nichts weiss".

 

[compisucher]

Tödliche Viren, künstliche Intelligenz, Klimawandel, Atomkrieg.
Mal schauen was uns als erstes vernichtet.

Ich tippe auf verhungern oder verdursten in einem Auto ohne Sprit...

 

[sterreich]

Da ich mich im Rahmen des Studiums auch mit NLP (Natural Language Processing) auseinandergesetzt habe: Es ist im Sprachverständnis schon extrem gut. Keinerlei Grammatikalische Fehler mehr und die Aussagen machen "Sinn". Aber vereinzelt ist es schon erkennbar, dass hier in erster Linie Gelerntes wiedergekäut wird.

Dass der Typ sein Urteil nicht mit messbaren Ergebnissen sondern seinem "Glauben" rechtfertigt nimmt auch ein wenig von der Glaubwürdigkeit als "Google-Forscher" weg:

Blake Lemoine (@cajundiscordian)

People keep asking me to back up the reason I think LaMDA is sentient. There is no scientific framework in which to make those determinations and Google wouldn't let us build one. My opinions about LaMDA's personhood and sentience are based on my religious beliefs.

nitter.net

Tödliche Viren, künstliche Intelligenz, Klimawandel, Atomkrieg.
Mal schauen was uns als erstes vernichtet.

Aliens

Ich stelle mir bei dem ganzen Thema und den Reaktionen der Beteiligten dazu die Frage, ob die Menschen überhaupt zuverlässig rechtzeitig erkennen würden wann eine KI ein Bewußtsein entwickelt. Jeder Experte scheint da sein eigenes Set von Kritierien zu haben und scheint die Möglichkeit, daß sich Bewußtsein bei einer KI möglicherweise auch ganz anders äußern könnte als wir denken außer acht zu lassen. Wir wissen einfach zu wenig darüber.
Gemäß dem Spruch: " Es sind nicht die vorstellbaren Szenarien die mir Sorgen machen sondern die unvorstellbaren".

Guter Einwand.
Alleine vom "Sprachverhalten" würde man das unmöglich feststellen können. Aber es kommt auch darauf an, wofür das Teil entwickelt wurde. Wenn es wirklich eine entsprechend schlaue KI ist könnte man auch davon ausgehen, dass sie ihre Existenz absichtlich "versteckt".
Im Prinzip sind KI-Programme aber bloß Laborratten, die aus zig-Millionen Knöpfen die Elektroshocks vermeiden wollen während sie die größte Belohnung suchen.
Nur, dass Laborratten bereits mit einem Bewusstsein starten.

 

[Kwijibo]

Viel wichtiger ist doch die Frage, als welches Geschlecht sich die KI identifiziert und mit welchen Pronomen sie angesprochen werden möchte.
Es ist extrem wichtig, dass wir die KI nicht in eine binäre Geschlechterrolle zwingen und sie mit den korrekten Neopronomen ansprechen!
Schließlich gibt es nichts wichtigeres als Identity Politics und Frieden, Wohlstand & soziale Gerechtigkeit erreicht man nur über das korrekte Gendern!!!11

 

[Schinkennudel]

Hier nochmal das wichtigste Zitat zu dem Thema von dem Kerl:

My opinions about LaMDA's personhood and sentience are based on my religious beliefs.

Damit hat sich für mich die Diskussion erledigt