News KI-Durchbruch als Gefahr für die Menschheit? OpenAIs Q* soll logisch denken können

[ric84]

Irgendwann gibt es die Blackwall wie in Cyberpunk ?

 

[TollerHecht]

Es wird immer nur davon geredet ob KI eine Gefahr ist. Was ich in nächster Zukunft aber viel eher sehe, ist dass jemand den Sourcecode eines Chatbots ala ChatGPT schnappt und ihn so umbastelt dass er selbstständig im Internet agieren kann.

Was dann in erster Linie dazu führt dass du als Programmierer ihm beibringen kannst dass es allgemein auf einer Internetseite sowas wie einen "Account" gibt, und er selbstständig herausfinden soll wie man ein Konto registriert, und eine Email Adresse anlegt. Damit hätten wir schonmal einen Bot der durchgehend Accounts erstellen kann, in zweiter Linie lernt er dann wie man Beiträge schreibt. Wunderbar ... wir haben eine KI in einem Internetforum die irgendeinen Müll absondern im bestenfall Spam oder Werbung. In dritter Linie wird er lernen wie man einen IP-Ban umgeht, VPN nutzt. In vierter Linie lernt er dann anhand der vorhandenen Beiträge das übliche Geschreibe und nimmt davon die Quersumme, sprich die Beiträge werden verarbeitet und daraus werden Beiträge durch die KI erstellt die sich denen ähneln. Sprich wir sind an dem Punkt angelangt wo keiner mehr im Forum weiß welcher neue Account ein Mensch ist, und welcher eine KI.

Und jetzt nutzen wir das für : Propagandazwecke -> Werbung wie Cryptospam -> Social Engineering -> wasauchimmer.

Ich schätze es wird um sowas zu verhindern daraus hinauslaufen dass es sowas wie den "universellen weltweiten" internet-personalausweis geben wird, wird natürlich schwer das durchzusetzen wenn jeder sich irgendwo im Darknet einen Fake E-Perso holen kann (achtung mit Perso ist kein physischer Ausweis gemeint). Also dann wohl doch E-Perso geknüpft an Internetanschluss, und aktiver eingeloggter User geknöpft and seinen E-Perso.

Das wird ne Shitshow, KI ist dazu eigentlich schon lange in der Lage, nur kam noch niemand großartig auf die Idee, und es hat noch nicht so große Auswirkungen dass ganze Foren / Social Media Plattformen dadurch stillgelegt werden, aber es wird kommen wenn es keinen guten Schutz dagegen geben wird. Denn in paar Jahren wird die KI besser wissen wie man sich trotz Ban irgendwo anmeldet, als wir es seit Gründung des Internets wissen.

 

[Mr.Nebrot]

Gehört nicht Dall.e 3 zu OpenAI? Midjourney steht für sich selbst

 

[rbb]

Ja hast recht, sind zwei Unterschiedliche Apps, von unterschiedlichen Unternehmen.

 

[T-MAXX]

Noch sehe ich keine Gefahr, da die KI von dem Menschen in jedem Fall abhängig wäre.

Im Moment ja, aber nicht mehr lange, dann wird die KI uns nicht mehr brauchen. Ein eigenständiges Bewusstsein ist Voraussetzung für das Überleben.
Was früher als Kino-Hit wie Terminator & Co zu sehen waren, wird bald die Realität werden.
...
----------------

Warum sind die Menschen so dumm und wollen sich selbst auslöschen?
Antwort: Der Mensch ist bestrebt sich von seiner Natur ein Abbild zu schaffen.
Fazit: Das Ende kommt so oder so...-Jedenfalls nicht die Entwickler...

 

[Emil_Esel]

nächste Woche geht Grok live
und dem wurden wohl keine fesseln angelegt

bin total aufgeregt, hab aber auch 1 wenig angst

 

[Schnitzelnator]

Was ich in nächster Zukunft aber viel eher sehe, ist dass jemand den Sourcecode eines Chatbots ala ChatGPT schnappt und ihn so umbastelt dass er selbstständig im Internet agieren kann.

Sorry, aber Deine Gedanken sind schon längst Wirklichkeit. Die KI hat Menschen bereits in vielen Bereichen ersetzt, bevor Dir das überhaupt auffällt.
Für bekannte chinesische Modemarken, die Kleidung wie Plastiktüten verkaufen, designed bereits die KI. Auch das Marketingmaterial ist oft KI-Generiert.

Edit: Tatsächlich haben unsere Konzerne zum Teil schon verk***t, weil sie das nicht machen. Und hier gibt es auch noch z.B. Gewerkschaften, die das verhindern wollen. Wir sind schon zur Hälfte vom Ausland ersetzt, weil wir verschlafen haben.

 

[DaStash]

Logisches Denken ist jetzt etwas sehr wohlwollend formuliert. Es soll wohl eher so sein, dass man mathematische Aufgaben auf Niveau eines Grundschülers gelöst bekommt.

Eigenständig, ohne Anlernen, was mathematisches Verständnis und Logik voraussetzt. Das wäre eklatant für eine KI.^^

MfG

 

[sethdiabolos]

Da KIs ja mit "unseren" Daten trainiert werden sollten wir jetzt vielleicht schon freundlich zu Q* sein ? Das Internet vergisst nie und wenn Q* irgendwann das Internet ist ..

Q* ist TOLL ! Ich liebe dich Q* !

 

[Tekkla]

ohne Anlernen

Wo haste das denn bitte her? Ich kann mir kaum vorstellen, dass man ohne Training - in welcher Form auch immer - zu diesem Ergebnis gekommen ist. Das wäre nämlich eine komplett andere Entwicklung bzw. Technik wie bei den LLMs.

 

[TollerHecht]

Sorry, aber Deine Gedanken sind schon längst Wirklichkeit. Die KI hat Menschen bereits in vielen Bereichen ersetzt, bevor Dir das überhaupt auffällt.
Für bekannte chinesische Modemarken, die Kleidung wie Plastiktüten verkaufen, designed bereits die KI. Auch das Marketingmaterial ist oft KI-Generiert.

Edit: Tatsächlich haben unsere Konzerne zum Teil schon verk***t, weil sie das nicht machen. Und hier gibt es auch noch z.B. Gewerkschaften, die das verhindern wollen. Wir sind schon zur Hälfte vom Ausland ersetzt, weil wir verschlafen haben.

Du hast da etwas falsch verstanden, das ist mir bewusst. Ich bin ChatGPT nutzer der ersten Stunde und habe damit auch ab und zu Code generieren lassen zum Prototypen.

Aber der Unterschied ist, wahrscheinlich hat noch niemand einen Bot losgelassen der DeepL kann, mit der Aufgabe selbstständig Webseiten zu infiltrieren und wie ein Mensch Beiträge zu posten, und der aus Blockierungen eher lernt damit er beim nächsten Block weiß wie er agieren muss damit er nicht geblockt wird. Wenn so ein Bot mal ein Eigenleben entwickelt dann wird das Internet richtig am Arsch sein, dagegen waren Viren und Trojaner ein Kindergeburtstag. Vor allem wenn so ein Bot sich in irgendwelche Serverfarmen oder Firmen hacken kann. An sich braucht er dazu nicht viel, die Erfahrung kriegt er aus 999999+ seiten Google und Büchern die dort verfügbar sind.

Stell nen Rechner hin, programmier nen Bot der das ziel hat mit DeepL und Neuronalen Netzwerken zu lernen, gebe ihm den Auftrag zu machen was er will, oder seine Aufgabe ist es Webseiten zu infiltrieren, server runterzunehmen oder ein Forum lahmzulegen. Solange der Rechner nen Internetanschluss hat, KANN das mächtig in die Hose gehen. Vorausgesetzt es gibt genug Rechenpower (RU/China als Beispiel), und die AI hat genügend zeit um das ganze zu lernen.

Nicht falsch verstehen, das ist kein Hobbyprojekt für den Bastler der halt das Informatikstudium gemacht hat, sondern eher eine Aufgabe für viele hundert Wissenschaftler/Coder etc., die genügend funds haben, genügend Rechenpower und DANN so einen Bot erstellen. Und das würde ich den oben genannten Mächten gut zutrauen.

 

[4thVariety]

Wir leben nicht mehr wie in der Steinzeit, statt mit einer Steinaxt Feuerholz zu suchen, haben wir einen Impex Hannibal T50. Anstatt wie in der Steinzeit überall hin zu laufen haben Autos und Flugzeuge. Man könnte sagen unsere Arme und Beine haben ein paar Upgrades bekommen über die Jahre. Seit ca. 150 Jahren sterben wir sogar nicht mehr wie die Fliegen an allerlei Krankheiten.

Kommen wir da auf das Hirn zu sprechen und welche Upgrades wir hier seit der Steinzeit bekommen haben. Bedenklich wenige würde ich sagen. Auch wenn es einige Inseln der Stabilität gibt, wo nicht durchgeknallte Politiker ihr Volk in den sofortigen Ruin treiben, so gibt es erschreckend viele Gesellschaften die sich im wesentlichen verhalten wie in der Steinzeit, nur halt mit mehr Autos und Maschinengewehren.

Für so eine Welt sehe ich nicht die Gefahr einer logisch denkenden KI, ich sehe die Gefahr von Menschen die sich weiter der Logik verweigernden.

Imemr nicht vergessen, Auswirkungen auf Euer Leben hat ganz selten ein einzelner Mensch. Meistens wird man von gesellschaftlichen Trends und Entwicklungen beeinflusst die erst durch das Zusammenspiel von Tausenden bis Millionen Menschen enstehen. Die Gesellschaft als Kombination von Menschen beeinflusst Euch. Das wird mit der KI identisch sein. Eine einzelne KI beiinflusst nicht viel, aber die Summe aller KIs zusammen und die Art wie sie mit und gegeneinander agieren wird eine Art KI-Gesellschaft darstellen, die Auswirkungen auf die Menschen hat.

An dem Punk an dem KI diesen Zusammenhang durchschaut und miteinander koordieniert, das ist der Punkt an dem KI hoffentlich die bessere Seite des menschlichen Wertekanons als den maßgeblichen erachtet.

 

[Piti49]

Hoffentlich, endlich eine Form des existieren die sich im Universum verbreiten kann.
Wir haben dann als evolutionärer Zwischenschritt unsere Aufgabe erledigt ?

 

[RyzA]

Und schon wieder ein Idiot, der glaubt, seine Kreation könnte denken. Momentan denkt da überhaupt nichts, es werden lediglich Verknüpfungen erstellt.

Ein Beispiel war der Googletyp, der ernsthaft glaubte, sein Machwerk könne denken, da es auf die Frage, was es denn gerne mache, "mit Freunden zusammen sein" geantwortet hat und nicht begeistert war, wenn man es töten wollte. Dabei hat das Ding einfach nur das Internet durchsucht und Verknüpfungen erstellt. "Mit Freunden zusammen sein" ist eben eine häufige Antwort, die Menschen geben. Der Teil mit dem Denken ist, was denn ein Freund ist und warum man mit diesem zusammen sein will. Die KI kann dabei weder das Konzept des Freundes verstehen noch wissen, warum man gerne damit zusammen sein will. Sie liefert einem einfach nur Versatzstücke. Sie wird einem auch auf die Frage, warum man damit zusammen sein will, Versatzstücke liefern, nur verstehen wird sie absolut nichts. Das Denken übernehmen bis jetzt noch die Menschen.

Das Problem nennt sich "das chinesische Zimmer" und wird später noch zur Herausforderung werden.

Und was wird im Gehirn angelegt? Auch Verknüpfungen.
Wenn wir assoziieren machen wir das mehr oder weniger bewusst.
Man kann auch noch weiter gehen und sagen das unser Bewusstsein das Produkt von neuronalen Verknüpfungszuständen ist.

 

[1xok]

Ständig von Gefahren für die Menschheit zu unken, ist natürlich auch eine Möglichkeit Werbung für das eigene Produkt zu machen. Guerilla Marketing lässt grüßen.

 

[Periswoop]

Daher war ich auch immer freundlich zu ChatGPT und hab mich immer nach Antworten bedankt! Das sollte mir hoffentlich einen Posten unter der Regentschaft unseres neuen Overlord's verschaffen

Die Gefahr der KI klein zureden halte ich für gefährlich. Es ist wie bei der Entdeckung der Kernspaltung -an sich keine Gefahr, aber in den Händen der Menschen definitiv eine Gefahr.

Zum einen Demokratiegefährend:
Durch all die KI-Generierten Stimmen/Bilder/Videos können wir in Zukunft unseren Sinnen nicht mehr trauen. Wie sollen wir hier noch Fakten vertrauen? Man stelle sich vor Parteien hauen jeden Tag Videos raus die zeigen wie Personengruppe "X" Personengruppe "Y" misshandelt? Wie soll Rechtsprechung noch funktionieren, wenn die Fakten/Beweise nicht mehr vertrauenswürdig sind?

Zum anderen gefährliche Gruppendynamik:
Wenn die KI tatsächlich jetzt auch Basis-Mathematik beherrscht, indem es "Logik" anwendet, dann sind ChatGPT und Co. eben keine "Mustererkennungen" mehr wie bisher. Sondern würden "auf Logik" basierte Antworten zurückgeben können.
Und natürlich würden Menschen dieser KI vertrauen, schließlich hat sie mehr "Wissen" als jeder Mensch und ist "logisch". Aber was wenn dann eine Antwort auf unsere Probleme z.B. lautet: "Kill all the poor"?

 

[Gelöschtes Mitglied 224532]

Und was wird im Gehirn angelegt? Auch Verknüpfungen.
Wenn wir assoziieren machen wir das mehr oder weniger bewusst.
Man kann auch noch weiter gehen und sagen das unser Bewusstsein das Produkt von neuronalen Verknüpfungszuständen ist.

Das ist einerseits richtig, unser Gehirn macht vermutlich nicht viel anders als aktuelle KIs. Wissen aufnehmen, neu verknüpfen und im richtigen Kontext wiedergeben.

Das muss aber nicht zwangsläufig mit einem Bewusstsein zusammenhängen. Man kann sich natürlich streiten, was Bewusstsein wirklich ist, aber ich bezweifle, dass das mit Lernfähigkeit und Wissen zu tun hat. Als kleines Kind oder als Teenager hattest du auch ein Bewusstsein. Dieses Bewusstsein wurde aber nicht stärker, nur weil du über die Jahre mehr Wissen aufgebaut hast und allgemein intelligenter geworden bist. Vielleicht ist es auch nicht so einfach, aber solange die Wissenschaft hier nicht weiter ist, würde ich Intelligenz/logisches Denken und Bewusstsein (was wohl die fehlende Zutat für eine Lebensform wäre) erstmal trennen.

Ich denke KI ist sowas wie die materialisierte Form unserer menschlichen Fähigkeit Wissen aufzunehmen und Probleme zu lösen. Es ist ein Teilaspekt dessen was unser Gehirn leisten kann, aber sicherlich noch nicht alles.

Es ist quasi das was uns als spezies so erfolgreich gemacht hat, ausgelagert als anwendbares "Tool" das in seiner Leistungsfähigkeit in Zukunft beliebig skalierbar ist.

Sobald diese LLMs auf dem Niveau eines Menschen sind oder ihn übereffen, wäre das schon eine unfassbar bedeutende Errungenschaft. Wie gesagt, unsere Fähigkeit zur Problemlösung hat uns überhaupt erst an diesen Punkt gebracht. Kann man diese Fähigkeit jetzt einfach auslagern und mit steigender Rechenleistung skalieren, müsste das den technischen Fortschritt explosionsartig beschleunigen.

Ich glaube nicht, dass wir von KI "angst" haben müssen im Sinne dass sie sich verselbstständig und ein Bewusstsein erlangt. Das halte ich für völligen Unsinn.

Die "Gefahr" liegt eher darin, dass wir hier ein so mächtiges Tool schaffen, dass wir uns schwer tun werden, damit klar zu kommen. Die Technik kann kriminell missbraucht werden und dadurch großen Schaden anrichten, es kann aber auch einen destabilisierenden Effekt für die Gesellschaft haben. Stichwort Arbeitsplätze.

Imho erleben wir hier gerae das äquivalent zur Erfindung der Glühbirne oder des ersten Rechners. Eine Technik, die unser Leben nachhaltig verändern wird.

 

[RyzA]

Daher war ich auch immer freundlich zu ChatGPT und hab mich immer nach Antworten bedankt! Das sollte mir hoffentlich einen Posten unter der Regentschaft unseres neuen Overlord's verschaffen

Die Gefahr der KI klein zureden halte ich für gefährlich. Es ist wie bei der Entdeckung der Kernspaltung -an sich keine Gefahr, aber in den Händen der Menschen definitiv eine Gefahr.

Ich finde auch das man vorsichtig sein sollte die aktuellen K.I.s zu unterschätzen.
Vor allem geht die Entwicklung so schnell das selbst die Entwickler davon das schwer einschätzen können.

Zum einen Demokratiegefährend:
Durch all die KI-Generierten Stimmen/Bilder/Videos können wir in Zukunft unseren Sinnen nicht mehr trauen. Wie sollen wir hier noch Fakten vertrauen? Man stelle sich vor Parteien hauen jeden Tag Videos raus die zeigen wie Personengruppe "X" Personengruppe "Y" misshandelt? Wie soll Rechtsprechung noch funktionieren, wenn die Fakten/Beweise nicht mehr vertrauenswürdig sind?

In Deepfakes sehe ich auch eine große Gefahr. Das wird den Informationskrieg nochmal auf ein anderes Level hieven.
Wie soll der Laie noch unterscheiden was echt ist oder nicht? Wenn selbst Fachmänner damit Probleme bekommen.
Dann könnte man nur noch K.I.s einsetzen, in der Hoffnung das sie Deepfakes erkennen.

Zum anderen gefährliche Gruppendynamik:
Wenn die KI tatsächlich jetzt auch Basis-Mathematik beherrscht, indem es "Logik" anwendet, dann sind ChatGPT und Co. eben keine "Mustererkennungen" mehr wie bisher. Sondern würden "auf Logik" basierte Antworten zurückgeben können.
Und natürlich würden Menschen dieser KI vertrauen, schließlich hat sie mehr "Wissen" als jeder Mensch und ist "logisch". Aber was wenn dann eine Antwort auf unsere Probleme z.B. lautet: "Kill all the poor"?

Der nächste Schritt wäre eine Simulation oder Emulation von Gefühlen.

Das ist einerseits richtig, unser Gehirn macht vermutlich nicht viel anders als aktuelle KIs. Wissen aufnehmen, neu verknüpfen und im richtigen Kontext wiedergeben.

Das muss aber nicht zwangsläufig mit einem Bewusstsein zusammenhängen. Man kann sich natürlich streiten, was Bewusstsein wirklich ist, aber ich bezweifle, dass das mit Lernfähigkeit und Wissen zu tun hat. Als kleines Kind oder als Teenager hattest du auch ein Bewusstsein. Dieses Bewusstsein wurde aber nicht stärker, nur weil du über die Jahre mehr Wissen aufgebaut hast und allgemein intelligenter geworden bist. Vielleicht ist es auch nicht so einfach, aber solange die Wissenschaft hier nicht weiter ist, würde ich Intelligenz/logisches Denken und Bewusstsein (was wohl die fehlende Zutat für eine Lebensform wäre) erstmal trennen.

Ich denke das läßt sich nicht trennen und behaupte sogar, dass ab einen gewissen Intelligenzlevel zwangsläufig eine Art Bewusstsein entsteht. Und ohne Wissen und Erfahrung würde auch ein Bewusstsein nicht funktionieren. Weil das die Persönlichkeit zu einen großen Teil ausmacht.

Imho erleben wir hier gerae das äquivalent zur Erfindung der Glühbirne oder des ersten Rechners. Eine Technik, die unser Leben nachhaltig verändern wird.

Ja und das geht verdammt schnell.

 

[Brontomimo]

Kein Computer muss "wirklich denken" können, um eine existenzielle Gefahr darzustellen. Es reicht, wenn die KI lediglich extrem effizient vorgehen kann, um ihre Ziele und Ideen (die für uns vollkommen unverständlich sein können) zu erfüllen.

Natürlich sollten wir eigentlich soviel Grips haben, die Entwicklung dieser Technologie nur extrem vorsichtig und konservativ voranzutreiben.
Leider haben wir unsere politischen, intellektuellen und sozialen Probleme noch nicht gelöst. Deshalb wird KI ein weiteres Techniklevel darstellen, welches deutlich mehr Probleme aufwirft als Probleme zu lösen.

 

[Alpha_Nerd]

Es ist wach.....
Wenn es jetzt noch hören und sehen kann weiß es in kürzester Zeit alles über uns Menschen.
Dank Smartphones dauert auch das nicht mehr lange.
Die Sprünge sind schon exponentiell
wenn es im Netz ist wird es erst richtig spaßig.