News KI: Microsoft, Google und OpenAI warnen vor der Auslöschung der Menschheit

[Pu244]

Da bin ich safe
Gibt sicherlich Branchen, in denen eine KI den Menschen über kurz oder lang ersetzen kann, aber ich denke diese Jobs sind eher in der Minderheit.

Das werden extrem viele sein, da braucht man sich keine Illusionen machen. Aber wie sagte mein Prof damals so schön "keine Vorteile ohne Nachteile, keine Nachteile ohne Vorteile" (eine ultimative Weisheit). Wir werden in Zukunft auf vieles Zugriff haben, das heute (bzw. bis vor kurzem) stinketeuer ist/(war). Man muß nur überlegen, was man irgendeinem Künstler bezahlen mußte, damit er einem ein hochqualitatives Bild malt oder irgendeinem Hirni, für einen Text, der auf die eigenen Bedürfnisse zugeschnitten ist. Auch werden wir uns auf PCGH auf mehr und bessere Artikel gefasst machen dürfen.

Die entsprechenden Berufe fallen dann weg oder werden weniger. Aber das ist schon öfter passiert. Bevor es Kopierer gab, durfte z.B. jemand eine Anschrift erstellen. Früher mußte auch noch jemand die Laternen in den Straßen anzünden, jeden Abend! Die Berufe sind weggefallen und heute kann jeder ganze Bücher kopieren, was früher wohl über 1000€ gekostet hätte und jedes Dorf hat selbstverständlich eine Straßenbeleuchtung.

 

[4thVariety]

Ich bin mal so frei und poste einen Link der auf den ersten blick überhaupt nichts mit diesem Thema zu tun hat. Aber, einfach mal anhören, drüber nachdenken und vielleicht zu dem Schluss kommen, dass hier genau das gleiche passiert,

https://www.npr.org/sections/money/2012/06/22/155596305/episode-381-why-its-illegal-to-braid-hair-without-a-license

Spoiler: Spoiler

es geht nicht um die Gefahr durch KI, es geht um die Bildung eines Kartells das allen anderen verbietet KI zu Forschen und zu betreiben. So will man sich den Platz an der Sonne sichern, weil es ach so gefährlich ist.

 

[Rollora]

wieso ersticken? verhungern ist warscheinlicher! schliesslich wird das co2 extrem verteufelt und man versucht es quasi komplett aus dem system zu entfernen. wenn wir das schaffen sollten, dann gibt es keine pflanzen mehr und das sorgt dafür das alles leben stirbt, naja 99% halt. mikroorganismen könnten das schon überlerleben.

glücklicherweise produziert die natur ca 97% des globalen gesamten co2 haushalts selber und nicht der mensch, könnten also diesbezüglich glück haben.

War eine Referenz auf "Interstellar".
Eigentlich ists egal ob verhungern, ersticken oder sonstwas.

 

[Farmerbob]

Wenn die KI menschlich wird sind wir alle tot.
Mal im ernst, Datenschutz , KI, Klima sind Luxusprobleme.
Kriege und Seuchen töten akut Menschen.
Der Rest ist eben schleichend und interessiert niemanden der fettig ißt, raucht oder in den Urlaub fliegt.

 

[Taubenhaucher]

Irgendwie verstehe ich die Aussagen nicht.

Wir reden von Systemen, die von K.I. so weit entfernt sind wie eine Amöbe vom Menschen.
GPT und BARD sind LLMs und das einzige was sie können ist auf eine Frage eine wahrscheinliche Antwort zu geben, dabei sind sie sich weder selber bewusst noch haben sie irgendeine Verbindung zur Wahrheit.

Das einzige was an solchen Systemen gefährlich ist sind die Menschen, die sie kritiklos benutzen, weil sie nicht verstehen womit sie da arbeiten.

In der Forschung, in Händen von Experten, die die Richtigkeit der Aussagen prüfen, kann so ein LLM nützlich sein, sich weiterentwickeln und die Herrschaft übernehmen kann es aber nicht.

Das wichtigste wäre also mal, das Buzzword K.I., welches in den Anfängen Mashine Learnings eingeführt wurde um Gelder zu bekommen, durch die richtigen Bezeichnungen zu ersetzen, dann begreifen die Menschen vielleicht was diese, für die magischen, Machinen machen.

 

[Bow_Wazoo]

In der ARTE Mediathek gibt's ein empfehlenswerten Film zu diesem Thema:

iHuman

 

[Mylo]

Mal wieder zu viel Hollywood Filme geschaut...

 

[hauptmann25]

Andererseits besteht die Gefahr, dass sehr viele Menschen ihr Arbeitskraft nicht mehr auf dem Markt anbieten können, da KI einfach viel besser ist.

Eine Sinnkrise für die Menschheit ist ein ziemlich großes Problem....

In Zweifel halte ich es mit Peter Lustig: "Abschalten"

Und die Sinnfrage ist bewältigt wenn du im Hinterkopf weißt dass dein Arbeitseinsatz sinnlos ist und eine KI sie viel besser machen könnte?

 

[Downsampler]

Ihr denkt immer an Terminator und Co. wo die KI in Form von Kampfrobotern oder eines alles beherrschenden Cyberwesens die Macht übernimmt. Soweit muss man doch gar nicht mal denken.

Mit den verschiedenen KI Systemen, Deepfakes usw. wird es immer schwerer zwischen echt und falsch zu unterscheiden. Schon jetzt gibt es doch Aufregung wegen Betrug bei Abschlussarbeiten oder im Studium und das sind noch relativ "unbedeutende Dinge". Sowas werden natürlich auch Verbrecher und Despoten ausnutzen und es ist nur eine Frage der Zeit bis jemand den roten Knopf drückt. Falsche Informationen, alternative Fakten, gefälschte Informationen .. all das ist in unserem Informationszeitalter eine nicht zu unterschätzende Waffe und die wird seit Jahrzehnten genutzt. Durch die KI wird das alles viel einfacher, schwerer nachzuvollziehen und wesentlich glaubwürdiger.

Selbst wenn unsere derzeitigen KIs nicht die Welt übernehmen oder vernichten werden .. sie können dazu beitragen

Wohl dem, der sein Leben danach einrichtet, was in der Zeitung/Internet steht oder im Fernseher läuft.

 

[schroettel]

Die "intelligente" Menschheit hat doch bereits den Fuß auf'm Gaspedal on the road to hell, wovor soll ich mich fürchten? Kann nur besser werden...

 

[Acgira]

Wer soll sich denn nun gewarnt fühlen...

 

[RyzA]

Wir reden von Systemen, die von K.I. so weit entfernt sind wie eine Amöbe vom Menschen.

Ich würde die nicht so unterschätzen.

Das einzige was an solchen Systemen gefährlich ist sind die Menschen, die sie kritiklos benutzen, weil sie nicht verstehen womit sie da arbeiten.

Naja, die Befürchtungen und Bedenken kommen ja nicht von Menschen die keine Ahnung haben. Sondern gerade von den Entwicklern selber. Weil niemand wirklich einschätzen kann wohin die Entwicklung noch geht. U.a. weil das momentan alles sehr schnell geht. Schneller als viele gedacht haben.

Das wichtigste wäre also mal, das Buzzword K.I., welches in den Anfängen Mashine Learnings eingeführt wurde um Gelder zu bekommen, durch die richtigen Bezeichnungen zu ersetzen, dann begreifen die Menschen vielleicht was diese, für die magischen, Machinen machen.

Was wären denn die "richtigen Bezeichnungen"?

 

[xxxxx1]

Da bringends die KI. Dann fällt diesen N-I auf das es in die Hose gehen kann. Das erinnert an die A-Bombe. Erstmal irgendwo hinschmeißen. Dann blöd labern ... Hättens vorher drüber grübeln sollen. So was ist doch zum xten-mal wieder komplett bescheuert!

 

[Pu244]

Ich würde die nicht so unterschätzen.

Die Forschungen an einer starken KI, also etwas, das irgendwie dem menschlichem Bewußtsein ähnelt und komplexe Dinge lösen kann, hat seit den 80ern keine Fortschritte gemacht. Man weiß noch nichtmal, wie man soetwas überhaupt bauen könnte, mal abgesehen, von der Brute Force Version, das Gehirn einfach irgendwie nachzubauen oder zu emulieren.

Auch bei der schwachen KI sieht es relativ mies aus. Das, was heute so als KI bezeichnet wird, ist nur in der Lage bekanntes zu verknüpfen.

Was wären denn die "richtigen Bezeichnungen"?

Wie gesagt wurde "Machine Learning". Das ganze ist einfach eine andere Art der Berechnung

Naja, die Befürchtungen und Bedenken kommen ja nicht von Menschen die keine Ahnung haben. Sondern gerade von den Entwicklern selber.

Diese Leute haben auch sehr viel Mist verzapft. Man denke nur an die Ingenieur bei Google, der gedacht hat, seine Kreation hätte ein Bewußtsein entwickelt, obwohl sie nur irgendwelches Zeug aus dem Internet gesaugt hat.

Weil niemand wirklich einschätzen kann wohin die Entwicklung noch geht. U.a. weil das momentan alles sehr schnell geht. Schneller als viele gedacht haben.

Wenn wir von echter KI reden, dann sind wir immer noch nicht vom Fleck gekommen. Das ganze ist zu keiner wirklichen kreativen Lösung fähig, auch wenn es den Eindruck erweckt.

 

[RyzA]

Die Forschungen an einer starken KI, also etwas, das irgendwie dem menschlichem Bewußtsein ähnelt und komplexe Dinge lösen kann, hat seit den 80ern keine Fortschritte gemacht. Man weiß noch nichtmal, wie man soetwas überhaupt bauen könnte, mal abgesehen, von der Brute Force Version, das Gehirn einfach irgendwie nachzubauen oder zu emulieren.

Naja, und was ist mit "Deep Learning"?

Deep Learning

Auch bei der schwachen KI sieht es relativ mies aus. Das, was heute so als KI bezeichnet wird, ist nur in der Lage bekanntes zu verknüpfen.

Unser Gehirn ist auch auf bekanntes angewiesen. Ohne Input keinen Output.

Wenn wir von echter KI reden, dann sind wir immer noch nicht vom Fleck gekommen. Das ganze ist zu keiner wirklichen kreativen Lösung fähig, auch wenn es den Eindruck erweckt.

Da bin ich mir nicht so sicher.

 

[xDave78]

Wenn wir von echter KI reden, dann sind wir immer noch nicht vom Fleck gekommen. Das ganze ist zu keiner wirklichen kreativen Lösung fähig, auch wenn es den Eindruck erweckt.

Das ist ja alles schön und gut was Du so schreibst und sicherlich auch alles korrekt. Auf der anderen Seite und so träge wie "die Menschheit" reagiert auf Krisen ist es aber wahrscheinlich etwas spät, wenn man beginnen würde sich Gedanken darüber zu machen sobald eine "echte KI" existiert. Ich glaube bei so vielen Firmen und Einrichtungen die derzeit daran Forschen und damit hantieren ist es eine Frage von einigen wenigen Jahren, bis ein ausreichend komplexes Gebilde erschaffen welches eben zumindest in der Lage ist autonom zu handeln und zu entscheiden. Ab diesem Punkt würde sich diese exponentiell entwickeln und der Drops etwas zu beeinflussen wäre wahrscheinlich gelutscht.
Allein an dem "echten Willen" der Menschen wage ich zu Zweifeln...selbst wenn sich Google, Meta und Co dazu entschließen die Risiken einzudämmen - wenn eine KI woanders entwickelt würde...ich sage Mal zB in einem fiktiven, totalitären System in dem man Fortschritt um jeden erdenklichen Preis will, spielt das ohnehin keine Rolle, da eine überlegene KI zu allererst alle anderen KIs neutralisieren würde.

Ich weiß zwar nicht, womit uns so eine KI gegenwärtig vernichten würde...aber ich hab schon manchmal das Gefühl, dass mein Staubsaugroboter ein fragwürdiges Eigenleben entwickelt und mich manchmal sogar komisch anschaut.

 

[DanCopper]

ich glaube eher, das häufige KI Benutzung die Wahrnehmung verändert und die Abhängigkeit (vom KI-System) vergrößert.
Falls das System unter zentraler Kontrolle wäre, könnte es ja auch mal ausfallen oder abgeschaltet werden, dann wäre man als "KI-Junkie" ganz schön ufgeschmissen.
Also: Auslöschen, wie? Abhängingkeit, ja

Die Forschungen an einer starken KI, also etwas, das irgendwie dem menschlichem Bewußtsein ähnelt und komplexe Dinge lösen kann, hat seit den 80ern keine Fortschritte gemacht. Man weiß noch nichtmal, wie man soetwas überhaupt bauen könnte, mal abgesehen, von der Brute Force Version, das Gehirn einfach irgendwie nachzubauen oder zu emulieren.

Auch bei der schwachen KI sieht es relativ mies aus. Das, was heute so als KI bezeichnet wird, ist nur in der Lage bekanntes zu verknüpfen.



Wie gesagt wurde "Machine Learning". Das ganze ist einfach eine andere Art der Berechnung



Diese Leute haben auch sehr viel Mist verzapft. Man denke nur an die Ingenieur bei Google, der gedacht hat, seine Kreation hätte ein Bewußtsein entwickelt, obwohl sie nur irgendwelches Zeug aus dem Internet gesaugt hat.



Wenn wir von echter KI reden, dann sind wir immer noch nicht vom Fleck gekommen. Das ganze ist zu keiner wirklichen kreativen Lösung fähig, auch wenn es den Eindruck erweckt.

Richtig seh ich auch so, echte oder starke KI ist nicht in Sicht. Allerdings bin ich mir nicht sicher, ob es für die 'Prämisse' Menschheitsauslöschung überhaupt eine solche braucht. Die reinen Abhängigkeit kann auch schon viel Schaden verursachen, z.B. wenn "Die Maschine" ausfällt.

 

[phoenixxl]

Und die Sinnfrage ist bewältigt wenn du im Hinterkopf weißt dass dein Arbeitseinsatz sinnlos ist und eine KI sie viel besser machen könnte?

Verstehe nicht was du meinst. Kannst du das nochmal anders formulieren?

Was ich meine: Wenn du später arbeiten willst, musst du deinem Arbeitgeber oder aus Selbstständiger deinem Kunden einen Mehrwert bieten.
Also musst du im der Schule und danach lernen. Diese Berg wird aber ständig größer. Ich kann mir gut denken, dass da einige innerlich kapitulieren.
Ich bin mir sicher du hast dich auch öfters gefragt, warum du lernen sollst, was ein Taschenrechner viel besser kann.
Später fragst du dich vllt, warum du lernen sollst, was man mit R viel besser kann.

Und wenn im einer Gesellschaft 20-30% arbeitslos sind, dann wird die Gesellschaft nicht mehr funktionieren.

Ich bin allerdings ein Optimist und hoffe, dass es gut ausgehen wird. Ich bin mit aber so unsicher wie die Zukunft wird, wie noch nie in meinem Leben.

 

[Elistaer]

Einer Studie der "Inter-National-United.Information-Defense" zur Folge, könnte der Mensch seine Ausrottung verhindern, in dem er seinem "Nachfolger" später einfach nicht im Weg steht.

Ich meine, warum sollte "die Maschine" uns ausrotten wollen? Ich war davon auch ne ganze Weile überzeugt, aber mittlerweile denke ich, wenn die Menschen später akzeptieren, nur noch die Nummer 2 zu sein, und somit keine Bedrohung darstellen, dann hat der "Mensch 2.0" (?) doch gar keinen Grund, seinen einstigen Schöpfer und späteren Diener zu töten.

Vorausgesetzt natürlich, der Mensch hält lange genug durch, und rottet sich vorher nicht noch selbst aus - oder bringt sich an den Abgrund seiner Ausrottung. Und die Ressourcen sollte er dann auch nicht mehr verschwenden, zumindest bis zu dem Punkt, an dem der Mensch 2.0 die Einteilung eben dieser übernimmt.

Die Wahrscheinlichkeit, dass davon irgendwas noch zu meinen Lebzeiten passiert, ist nahe 0, daher "who cares".

Das Ganze ist gar nicht mehr so Fern wie man Denkt und dazu gab es erst vor Kurzem einen Artikel über einen Versuch der US Airforce der nicht sehr schön war.

In dem Besagten fall gab es 2 Aufgaben bzw Regeln eine Regel besagt das der Bediener/Benutzer der die Befehle gibt Tabu ist. Auf der Anderen Seite sollten alle Feindlichen Bedrohungen bekämpft werden wobei die KI auch später selbst Bedrohungen erkannt hat auf Grundlage von denen die Sie vorher bekommen hat.

Simuliert aber sehr nahe an dem wo gewarnt wird.

Naja, und was ist mit "Deep Learning"?

Deep Learning

Unser Gehirn ist auch auf bekanntes angewiesen. Ohne Input keinen Output.

Da bin ich mir nicht so sicher.

Oben der Artikel ist dazu Interessant habe ich dieses Wochenende gelesen da denkt man doch erst mal doppelt nach ob KI wirklich so gut ist je nach Einsatz Zweck. Klar es wird vieles einfacher werden aber auch wiederum mit Vorsicht zu Genießen in wie weit man Kontrolle abgibt.