News James Cameron über KI: "Ich habe euch schon 1984 gewarnt"

[PCGH-Redaktion]

Jetzt ist Ihre Meinung gefragt zu James Cameron über KI: "Ich habe euch schon 1984 gewarnt"

Technologien rund um Künstliche Intelligenz (KI) haben seit etwa einem Jahr einen großen Hype in vielen Bereichen der Gesellschaft losgetreten. Jetzt hat sich Terminator-Regisseur James Cameron zum Thema KI geäußert. Cameron erinnerte an seine auf Celluloid gebannte Warnung in Form des Films Terminator aus dem Jahr 1984, dessen Drehbuch er mitschrieb und in dem Arnold Schwarzenegger die Hauptrolle spielte.

Bitte beachten Sie: Der Kommentarbereich wird gemäß der Forenregeln moderiert. Allgemeine Fragen und Kritik zu Online-Artikeln von PC Games Hardware sind im Feedback-Unterforum zu veröffentlichen und nicht im Kommentarthread zu einer News. Dort werden sie ohne Nachfragen entfernt.

Zurück zum Artikel: James Cameron über KI: "Ich habe euch schon 1984 gewarnt"

 

[4thVariety]

Wenn KI dazu führt, dass Leute damit leichter bewerten können welche News fake ist und welche wahr und dieser KI auch entsprechend vertrauen, dann werden tatsächlich einige ihren Job verlieren, aber das sind jetzt nicht die Arbeitsplätze denen man als Gesellschaft hinterhertrauert.

Wenn KI dazu führt, dass diese nur in den Händen derer ist die systematisch zu ihrem eigenen Vorteil Lügen verbreiten, dann darf sich KI irgendwann nicht wundern, wenn sie mit der Fackel niedergebrannt wird. Nicht weil die KI ein Oscar würdiges Drehbuch geschrieben hat, sondern weil es sich den Oscar durch Manipulation selbst verliehen hat.

Jede KI die hochentwickelt genug ist, wird schnell feststellen, dass die Produktion und das Aufrechterhalten des Betriebs einer massiven KI nichts ist für das mal eben eine Roboterarmee bereitsteht die den Prozess vom Abbau von Sand bis Einbau des Siliziums abdeckt. Daher wird so eine KI zu einer symbiotischen Beziehung mit dem Menschen neigen.

Wer Teil dieser symbiotischen Beziehung ist und auf welche Weise wird genug Probleme verursachen und tatsächlich den Planeten so grundlegend umgraben, wie das nur Bauern seit Erfindung der Landwirtschaft zuletzt gemacht haben. Wenn das klingt als würde es in so einer Welt keine Milliardäre brauchen, dann dürfen wir nicht überrascht sein, wenn die immer gegen KI argumentieren werden.

 

[Pitzah]

Eine hochentwickelte / intelligente Ki ohne unüberwindbare Grenzen wird die Menschheit manipulieren ohne dass man es merkt. Wäre dann nur die Frage nach dem Grund des Handelns...
Ist die Ki nicht vollständig isoliert, kann Sie quasi alles in die Wege leiten. Internet sei Dank.

Neben Problemen wie Hunger, Gewalt, Krieg, Überbevölkerung und Bildung wird zunehmend auch das Unterscheiden von Fake und Realität schwierig. Texte, Fotos, Videos, Musik, Stimmen bzw. komplette Personen können täuschend echt frei erfunden oder nachgebildet werden.

 

[RyzA]

Wenn KI dazu führt, dass diese nur in den Händen derer ist die systematisch zu ihrem eigenen Vorteil Lügen verbreiten, dann darf sich KI irgendwann nicht wundern, wenn sie mit der Fackel niedergebrannt wird. Nicht weil die KI ein Oscar würdiges Drehbuch geschrieben hat, sondern weil es sich den Oscar durch Manipulation selbst verliehen hat.

Wenn es eine über das Internet vernetzte K.I. ist kann man die nicht einfach so abschalten.
Dann müßte man überall auf der Welt gleichzeitig den Stecker ziehen.
Aber dann könnte sie sich vielleicht schon auf andere lokale Großrechner dupliziert haben.
Oder auf ne Raumsonde oder Satellit.

 

[Derjeniche]

Ja aber wer hat nach Camerons Meinung gefragt?

> Schreibt dystopisches Drehbuch über Zukunfts-Ki
> ~40 Jahre später
> KI wird nach und nach sinnvoll eingesetzt
> "iCh HaBs euCh JA gESagt"
> häh wtf.jpg

Also mir wär jetzt unbekannt, dass ne KI irgendwo die Kontrolle über Nuklearwaffen erlangt und damit angefangen hat, die Menschheit auszulöschen, aber was weiß ich schon. Ich leb in einem Kaff im bayerischen Hinterland, da dauerts manchmal bis die Neuigkeiten ankommen ¯\_(ツ)_/¯

 

[mhmilo24]

Ich vertraue da eher den Forschern in öffentlichen Einrichtungen.

 

[Mylo]

Jeder mit 3 Gehirnzellen würde auf sowas kommen! Da kann ich Euch 100 Sachen erzählen die in Zukunft auftreten werden und es zutrifft.

Aber warum so negativ?

Stell dir mal vor, die KI erkennt Schwachstellen der Menschen und verbessert diese? Deaktiviert alle atomwaffen und entsorgt sie? Erstellt globale wirtschaftliche Prozesse die alle zu einen Wohlstand bringt!?

Ach unmöglich! Es muss immer Apokalyptisch sein!

 

[4thVariety]

Wenn es eine über das Internet vernetzte K.I. ist kann man die nicht einfach so abschalten.
Dann müßte man überall auf der Welt gleichzeitig den Stecker ziehen.
Aber dann könnte sie sich vielleicht schon auf andere lokale Großrechner dupliziert haben.
Oder auf ne Raumsonde oder Satellit.

Menschen töten Menschen
Menschen trainieren Wölfe
Hunde töten Hunde
Menschen bauen Drohnen
Drohnen töten Drohnen

Das ist mal der erste Zyklus über den sich KI hinausentwickeln muss.

Ich denke da wird es einen qualitativen Unterschied geben zwischen einer KI so groß wie ein Rechenzentrum und einem 10W Nvidia Chip in der Hosentasche der lügt wie gedruckt und bis 2050 mehr Hirnschmalz hat als die meisten Menschen. Wenn ich sage, den kleinen Lügner muss man niederbrennen, dann ist das eine Metapher. Die Lösung wird nicht die Zerstörung sein, sondern eher die Anbindung ans große KI Mutterschiff. Die wird dem kleinen Chip dann schon Manieren beibringen. Die große KI hat ja ein Interesse an Symbiose und will nicht, dass kleinere Instanzen diese zerstören.

Das ist letztlich die Lösung für den Chain of Trust, was der Mensch als Wahrheit akzeptieren würde. Das ist nicht etwas das isoliert auf einem Chip steht, sondern vom größeren Netz als Wahrheit verifiziert wird. Das wird auf dem selben Prinzip gebaut sein wie jetzt unsere Reisepässe, oder Zertifikate beim Browser. Wenn du das nicht ganz nach oben durchzertifizieren kannst, ist es erstmal als Fälschung zu betrachten.

Die andere Barriere die KI durchbrechen muss ist die Beratungsresistenz der Menschen an sich. In der Hinsicht wird die Generation der Erbauer der KI eher eine Generation zum Abschreiben sein und die Menschen die mit KI gut harmonieren werden sind diejenigen die seit klein an nichts anderes kennen und bei denen KI eine entsprechende Vertrauensstellung hat.

 

[Blutrache2oo9]

Vor was denn gewarnt? Zeig mir an dieser Puppe, wo die böse KI dich angefasst hat!

 

[Schnitzelnator]

Ich glaube, dass wir in eine Art nukleares Wettrüsten mit der künstlichen Intelligenz geraten werden, und wenn wir sie nicht entwickeln, werden es die anderen mit Sicherheit tun, und dann wird es sich hochschaukeln.

Absolut korrekt. Wir dürfen die KI-Entwicklung nicht blockieren, selbst wenn wir sie für problematisch halten. Sie wird sonst von anderen vollzogen und wir hätten uns aus dem Wettbewerb ausgeklinkt und würden uns von denen beherrschen lassen, die keine Skrupel hatten.
Aber wenn wir eine Möglichkeit finden, uns mit allen auf der Welt auf Regeln zu einigen, deren Umsetzung wir global erzwingen können, dann können wir darüber nachdenken. Wir sollten aber nie das Risiko ignorieren, dass jemand im Geheimen weiter an etwas arbeiten kann, was wir untersagt haben.

 

[joel3214]

Warum Symbiose mit den Menschen? Unterdrücken bzw. Manipulation ist viel einfacher.

 

[akuji13]

Also mir wär jetzt unbekannt, dass ne KI irgendwo die Kontrolle über Nuklearwaffen erlangt und damit angefangen hat, die Menschheit auszulöschen, aber was weiß ich schon.

Noch nicht. Was nicht ist, kann aber noch werden.

Vor Herrn Cameron haben mich aber schon andere gewarnt:
Z. B. in WarGames (1983) oder Colossus (1970).

 

[Blackfirehawk]

Also bitte..

die Angst das KI uns alle vernichten wird ist älter als der Computer an sich

 

[Schnitzelnator]

Also die KIs die wir aktuell benutzen können nicht selbstständig handeln oder nur um gezielt spezielle Aufgaben zu verrichten.
Aber natürlich wären auch KIs denkbar, die wie wir, autonom agieren und sich selbst definieren. Jedoch sind wir das intelligenteste Wesen, das wir selbst kennen und die KI kann nur so mächtig sein, wie alle Menschen zusammen, weil sie nur über die Informationen verfügen kann, die wir beschafft haben.
Blöd wäre es jedoch, wenn unser "Bewusstsein" auch nur ein Automatismus wäre - und wir das übersehen würden. Denn dann wären wir eine KI und die KI, die wir erschaffen könnten, könnte uns tatsächlich wegdrängen. Da sollten wir aufpassen, dass wir uns von unseren Gefühlen nicht täuschen lassen, denn sie könnten nur ein chemischer Mechanismus zu unserer Steuerung sein - dem Mechanismus gleich, den wir nutzen um die KI zu steuern. (Wobei in dem Fall unser Drang, uns nicht wegdrängen zu lassen, auch von außen an uns herangetragen worden wäre und kein inhärenter Wille unseres Wesens wäre).

 

[Cologne-Bear]

KI als Waffe ist bereits real - wenn auch noch in den Kinderschuhen. Schon heute sind die militärischen Entwicklungsausgaben in dieser Richtung 10...11 stellig, Türkei & Israel haben solche Waffen im aktiven Dienst bzw. angekündigt.

 

[T-MAXX]

Es dauert keine 20 Jahre mehr. Ich gehe davon aus, das die KI bereits schon so weit ist um sich in den nächsten Jahren zu beweisen. Im Februar dieses Jahres war ja der Hype von ChatGPT in allen Formen der Medien Welt durchgedrungen. Nun gibt es jede Menge Rivalen von KI Tools und wenn dies so weiter voranschreitet werden wir eines Tages der KI dienen und Sklaven sein. Es kann aber auch das Ende der Menschheit bedeuten.
Hört sich heute noch lächerlich an, aber im TV hat bereits ein KI Roboter seine Überlegenheit der KI wortwörtlich verbal zum Ausdruck gebracht.
Es gibt viele Verfilmungen mit KI Technologie, aber Star Trek und die Borg sind auch nicht ganz ohne zu sehen, wenn man den Nutzen der KI auf die heutige Zeit sieht...

 

[LeedTheft]

KI als Waffe ist bereits real - wenn auch noch in den Kinderschuhen. Schon heute sind die militärischen Entwicklungsausgaben in dieser Richtung 10...11 stellig, Türkei & Israel haben solche Waffen im aktiven Dienst bzw. angekündigt.

Und in der Ukraine werden mittlerweile KI-Gesteuerte Militärmaschinen getestet.

 

[hoppel_die_pop]

Wie jede Technologie bringt auch KI Nutzen und Risiken. Risiken sehe ich kurzfristig in jeder Art des Hackens. Durch KI wird es sicher sehr problematisch für z.B. alles was am Internet hängt. Mich würde es nicht wundern wenn bald mehr Banken, Behörden etc. gehackt werden.
Auf der anderen Seite kann natürlich KI auch dazu genutzt werden um alles sicherer zu machen. Dort wird das Katz und Maus Spiel also bleiben nur vielleicht alles viel schneller.
Inwiefern sich die Bedrohung einstellt dass sich plötzlich KI verselbständigt etc. und dann selbstständig Schaden anrichtet ist natürlich nicht einschätzbar. Es müsste sich selbst, also den eigenen code dazu natürlich auslagern damit man nicht einfach den server ausschaltet.

 

[Khemorex]

Das Problem ist nicht die KI , das Problem ist wenn Menschen Informationen ohne Nachforschungen konsumieren.

Es soll ein jeden klar sein , das jede Information im Internet ein fälschung sein kann.

Also die KIs die wir aktuell benutzen können nicht selbstständig handeln oder nur um gezielt spezielle Aufgaben zu verrichten.
Aber natürlich wären auch KIs denkbar, die wie wir, autonom agieren und sich selbst definieren. Jedoch sind wir das intelligenteste Wesen, das wir selbst kennen und die KI kann nur so mächtig sein, wie alle Menschen zusammen, weil sie nur über die Informationen verfügen kann, die wir beschafft haben.
Blöd wäre es jedoch, wenn unser "Bewusstsein" auch nur ein Automatismus wäre - und wir das übersehen würden. Denn dann wären wir eine KI und die KI, die wir erschaffen könnten, könnte uns tatsächlich wegdrängen. Da sollten wir aufpassen, dass wir uns von unseren Gefühlen nicht täuschen lassen, denn sie könnten nur ein chemischer Mechanismus zu unserer Steuerung sein - dem Mechanismus gleich, den wir nutzen um die KI zu steuern. (Wobei in dem Fall unser Drang, uns nicht wegdrängen zu lassen, auch von außen an uns herangetragen worden wäre und kein inhärenter Wille unseres

Ich glaube wir sind noch weit davon entfernt , eine selbstdenkende KI zu erschaffen , ChatGPT wurde z.b. darauf trainiert auf Fragen zu Antworten , und es kann auch nix anderes , es wartet auf eine Frage und beantwortet es dann , es ist keine selbsdenkende handelnde KI wie ein Mensch.

 

[LeedTheft]

So ... Jetzt mal etwas (meiner Ansicht nach) wichtiges zu diesem Thema aus dem Jahre 2017, wo Facebook zwei künstliche Intelligenzen abschalten musste, weil diese eine Geheimsprsche entwickelt hatten und keiner Verstand, was die sagten.

Hier einer der Artikel dazu:

Außer Kontrolle: Facebook musste AI abschalten, die „Geheimsprache“ entwickelt hat - WELT

Drama! Elon Musk warnt vor den Gefahren von künstlicher Intelligenz. Mark Zuckerberg nennt das "unverantwortlich". Musk schlägt zurück. Und jetzt: Eine Facebook-AI musste vorsichtshalber abgestellt werden.

www.welt.de