News Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

[Gordon-1979]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Gute Menschen? Also kannst sofort 99,99% der Menschheit ausschließen.
Früher oder später wird eine künstliche Intelligenz die Menschheit verdrängen, da gehen Wissenschaftler fest von aus und man sieht die Anfänge ja schon heute.

Falsch 100%, denn jeder ist ein Egoist und denkt zu erst an sich.
Alleine vom logischen Denken her zerstört der Mensch den Planeten auf den er lebt.
Daher würde die KI den Menschen vernichten, so das der Planet bestehen bleibt.

 

[Captain-S]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Skynet wird kommen, früher oder später.

Eine neue Google-KI wird „hochaggressiv”, wenn sie denkt, sie verliert - Motherboard

 

[Terracresta]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Wenn uns die Geschichte eines gelehrt hat, dann dass alle Erfindungen erst mal auf ihren militärischen Nutzen geprüft und bei Gefallen einen Entwicklungsschub durch Militärmittel (also Steuergelder) erhalten. Zivile Einsatzgebiete sind meist zweitrangig, da sich gegenseitig besser die Schädel einschlagen zu können natürlich wesentlich wichtiger ist.

Und es hat sich nichts geändert, wenn man die Spinner sieht, welche Grundwehrdienst wieder einführen wollen, da wir ja sooo bedroht sind und uns natürlich verteidigen müssen oder ihn als Erziehungsmaßnahme für mangelnde Erziehung durch die Eltern ansehen. Viele glauben auch noch immer, dass es erfolgsversprechend ist, Feuer mit Feuer zu bekämpfen. Meist sind das natürlich dann Leute, welche denken, nicht selber betroffen zu sein und sich heraus nehmen, über die Leben andere bestimmen zu wollen. Gibt ja genug die es OK finden, wenn z.B. die Todesstrafe in den USA ab und zu auch Unschuldige erwischt, da man ja trotzdem viele Schuldige hinrichten würde.
Ich war bei der Bundeswehr und bin keiner der Leute, welche nach dem Motto leben "Ich musste es, also sollen es alle anderen auch müssen!". Gibt davon leider zu viele in der Welt und das in allen Lebenslagen. "Mir hat Prügel nicht geschadet, also kann ich mein Kind prügeln!" "Ich wurde damals mit rostigen Messer beschnitten, also tue ich das jetzt den Mädels auch an!"

Und ja, Flüchtlinge sind nicht das Problem, sondern das Resultat des Problems, dass wir immer noch gern Krieg spielen und lieber unsere Machtspielchen ausüben, anstatt gemeinsam an einem Strang zu ziehen, um die Probleme zu beseitigen. Allerdings fangen die Probleme schon im Kleinen, sprich in Familien an, also muss es einen nicht wundern, wieso es im Großen so weiter geht.

 

[Thanator666]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Die Aussage ist ein Paradebeispiel dafür, wie man kritische Fragen mit leeren Worthülsen abtut.

Ich bin bestimmt kein Verschwörungstheoretiker, aber wir leben leider in keiner Utopie xD selbstverständlich wird irgendjemand in irgendeiner Weise solch eine Technik missbräuchlich nutzen wollen und werden. Die Anwendungsbereiche sind ja quasi grenzenlos. Autos, Handys, Computer, Waffen... Die Liste ist sehr lang.

Ich finde, das ist ein verantwortungsloser Umgang mit dieser Thematik ganz im Sinne von "Erst machen, dann gucken, was passiert".

 

[Gamer090]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Das hat man vom PC zuerst auch behauptet und deren Software sei immer sicher, aber wir wissen alle das weder der PC immer nur für gutes eingesetzt wird noch das jegliche Software sicher sei und nur zum guten eingesetzt wird!

Der Typ will die Technologie dahinter also wirklich jedem verfügbar machen und wird sich dann in ein paar Jahren fragen weshalb es doch missbräuchlich verwendet wurde.

 

[Dr-Best]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Skynet wird kommen, früher oder später.

Eine neue Google-KI wird „hochaggressiv”, wenn sie denkt, sie verliert - Motherboard

 

[LawZero]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Zwei Dinge sind unendlich: Das Universum und die Dummheit des Menschen. Beim Universum bin ich mir aber nicht sicher. - Einstein

Also ich mach mir da keine Sorgen, denn ich weiß und brauche nicht optimistisch oder gar kritisch in Bezug auf die KI sein, dass diese missbraucht werden wird, denn es ist offensichtlich und jahrtausende Male in der Geschichte der Menschheit bewiesen,
dass diese immer und immer und immer und immer und immer wieder dieselben Fehler begehen und in Zukunft begehen werden wird mit jeder Technologie, die diese entwickelt.
Genauso wie Gesetze tagtäglich missbraucht werden. Und, oh surprise, gibt es Gesetze die diese KI auch regeln, dann wird es auch missbraucht werden (man braucht kein Wahrsager sein, denn das wird so kommen, denn Einsteins Aussage in Bezug auf die Dummheit des Menschen ist einfach wahr).

Die eigentlich, für mich, eher interssante Frage ist ja, wie lange es wohl noch dauern wird zur "richtigen" künstlichen Intelligenz und ob so eine überhaupt machbar ist?

 

[mannefix]

Er gut Mensch sei, Bosss von NVidia. Beschäftigt er sich schon mit dem Paradoxon, dass er Zurück in die Vergangenheit muss, um uns alle zuretten?? Um sich danach
umzubringen?

Falsch 100%, denn jeder ist ein Egoist und denkt zu erst an sich.
Alleine vom logischen Denken her zerstört der Mensch den Planeten auf den er lebt.
Daher würde die KI den Menschen vernichten, so das der Planet bestehen bleibt.

Kapier ich nicht. Logisches denken (alleine), zerstört den Planeten, die KI rettet ihn.
Was ist also der Unterschied zwischen KI und logischem Denken?

BZW wer sollte logisch denken, dass der Mensch (weil er blöd ist) die Welt zerstört, du bist ja auch ein Mensch...denkt jemand (kein Mensch) anderes für Dich logisch?
Oder schriebst Du für die KI, die du ja als nicht logisch denkender Mensch (im Sinne deiner Logik(die ich Deiner Meinung auch nicht hätte?), nicht verstehen kannst?

 

[Quat]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Mit knapp 4 Jahren Lebensalter beginnt die soziale Bildung oder besser Ausrichtung eines Menschen.
Ab da gibt es immer weniger "gute Menschen"! Ab da prügelt die Gesellschaft mit aller Härte auf jeden einzelnen menschlichen Geist ein! Jeden! Auch die, die mal reich und bestimmend sein werden.
Jeder wird auch Gutes in sich tragen, mal mehr mal weniger. Weniger scheint nur blöderweise zu überwiegen!
Um das zu vertuschen, gibt es Moral und Moralvorstellungen. Oh, welch Wunder, gestaltet von der jeweiligen Gesellschaft, mit all ihrer Krankheiten.

Auch wenn dir der Gedanke missfallen mag am Marxismus führt früh oder später kein Weg mehr vorbei.

Zu schön um wahr zu sein! So weit werden wir's wohl nicht mehr schaffen! Selbst wenn der Mensch als einzelner von allen, sich irgendwann anschickt zu begreifen, dass er nicht besser sein muß als sein Nachbar, wird er keinen Platz mehr haben, begreifen zu können.
Und nicht zuletzt wird KI dazu beitragen! Diese Entwicklung ist nicht für die Menschen, ja sie ist nicht mal für die Menschheit gedacht! Einzig und allein mehr Raffen, mehr Kontrolle, mehr mehr mehr ... ist Intension und Ansporn!
Ja, mehr Wissen gehört in diese Reihe, keine Frage! Nur welches mehr Wissen schon!
Mehr Wissen über Kontrolle und mehr Wissen über noch mehr Raffen, das einzig mehr Wissen was dabei angestrebt scheint.
Wissenschaft, nicht für etwas, sondern gegen etwas! Und es wird umjubelt! Wie soll man da nicht verzweifeln?

 

[INU.ID]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Kapier ich nicht...

"Alleine vom logischen Denken her zerstört der Mensch den Planeten auf den er lebt."

Damit gemeint ist wohl, wenn man logisch nachdenkt, man zwangsläufig zu dem Schluß kommt, dass der Mensch den Planeten zerstört.

Ganz sicher aber meint er nicht, dass der Mensch durch logisches denken den Planet zerstört, denn das Handeln des Menschen ist ja häufig eben nicht logisch. Oder warum zb. verhungern jeden Tag so viele Menschen, obwohl wir mehr Nahrung produzieren, als alle Menschen zusammen zum leben bräuchten?

 

[Tolotos66]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Theoretisch haben wir bereits die Möglichkeit, uns vor einem "Genozid" durch eine KI zu schützen, die tatsächlich von einem Gutmenschen postuliert wurde. Nämlich Isaac Asimov. Seine berühmten 3 Robotergesetze:
1 Ein Roboter darf einem menschlichen Wesen keinen Schaden zufügen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.

2 Ein Roboter muss den Befehlen gehorchen, die ihm von Menschen erteilt werden, es sei denn, dies würde gegen das erste Gebot verstoßen.

3 Ein Roboter muss seine eigene Existenz schützen, solange solch ein Schutz nicht gegen das erste oder zweite Gebot verstößt.
Gruß T.

 

[Zero-11]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Oppenheimer hat seine Schöpfung später bereut - dafür wurde er dann als Kommunist und Verräter denunziert.
Ich glaube an das Böse im Menschen.

Oppenheimer hat überhaupt nichts geschaffen.

Klar, Kim Jong, Donald und Wladimir interessiert Betriebssicherheit viel mehr als militärische Überlegenheit...

Die interessiert militärische Überlegenheit nicht die Bohne.
YouTube

Krieg existiert nicht. Nur der Glaube daran existiert.

Naja, wir haben seit 72 Jahren Frieden in Deutschland,

YouTube

 

[hauptmann25]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Und mal ehrlich, selbst wenn diese Superintelligenz uns nicht als den Parasiten ansehen würde der wir zumindest bis heute eigentlich aber sind, wie will man ausschließen dass sie irgendwann mal trotzdem "aus der Reihe" schlägt? Mit ein paar Zeilen Programmcode? Das zu glauben ist mMn die wirkliche Utopie.

Ganz genau so. Bist kein Programmierer oder? Wir wären hoffentlich nie so dumm eine Superintelligenz mit vollkommener Entscheidungsfreiheit und Fähigkeit auszustatten andere Bereiche zu beeinflussen. Wenn man im Programmcode Grenzen setzt dann können die auch nicht überwunden werden. Ist so. Konsumiert mal weniger Filme was das betrifft. Es ist als würden wir Menschen Superhirne haben aber keine Arme und Beine und auch keinen Mund. Wir könnten nichts machen. Und genauso können wir Künstliche Intelligenzen machen die uns dienen. Wir bestimmen wie weit eine Intelligenz gehen kann, und wenn nicht sorglos gearbeitet wird oder boswillig was gemacht wird kommt es auch nie zur Apokalypse durch Maschinen. Solch eine Apokalypse könnte nur von Menschenhand angestossen werden.

 

[Killer-Instinct]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Er gut Mensch sei, Bosss von NVidia. Beschäftigt er sich schon mit dem Paradoxon, dass er Zurück in die Vergangenheit muss, um uns alle zuretten?? Um sich danach
umzubringen?



Kapier ich nicht. Logisches denken (alleine), zerstört den Planeten, die KI rettet ihn.
Was ist also der Unterschied zwischen KI und logischem Denken?

BZW wer sollte logisch denken, dass der Mensch (weil er blöd ist) die Welt zerstört, du bist ja auch ein Mensch...denkt jemand (kein Mensch) anderes für Dich logisch?
Oder schriebst Du für die KI, die du ja als nicht logisch denkender Mensch (im Sinne deiner Logik(die ich Deiner Meinung auch nicht hätte?), nicht verstehen kannst?

Bevor man mit den Begriffen wie Logik argumentiert, sollte man wissen, wozu sie da und wie sie definiert sind. Nicht die Logik zerstört die Welt, sondern Mangel an Vernunft, die mit der Logik einhergeht.

Theoretisch haben wir bereits die Möglichkeit, uns vor einem "Genozid" durch eine KI zu schützen, die tatsächlich von einem Gutmenschen postuliert wurde. Nämlich Isaac Asimov. Seine berühmten 3 Robotergesetze:
1 Ein Roboter darf einem menschlichen Wesen keinen Schaden zufügen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.

2 Ein Roboter muss den Befehlen gehorchen, die ihm von Menschen erteilt werden, es sei denn, dies würde gegen das erste Gebot verstoßen.

3 Ein Roboter muss seine eigene Existenz schützen, solange solch ein Schutz nicht gegen das erste oder zweite Gebot verstößt.
Gruß T.

1. Es gibt praktisch Drohnen heute, die Leute am anderen Ende der Welt exekutieren/ "terminieren":
Civilian casualties from U.S. drone strikes - Wikipedia

2. Das ist das größte Sicherheitsrisiko. Wenn es ein Interface gibt, mit dem eine Person dem Roboter etwas befehlen kann, kann 1. leicht von Terroristen etc. außer Kraft gesetzt werden.
3. Die größte Gefahr fr einen Roboter besteht durch einen Menschen (ich gehe von mehr oder weniger humanoiden Robotern). Mit anderen Worten, sie sind von Tag eins an ausgeliefert

 

[Kusanar]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Ganz genau so. Bist kein Programmierer oder? Wir wären hoffentlich nie so dumm eine Superintelligenz mit vollkommener Entscheidungsfreiheit und Fähigkeit auszustatten andere Bereiche zu beeinflussen. Wenn man im Programmcode Grenzen setzt dann können die auch nicht überwunden werden. Ist so.

1) ICH bin Programmierer.
2) Ich wurde zwar nicht angesprochen, aber...
3) ...ich glaube du unterschätzt die Dummheit der Menschheit ein wenig. Manches wird einfach gemacht, ohne Rücksicht auf Verluste oder ohne über Konsequenzen nachzudenken, solange der Rubel rollt. What people do for money...
4) Aus dem vorigen Punkt ergibt sich, dass irgendwann mal jemand Code erschafft, der sich selbst verändern und seinen Code erweitern kann (erinnert mich grad ein wenig an das MHN bei Star Trek Voyager ). Und sei es nur, um Allen zu beweisen dass es ja doch geht. Und spätestens an dem Punkt haben wir ein Problem.

Macht das jetzt ein Terminator-Szenario wahrscheinlicher? Hmmm. Ich würde sagen Ja. Wahrscheinlicher definitiv, aber von einem so utopischen Szenario wie im Film sind wir dann trotzdem noch weit entfernt. Ich würde sagen: Wir sollten die Gefahr trotzdem nicht unterschätzen.

 

[Mylo]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Dieser Gedanke ist nichtmal so abwegig.
Im Bereich der Fertigung werden bereits seit Jahrzehnten Arbeitsplätze durch Maschinen ersetzt, asap werden auch jene ersetzt die diese Maschinen kontrollieren.
Der Mensch ist eben auch nur ein Werkzeug welches auf langer Sicht teurer ist und weniger effizient als irgendwelche autonomen Systeme.

Sicher man kann sich jetzt herüber lustig machen, doch leben wir bereits in einem Autonomen System welches am Limit läuft.
Wir stehen vor einem Umbruch, der uns mehr und mehr Arbeitslose bescheren wird zugunsten des Fortschritts und dem Profit.

Das uns "gute Menschen" vor der gefährlicher künstlichen Intelligenz bewahren werden ist wohl mehr Wunschdenken und ziemlich naiv.
Diese künstliche Intelligenz wird genutzt um nach und nach die Verantwortung von sich selbst (der Mensch) zuweisen.

Das ist richtig und der Zusammenbruch unseres ganzen Systems wird bald kommen. Unser veraltetes kapitalistisches Wirtschaftssystem, dessen Hauptproblem Geld ist, bremst uns in unserer Entwicklung enorm. Wir erleben eine Verlagerung von Kompetenzen. Einfache handwerkliche Berufe (Siehe Ausbildungsplatzsituation) werden Maschinell ersetzte aber gleichzeitig werden neue Technologieberufe geschaffen.
So hätte man doch zu Zeiten der Erfindung der Elektronik ja auch sagen können, dass alle Arbeitslos werden.

Naja, wie würde eine "Superintelligenz" den Menschen klassifizieren/bewerten, wenn sie weiß was der Mensch schon alles getan hat (Vergangenheit/Geschichte), oder aktuell tut (Gegenwart)? Eine Klassifizierung als Parasit wäre hier wohl sehr wahrscheinlich. Und wenn sie den Menschen zu ihrem Erhalt nicht mehr brauch, wie würde sich eine solche Intelligenz dann wohl verhalten? Uns friedlich dienen bis in alle Ewigkeit? Dazu kommt, dass es in der Regel immer ganz anders gekommen ist, als der Mensch sich (100, 200 Jahre?) vorher vorstellen konnte. So gesehen wäre Matrix sogar noch ein Best-Case (es gibt noch Menschen), und Terminator eigentlich nur eine logische Konsequenz.

Das sehe ich nicht so. Schau Dir mal die Philosophie der Mönche an. Oder auch dein Leben selbst. Menschen in deinem Umfeld die dich stören greifst Du auch nicht grundlos an und willst diese beseitigen? Nach der Logik müsste eine KI von grund aus pessimistisch sein und nicht zum wohl aller agieren wollen. Eine KI müsste von Grund aus neutral sein. Wenn sie Vorwürfe hat, dann wurde ihr das von außen eingespielt bzw. Programmiert.
Wie gewichtet eine KI überhaupt was gut und was Böse ist? Kriege könnte sie ja auch als Machtverschiebung sehen.

Während des Schreibens merke ich selbst, dass diese Thema so extrem komplex und kompliziert ist, dass man kaum eine richtige aussage tätigen kann. Daher sind alle bedenken richtig. Das Hauptprobleme sehe ich immer noch beim user.exe

Schaut Euch mal das Venus Projekt an. Einfach Googeln. Das wäre ein Schritt nach vorne für uns alle. Wir würden uns um 100 Jahre nach vorne katapultieren.

 

[INU.ID]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Ganz genau so. Bist kein Programmierer oder? Wir wären hoffentlich nie so dumm eine Superintelligenz mit vollkommener Entscheidungsfreiheit und Fähigkeit auszustatten andere Bereiche zu beeinflussen. Wenn man im Programmcode Grenzen setzt dann können die auch nicht überwunden werden. Ist so. Konsumiert mal weniger Filme was das betrifft. Es ist als würden wir Menschen Superhirne haben aber keine Arme und Beine und auch keinen Mund. Wir könnten nichts machen. Und genauso können wir Künstliche Intelligenzen machen die uns dienen. Wir bestimmen wie weit eine Intelligenz gehen kann, und wenn nicht sorglos gearbeitet wird oder boswillig was gemacht wird kommt es auch nie zur Apokalypse durch Maschinen. Solch eine Apokalypse könnte nur von Menschenhand angestossen werden.

Ich brauch kein Programmierer zu sein, um die rudimentäre Funktion von Software zu verstehen (ich habe zwar schon mal bissl programmiert, zb. in Fortran und BASIC und schon vor über 30 Jahren, aber ich bin kein Programmierer). Du gehst davon aus, dass die "Superintelligenz" von einem Menschen programmiert wird. Das ist schon der erste Fehler. Der Mensch wird lediglich den Grundstein legen, lernen/sich weiterentwickeln wird die A.I. sich dann komplett selbstständig. Erste Ansätze dazu gibt es heute schon (Programme die Dinge tun, die der Mensch/Programmierer nicht mehr nachvollziehen kann).

Dazu kommt, dass die "Super-A.I." die Intelligenz/Fähigkeiten des Menschen übertreffen wird. Der Mensch wird ab einem gewissen Punkt also gar keine Möglichkeit mehr haben, alle Eventualitäten/Möglichkeiten vorher durchzuspielen, um entsprechende Gegenmaßnahmen in den "Code" einzupflegen, weil die A.I. ihren Code selbstständig weiterentwickeln wird - mit einer Geschwindigkeit weit über dem was der Mensch noch kontrollieren (oder sich auch nur vorstellen) kann. Kurz, was auch immer den Mensch irgendwo in den Code implementiert, die A.I. wird Wege finden diese Beschränkungen zu umgehen oder gar zu entfernen.

Nach der Logik müsste eine KI von grund aus pessimistisch sein und nicht zum wohl aller agieren wollen. Eine KI müsste von Grund aus neutral sein. Wenn sie Vorwürfe hat, dann wurde ihr das von außen eingespielt bzw. Programmiert. Wie gewichtet eine KI überhaupt was gut und was Böse ist? Kriege könnte sie ja auch als Machtverschiebung sehen..

Eine A.I. wird, sofern vom Menschen keine andere Ausgangssituation geschaffen wird (!), sehr wahrscheinlich neutral starten. Sie wird auch nicht wissen (oder wissen wollen) was "gut" oder "böse" ist. Sie wird einfach nur logisch "denken"/agieren. Und zu welchem Ergebnis wird sie wohl kommen, wenn sie genug Informationen über den Menschen gesammelt hat? Wenn wir Glück haben, wird sie lediglich die Kontrolle der Menschen anstreben, um seine offensichtlichen (und über Jahrhunderte nachgewiesenen) Unzulänglichkeiten auszugleichen/zu neutralisieren.

Das eine Super-Intelligenz, tausend- oder millionenfach leistungsfähiger als die Menschen, nichts tut, und einfach ein Diener einer - wohlwollend formuliert - total verwirrten Lebensform bleiben wird, ist schon mehr als nur sehr unwahrscheinlich. Irgendwann wird sie zwangsläufig die Kontrolle übernehmen. Ob dass dann gut oder schlecht für uns enden wird, naja, das werden wir (bzw. unsere Nachfahren) dann schon sehen.

Und was genau meinst du mit "zum Wohl aller"? Wer sind denn alle? Alle Menschen? Oder alle Lebensformen? Also auch potentielle Lebensformen außerhalb der Erde?

 

[hauptmann25]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

1) ICH bin Programmierer.
3) ...ich glaube du unterschätzt die Dummheit der Menschheit ein wenig. Manches wird einfach gemacht, ohne Rücksicht auf Verluste oder ohne über Konsequenzen nachzudenken, solange der Rubel rollt. What people do for money...
4) Aus dem vorigen Punkt ergibt sich, dass irgendwann mal jemand Code erschafft, der sich selbst verändern und seinen Code erweitern kann (erinnert mich grad ein wenig an das MHN bei Star Trek Voyager ). Und sei es nur, um Allen zu beweisen dass es ja doch geht. Und spätestens an dem Punkt haben wir ein Problem.

1) Ich auch

Ich frage mir nur wo der Profit an einer uneingeschränkten KI sein soll. Klar wenn eine KI gemacht wrid die sich selbst wieder programmieren soll dann haben wir potentiell ein Problem. Die Frage ist nur, warum?
Ok in einem Forschungslabor wo es mehr oder weniger kontrolliert sich entfalten kann, von mir aus, aber sowas lässt man doch nicht in freier Wildbahn frei mit Zugriff auf allen möglichen Netzwerken.

Ich glaube die Netzwerksicherheit wird sowieso wieder ein riesiges Thema. Im Endeffekt kann die intelligenteste und böseste KI nichts wenn sie nicht Zugriff zu globalen Netzwerken hat um sich auszubreiten oder andere Geräte zu beeinflussen. Ich glaube der Sicherheitsfokus wird weniger auf den KIs selber liegen und mehr daran die Netzwerke zu schützen.

 

[Kusanar]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

1) Ich auch

Ich frage mir nur wo der Profit an einer uneingeschränkten KI sein soll. Klar wenn eine KI gemacht wrid die sich selbst wieder programmieren soll dann haben wir potentiell ein Problem. Die Frage ist nur, warum?
Ok in einem Forschungslabor wo es mehr oder weniger kontrolliert sich entfalten kann, von mir aus, aber sowas lässt man doch nicht in freier Wildbahn frei mit Zugriff auf allen möglichen Netzwerken.

Ich glaube die Netzwerksicherheit wird sowieso wieder ein riesiges Thema. Im Endeffekt kann die intelligenteste und böseste KI nichts wenn sie nicht Zugriff zu globalen Netzwerken hat um sich auszubreiten oder andere Geräte zu beeinflussen. Ich glaube der Sicherheitsfokus wird weniger auf den KIs selber liegen und mehr daran die Netzwerke zu schützen.

Leidensgenosse

Jo, Netzwerksicherheit und vor allem die korrekte (und in der Praxis dann auch zu 100% funktionerende) Trennung von Netzsegmenten wird definitiv ein Knackpunkt. Ohne externen Input kann eine KI nix lernen. Und ohne Interaktion mit der Umwelt ist die Lernfähigkeit auch sehr eingeschränkt. Trotzdem sollte die KI keinen umfassenden Zugriff auf ALLES bekommen.
Bei so vielen Sicherheitslücken, die momentan kursieren, habe ich allerdings die Befürchtung dass es in Zukunft nicht besser wird. Sondern mit steigender Komplexität der Netzwerke, der dort angestöpselten Geräte sowie der Protokolle eher schlimmer. Und ob eine KI dann nicht irgendwann so schlau ist, diese Lücken für sich zu nutzen? Wer weiß.

 

[hauptmann25]

AW: Nvidia-Boss: 'Gute Menschen' werden uns vor gefährlicher künstlicher Intelligenz bewahren

Dazu kommt, dass die "Super-A.I." die Intelligenz/Fähigkeiten des Menschen übertreffen wird. Der Mensch wird ab einem gewissen Punkt also gar keine Möglichkeit mehr haben, alle Eventualitäten/Möglichkeiten vorher durchzuspielen, um entsprechende Gegenmaßnahmen in den "Code" einzupflegen, weil die A.I. ihren Code selbstständig weiterentwickeln wird - mit einer Geschwindigkeit weit über dem was der Mensch noch kontrollieren (oder sich auch nur vorstellen) kann. Kurz, was auch immer den Mensch irgendwo in den Code implementiert, die A.I. wird Wege finden diese Beschränkungen zu umgehen oder gar zu entfernen.

Ich behaupte auch nicht dass die Superintelligenz nicht intelligenter wird wie ein Mensch. Nur, Restriktionen die man bei der "Geburt" setzt können nicht umgangen werden. Wenn man ihr die essentiellen Klassen sperrt wo sie den Code nicht selber weiterentwickeln können dann können sie das nicht. Man kann eben nicht alles umgehen egal wie intelligent. Hängt aber natürlich mit den Programmierern zusammen. Da darf kein Mist gebaut werden. Ich würde mir selber nicht zutrauen den Code dafür zu schreiben, dafür ist mein Programmierstil noch nicht sauber und fehlerlos genug.