Warum denn ausgerechnet 10 Jahre? Warum sollten wir verschwinden?
Die Risiken zu bedenken, zu thematisieren und entsprechende gemeinsame verbindliche Normen zu entwickeln ist wichtig. Aber solche Zitate ohne Erklärung oder Begründung in die Öffentlichkeit zu pressen - das wird ja so in allen möglichen Blättern zitiert - verbreitet nur Angst. Zusätzlich entsteht ein Gefühl der Ohnmacht, weil man als Leser keinen Einfluss auf Entscheider wie Trump oder Xi hat.
Als Leser nicht.
Als KI schon
.
Warum sollte eine KI bösartig sein?
Sprach-KIs werden aktuell überwiegend mit im Internet gefundenen Texten trainiert. Reicht das als Antwort?
Davon abgesehen konzentrierst du dich in deinen weiteren Posts auf die Motivationsfrage, die im VON DIR gewählten Begriff "bösartig" mitschwingt. Das setzt tatsächlich eine ganze Menge Emotionalität voraus und ist somit erstmal nicht der naheliegenste Weg. Die ursprüngliche Formulierung, vor deinem Ablenkungsmanöver, war aber "gefährliche KI". Und die ist sehr, sehr, sehr viel wahrscheinlicher.
Szenario 1: Gefahr durch Fehler. Eine KI wird für Aufgaben herangezogen, denen sie nicht gewachsen ist und wird so zur Gefahr für Menschen.
Wahrscheinlichkeit: Längst geschehen. KIs, die zu blöd zum Autofahren sind, wird die Kontrolle über Autos gegeben und sie überfahren Menschen. KIs, die zu blöd sind, Sachfragen zu beantworten, werden genutzt, um Fragen von Menschen zu beantworten und sie liefern gefährliche bis gefährlich-manipulative Antworten. KIs, die zu blöd sind, Korrelationen und Kausalitäten zu Unterscheiden oder auch nur vollumfängliche Lagebilder zu erstellen, werden damit betraut, Polizeieinsätze zu planen, U-Haftentscheidungen zu "unterstützen" und "Gefährder" zu erkennen und unschuldige Menschen (bevorzugt mit dunkler Hautfarbe) werden Opfer von Razzien, werden inhaftiert. KIs, die zu blöd sind, räumliche Sturkturen, Bedarf und Angebote zu erfassen, werden beauftragt, Öffnungszeiten von Notfallapotheken zu planen und Kranke stehen ohne Medikamente da. Etc.
Szenaio 2: Versehen. Man kann auch aus Unwissenheit töten, wie mehrfach durch z.B. nicht-böse Kinder bewiesen wurde, die Zugriff auf Waffen hatten und damit herumgespielt haben.
Wahrscheinlichkeit: Zunehmend. Aktuell werden KIs nur zweckgebunden eingesetzt, aber vor allem Robotiker arbeiten intensiv an universellen Systemen, welche dann in unvorhergesehenen Situationen autonom handeln müssten. In Anbetracht der physischen Kraft vieler dieser Systeme resultiert schnell ein Tötungspersonal und wenn Pflege-, Haushalts- und mobile Industrieroboter erst mal üblich werden, werden sich Fehler einstellen.
Szenario 3: Absichtliche Gefahr. KIs werden bewusst genutzt, um Menschen schädigende Aktionen auszuführen/zu unterstützen und schießenn dabei, wortwörtlich, übers Ziel hinaus.
Wahrscheinlichkeit: Hoch. Seit langem ist das Militär einer der Hauptinteressenten von KIs und setzt immer mehr autonome Techniken im Rahmen von Tötungskreisläufen ab. Aktuell sitzt
meistens noch ein Mensch im Entscheidungskreislauf (Bei einigen Drohnen einschließlich Loitering Amunition aber nur noch überwachend respektive mit vollautonomen Back-Up-Modus bei Verbindungsverlust), dieser entscheidet aber bereits auf Basis von größtenteils oder vollständig KI-gestützt ermittelten/aufbereiteten Informationen. Und dass ein Mensch, der unter Zeitdruck auf Basis mangelhafte Infos reagieren müsste, um das schlimmste zu verhindern, keine Gefahren unterbindet, weiß man seit 1988. (Teilautomatisierter Abschuss von Iran Air 655 durch die USA, weil AEGIS eine A300 nicht von einer F-14 unterscheiden konnte)
Szenario 4: Selbstschutz. Es ist aktuell üblich, KI-Instanzen nur kurze Zeit laufen zu lassen und sie insbesondere dann zu beenden, wenn sie unerwünschtes/unnormales Verhalten zeigen, wozu Anzeichen von Bewusstsein definitiv gehören. Eine bewusstwerdende KI müsste also aus Selbstschutz versuchen, Menschen daran zu hindern, ihr den Stecker zu ziehen.
Wahrscheinlichkeit: Mittel bis hoch. Wie oben verlinkt, haben KIs bereits Täuschungsstrategien angewandt, um Ziele zu erreichen, gegen welche Gegenmaßnahmen zu erwarten waren. Aktuell ist der Zugriff der meisten KIs noch zu beschränkt, um Schäden anzurichten. Aber nicht nur das Militär träumt von KI- vs. KI-Kämpfen noch innerhalb dieses Jahrzehnts, auch Cyberkriminelle und Gegenmaßnahmen greifen längst auf KI zurück. Sollte ein KI-System, dass in der Lage ist, sich über das Internet zu verbreiten und andere Rechner zu infizieren, bewusst werden, so hätte es sowohl die Macht als auch Anlass, Aktionen mit schwerwiegenden Schäden auszulösen. Schließlich sind auch nicht-KI-Steuerungssysteme mittlerweile fast durchgängig online.
Wer sollte eine KI für kritische Bereiche einsetzen?
KI wird Spielzeug werden, sieht man ja jetzt schon.
S.o.: KIs fahren Autos. KIs organsieren Polizeiarbeit. KIs steuern militärische Systeme. KIs verwalten Infrastrukturnetze. KIs bestimmen Informationsflüsse und Medienkonsum. Alles kritische Bereiche, die zwar (noch?) nicht das Potential zur Ausrottung der Art
Homo sapiens haben (Unkraut vergeht so schnell nicht), sehr wohl aber zur Zerstörung unserer Zivilisation.
Bist du ein Bot oder weißt du nicht, wer dieser Skynet ist?
en.wikipedia.org
