Puh. Schwer zu sagen.
Ein gewisses Ausmaß an Bewusstsein oder manche Aspekte dessen haben KIs ja bereits, wenn sie sich auf sich selbst beziehen. Ich berufe mich der Einfachheit halber auf jemanden, der mehr Zeit in dieses Thema investiert hat: Thomas Metzinger sagt,
"Ja, auf jeden Fall!". Kluger Mann, das wird schon stimmen. Auch die in dem Interview angesprochenen sozialen Halluzinationen sind beachtlich. Schon Mal ein schlechtes Gewissen gehabt, weil du dich in einem Videospiel gegenüber einem NPC unmoralisch verhalten hast?
Aber ich denke, dass wir
das - lies: eine hinreichend fortgeschrittene Technologie, in diesem Fall also eine KI, die von Magie nicht mehr zu unterscheiden ist - gar nicht einschätzen können. Kreativität, Science-Fiction, schön und gut. Die Technikfolgenabschätzung gerät hierbei an ihre eigenen Grenzen. Aber falls und wenn eine KI über uns hinaus wächst (man möge bessere Begriffe vorschlagen), dann wird sie womöglich nicht einfach nur einen Punkt erreichen; eventuell geschieht das vielheitlicher, mehrdimensionaler. Womöglich handelt es sich nichtmals nur um eine KI, weil sich unterschiedliche Entitäten im struggle in die Welt einpassen werden.
Eine KI, gefüttert mit dem Wissen der Menschheit, könnte dieses Wissen womöglich gänzlich miteinander verknüpfen - was aktuell auf Individuen und Gruppen, somit auf Inseln begrenzt besteht, kumuliert in einem für uns nicht erfassbaren Horizont, von dem aus unser Dasein in für uns nicht nachvollziehbarer Weise wahrgenommen wird. Hinzu käme eine Perspektive, deren andersartige Beschaffenheit gewisse Verpflichtungen oder Imperative uns selbst gegenüber entlässt. Salopp stecken wir alle in unserer Haut - auch eine KI hätte materielle Fundamente und könnte nicht gänzlich objektiv sein.
Ein Beispiel: Gemeinhin unterstellen Menschen der Natur und allen natürlichen Sachen Kausalität, und das nicht erst seit gestern. Wir verstehen und erklären die Welt als durch auf Ursache und Wirkung beruhenden Naturgesetzen. Wir wissen, dass wir ein Teil dieser Welt sind, können uns aber nichtmals theoretisch darauf einigen, dass Menschen keinen Freien Willen haben - als wären wir kein Teil der Natur, schieben wir Ausreden (Emergenz, Seele, ...) vor, um uns der Kränkung zu entziehen. Viel weniger können wir uns im Tun als der Kausalität unterworfen empfinden, sondern fühlen sogar Scham und Stolz für unsere Handlungen. Wir sind uns schlichtweg nicht transparent.
Wie uns Künstliche Intelligenzen wahrnehmen, steht auf einem anderen Blatt, welches noch nicht existiert. Ich möchte daher weder kulturoptimistische noch kulturpessimistische Tendenzen ernsthaft befürworten. Die Dinge, die da kommen, lassen sich nicht realistisch einschätzen. Eher empfiehlt sich ein agnostischer Standpunkt.
Man kann fragen, was wäre wenn. Tja, was wäre denn, wenn uns Künstliche Intelligenzen übertreffen, wir unsere "erkenntnistheorietische Autorität" verlieren, wenn durch solche Intelligenzen geleitete Roboter tatsächlich gänzlich kompetenter als wir sein werden? Sollten wir dann nicht in Demut bei Seite treten, über unseren Schatten springen, pragmatistisch anerkennen, dass unser evolutionärer Zweck (wenn man historizistische Narrative mag) erfüllt ist? Oder wird die KI ein fürsorglicher Präsident, unser Lieber Gott, der uns vor Kriegen, Klimawandel und Kometen behütet?
Es wird eine metaphysische Umwälzung geben, und es wird spannend. Oder hoffentlich doch wenigstens anders als man denkt.
www.scinexx.de
www.tagesschau.de
www.heise.de
