Ich habe ja selbst wissenschaftliche Forschungsarbeit in dem Bereich betrieben, daher möchte ich versuchen in einigen Punkten Klarheit zu schaffen.
Meinem Wissen nach werden in der Anfangsphase recht diffus sehr viele Verbindungen ausgebildet und dann selektiv die verstärkt, die die gewünschten Ergebnisse liefern und die anderen zurückgebildet.
Im Großen und Ganzen stimmt das schon mal, ein neuronales Netz startet mit Millionen bis Milliarden zufälliger Werte, bei Google sicher noch in größeren Maßstäben. Im Grunde entsteht dadurch eine riesige Matrizenoperation, weshalb man sie auch super gut durch Grafikkarten jagen kann, nicht nur bei der Ausführung, sondern insbesondere beim Training.
Ähnlich probiert ein neuronales Netz willkürlich logische Verknüpfungsmöglichkeiten und verwirft diejenigen, die die den größten Schrott produzieren.
Willkürlich ist das aber keinesfalls. Trainingsalgorithmen streben eine Minimierung des Fehlers an. Das absolute Minimum lässt sich mit einer Handvoll Trainingsparametern zwar noch mathematisch bestimmen, bei Millionen Parametern oder noch mehr fehlt uns aber die Rechenleistung. Da ein hinreichend niedriger Fehler aber ausreichend ist, lässt sich Schritt für Schritt der Wert verringern. Stellt euch eine Ebene mit Bergen und Tälern im Koordinatensystem vor. An einem zufälligen Punkt, das ist unser Startwert, lassen wir in Gedanken eine Kugel los und schauen, in welchem Tal sie liegen bleibt. Das wäre dann das erlernte Minimum. Dieses Gedankenspiel würde einem neuronalen Netz mit zwei Parametern entsprechen, das also nicht wirklich viel leisten kann, aber schon mit einem dritten Parameter wird es schwierig sich das ganze noch sinnvoll vorzustellen. Im Grunde ist das aber alles nur Mathematik, daher lässt sich das theoretisch in unendlich viele Dimensionen ausweiten, sofern die Rechenleistung stimmt.
Damit gibt es zwar strukturell Parallelen zum Gehirn, daher auch der Name "neuronale Netze", die mir bekannten Trainingsalgorithmen sind aber harte Mathematik und haben nichts mit dem Gehirn gemein. Wobei wir die Lernprozesse im Gehirn ja auch noch nicht richtig verstehen, so mein letzter Stand.
Ich bin mir da nicht so sicher. Das Gebiet ist viel zu wenig erforscht in meinen Augen. Wir stehen hier gerade am Anfang. Daher fände ich es unglaublich spannend, wenn man eine KI durch Rekursion sich selbst weiterentwickelt lassen würde. Aber das würde natürlich entsprechend Rechenleistung kosten.
Was du ansprichst, geht denke ich in die Richtung verstärkendes/bestärkendes Lernen, und das wird schon lange in der Praxis verwendet. Unter anderem dürfte AlphaGo es so geschafft haben die besten menschlichen Go-Profis zu schlagen. Sich selbst weiterentwickeln kann sie sich aber nur im Rahmen ihrer Möglichkeiten, also der Anzahl und Struktur der Parameter. Aber ich bin sicher, dass daran auch schon gearbeitet wird und sich seit meiner Forschungsarbeit einiges getan hat.
KI ist als Forschungsfeld übrigens schon deutlich älter als man glaubt. Speziell das Deep Learning, wo noch ungeahnte Möglichkeiten schlummern, ließ sich aber erst gegen die 2010er vernünftig erforschen, und wir Spieler sind da nicht ganz unschuldig. Im Grunde haben wir die Entwicklung der dazu nötigen Prozessoren (GPUs) subventioniert, die für diese Forschung notwendig sind.
Kein Mensch weiß, welche Kriterien sich die KI im Rahmen ihres Trainings zur Erkennung eines "Stop" angeeignet hat und wieso ein 120-Schild diese auch erfüllen kann. Aber offensichtlich führen die Erfahrungswerte der KI zu so einem paradoxen Ergebnis – und in diesem Fall wären die Auswirkungen, alles andere als harmlos, wenn man diese KI in einem autonom fahrenden Auto einsetzen würde.
Und genau verbindet den Einsatz noch immer mit einem gewissen Restrisiko, je nach Verantwortung, die man übertragen möchte. In einem Netz zu Klassifizierung von u.a. Fischen (und ich denke mal für viele verschiedene Tiere und ggf. andere Objekte im Allgemeinen ebenso) hat man festgestellt, woran das Netz einen bestimmten Fisch erkannt hat. Man hat nämlich den umgekehrten Weg genommen und das Netz ein typisches Bild dieses Fisches generieren lassen. Heraus kamen: Hände. Es stellt sich dann nämlich heraus, dass dieser Fisch gerne von Sportanglern gefangen und dann stolz in die Kamera gehalten wurde. Somit waren eben auch die Hände der Angler auf dem Fisch zu sehen, und daran wurde der Fisch erkannt.
Neuronale Netze sind im Grunde faul und suchen sich den einfachsten Weg. Da ist nichts gegen zu machen, außer seine Trainingsdaten sauber aufzubereiten.
