Viel Spaß, wenn der Kleine mal keine Lust hat zu rechnen.
Soll vorkommen. Eine solche "Konfiguration" wird dann gelöscht.
Tachyum: Start-up mit universellen AI-Chips will menschliches Gehirn simulieren
- Ersteller PCGH-Redaktion
- Erstellt am
Soll vorkommen. Eine solche "Konfiguration" wird dann gelöscht.
So weit ich weiß ist das Problem mit in Hardware gegossenen KNNs, dass viel zu viele Verbindungen zwischen den Neuronen gebraucht werden. Dadurch entstehen jede Menge parasitäre Kapazitäten und Interferenzen. Die Idee ist natürlich attraktiv, weil echte neuronale Netze eigentlich hauptsächlich deswegen so viel besser funktionieren als künstliche, weil die echten Neuronen eigenständig agieren, während in einem künstlichen Netz die Verschaltung im Speicher liegt und über den Engpass Speicherinterface von der CPU modifiziert werden muss.
G
gaussmath
Guest
Aber das ja hoch parallelisiert.
Wenn man viele Rechner nutzt, kann man das sicher so realisieren. Aber schon das Verhältnis Speicherbandbreite zu Speichermenge in einem aktuellen High-Performance-Rechner ist für solche Anwendungen meist ungünstig. Mal angenommen man hätte vier Speicherkanäle mit 3.200MT/s (selten), dann wären das ein bisschen mehr als 100GB/s. Solche Rechner haben aber auch gerne mal 64 oder 128GB RAM oder sogar noch mehr. Wenn man jetzt einen Großteil des RAMs für das Netz nutzen will, muss man für einen Lernzyklus einmal annähernd den ganzen RAM einmal lesen. Dann kommt man bei niedrigen, einstelligen Lernzyklen pro Sekunde raus und das ist nicht viel. Zumindest nicht annähernd so viel, wie wenn man es in Hardware gegossen hätte und sich die einzelnen Neuronen selbstständig anpassen könnten. Das könnte dann ungefähr mit der Speicherzellengeschwindigkeit passieren, bei DRAM im Bereich 100-200 Millionen mal pro Sekunde.
G
gaussmath
Guest
Ein Netz für alles wird wohl nicht funktionieren. Ich könnte mir vorstellen, dass es mehrere kleine Netze gibt, die spezialisiert sind und im Cache gehalten werden können. Echte AI Chips mit KNN sehe ich aber auch klar im Vorteil. Wieso sollte das eigentlich lokale Interferenzen geben? Die Natur schafft das doch auch.
Die Natur nutzt aber auch schon grundlegend andere "Hardware". Da werden ja nicht direkt Ladungsträger bewegt. Es finden eher sich fortsetzende elektrochemische Prozesse statt (haben wir Biologen hier? Ich bin da nicht so fit). Allgemein werden Störsignale durch die geringen Abstände von Leitern begünstigt.
Um ein "richtiges" Gehirn nachzubilden, müssten halt eigentlich relativ große Gruppen von "Neuronen" komplett vernetzt sein. Kann auch sein, dass das das größere Problem ist und auch der große Vorteil von echten Gehirnen. Prinzipiell können sich Neuronen ja potenziell mit allen Neuronen in der Nähe vernetzen. Um das simulieren zu können, müssen alle potenziellen Verbindungen zwischen künstlichen Neuronen existieren und das werden halt schnell sehr viele (quadratische Komplexität). Zumindest so viele, dass man ganz schnell deutlich mehr Fläche für die Verbindungen braucht, als für die Neuronen selbst.
G
gaussmath
Guest
Doch, es gibt elektrische Übertragungen zwischen Zellen. Das ist wichtig für das Aktionspotenzial. Schau' dir das Herz an. Es erzeugt elektrische Felder, so dass EKGs überhaupt erst funktionieren.
wuselsurfer
Kokü-Junkie (m/w)
Du darfst ein Bewußtsein nicht löschen.
Es gibt auf jeden Fall Potenziale, ich meine nur, dass die Übertragung zwischen den Neuronen halt nicht wie ein klassischer Leiter funktioniert.
Ein entscheidender Vorteil des Gehirns dürfte schlicht Platz sein: Es nimmt locker das 100.000- bis 1.000.000-fache Volumen der eigentlichen arbeitenden Bereiche moderner Microchips ein. Und bei diesen ist auch noch das Verhältnis aus aktiven Transistoren und passiven Leitungen weitaus schlechter, als bei unserem durchgängig im feinsten verfügbaren Prozess gefertigten Denkorgan – ganz zu schweigen davon, dass große Teile der Transistoren mit Verwaltungs- und Steueraufgaben beschäftigt sind. Die am logischen Denken beteiligten Neuronen des Menschen könnten durchaus eine Milliarde mal voluminöser sein als die mit nützlichen Rechenaufgaben betrauten Bereiche einer aktuellen Server-CPU.
Zuletzt bearbeitet:
RyzA
PCGH-Community-Veteran(in)
Der große Vorteil vom menschlichen Gehirn ist wohl auch die Parallelität oder Konnektivität. Pro Neuron gibt es bis zu 800 Verknüpfungen. Und im Gehirn gibt es ungefähr 100 Milliarden Neuronen.
Zuletzt bearbeitet:
G
gaussmath
Guest
Aber dadurch sind diese klassischen technischen Systeme auch kontrollierbar. Ein gigantisches neuronales Netz ist eine Blackbox. Man denkt, das Ding rechnet eine Excel Tabelle aus, dabei plant es schon die Weltherrschaft...
Zappaesk
Volt-Modder(in)
dabei plant es schon die Weltherrschaft...
Bissle viel SF gelesen?
Welcher Autor war eigentlich der erste, der so ein Szenario beschrieben hat? Heinlein, wäre jetzt mein erster Gedanke dazu.
Aber dadurch sind diese klassischen technischen Systeme auch kontrollierbar. Ein gigantisches neuronales Netz ist eine Blackbox. Man denkt, das Ding rechnet eine Excel Tabelle aus, dabei plant es schon die Weltherrschaft...
Ja, sowas kenne ich auch: Hat ein ungeheuer leistungsfähiges Neuronen-Netzwerk, täuscht fleißige Excel-Aktivitäten vor und sobald sich der Chef umdreht... .
Ähnliche Themen
