Chinas erste Cloud-GPU: "Big Island" ist bei TSMC in der 7-nm-Massenfertigung

[Basileukum]

Ist natürlich Kindergarten, die Fertigung muß auch auf dem chinesischen Festland stattfinden. Das muß von der Ressourcenbeschaffung bis zum Endprodukt laufen. Alles andere ist inaktzeptabel. Damit da kein internationales Geschmeiß seine Hand auf der Fertigung bzw. anderem drauf hat.

Ist ja bei uns Deutschen bzw. erweitert den Europäern auch nicht anders. Frei nach dem Motto: "Jedes Wesen soll an seinem eigenen genesen". Ob jetzt in Asien, Afrika, Europa oder sonstwo.

 

[PCGH_Torsten]

Ich denke mal für die AI Berechnungen ist die FP32 Leistung wichtig, da dort Matrizen berechnet werden und Vectoren. Da in China die Nachfrage nach AI GPUs unendlich hoch ist, wird sich jetzt NVIDIA die bisher hauptsächlich bezogen wurden, ganz schön in den Popo beißen.

Die Art der Berechnungen hat nichts mit der benötigten Genaugikeit zu tun, letztere resultiert aus dem Zweck. Und gerade KI-Training stellt da sehr geringe Anforderungen und ist die treibende Kraft hinter dem Fokus auf FP16 und kleiner in den letzten Jahren, einschließlich neuer Formate, während noch vor 5-10 Jahren eher Double-Precission für wissenschaftliche Berechnungen im Fokus stand. Aber da KI in der Praxis weiterhin eher KD ist, bringen hohe Genauigkeiten nichts. Warum sollte man bis in die zehnte statt bis in die fünfte Dezimalstelle mathematisch exakt rechnen, wenn der zugrunde liegende Algorithmus sowieso eine Fehleranfälligkeit von deutlich über ein Prozent hat, also nicht einmal bis in die dritte Stelle verlässlich arbeitet? Erst einmal muss die KI selbst mittels einer breiteren Datengrundlage verbessert werden und dafür braucht es Durchsatz, nicht Präzision. Der neue Trend ist BF16.

 

[Nebulus07]

Die Art der Berechnungen hat nichts mit der benötigten Genaugikeit zu tun, letztere resultiert aus dem Zweck. Und gerade KI-Training stellt da sehr geringe Anforderungen und ist die treibende Kraft hinter dem Fokus auf FP16 und kleiner in den letzten Jahren, einschließlich neuer Formate, während noch vor 5-10 Jahren eher Double-Precission für wissenschaftliche Berechnungen im Fokus stand. Aber da KI in der Praxis weiterhin eher KD ist, bringen hohe Genauigkeiten nichts. Warum sollte man bis in die zehnte statt bis in die fünfte Dezimalstelle mathematisch exakt rechnen, wenn der zugrunde liegende Algorithmus sowieso eine Fehleranfälligkeit von deutlich über ein Prozent hat, also nicht einmal bis in die dritte Stelle verlässlich arbeitet? Erst einmal muss die KI selbst mittels einer breiteren Datengrundlage verbessert werden und dafür braucht es Durchsatz, nicht Präzision. Der neue Trend ist BF16.

Wenn ich mir den Quellcode zum Anzeigen eines 3D Gesichtes mit Texture anschaue, wird hauptsächlich nur mit float Matrizen gerechnet. Float = fp32.

Integerleistung wird nur zum abarbeiten von Listen oder Speichererung von Mustern benutzt.
Somit ist die China GPU, mit ihrer sehr guten fp32 Leistung, für ihren Einsatz als 3D-Texture Erkennung, geeignet.

Zum Berechnen von Hashsummen wie bei Cryptocurrency, benötigt man auch eher int Leistung.

Shadertoy

www.shadertoy.com

 

[PCGH_Torsten]

Das präzise Anzeigen (=fp32 heutzutage) eines Bildes hat mit der groben Erkennung von Inhalten desselben nichts zu tun.