News Tensordyne Napier: Beast Mode gegen Nvidias KI-Dominanz

[PCGH_Sven]

Das US-deutsche KI-Start-up Tensordyne stellt mit Napier ein Inferenz-System vor, das aktuelle Nvidia-Hardware um den Faktor 17 bei der Effizienz schlagen soll. Die Werte beruhen auf Projektionen, Systeme folgen erst ab Mitte 2027

Was sagt die PCGH-X-Community zu Tensordyne Napier: Beast Mode gegen Nvidias KI-Dominanz

Bitte beachten: Thema dieses Kommentar-Threads ist der Inhalt der Meldung. Kritik und allgemeine Fragen zu Online-Artikeln von PC Games Hardware werden hier gemäß der Forenregeln ohne Nachfrage entfernt, sie sind im Feedback-Thread besser aufgehoben.

 

[Andreas1975]

Sehr gut wenn weitere Player auf den Markt erscheinen. Das es Energie effizienter wird ist sehr gut.

 

[dudellino]

Die Hardware ist einfach noch stärker spezialisiert. Anstatt die 8 Bits einer Fliesskommazahl mit Mantisse m und Exponent p als m·2^p zu speichern, speichern sie nur noch den Exponenten p.

Dadurch lässt sich die Multiplikation so berechnen:

def mult_log(log_a, log_b):
    return log_a + log_b

Und die Addition:

def cheap_log_add(log_a, log_b):
    diff = abs(log_a - log_b)
    maximum = max(log_a, log_b)
    # wenn kein Fixpunkt verwendet wird
    # entspricht es log_a == log_b
    if diff <= 1:
        return maximum + 1
    else:
        return maximum

bzw. allgemeiner:

def log_add(log_a, log_b):
    diff = abs(log_a - log_b)
    return max(log_a, log_b) + adjustment(diff)

Wobei adjustment eine einfache Funktion oder eine kleine Lookup-Tabelle ist.

Dies ist viel günstiger/effizienter als das Komplette FP-handling.

Die Theorie über Logarithmic Number Systems (LNS) wurde in den 1970er erarbeitet.