NPU-Prozessoren: Schnickschnack oder die Zukunft?

[Herr_M]

Hallo.

Mich interessiert, wie ihr über Prozessoren mit NPU-Kernen denkt. Anlass ist ein baldiger Laptop-Kauf, aber das Thema ist ja irgendwie auch abseits kaufberatender Aspekte spannend.

Habt ihr vielleicht bereits entsprechende Hardware?
Für welche Geräte lohnt es sich am ehesten (Smartphone, Laptop, Desktop)?
Lohnt es sich, mehr Geld für die Technik auszugeben?
Wie gut funktionieren lokale KI-Anwendungen im privaten Bereich bereits ?
Welche Erwartungen darf man an lokale KI-Anwendungen für die nächsten Jahre haben?
Wird gegenwärtige Technik (bis 40 TOPS) für zukünftige Anwendungen überhaupt taugen können?

Grüße.

 

[Herr_M]

Ja, na gut, vielleicht noch zu früh. Ist für uns alle wohl noch Neuland.

Dann setze ich wohl eher darauf, dass sich NPUs auch preiswert über m.2 und USB nachrüsten lassen.

 

[RyzA]

Ich habe den Thread erst jetzt entdeckt.
Und erstmal für "Keine Ahnung" abgestimmt.
Weil ich mit lokaler KI Bearbeitung noch nicht beschäftigt habe.
Was ich nur weiß ist, wenn Windows 11 die NPU erkennt , wohl "Recall" aktiviert wird.
Darauf habe ich irgendwie überhaupt keine Lust.
Aber kann man wohl deaktivieren.

 

[Unfaced]

Hab mal abgestimmt das es die Zukunft ist. Aber ein wenig ausführlicher warum ich das so sehe und wie ich zum Stand heute stehe:

Diverse Anwendungen von dem, das zur Zeit als KI verkauft wird, sehe ich als unnötigen Firlefanz an. Es ist nicht wirklich intelligent, die Ergebnisse zum großen Teil falsch oder zumindest nicht ganz richtig (Stichwort false positives) und es ist aber oftmals sogut verpackt, dass man es trotzdem für bare Münze nehmen könnte und viele auch tun.

Das halte ich für brandgefährlich. Auf der anderen Seite sind das, was wir aktuell sehen und erleben nur die Anfänge dessen, was uns in der Zukunft erwartet. Da wird noch sehr viel gutes passieren. Aber das dauert meiner Meinung nach noch ein paar Jahre, daher würde für mich heute eine NPU keine Rolle spielen.

 

[RyzA]

Das KIs die Zukunft sind sehe ich ja auch so. Nur ob man dafür lokale KI braucht weiß ich nicht.
Müsste mich erstmal schlau machen was da die genauen Vorteile sind.
Bisher hatte ich immer alles auf Webseiten erstellt.

 

[Misanthrop68]

Bin schon der Meinung das die KI in der Zukunft eine große Rolle spielen wird. Auch sehe ich Vorteile wenn auch eine Lokale KI zur Verfügung steht.

 

[ΔΣΛ]

Interessiert mich nicht.
Mir doch egal falls es die Zukunft sein sollte.
Wie jeder Hype geht auch das irgendwann vorüber - haben wir doch schon viel zu oft erlebt.
Jeder ScheiC bleibt, aber nur selten in dem Umfang wie es der Hype einem glauben machen wollte.

 

[RyzA]

Wie jeder Hype geht auch das irgendwann vorüber - haben wir doch schon viel zu oft erlebt.
Jeder ScheiC bleibt, aber nur selten in dem Umfang wie es der Hype einem glauben machen wollte.

Ich glaube das du die Bedeutung von KIs unterschätzt.

 

[ΔΣΛ]

Wozu brauchen wir dann noch eine Umfrage, wenn keine andere Meinungen anerkannt werden wollen.
Pfff, war doch bei jedem Hype so, zum Beispiel beim 3D-Drucken, war auch lange Zeit in den News und Artikel, heute liest man davon gar nichts mehr, es hat sich in den Umfang eingereiht was der Realität entspricht.

 

[RyzA]

Wozu brauchen wir dann noch eine Umfrage, wenn keine andere Meinungen anerkannt werden wollen.

Man kann doch drüber diskutieren.

Pfff, war doch bei jedem Hype so, zum Beispiel beim 3D-Drucken, war auch lange Zeit in den News und Artikel, heute liest man davon gar nichts mehr, es hat sich in den Umfang eingereiht was der Realität entspricht.

Kann man mit 3D-Drucken nicht vergleichen. Das wäre viel zu eingeschränkt.

 

[ΔΣΛ]

Das war ein Beispiel unter sehr sehr vielen Hypes, such dir einfach selbst einen anderen aus.
Nö kann man nicht diskutieren, meine Meinung bleibt.

 

[Misanthrop68]

Es kann in den Sand verlaufen und die KI zeigt einmal mehr das Technik auch scheiter kann. Aber, KI werden Heute schon an sehr vielen Orte wie Militär und Geheimdienste, sowie Wissenschaft und Industrie eingesetzt und sie sind an machen Stellen unverzichtbar. Das sprecht dann eher dafür das die KI bleibt und immer mehr Bereiche eindringt.

 

[Andreas1975]

Künstliche Intelligenz, ja das wird für einige ganz sicher der heiße Scheiß. Ganz sicher. Für mich allerdings irrelevant.
Ich bevorzuge NI - natürliche Intelligenz. Aber auch die AI - angelernte Intelligenz. Da sollte man viel mehr Geld reinstecken als in KI.

 

[Herr_M]

Was ich nur weiß ist, wenn Windows 11 die NPU erkennt , wohl "Recall" aktiviert wird.
Darauf habe ich irgendwie überhaupt keine Lust.
Aber kann man wohl deaktivieren.

Mit dem Punkt bist du nicht allein.

Eigentlich will Microsoft mit solchen Sachen, wie Recall oder Copilot, die private Massennutzung von KI-Anwendungen etablieren. Privatkunden sollen sich einen Copilot+-PC (ab 40 TOPS) kaufen - das Business erhält den 40 TOPS-Standard und soll KI-Anwendungen produzieren. So wirklich neu ist daran nur, dass es um PCs geht, denn in mobilen Privatgeräten sind NPU seit einiger Zeit vorhanden.

Ich frage mich nur, in welcher Art und in welchen Umfang KI-Anwendungen in den nächsten Jahren auf PCs oder eben Laptops genutzt werden (können). ChatGPT LLM und Bildbearbeitung sind lokal schneller und effizienter, dass spart Miniatomkraftwerke, schön und gut. Aber was lässt sich erwarten, damit sich der Aufpreis lohnt?

 

[Poulton]

Man war schlau genug soetwas wie KI zu erfinden und dumm genug, soetwas zu benötigen. Und die ganzen Unternehmen mit ihren Marktschreiern, die jetzt lauthals verkünden wie sie doch auf KI setzen, sind genau die Firmen, welche zuvor schon an und mit natürlicher Intelligenz gescheitert sind.

 

[Olstyle]

Mein Handy hat Tensor Kerne und macht damit Fotos überraschend schön. Meine GPU hat ebenfalls Tensorkerne und macht damit Spielegrafik überraschend schön.

 

[alexbirdie]

Ich versuche, alles zu vermeiden, das irgendwie mit KI zu tun hat. Ich befürchte, daß wir mit KI eine große zukünftige Gefahr geschaffen haben.

 

[RyzA]

Ich bevorzuge NI - natürliche Intelligenz. Aber auch die AI - angelernte Intelligenz. Da sollte man viel mehr Geld reinstecken als in KI.

AI bedeutet eigentlich = Artificial Intelligence

KIs lernen übrigens auch dazu.

 

[Andreas1975]

AI bedeutet eigentlich = Artificial Intelligence

KIs lernen übrigens auch dazu.

Ai kann eigentlich auch Amnesty International bedeuten.
In dem Zusammenhang von mir bedeutet das angelernte Intelligenz, hatte ich ja auch dazu geschrieben.

 

[RyzA]

Ai kann eigentlich auch Amnesty International bedeuten.

Aber nicht in dem Zusammenhang!

In dem Zusammenhang von mir bedeutet das angelernte Intelligenz, hatte ich ja auch dazu geschrieben.

Achso... definierst du das neu?

Was ist denn für dich "angelernte Intelligenz" und wie unterscheidet die sich von "künstlicher Intelligenz"?
Welche ja eigentlich auch dazu lernt und sich weiter entwickelt.

Gibt es überhaupt eine Intelligenz welche nicht dazu lernt?