News KI-Supercomputer steckt 80 GiByte LPDDR5X in die Hosentasche

[PCGH_Sven]

Der Tiiny AI Pocket Lab ist ein winziger KI-Supercomputer, welcher mit 12 Arm64-Prozessorkernen sowie einem 80 GiByte großen LPDDR5X-Systemspeicher bis zu 190 TOPS an KI-Rechenleistung in die Hosentasche bringen soll.

Was sagt die PCGH-X-Community zu KI-Supercomputer steckt 80 GiByte LPDDR5X in die Hosentasche

Bitte beachten: Thema dieses Kommentar-Threads ist der Inhalt der Meldung. Kritik und allgemeine Fragen zu Online-Artikeln von PC Games Hardware werden hier gemäß der Forenregeln ohne Nachfrage entfernt, sie sind im Feedback-Thread besser aufgehoben.

 

[Gelöschtes Mitglied 23535a]

Bei GPT-OSS-20B-F16 hat der 155H Core Ultra um die 350 Promt Token und ihre Standart 4 Token beim Output.

Das hört sich nach nix an. Ich weis. Aber da ist schon was dahinter, so ne Context Size von 16K oder die Predikt Größe auch 16k. Da kommen dann ziemlich fette Antworten dabei raus. So sehr, das ChatGPT gestern zum ersten mal auf die Antwort meiner Lokalen KI geantwortet hat, statt wie sonst auf den Output des Miniprogrammes für die Inferenzen...

So ne Antwort dauert jetzt mal 10 Minuten. Aber ich Schwöre, ich will schon mit den Testdingern Arbeiten. In der Sache Mathezeug.

Ich muss noch weiterlernen und arbeiten damit ich da mehr weis.

So ein Hosentaschending halte ich also heute für einen realistischen Begleiter im Leben. Das ist schon Verrückt was da geht.

 

[GEChun]

Bei GPT-OSS-20B-F16 hat der 155H Core Ultra um die 350 Promt Token und ihre Standart 4 Token beim Output.

Das hört sich nach nix an. Ich weis. Aber da ist schon was dahinter, so ne Context Size von 16K oder die Predikt Größe auch 16k. Da kommen dann ziemlich fette Antworten dabei raus. So sehr, das ChatGPT gestern zum ersten mal auf die Antwort meiner Lokalen KI geantwortet hat, statt wie sonst auf den Output des Miniprogrammes für die Inferenzen...

So ne Antwort dauert jetzt mal 10 Minuten. Aber ich Schwöre, ich will schon mit den Testdingern Arbeiten. In der Sache Mathezeug.

Ich muss noch weiterlernen und arbeiten damit ich da mehr weis.

So ein Hosentaschending halte ich also heute für einen realistischen Begleiter im Leben. Das ist schon Verrückt was da geht.

Also KI ja! Aber wenn ich sehr was die KIs heute können und auch was sie nicht können. Sind sie noch nicht da wo sie sein sollten...


Wenn ich jetzt diesem PC sehe, denke ich ehr im Vergleich zum Mobiltelefon. Und dein Kommentar mit dem "Hosentaschending" höre... Das Tiiny AI Pocket Lab wäre dann zwar ein Mobiltelefon, (wie z.B. Motorola DynaTAC 8000X) aber erstens eine sehr frühe Version und zweitens noch lange kein Smartphone.

Ich denke nicht das dieser Kasten hier jetzt der Bahnbrechende Tiny Computer ist den jeder haben will und muss, das Teil hat in meinem Augen wenn überhaupt Potential nen Trend für ein "Hosentaschending" auszulösen.

 

[Gelöschtes Mitglied 23535a]

@GEChun

Natürlich haben wir noch viel Luft in der Entwicklung nach Oben bei dem Thema. Ich meinte ja nur, was heute schon geht, ist für meinen Geschmack irre Interessant.

Zum Lernen für Fachthemen mit entsprechend spezialisierten lokalen Sprachmodellen taugt mir das auf jeden Fall schon völlig ausreichend.

Des Hosentaschending was ich faktisch meine ist meine Claw A1M. Eine Handheldconsole. Nur mit ihr alleine könnte ich meine Arbeiten machen.

Bis wir das im Handyformat hinbekommen, dauert es auf jeden Fall noch eine Weile, zumindest bei der Leistungklasse im Vergleich mit solchen modenen Prozessoren wie der Core Ultra Serie von Intel.

Mir gefällt einfach schon, was geht. Was nicht geht, vermisse ich eigentlich ja auch noch garnicht, weil es so schon viel ist was man machen kann, wenn man weis, was man möchte.

Der Hosentaschenknecht ist natürlich nicht deswegen gleich Massenfähig oder sowas in der Sache. Das ist nur für Spezl interessant im Moment noch wie es scheint.

Lass mal noch 5 Jahre ins Land verstreichen, dann werden wir das hier als Witz ansehen was die Leistungen angeht.

 

[GamingX]

Kein Mensch braucht KI, absolut überbewertetes Thema, das ist ein Faktum.

 

[Schori]

Kein Mensch braucht KI, absolut überbewertetes Thema, das ist ein Faktum.

Bei LLM's stimme ich dir zu aber es gibt noch viele weitere Anwendungsgebiete für "KI" autonomes Fahren oder in der Medizin bspw.