Sammelthread Der Intel Arc Thread - Battlemage Edition

Sammelthread
Intel hat den Intel AI Playground vergangene Woche jetzt auch für dedizierte ARC Grafikkarten in der überarbeiteten Version 1.22 als Beta released.
Da gab es bislang nur die alte 1.01b ausm Spätsommer.

Mit dem AI Playground ist es ohne weitere Fachkenntnisse möglich nach einer "One-Klick.exe" Installation KI-Chatbots oder KI-Bildgenerierung in einer ansprechenden und leicht verständlichen Software-Umgebung auf den Xe-Cores und XMX-Einheiten einer lokalen ARC-GPU auszuführen.
Die ARC ist hier performanceseitig ja auch echt nicht schlecht aufgestellt, wenn ich die knapp 270 INT-8 TOPs einer ARC 770 mit den rund 130 INT-8 TOPs einer Radeon 7900xtx vergleiche.

Unterstützt wird im AI Playground bspw. StableDiffusion, ansonsten natürlich alles gängige von LLAMA, über Mistral, Gemma, Qwen oder Microsofts Phi3 bei den Sprachmodellen.
Die LLM´s kann man bequem direkt aus dem AI Playground downloaden, hier soll es mit 1.22b nun mehr Auswahl geben und man muss also nicht zwingend selbst auf Huggingface oder Konsorten rumsuchen und auf mögliche Kompatibilitäten achten.
Ist aber natürlich möglich und habe ich auch schon gemacht. Wenn man da halt was spezielles sucht.
Ich fand die deutsche Sauerkraut LLM ganz witzig^^

OpenVino angepasste LLM´s performen natürlich am besten.
Intel stellt ansonsten auch ein Tool bereit um LLM´s einfach auf OpenVino umzusetzen, das habe ich mangels Notwendigkeit aber noch nicht selbst gemacht, weil PyTorch oder TensorFlow-Geschichten ja eh sofort problemlos laufen. (einfach per Drag-and-Drop ins Verzeichnis)

Die 770 LimitedEdition bietet mit Ihren 16GB VRAM ein paar mehr Kapazitäten als 8GB Modelle, besonders wenn es vllt um Bildgenerierung oberhalb von 1024 x 1024 Pixeln geht, oder man das nachgelagerte AI-Upscaling, bzw. AI-Bildmanipulation ausreizen möchte. (Das ist alles im AI Playground inkludiert.)
Will aber sagen, auch mit 8GB ARC GPU´s sollte man meiner Beobachtung nach Spaß haben können, sodass sich ein Blick bestimmt lohnt.

Seit Version 1.2 kann man dann jetzt auch Projekte Zwischenspeichern um daran später weiterzuarbeiten, was mMn eine extrem gute und wichtige Neuerung ist, wenn ich jetzt bspw. in Richtung Coding denke .

Hat sich von euch schon jemand mit dem AI Playground beschäftigt und womöglich einen guten Tip für weitere LLM´s die sich zu testen lohnen?

edit: Ich bette noch eben zwei Vids von Intel ein.

General AI Playground Overview
Eingebundener Inhalt
An dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.

Implementierung anderweitiger LLM´s oder Modelle, hier am Beispiel von Inhalten von https://civitai.com/
Eingebundener Inhalt
An dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.
 
Zuletzt bearbeitet:
Maaaaaan die sollen hinne machen ... ich will Battlemage ^^

Ich auch! :nicken:

Neuer Treiber btw:


Sehr gut, am WE gleich mal ein wenig in Stalker (2 natürlich) herumtesten. :D
 
Stalker 2 fühlt sich auf der A770 16GB prima an. XeSS ist zwar nicht im Glanzzustand, aber die 16 GiB der Karte sind hier Gold wert. :daumen: Moar Info:


MfG
Raff
 
Stalker 2 fühlt sich auf der A770 16GB prima an. XeSS ist zwar nicht im Glanzzustand, aber die 16 GiB der Karte sind hier Gold wert. :daumen: Moar Info:


MfG
Raff

"Nicht im Glanzzustand..." heißt konkret?

Du siehst es ganz anders als z.B. Computerbase.
Was ich bisher gesehen habe sieht für die Paarung Arc+UE5 ganz ordentlich aus.
 
Upsampling ist Geschmackssache. Mir gefällt beispielsweise die Abmischung von TSR in Stalker 2 am besten, allerdings verstehe ich, dass einige Leute lieber DLSS mögen (weichere Darstellung) oder auf den höheren "Knack" von FSR abfahren. XeSS ist mir gerade bei Alphatests etwas zu fusselig, DLSS zu schmierig, aber natürlich keineswegs unbenutzbar. :-)

MfG
Raff
 
Stalker 2 fühlt sich auf der A770 16GB prima an. XeSS ist zwar nicht im Glanzzustand, aber die 16 GiB der Karte sind hier Gold wert.
:daumen:
Moar Info:


MfG
Raff

Hat Stalker 2 eig XeSS nativ?
 
Aber gibts das direkt als Einstellung?

Ich kenns bisher nur aus Cyberpunk.

Da muss ma es umständlich über die dynamische Auflösungsskalierung machen.
 
Ist in der aktuellen Version 1.3.1 integriert und in den Einstellungen entsprechend auswählbar, ja.

edit: funktioniert dabei auch zusammen mit zeitgleich aktivierter FSR3 FrameGeneration

Stalker_2_A770_XeSS.jpg
 
Zurück