Von 3600 auf 5800x3d oder 5700x3d

[fuma.san]

Mit der 4060 Ti 16GB hast du alles richtig gemacht wenn du LLMs lokal betrieben willst.
Die nächste alternative ist tatsächlich erst die 4070 Ti Super mit 16GB Ram.

Wenn's um LLMs geht ist AMD leider raus.

Es kann sein, dass die 32 GB RAM hier u.U. auch limitieren können. Bei mir bin ich oft über 32GB Auslastung (hab 64GB) mit Stable Diffusion - habe aber auch eine 3090 mit 24GB. Mit den 16GB der 4060 wirst du nicht so große Sets laufen lassen können - kann sein dass du da keine Probleme mit den 32GB hast.
Einfach mal die Auslastung um Auge behalten, im Zweifel kannst du ja immer noch auf 64 GB gehen.

 

[derHotze]

Ich nutze auch StableDiffusion, zur erstellung halte ich die Auflösung bei 854 x 480 da geht das mit den 16 GB noch recht gut. Falls ein brauchbares Ergebnis erscheint rechne ich hoch, da bereite ich dann einen Batch vor der dann auch mal 30 min benötigt.
Dann mache ich Mittagspause