Welche Grafikkarte macht Sinn für meinen PC? (Mainboard nur PCIe 3.0)

[JoM79]

KI ist Nvidia schneller, weiss aber nicht ob das nur für Windows gilt.

 

[DJPX]

KI ist Nvidia schneller, weiss aber nicht ob das nur für Windows gilt.

Im allgemeinen ist Cuda einfach schon viel ausgereifter als das ROCm von AMD da Nvidia schon sehr früh damit angefangen hat und dadurch auch in der Industrie sehr weit verbreitet ist. (Und dadurch auch viel darauf optimiert wurde)

Ich habe auch mal hier einen Vergleich gefunden:

Eingebundener Inhalt

youtube.com/watch/?v=BzLaALDc1bw

An dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Alle externen Inhalte laden Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.

Ich finde die RX9060 jetzt nicht schlecht ich habe eigentlich nur Angst das ich dann Probleme bekomme da manche Sachen nur für Cuda veröffentlicht werden (+ Optimierungen)

 

[DJPX]

Hat hier zufällig schon jemand mal mit AMD GPUs und KI Sachen gemacht?

 

[DJPX]

Kurzes Update ich habe mich mal mit anderen Leuten bisschen unterhalten die meinten AMD geht schon meistens bei KI aber es gibt aber auch immer wieder Probleme da die meisten Modelle einfach mit Nvidia Hardware trainiert worden und optimiert worden sind. Zum Teil braucht man auch Spezialversionen von Software oder es gibt diese noch nicht.
Wie es scheint wird die 9060 XT oder generell die ganze 90XX serie noch nicht als supported gelistet https://github.com/ollama/ollama/blob/main/docs/gpu.md#amd-radeon es scheint aber bei Leuten auch zu laufen.

Wäre natürlich interessant ob jemand auch schon mal so was ausprobiert hat.