News KI-Infrastruktur zur Miete: Eine Million CUDA-Kerne für 105 Euro pro Stunde

[PCGH-Redaktion]

Jetzt ist Ihre Meinung gefragt zu KI-Infrastruktur zur Miete: Eine Million CUDA-Kerne für 105 Euro pro Stunde

Um die benötigte Performance für anspruchsvolle Workloads bereitstellen zu können, wird das Mieten von KI-Infrastrukturen immer beliebter. Ein Anbieter lockt nun mit einer Million CUDA-Kernen für knapp 100 Euro pro Stunde.

Bitte beachten Sie: Der Kommentarbereich wird gemäß der Forenregeln moderiert. Allgemeine Fragen und Kritik zu Online-Artikeln von PC Games Hardware sind im Feedback-Unterforum zu veröffentlichen und nicht im Kommentarthread zu einer News. Dort werden sie ohne Nachfragen entfernt.

Zurück zum Artikel: KI-Infrastruktur zur Miete: Eine Million CUDA-Kerne für 105 Euro pro Stunde

 

[Gelöschtes Mitglied 226278]

"Anstelle sich eine rund 6.200 Euro teure RTX 6000 Ada Generation von Nvidia zu kaufen, lassen sich diese aber schon bald mieten"

Ok, dann kann man die Leistung also für ca. 2,5 Tage Mieten, klasse. Da würde ich eher 5 RTX 6000 kaufen, als auf diesem Mist mit der Miete einzugehen. 100EUR/Std. Kompletter Realitäts- Verlust.

 

[Julian K]

"Anstelle sich eine rund 6.200 Euro teure RTX 6000 Ada Generation von Nvidia zu kaufen, lassen sich diese aber schon bald mieten"

Ok, dann kann man die Leistung also für ca. 2,5 Tage Mieten, klasse. Da würde ich eher 5 RTX 6000 kaufen, als auf diesem Mist mit der Miete einzugehen. 100EUR/Std. Kompletter Realitäts- Verlust.

Fairerweise muss man sagen, dass laut Artikel die 105 Euro pro Stunde für sieben mal des kompletten Systems gilt, also immerhin 56 x RTX6000, 14 x Intel Xeon Gold 6248R, 2688 GiB Arbeitsspeicher und 14 TB SSD.

Da liegen allein die GPUs zusammen schon bei einem Kaufpreis von 347200 Euro.

 

[Schnitzelnator]

Bei dem Preis kaufe ich mir die Karte lieber.

 

[empy]

Ist halt die Frage, wo man da steht und was man vorhat. An sich amortisiert sich der Kauf nach einem guten halben Jahr, aber wenn man wirklich ein so großes Modell braucht, dass solche Hardware nötig ist, steht auch erst mal eine Investition von schätzungsweise etwas über 60.000€ für eine dieser Kisten an.

 

[soulstyle]

Wer sind die potentiellen Kunden?

 

[Ben das Ding]

Entwickler? Grafikerdesigner? Nur so eine Vermutung.

 

[Lexx]

Entwickler? Grafikerdesigner? Nur so eine Vermutung.

Film-, Trailer, Ad-Rendering, Simulationen aller Art in Sport, Wissenschaft, Forschung...

Miete für ein paar Tausender für die benötigte Rechenleistung lassen sich in Budgets
leichter argumentieren, als die Anschaffung, Unterhalt, Wartung und Pflege horrend
teurer und komplizierter Rechenfarmen.

Die wahrscheinlich 80% der Zeit nur ungebraucht herumstehen...

diesem Mist

Wow, welch weitsichtiger und kompetenter Schleimauswurf eines recht simplen Gamerhirns.

 

[Gelöschtes Mitglied 226278]

Sind ja nur 39.000 EUR im Jahr für Miete. Da schafft man sich die Hardware lieber auf dem herkömmlichen Weg an.

 

[Pu244]

"Anstelle sich eine rund 6.200 Euro teure RTX 6000 Ada Generation von Nvidia zu kaufen, lassen sich diese aber schon bald mieten"

Ok, dann kann man die Leistung also für ca. 2,5 Tage Mieten, klasse. Da würde ich eher 5 RTX 6000 kaufen, als auf diesem Mist mit der Miete einzugehen.

Rechnen ist nicht deine Stärke: 6200€ x 8 x 7 = 347.000€

Dazu kommen noch diverse Kosten, für den Sever, in dem die Teile stecken, sodass man wohl bei einer knappen halben Million landet und davon kann man sich das ganze gut 7 Monate mieten. Ich würde da nachfragen und einen Mengenrabatt rausholen (wobei es sich dann lohnt, das Zeug zu kaufen),

100EUR/Std. Kompletter Realitäts- Verlust.

Versuch mal irgendwelche Maschinen, die eine halbe Million kosten, viel Spaß noch, wenn du da mit 5€ je Stunde ankommst. Hinzu kommt, dass diese Karten einen massiven Wertverlust haben. In zwei Jahren werden die Dinger eventuell nicht mal halb soviel wert sein.

Wer sind die potentiellen Kunden?

Irgendwelche Firmen, die irgendwas mit KI machen.

Somit muß man keine Investitionen tätigen und jedes Einmannstartup kann mal ein paar Stunden mit richtig teurer Hardware herumspielen.

Sind ja nur 39.000 EUR im Jahr für Miete. Da schafft man sich die Hardware lieber auf dem herkömmlichen Weg an.

Frag mal die Bank ob sie dir einen Kredit über eine Million Euro gibt, weil du da irgendeine Idee hast und ein paar Stunden diese teure Hardware brauchst.

Ich wünsche viel Spaß und Erfolg!

 

[MezZo_Mix]

Wer sind die potentiellen Kunden?

Es gibt mehr als nur Zocker.....

 

[Gelöschtes Mitglied 226278]

Rechnen ist nicht deine Stärke: 6200€ x 8 x 7 = 347.000€

Weil sowas auch bestimmt nur 8 Stunden am Tag bei dem Preis laufen würde... Hahahaha..
Mach dich doch nicht lächerlich!

 

[Pu244]

Weil sowas auch bestimmt nur 8 Stunden am Tag bei dem Preis laufen würde... Hahahaha..

Doch, genau das ist der Fall.

Hier ist so eine Mietlösung eben im Vorteil. Man muß sich nicht entscheiden, ob man wenig Hardware kauft und diese monatelang vor sich hin läuft oder ob man sich etwas mehr anschafft und diese dann tendenziell unnütz herum steht.

Hier schlägt eben die Stunde der Miethardware: wenn etwas größeres ansteht, dann mietet man sich einfach kurz ein paar dutzend Karten und wenn es fertig ist, dann ist die Hardware nicht das eigene Problem.

Das ist in vielen Fällen die beste Lösung.

Mach dich doch nicht lächerlich!

Du hast halt einfach keine Ahnung.

 

[empy]

Weil sowas auch bestimmt nur 8 Stunden am Tag bei dem Preis laufen würde... Hahahaha..
Mach dich doch nicht lächerlich!

Es geht um die Anschaffungskosten der jeweils acht Karten, die in den sieben Maschinen sind, die man für die 100€/h mietet und darum, dass man die schon eine Weile mieten muss, um die Kosten wieder reinzukriegen. Das ist nämlich eher mal so ein halbes Jahr aufwärts. Und wenn man die Hardware nicht durchgehend nutzt, werden da schnell ein paar Jahre draus.

 

[Lexx]

Weil sowas auch bestimmt nur 8 Stunden am Tag bei dem Preis laufen würde...

Macht Amazon auch nicht...
... oder kaufst du auch ein Auto, wenn du nur ein Uber brauchst?

... oder die Post, wenn du ein Paket versenden willst?

... oder den Kebap-Stand, wenn du nur ein Würstchen bist?
*sorry: Autokorrektur*

 

[Shinna]

1. "Beschleuniger", auch der älteren Generationen, kauft man nicht so einfach in derartigen Stückzahlen.
2. Für den Nutzer ist ein Rechenspiel. Was kostet mich die Anschaffung + Unterhalt/Wartung/Storm und was zahle ich für die Nutzung bei einem Anbieter. Wie oft brauche ich wirklich diese Kapazität für mein Workcase/Workload?
3. Und somit wie bei eigentlich allem: Wo keine Anfrage besteht würde kein Angebot bereitgestellt.

 

[soulstyle]

Es gibt mehr als nur Zocker.....

Das ist mir aber neu
Das ist Klar mich würden konkrete Beispiele interessieren, echte Anwendungsfälle.

 

[empy]

Das ist Klar mich würden konkrete Beispiele interessieren, echte Anwendungsfälle.

Ich denke mal Start-Ups, die entsprechende Hardware zum Umsetzen ihrer Ideen brauchen, sich aber nicht gleich mit einem mittleren bis hohen fünfstelligen Betrag reinhängen wollen oder können. Die Rechenleistung ist dabei wohl weniger das Problem, als die Speichergröße mit der entsprechenden Transferrate, sonst könnte man wohl wirklich nur eine Karte kaufen und das einfach länger laufen lassen. Allerdings steigt die Dauer eben stark überlinear, wenn der Speicher nicht reicht.

 

[aluis]

Wer sind die potentiellen Kunden?

Kunde von meiner Firma macht Strömungsberechnungen für Industriepumpen, wo eine mehrere Millionen Euro kostet. Der braucht diese Hardware.

Bei einem ehemaligen Arbeitgeber haben die Konstrukteure Laufräder entwickelt (Lüfterräder zum Kühlen, nix zum draufsetzten). Die haben auch sowas gekauft.