Server für Bildanalyse per KI gesucht

[DKK007]

Für ein Forschungsprojekt wird es nötig sein, größere Bildmengen per KI zu analysieren.
Um eine brauchbare Performance beim Training zu erreichen, wäre es günstig die Berechnungen mit Ampere-GPUs und den darin enthaltenen Tensor-Cores durchzuführen.

Jedoch weiß ich noch nicht, ob an der Hochschule entsprechende Server vorhanden sind.
Daher bitte ich um Tipps, wo man solche Server günstig für 6 Monate mieten kann.

 

[Stryke7]

Hui, mal ein spannendes Projekt!

Da muss ich jetzt doof fragen: An welcher Hochschule bist du denn? Die größten haben solche Server in ihren Rechenzentren, da musst du mal mit denen reden.

Ansonsten würde ich einen der großen Cloudanbieter empfehlen. Die AWS hat beispielsweise EC2 Instanzen mit Tensor GPUs von Nvidia.

 

[Schori]

Ein Freund hat sowas mit einem Nvidia jetson gemacht. Kostet um die 1000€ und könnte mit QSL-mitteln finanziert werden.

 

[DKK007]

Ansonsten würde ich einen der großen Cloudanbieter empfehlen. Die AWS hat beispielsweise EC2 Instanzen mit Tensor GPUs von Nvidia.

Ja so in Richtung IaaS gingen auch meine Gedanken dabei.
Hatte da zu AWS auch was gefunden:

Now Available – EC2 Instances (G4) with NVIDIA T4 Tensor Core GPUs | Amazon Web Services

The NVIDIA-powered G4 instances that I promised you earlier this year are available now and you can start using them today in nine AWS regions in six sizes! You can use them for machine learning training & inferencing, video transcoding, game streaming, and remote graphics workstations...

aws.amazon.com

Allerdings stehen keine Preise dazu.

 

[Stryke7]

Die Preise kann man bei AWS eigentlich immer recht gut im Voraus berechnen:

AWS Pricing Calculator

AWS Pricing Calculator lets you explore AWS services, and create an estimate for the cost of your use cases on AWS.

calculator.aws

Klick auf "Advanced Estimate" und such dir aus, welche Server du genau haben willst. Irgendwas mit "G4" für Tensor-Kerne, die genauen Instanzen kannst du dir auch hier anschauen:

Amazon-EC2-G4-Instances – Amazon Web Services (AWS)

aws.amazon.com

Dann musst du "nur noch" abschätzen, wie hoch denn dein Rechenaufwand ist, und bekommst eine brauchbare Vorraussage.

 

[GeleeBlau]

Gibts eigentlich alles bei Google Colab

 

[DKK007]

Dann musst du "nur noch" abschätzen, wie hoch denn dein Rechenaufwand ist, und bekommst eine brauchbare Vorraussage.

Scheint ja zum Teil nach Bildern und nicht nach Zeit abgerechnet zu werden.
Und da ist schwer zu sagen, wie viele Bilder man so braucht fürs Training.

Dein zweiter Link ist kaputt

Gibts eigentlich alles bei Google Colab

Kenne ich bisher nicht. Schaue ich mal, was das ist.