Cleriker
PCGH-Community-Veteran(in)
Oha, ist das so? Dann erkläre mal wie man offline da ran kommt. Steigst du in den nächsten Bus nach China und holst dir eine Dose sprachmodell?Achso ja ist das lange noch nicht in Sicht...? Woher weißt du das?
Wer will den ganzen Cloud Müll denn haben?
Es gibt jetzt schon lokakel Modelle die hervorragend auf einer 4090 laufen, OHNE CLOUD UND OHNE INET ZUGANG!!!! Und ohne nach Hause zu telefonieren.
Und Tokens lokal generieren ist das Ding nicht teuer von den KI-Affen aus der USA kaufen.
RAM ist auch ein Thema bei Lokalen Modellen....
Und jetzt könnt ihr mal alle überlegen warum der ganze Bums in den letzten Jahren so teuer geworden ist.
Weil uns die Tech Bros ihre Abos verkaufen wollen.... In 5-10 Jahren gibt es hervorragende lokale KI Modelle die auf ner Blechdose laufen.
Leder Jacke versucht das schon seit 7 Jahren zu verhindern, wird aber nicht klappen.
Btw. das Wirtschaftswachstum der USA ist die letzten 2 Jahre nur durch KI getragen worden.
Das ist mehr als eine Bubbel.
Die Quellen kannst du dir gerne zusammen suchen im WWW. Ct ist eine gute, da wird auch nicht so viel nonsens gequatscht wie hier.
Weil irgendwann keiner mehr die teuren Token von den Tech Bros kaufen will und sie lokal selbst generieren kann.
Geht jetzt schon mit lokalen Modellen aus China, die ohne Inet Zugang laufen.
Die sind mindestens auf Niveau von Chat GPT.
Die KI Unternehmen in den USA sind jetzt schon tot, sie wissen es nur noch nicht.
Zumal die Bürger in den USA keine Bock haben auf KI und die Rechenzentren und diese schon angegriffen werden.
Wer glaub LLM's wären der große Wurf der lebt hinterm Mond.
Heutige Cloud-KIs sind wie gemietete Pferdekutschen mächtig, aber träge und an der Leine des Internets. Lokale Modelle sind die neuen Autos: Sie bringen die volle Leistung direkt, offline und privat aufs eigene Gerät. Ohne Abo Gebühren und mit besserm Datenschutz.
Mit unter 96 GB RAM macht nichts Spaß, was ich bisher gesehen habe. Wie schnell erstellt sie dir ein Docx Dokument, oder ein einfaches PDF?
Meist können sie nicht einmal das, sondern liefern nur falsch formatierten Text zum kopieren.