Ich verstehe die Frage im Kontext 5+5=10 nicht.
Dazu gibt s m.W. keine alternativen Fakten.
Künstliche Intelligenz - Fluch oder Segen?
- Ersteller RyzA
- Erstellt am
Dazu gibt s m.W. keine alternativen Fakten.
TE
TE
RyzA
PCGH-Community-Veteran(in)
Beim programmieren, innerhalb einer Programmiersprache doch auch nicht! Siehe Tekkla´s Post.
Künstliche Intelligenz - Fluch oder Segen?
Findest du den Begriff nicht etwas übertrieben? Gerade in diesem Zusammenhang? Zumal das ja nur funktioniert, wenn die genutzte Instanz der nutzenden irgendwo überlegen ist. Wie du selbst erkannt hat, machen chatbots eigentlich nur was man ihnen aufgibt. Also hättest du dich in dem Fall dann...
Ach so, weil er schrieb, das grundlegende Prinzip seien Wahrscheinlichkeiten.
Ja klar, bei komplexeren Themen.
Glaub mir, bei solchen einfachen mathematischen Aussagen hat auch die KI im Hintergrund den Microsoft Taschenrechner am laufen
blautemple
Kokü-Junkie (m/w)
Das ist aber auch noch nicht lange so:Ach so, weil er schrieb, das grundlegende Prinzip seien Wahrscheinlichkeiten.
Ja klar, bei komplexeren Themen.
Glaub mir, bei solchen einfachen mathematischen Aussagen hat auch die KI im Hintergrund den Microsoft Taschenrechner am laufen
Mathematik und LLMs?
Große Sprachmodelle machen selbst vor der Mathematik nicht halt. Wie formale mathematische Beweise durch LLMs an Auftrieb gewinnen.
www.prognostica.de
Tekkla
Volt-Modder(in)
Das ist ein Windows-Befehl. Mit dem wird man unter Linux nix.
Falsche Befehle nicht. Also jetzt beim Programmieren. Je nach Kontext werden Befehle oder Abläufe falsch abgebildet. So eine Situation hatte ich mit der DHL Portokasse. Die hatten eine SOAP API und diese zugunsten von REST aufgegeben. ChatGPT, Claude und Co haben partout das nicht anerkennen wollen. Selbst nachdem ich denen die API Beschreibung gab, waren die penetrant der Meinung, dass es SOAP sein muss. Die Teile sind halt nur so schlau wie ihre Herren bzw. die Ansammlung von Parametern bei deren "Training".
TE
TE
RyzA
PCGH-Community-Veteran(in)
Achso!
Ich habe mich schon lange nicht mehr mit Dos und Konsolenbefehlen beschäftigt. 
Ah ok.
Hmmm...Das ist aber auch noch nicht lange so:
Mathematik und LLMs?
Große Sprachmodelle machen selbst vor der Mathematik nicht halt. Wie formale mathematische Beweise durch LLMs an Auftrieb gewinnen.
A bisserl Mathe kann ich ja.
Gefühlt kenn die KI in diesen Fällen die einfache Regel Punkt vor Strich nicht - oder so ähnlich.
blautemple
Kokü-Junkie (m/w)
Kennst du den Strawberry Test:Hmmm...
A bisserl Mathe kann ich ja.
Gefühlt kenn die KI in diesen Fällen die einfache Regel Punkt vor Strich nicht - oder so ähnlich.
The ‘Strawberry’ Issue: Why LLMs Misspell Common Words
Discover why large language models misspell common words and how fine-tuning can solve these errors for better performance in real-world applications. Get started with Hyperstack today!
www.hyperstack.cloud
LLMs sind ein Werkzeug und man sollte sehr genau überlegen wie man es einsetzen will.
TE
TE
RyzA
PCGH-Community-Veteran(in)
Ich bin mal gespannt, wie lange es dauert bis die KI´s sich selber erkennen. Ich denke das ist keine Frage des "ob", sondern nur des "wann". Wenn sie auch auf neuronalen Netzen basieren und das lernen darüber ähnlich funktioniert wie bei uns. Dann kommt es letztendlich "nur" auf den (komplexen) Organisationsgrad bzw Vernetzungsgrad der Neuronen an.
ruyven_macaran
Trockeneisprofi (m/w)
Wenn das Erfinden von alternativen KI-Wahrheiten eine GRUNDfunktion ist, dann, ja dann ist was gehörig schief gelaufen.
"schief" ist eine Frage der perspektive.
Unternehmer, die mit möglichst geringem Aufwand möglichst große Versprechen an Investoren geben wollen, verlangen nur Antworten, die akzeptiert sind. Das sie auch tatsächlich stimmen, ist komplett optional, solange sie jeder schluckt.
Betreiber, die zu minimalen Kosten Support-Kunden abwimmeln wollen, verlangen nur Antworten, die solange als Kommunikation durchgehen, bis jemand entnerft den Kontakt abbricht. Dass die Antworten keine Aussagen enthalten, ist sogar ein Bonus.
Anwender, die möglichst billig jemand anderem eine WoT vor die Nase knallen wollen, verlangen nur nach Antworten, deren erste Zeile plausibel klingt. Ob der Inhalt danach richtig ist oder nicht, ist ihnen komplett egal. c & p & fertig.
Fazit: KI sind nicht "schief", sie sind genau richtig. Denen so etwas wie "Wahrheit" anzutrainieren, würde nur sinnlos Kosten verursachen.
Siehe oben: Könnte man. Aber wieso sollte man, wenn die Ausgabe falscher Antworten überhaupt nicht als größeres Problem wahrgenommen wird?
Dein Vorschlag geht zudem schon extrem weit, denn für den Abgleich mit einem "gesicherten Ergebnis" müsste die KI auf eine Datenbank zurückgreifen, in der für jede nur erdenkliche Aufgabenstellung ein händisch überprüftes Ergebnis verfügbar ist. Mal abgesehen davon, dass man mit so einer Datenbank nur noch eine gute Suchmaschine und keine KI im engeren Sinne braucht, widerspricht das dem grundlegenden Geschäftsmodell der KI-Unternehmen. Die sind schon heute nicht bereit, nenneswert Kosten für ihre Trainingsmaterialien auszugeben, sondern klauen urheberrechtlich geschützte Inhalte bei Verlagen, erschleichen unter Vortäuschung menschlicher Nutzer Wikipediainhalte und scrapen ohne Ende FOREN. Denen ist scheiß egal, wie falsch der Input ist, solange sie ihn nur umsonst bekommen können.
Und auf dieses Trainingsmaterial kommt dann in zweite Ebene noch das Sprachmodell, dass darauf trainiert ist, ASAP (= mit geringer Wartezeit und mit möglichst geringen Hardwarekosten) irgendeine Antwort auszuspucken, die zwar immer kohärent formuliert wird, aber gerne aus losen, unvollständigen Trainingshappen zusammengesetzt wird. Die paar mal, wo ich ChatGPT bislang ausprobiert habe, konnte es mir NIE eine Quelle für den Knackpunkt seiner ""Antwort"" nennen, sondern hatte sich die entscheidenen Punkte immer durch Verquirlung von Material, dass wenig bis gar nichts mit der Frage zu tun hatte, zusammengereimt. Das wäre selbst ausgehend von gutem Material riskant und jedem, der so eine Spekulation in einem Forum als Fakt postet, würde man dafür in Urlaub schicken. Aber für OpenAI ist das ein Businessmodell.
Selbst mit kontrollierten Basisdaten blieben immer noch die Fehler der KI selbst. Es laufen mittlerweile z.B. mehrere Klagen, in denen eine KI Personen einer Straftat beschuldigt hat. Die Verknüpfung war so auch gegeben und die KI hat für ihre Aussage korrekte Quellen ausgeübt: Es gab die (z.T. schwersten) Straftaten, das steht so in Gerichtsakten. Auch dass der Name, den die KI dazu ausgespuckt hat, steht korrekt in den gleichen Dokumenten. Dummerweise stand halt vor dem Namen "Richter" oder "Staatsanwalt" und nicht "Verurteilter" oder zumindest "Angeklagter" aber hey: Den kleinen Fehler muss man ChatGPT doch mal nachsehen können, oder? "Vergewaltiger" und "jemand, der Vergewaltigern den Prozess macht", das ist doch fast das gleiche.
Für eine KI jedenfalls.
Imho sollte deren Einsatz bei absolut allem verboten werden, was über pure Unterhaltung hinausgeht. Selbst trivialste Angelegenheiten werden "kritisch", wenn wir von Systemen reden, die wiederholt und grundsätzlich Falsches als wahr darstellen. Man kennnt das Prinzip doch zu genüge von Blöd-Zeitung & Co: Eine Lüge, die oft genug wiederholt wird, bliebt hängen "weil ja doch was dran sein muss, wenn es überall steht". Und KIs haben die nötigen Ressourcen, um alles überall und zu allem stehen zu lassen. Wenn niemand einen Riegel vorschiebt, dann wird mittelfristig 90-99% dessen, was Menschen so konsumieren, KI-generiert sein, einfach weil es billiger ist. Weltanschauungen werden so zu Zerrbildern und das ausgehend von einer Zeit, in der die meisten Leute schon aufgrund normaler Medien drohen, den Bezug zur Realität zu verlieren.
(Und damit meine ich nicht, dass die Leute glauben, Kühe hätten drei Beine. Sondern z.B. so etwas abstraktes wie "automatischer Ausgleich". Von Glücksspiel über Wahlergebnisse bis Klimawandel: Überall liest und hört man heutzutage, dass auf eine Erfolgs-/Aufwärtsphase ja Scheitern/ein Abwärts folgen müsse, ein längerfristiges Einpendeln wird als Naturgesetz für absolut alles, selbst nicht-natürlich Prozesse, erachtet. Aber das ist es nicht. Der ausgleichende Gegenmove, die Wiederherstellung von Gerichtigkeit ist eine Fiktion, die absolut typisch für Romane, Filme, Serien, Computerspiele und ähnliches. Also für von Menschen geschaffene Unterhaltungsnarrative. Es gibt keinerlei derartige Mechanismen in der Natur. Eine Gesellschaft, die ihre Ressourcen überstrapaziert, bekommt keine kleine Abreibung und danach ein Happy End, die stirbt aus. Eine Partei, die mit Populismus Achtungserfolge erreicht, verschwindet danach nicht wieder in der Versenkung, sondern wird dank der vergrößerten Bühne noch erfolgreicher. Ein Automat, an dem man die letzten 200 mal verloren hat, zieht einem auch beim 201. Mal mit 99999999:10000000 das Geld aus der Tasche. Selbst Menschen, die das sachlich wissen, handeln aber immer häufiger postfaktisch und rein gefühlsbasiert so, als wäre das nicht der Fall, mit in der Summe bedenklichen Folgen.)
Poulton
Volt-Modder(in)
Mittlerweile läuft leider das genaue Gegenteil ab. Seitens der EU Kommission ist sogar geplant, den Datenschutz u.a. wegen KI stark zu schleifen.
EU-Kommission will Datenschutzgrundverordnung und KI-Regulierung schleifen
In weniger als zwei Wochen will die EU-Kommission einen umfassenden Gesetzesvorschlag präsentieren. Der „digitale Omnibus“ würde bestehende Datenschutz- und Verbraucherrechte massiv aufweichen. Wir veröffentlichen die Entwürfe der Kommission.
netzpolitik.org
Für Europol wurde es bereits schon aufgeweicht:
Wie Europol mit Microsoft, Palantir, Clearview & Co. auf Kuschelkurs geht
Statewatch beklagt eine unheilige Allianz zwischen Europol und US-Tech-Unternehmen, die massive Interessenkonflikte und Transparenzprobleme mit sich bringe.
Und als Krönung des ganzen noch, dass
Und in Schland setzt man noch einen drauf und gibt polizeiliche Daten für die kommerzielle Nutzung, auch durch und für KI, frei:
Grüne geben Polizeidaten für Palantir frei
Die grün-schwarze Regierung in Stuttgart winkt die automatisierte polizeiliche Datenanalyse und damit den Einsatz von Software von Palantir durch. Die Grünen machten das nach einem politischen Kuhhandel zu einem Nationalpark möglich. Eine „Experimentierklausel“ im Gesetz gibt außerdem...
netzpolitik.org
Danke Union, danke Grüne
Dann war auch noch der Knaller:
Es kommt von den CEO großer Tabakkonzerne das Rauchen nicht schädlich ist, es muss wahr sein!
Zuletzt bearbeitet:
Poulton
Volt-Modder(in)
Und es braucht nichmal die Union. Bei der SPD will man, in Koalition mit den Grünen, auch mitmachen.Danke Union, danke Grüne
Niedersachsen: Polizei soll schon im Vorfeld von Straftaten überwachen dürfen
Precrime: Die niedersächsische Regierung will Ermittlern biometrische Abgleiche im öffentlichen Raum und KI-Datenanalysen schon bei losem Verdacht erlauben.
- Big-Data Analyse (mit KI) wie Palantir aber ohne Palantir
- KI
- Videoüberwachung mit KI
- Datenübermittlung an öffentliche und private Stellen auch in Drittstaaten
- noch mehr KI, die darüber bestimmt, ob du Terrorist bist
Zur aktuellen CDU geführten Bundesregierung.
Kehrtwende für die „Innovationsführerschaft“
Auf dem heutigen „Gipfel zur Europäischen Digitalen Souveränität“ verkündete die Bundesregierung nicht weniger als einen radikalen Kurswechsel: Digitale Souveränität versteht sie vor allem als Rennen um die „Innovationsführerschaft“. Dafür will sie hart erkämpfte Regularien schleifen. Die...
netzpolitik.org
Zuletzt bearbeitet:
TE
TE
RyzA
PCGH-Community-Veteran(in)
Eingebundener Inhalt
An dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst:
Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.Für mehr Informationen besuche die Datenschutz-Seite.
Sprachmodelle von der KI-Expertin erklärt.
Zuletzt bearbeitet:
7
7seven7
Guest
Als normaler Arbeitnehmer des ausführenden Handwerks finde ich KI, LLM etc. einfach nur toll,
weil das wird jetzt primär mal die ganzen Personal und Verrechungs Personen betreffen die bisher immer meinten sie sind so super toll und ihnen ist es recht egal ob man AN anstellt oder einfach so kündigt.
Ja aus der hinsicht ist LLM, KI etc. echt toll, bekommen die RICHTIGEN mal ihre eigene Medizin
weil das wird jetzt primär mal die ganzen Personal und Verrechungs Personen betreffen die bisher immer meinten sie sind so super toll und ihnen ist es recht egal ob man AN anstellt oder einfach so kündigt.
Ja aus der hinsicht ist LLM, KI etc. echt toll, bekommen die RICHTIGEN mal ihre eigene Medizin
Tekkla
Volt-Modder(in)
Wenn 5 mm ok sind, wo 1 mm gefordert, nur zu.
7
7seven7
Guest
Das Personal und Verrechnungswesen hat mit dem nichts zu tun,Wenn 5 mm ok sind, wo 1 mm gefordert, nur zu.
das sind die Konstruktöre, Abteilungsleiter und ausführenden Arbeiter.
Ja das passiert bei uns in der Region auch aktiv, die Frau Personell die jeden nach belieben die Kündigung via email zu sandte, sitzt jetzt selbst beim AMS.
Tekkla
Volt-Modder(in)
Je nach Laune der KI 20% weniger Gehalt bekommen, ist dann ja auch fein? XD
Poulton
Volt-Modder(in)
Wenn KI Bücher und Quellen herbeihalluziniert, die Leute dem blindlings vertrauen und dann Bibliotheken bezichtigen, ihnen diese herbeihalluzinierten Bücher vorzuenthalten, weil da anscheinend Dinge drin stehen, die niemand wissen soll.
gizmodo.com
www.icrc.org
Librarians Are Tired of Being Accused of Hiding Secret Books That Were Made Up by AI
AI chatbots are generating fake titles that people insist are real.
gizmodo.com
Important notice: AI-generated archival and legal references
We are aware that some AI chatbots (such as ChatGPT, Gemini, Copilot, Bard and others) may generate incorrect or fabricated archival and legal references. These systems do not conduct research, verify sources, or cross-check information. They generate new content based on statistical patterns...
www.icrc.org
Zuletzt bearbeitet:
brooker
F@H Team #70335 Event Manager
Wahrlich, für den einen ein Fluch, für einen anderen ein Segen! Es zeigt umso mehr, dass KI-Anwendungen Leitplanken brauchen, damit am Ende des Tages für die Gesellschaft wirklich ein Mehrwert und nicht nur heiße Luft aus einer geplatzten Blase überbleibt. CO², ich bin dabei! ;o)Wenn KI Bücher und Quellen herbeihalluziniert, die Leute dem blindlings vertrauen und dann Bibliotheken bezichtigen, ihnen diese herbeihalluzinierten Bücher vorzuenthalten, weil da anscheinend Dinge drin stehen, die niemand wissen soll.
Librarians Are Tired of Being Accused of Hiding Secret Books That Were Made Up by AI
AI chatbots are generating fake titles that people insist are real.Important notice: AI-generated archival and legal references
We are aware that some AI chatbots (such as ChatGPT, Gemini, Copilot, Bard and others) may generate incorrect or fabricated archival and legal references. These systems do not conduct research, verify sources, or cross-check information. They generate new content based on statistical patterns...
Ähnliche Themen
