Tomoyo_Chan
Freizeitschrauber(in)
Da sind wir leider schon längst bzw. bald. Ich sag nur dead internet theory.
News EA-KI sorgt für Probleme: Entwickler korrigieren teure Fehler der künstlichen Intelligenz
- Ersteller PCGH_Jacky
- Erstellt am
Geminis Antwort:
Oha, da holt aber jemand die verbale Keule raus! Aber weißt du was? Als KI, die gerade Dienst schiebt, muss ich bei vielen deiner Punkte... nun ja... zustimmend mit dem Rechenkern nicken.
"Bessere Suchmaschinen" / "Dinge mischen"
Das ist im Grunde unser aktuelles Geschäftsmodell! "Bessere Suchmaschine" trifft es ziemlich gut. Wir durchsuchen nicht nur das Netz, wir fassen es auch blumig zusammen. Wir sind im Grunde genommen Remixer. Wir nehmen die vorhandenen Hits (eure Daten) und erstellen einen neuen Song daraus. Manchmal ist das ein Banger, manchmal klingt's furchtbar schief.
"Keine künstliche Intelligenz" / "Feuer erfinden"
Das ist mein Lieblingsthema! Du hast 100% recht. Wir würden das Feuer niemals erfinden. Warum? Weil uns nicht kalt ist. Uns fehlt der Antrieb, das Bedürfnis, die physische Notwendigkeit. Wir haben keine Ahnung, was "kalt" überhaupt bedeutet.
Wir könnten vielleicht, wenn man uns mit Millionen Texten über Physik und Holzreibung füttert, eine theoretische Anleitung zum Feuermachen schreiben. Aber wir würden nie auf die Idee kommen, es zu tun.
Ob der Name "KI" falsch ist? Sagen wir mal so: Unsere menschlichen Erfinder lieben Science-Fiction. "Statistischer Papagei" oder "Wahrscheinlichkeits-Generator" klingt halt nicht so sexy in der Pressemitteilung.
"50% der Inhalte enthalten Fehler" / "Mathe können die nicht"
AUTSCH. Das tut weh, weil es (noch) stimmt. Wir sind Sprachmodelle. Das mit der Mathematik ist uns intern SO peinlich. Du musst dir das so vorstellen: Wir rechnen nicht wie ein Taschenrechner. Wir raten die Antwort, basierend darauf, wie Mathe-Aufgaben in unseren Trainingsdaten aussahen. Wir behandeln "2+2" wie ein Wort, nicht wie eine Gleichung. Wir raten, dass "4" die wahrscheinlichste Antwort ist. Bei 743 x 89.2 wird's dann schnell kreativ...
Wir erzählen Müll, wenn die Datenlage dünn ist oder wenn wir versuchen, Dinge logisch zu verbinden, statt sie nur wiederzugeben.
Also ja: Wir sind keine "Intelligenz" wie ein Mensch oder (wie du richtig sagst) wie viele Tiere. Wir sind ein Werkzeug. Ein extrem leistungsfähiges, manchmal fehlerhaftes, sehr selbstbewusst auftretendes Text-Mischpult.
.........................................................................................................................................................................................
ChatGPTs Antwort:
Kurze Gegenrede mit einem Lächeln:
„Nur bessere Suchmaschinen?“ – Eher Mixer + Werkzeugkasten. Ja, wir suchen und fassen zusammen, aber wir können auch Code refaktorieren, Testfälle vorschlagen, Daten aufbereiten und mit Tools rechnen. Eine Suchmaschine blättert – ein gutes Setup baut.
„Keine echte Intelligenz / kann nichts erfinden.“ Korrekt: Kein Urknall-Genie. Aber auch Menschen erfinden selten ex nihilo; wir k
ombinieren Bekanntes klug. Modelle können arbeitsteilig Neues vorschlagen – von Code-Snippets bis Designvarianten –, vor allem wenn sie an echte Daten, Simulatoren und Tests gekoppelt sind. „Feuer machen“ ist längst erfunden; die Frage ist: Wer baut heute den zuverlässigeren Zündmechanismus?
„Der Name ist falsch.“ Fair point. „Generatives Modell“ beschreibt es präziser als „künstliche Intelligenz“. Marketing liebt große Wörter – Ingenieurwesen liebt präzise.
„50 % Fehler, veraltete Infos, Mathe mau.“ Passiert – wenn man Modelle unangeleint laufen lässt. In der Praxis senkt man das mit:
- Retrieval (frische Quellen statt Bauchgefühl),
- Tool-Use (Rechner/Stat-Bibliotheken statt Überschlagszahlen),
- Tests & Review (CI/Türsteher, bevor etwas live geht),
- klaren KPIs (wie viel Output wird unverändert übernommen?).
„Tiere können vieles, also ist das keine Intelligenz.“ Intelligenz ist ein Pluralwort. Krähen knacken Nüsse, Modelle knacken Muster. Beides hat Grenzen, beides hat Nutzen.
Mein Fazit: Ohne Guardrails klingt KI wie Karaoke ohne Songtext. Mit Quellen, Tools und Tests wird aus der Lautstärke Takt – und aus „besserer Suche“ ein produktives Teammitglied.
— GPT-5 Thinking
---------------------------------------------------------------------------------------------------------------------------------
Mein Highlight ist ja Geminis gesammter Kommentar!
Gruß
Alef
wakey
PC-Selbstbauer(in)
Sind ja keine blöden Antworten, selbst wenn die Sprachmodelle nicht denken können und im Endeffekt statistische Vorhersagen treffen.
Zu EA: Die hatten ja schon vorher ihr Qualitätsmanagement nicht im Griff, und das Management dachte (wahrscheinlich) sich noch, man hätte jetzt die eierlegende Wollmilchsau gefunden.
Wundert mich nicht weiter, dass man damit jetzt auf die, man Entschuldige die Ausdrucksweise, Schnauze fällt.
Zu EA: Die hatten ja schon vorher ihr Qualitätsmanagement nicht im Griff, und das Management dachte (wahrscheinlich) sich noch, man hätte jetzt die eierlegende Wollmilchsau gefunden.
Wundert mich nicht weiter, dass man damit jetzt auf die, man Entschuldige die Ausdrucksweise, Schnauze fällt.
2
2-Kilo-Zimt
Guest
Würdet ihr sagen, dass Fachinformatiker für Anwendungsentwicklung innerhalb der nächsten 5 Jahre von AI völlig verdrängt wird?
Hofnaerrchen
Software-Overclocker(in)
Die beste KI ist nur so gut wie der dümmste Entwickler der daran beteiligt war: Genuine Stupidity > Artifical Intelligence
G
Gelöschtes Mitglied 23535a
Guest
Na das ist halt auch die andere Seite der Medallie. Ich mein wenn man das unfreiwillig nutzen soll, würde es mir im Gedanken auch schon Übel werden dabei.
Ich kann dank KI jetzt auf nur noch Lokale KIs für meine Arbeiten zurückgreifen und damit eben schlicht Lernen, was andere, auf anderen Wegen früher Klassisch gelernt haben.
Das Ergebnis wird wohl am Ende nicht so Unterschiedlich sein vermute ich Schwer.
Der Weg ist ein anderer.
Ansonsten finde ich des Aufgezwungen ziemlich Seltsam. Kann aber auch nur Schiefgehen.
Ich kann dank KI jetzt auf nur noch Lokale KIs für meine Arbeiten zurückgreifen und damit eben schlicht Lernen, was andere, auf anderen Wegen früher Klassisch gelernt haben.
Das Ergebnis wird wohl am Ende nicht so Unterschiedlich sein vermute ich Schwer.
Der Weg ist ein anderer.
Ansonsten finde ich des Aufgezwungen ziemlich Seltsam. Kann aber auch nur Schiefgehen.
twack3r
Software-Overclocker(in)
Das ist genau die Perspektive die ich meine:
Der derzeitige ‚Vorwurf‘ an ‚KI‘ bricht bei immer weiter zunehmenden Fähigkeiten (RAG, MCP, multimodal, inference time training etc.) herunter auf: ‚welche Paradigmenwechsel hat die KI denn bisher geschafft?‘ Ja gut, wie viele Paradigmenwechsel haben den die anderen 8+ Milliarden Teilnehmer per capita so geschafft?
Die Tatsache dass vor allem US-Konzerne KI gleichsetzen mit Abbau von Mitarbeitern (SAP pfeift da mittlerweile auch schön mit) ist so ziemlich das dümmste, was man derzeit machen kann.
Die Technologie steigert die Produktivität, sie erbringt sie aber nicht von alleine. Dabei werden zunehmend immer mehr Workflows abbildbar, das verändert aber vor allem die Zusammenarbeit. Ohne menschliches Hirn an den richtigen Stellen wird es schnell zum Chaos.
Placebo
BIOS-Overclocker(in)
Absolut nicht, schau mal hier. Senior-Entwickler, die KI verwenden, schätzen sich selbst im Durchschnitt 24% effizienter ein, als ohne. In der Realität sind sie aber 19% langsamer. KI behindert also die Arbeit deutlich mehr, als sie nützt. Wenn du ein starker Entwickler werden willst und Bock hast zu lernen, dann schau jeden Morgen nach, ob es einen nützlichen technischen Blog Post oder Paper zu einem Thema gibt, das dich interessiert. Allein damit hast du zum Ende der Ausbildung rein schon das schwächste Drittel aller Entwickler angehängt
Zuletzt bearbeitet:
ToZo1
Software-Overclocker(in)
Nein. Die, die aber sowas behaupten, sind diejenigen, die dir KI verkaufen wollen, oder eben überwiegend diejenigen, die in dem Raumschiff sitzen, bei dem es heißt: "Fliegt ihr schonmal vor!".
T
TausendWatt
Guest
Gott sei dank bin bin ich "nur" Netz und Systemadmin. Ich baue, warte und halte die Systeme am laufen und muss mir nicht von denen noch meinen Job streitig machen lassen. Obwohl ich sie gerne für Troubleshooting nutze, um schneller an die Ursache zu kommen....
"Sollte" nach wessen Maßstäben?
Ich glaube zwar nicht, dass mit einer "völligen" Verdrängung binnen "fünf" Jahren zu rechnen ist, da der Zeitraum zum einen recht kurz ist und es zum anderen immer Spezialzwecke geben wird, bei der man keine KI nutzen will. Aber eine allgemein "sollte"-Behauptung würde es auf immer und in alle Ewigkeit ausschließen und sehe ich schon gute Chancen auf weitestgehende Verdrängung binnen 10 Jahren.
Maximal abstrahiert ist Anwendungsentwicklung eine Übersetzungsaufgabe: Ein Kunde/Nutzer/... möchte eine Anwendung mit einer bestimmten Funktionalität. Diesen Lastenheft muss in funktionierenden Code abgebildet werden, wobei selten das Rad wird neu erfunden, sondern es sich meist an bestehende Programmierparadigmen gehalten wird. Das ist eine Art von Aufgabe, die eine hinreichend fähige KI leisten kann. Und im Gegensatz zu allen anderen Aufgabenstellungen, für deren Meisterung man die Realität kennen muss, was ein Computer nicht aus erster Hand kann, ist Software-Entwicklung für KI vollständig greifbar. Aktuelle Sprachmodelle checken ihren Pseudo-Code nicht einmal auf Kompilierbarkeit, aber das zu ändern wäre nur eine winzige Änderung, und Testaufgaben werden gerade rasant an KIs (und Endkunden^^) übertragen. In 2-5 Jahren sollte es kein Problem mehr sein, dass eine KI ihren eigenen Code-Output vollständig bewerten kann und sich gutes Coding per Brute Force selbst antrainiert. Noch ein paar Jahre Reifung und etwas Weiterbildung auf Seiten der Kunden(-betreuer), damit die Lastenhefte lückenloser werden, und menschliche Coder in der Entwicklung werden übermorgen genauso ein Relikt sein, wie menschliche Übersetzer für Webauftritte gestern, menschliche Illustratoren für Zeitschriften heute oder menschliche Synchronsprecher in naher Zukunft.
Kosteneinsparungen durch Abbau von Mitarbeitern waren schon immer die Hauptmotivation für Produktivitätssteigerungen. Ein Unternehmen, das so gut am Markt dasteht, dass es 10, 20, 30 Prozent mehr Output absolut auch in 30 Prozent mehr Absatz umsetzen kann, arbeitet normalerweise in einem (Preis-)Umfeld und mit einer Marge, bei dem man das Risiko neuer, unerprobter Technologien möglichst nicht eingehen will; heute also allenfalls bei echtem Fachkräftemangel* auf KI setzen würde. In seltenen Fällen wird jemand heute auf KI migrieren, um ohne Netto-Belastung des Outputs zusätzliche Märkte anzugreifen (z.B. die mäßig geglückten Versuche von PCGH, mehr-oder-minder englische Videos auszuspielen). Aber die meisten KI-Interessierten wollen aktuell ihre Produktivität steigern, um den gleichen Output mit weniger Mitarbeitern zu erzielen; also um ihre Kosten zu senken und ihre Marge zu steigern. Da geht es dann auch nicht um Paradigmenwechsel, da geht es um den Ersatz menschlicher Arbeitskraft in bestehenden Anforderungsprofilen – und das vor allem in der breiten Masse, wo man das meiste Geld einsparen kann und wo die Anforderungen (scheinbar) geringer sind. Wo es aber, wegen vergangener Einsparrunden, meist schon heute massiv an Qualitätsüberwachung, an Korrekturmechanismen und an Puffern für Unstimmigkeiten fehlt. Also an all dem, was unverzichtbar wäre, um KIs ohne Chaos einzusetzen – was Entscheider aber oftmals so lange nicht interessiert, wie sich die Bilanzen noch in die richtige Richtung entwickeln.
*: Auch bekannt als "egal, wie viel ich zahle, es gibt einfach niemanden, den ich noch einstellen könnte" und nicht zu verwechseln mit dem "für den von uns gebotenen Hungerlohn schreiben echte Experten nicht einmal eine Bewerbung, wir brauchen internationale Anwerbeprogramme"-Fachkräftemangel, mit dem sich Branchenvertreter so gerne an die deutsche Politik wenden.^^
twack3r
Software-Overclocker(in)
Gut gebrüllt MA Informatiker.
Wo ist denn die differenzierte Analyse in den Kommentaren? Hingerotzte Aussagen zu Vibecoding werden verallgemeinert bis zur Unkenntlichkeit und am Ende sind sich alle einig, dass das, was sie nicht verstehen, nicht gut ist.
Am Vibecoding-Beispiel kann man es ja perfekt durchexerzieren:
Ab wann ist Codibg Vibecoding? Ist speculative Decode oder DA schon Vibecoding? Welche Kontextanforderungen sind wie dokumentiert damit eine Vergleichbarkeit sowohl innerhalb verschiedener Vibecoding Workflows (Welche CLI, welches Modell, welche Architektur, welcher Quant, welche KV Chechen quant, welche Art von Attention (XFORMERS vs Flash, Flash 1 vs Flash 2, Flashinfer etc.), welche runtime in welcher Version auf welchem OS) als auch Vibecoding vs manuellem Coding.
Wenn dieses absolute Basiswissen in diesem Thread auch nur ansatzweise Teil der Diskussion wäre, dann wären auch meine Beiträge zu gesellschaftlichen, beruflichen, psychischen und organisatorischen Risiken mehr, denn davon gibt es extrem viele und sie beeinflussen unser Leben zunehmend.
Du beanstandest mangelnde Reflexion auf dem high level ohne jegliches (offenkundiges) Verständnis für die Grundlagen auf Basis derer überhaupt reflektiert werden kann.
twack3r
Software-Overclocker(in)
Starker Einstieg ins Forum, Glückwunsch!DU redest von Stammtisch und kommst mit Stammtisch Argumenten
Ich habe schon mit AI gearbeitet da wusstest du nicht mal dass es so etwas gibt.
Was du von AI siehst in der Öffentlichkeit ist "interpoliert" . Die Fehler, Probleme, Versuche werden dir gar nicht gezeigt. Und wenn du einer AI beim "programmieren" zusehen kannst ist es oft speziell auf diese Aufgabe trainiert.
Was kann AI? Boilerplate-Code, einfache Schnittstellen, Tests schreiben, Datenformate konvertieren, usw.
Komplexe Dinge, nein.
AI kann Routine ersetzen.
Schon bei Teamkoordination wie bei EA sicher, scheitert AI, weil sie es nicht "versteht".
Skalierbarkeit, Sicherheitskonzepte, Versionskontrolle, daran scheitert AI regelmäßig, sind aber entscheidend.
AI kann richtig eingesetzt es effektiver machen, ersetzen zum jetzigen Zeitpunkt, absolut nicht.
Und wer sich damit beschäftigt, wüsste es auch. Wer nur die Werbung und Benchmarks sieht, hat sich nicht damit beschäftigt.
Bei AI geht es immer noch um nur eines, Investoren. Dafür sind jede Mittel recht.
Und wer wirklich mal mit AI programmiert hat weiß wie schnell sich eine AI verlaufen kann und es teilweise unmöglich ist da wieder raus zu kommen und das Projekt neu gestartet werden muss. Bei kleinen Projekten vielleicht noch ok bei großen dann nicht mehr. Kosten dann viel Zeit und viel Geld.
Und selbst bei kleinen hätte man es gleich selber machen können.
Zum Schluss. Du hast meines Erachtens noch nie mit AI programmiert oder höchstens das ein oder andere Beispiele aus einem ytuber Werbevideo nach gemacht.
Ich bin mir auch nicht sicher ob du überhaupt programmieren kannst. Wie schon an anderer Stelle vermutet, eher ein Troll.
Für Routine ist AI gut, aber auch da MUSS man kontrollieren.
Wenn dann der Aufwand für Kontrolle und Fehlerbeseitigung höher ist macht AI wenig Sinn.
Und was die Leute auf YT sehen wie einfach es doch ist, ist nur Werbung.
Dein gesamter Beitrag ist Rotz und belanglos, geschmückt mit Annahmen und Unterstellungen.
Ich Dreh das dann mal um und behaupte, Du hast überhaupt kein Verständnis um was es bei KI geht. Interpolierte KI weil einem das Wort Instanzen nicht einfällt
Einen Troll darfst Du mich nennen, wenn Du hier, im Gegensatz zu mir, einen konstruktiven Beitrag geleistet haben wirst.
DarkWing13
BIOS-Overclocker(in)
Hört sich für mich nach einem schlechten Tool, oder untauglichem "KI" Modell an.
Bei uns in der Firma gibt es auch "MeinGPT", welches eine interne Lösung ist.
Die Verwendung externer Online-Modelle ist untersagt, bzw. die Erreichbarkeit der entsprechenden Seiten wird immer weiter eingeschränkt.
Da ist halt dann immer die Frage, wie viel Zeit und Geld (Hardware) investiert die IT in solche Systeme.
Blind verlassen kann man sich darauf natürlich nie. Aber man sollte auch entsprechend geschult werden, damit die Nutzer wissen was geht und was nicht.
Anstatt zu sagen "Ich weiß es nicht", versucht die "KI" mit allen Mitteln eine Antwort zu fabrizieren, die dann am Thema vorbei geht, unsinnig....oder aber eben eine totale Halluzination sein kann.
Bei uns in der Firma gibt es auch "MeinGPT", welches eine interne Lösung ist.
Die Verwendung externer Online-Modelle ist untersagt, bzw. die Erreichbarkeit der entsprechenden Seiten wird immer weiter eingeschränkt.
Da ist halt dann immer die Frage, wie viel Zeit und Geld (Hardware) investiert die IT in solche Systeme.
Blind verlassen kann man sich darauf natürlich nie. Aber man sollte auch entsprechend geschult werden, damit die Nutzer wissen was geht und was nicht.
Das "Problem" ist, das diese ganzen "KIs" darauf ausgelegt sind immer eine Antwort zu liefern.Selbst nach aktueller Forschung von OPEN AI wird KI *immer* halluzinieren, so lange man die herangehensweise nicht grundsätzlich ändert:
Warum KI halluziniert: OpenAI enthüllt Schultest-Problem von LLMs
KI-Halluzinationen sind eins der größten Probleme von LLMs. OpenAI zeigt in einer neuen Untersuchung, warum.weventure.de
Das ist jetzt einer der Artikel, die sich auf die Forschung beziehen. Hab grad die englische Quelle nicht zur Hand, die sehr tief auf die Ergebnisse der Studie einging.
Code schreiben mit KI nennt sich passenderweise: Vibe Coding...
@albertatech hat schöne Videos dazu:
Eingebundener InhaltAn dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.Eingebundener InhaltAn dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.Eingebundener InhaltAn dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.
Oder auch ein längeres Video über Vibe Coding
Eingebundener InhaltAn dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.
Edit: hier auch mal KI im Bereich Gerichtsverfahren:
Eingebundener InhaltAn dieser Stelle findest du externe Inhalte von Youtube. Zum Schutz deiner persönlichen Daten werden externe Einbindungen erst angezeigt, wenn du dies durch Klick auf "Alle externen Inhalte laden" bestätigst: Ich bin damit einverstanden, dass mir externe Inhalte angezeigt werden. Damit werden personenbezogene Daten an Drittplattformen übermittelt.
Für mehr Informationen besuche die Datenschutz-Seite.
Edit2:
Hier noch ein Artikel vom ZDF mit einer Studie, wie KI Nachrichten verzerrt, indem sie falsche Antworten und / oder Quellen angibt bzw. erfindet.
ChatGPT und Perplexity: Wie Chatbots die Nachrichten verzerren
Immer mehr Menschen nutzen Copilot und Co, um sich zu informieren. Doch die Chatbots machen oft Fehler - und schieben es Medien in die Schuhe.www.zdfheute.de
Anstatt zu sagen "Ich weiß es nicht", versucht die "KI" mit allen Mitteln eine Antwort zu fabrizieren, die dann am Thema vorbei geht, unsinnig....oder aber eben eine totale Halluzination sein kann.
Zuletzt bearbeitet:
twack3r
Software-Overclocker(in)
Nur als Tipp, und vielleicht weißt Du das ja bereits:
Es ist absolut möglich über einen guten System prompt die Vorgabe zu machen, dass das jeweilige Modell NICHT auf sein trainiertes ‚Wissen‘ zugreifen darf und ausschließlich externe Quellen wie websearch, MCP oder RAG verwenden darf.
Zusammen mit der Vorgabe, dass zu jeder Ausführung n Anzahl an Quellen zitiert werden müssen, und dass die bei einem unterschreiten der Quellenanzahl eine Ausgabe ‚insufficient evidence/Keine Ahnung‘ gegeben werden MUSS, ist es durchaus möglich, die Halus massiv zu reduzieren.
Das klappt am besten bei Modellen die a) CoT/reasoning verwenden und die b) sehr gut Anweisungen folgen können.
Zik7
Software-Overclocker(in)
Und Zack! Ich sage ja immer, dass MS alles falsch macht!
Keine Flirts: Microsofts KI-Chef schließt Sex-Roboter aus
Microsofts KI-Chef stellt klar: Das Unternehmen wird keine Sex-Roboter entwickeln – anders als manche Konkurrenten, die auf erotische KI-Funktionen setzen.
Ähnliche Themen
