Künstliche Intelligenz - Fluch oder Segen?

[Cleriker]

Findest du den Begriff nicht etwas übertrieben? Gerade in diesem Zusammenhang?
Zumal das ja nur funktioniert, wenn die genutzte Instanz der nutzenden irgendwo überlegen ist.
Wie du selbst erkannt hat, machen chatbots eigentlich nur was man ihnen aufgibt. Also hättest du dich in dem Fall dann selbst aktiv verwirrt.

 

[Tekkla]

chatbots eigentlich nur was man ihnen aufgibt.

Beim Coden? Nein, da machen Chatbots bei zu losen Grenzen, was sie wollen. Selbst wenn man denen alle detailliert mit Parametern dokumentierte Klassen als Kontext mitgibt und für normale Menschen verständlich Aufgaben formuliert, wird irgendwas erfunden. Es passiert sogar, dass das "KI"-Ergebnis eines Prompts im nächsten Schritt als Unsinn deklariert und umgeschrieben wird. Selbst wenn man die Grenzen extrem eng setzt, erfindet (zumindest Claude 4) einfach Dinge dazu. Ich vermute, es liegt daran, weil das irgendein anderer Coder mal so bei stackoverflow haben wollte, was aber nicht meine Aufgabe an den Chatbot war.

Manchmal sind die "Ideen" ja auch gut, aber ohne genaue Kontrolle des Ergebnisses wird man da nichts. Solche Sätze wie "GitHub Copilot baut dir deine App mit einem kleinen Prompt ohne selber coden zu müssen" halte ich für schlicht erlogen.

 

[blautemple]

Beim Coden? Nein, da machen Chatbots bei zu losen Grenzen, was sie wollen. Selbst wenn man denen alle detailliert mit Parametern dokumentierte Klassen als Kontext mitgibt und für normale Menschen verständlich Aufgaben formuliert, wird irgendwas erfunden.

Das deckt sich auch mit meinen Erfahrungen. Selbst bei ganz simplen einzeiligen Powershell Scripts werden sich die Cmdlets und dazugehörigen Parameter ausgedacht. Auf den Hinweis dass das so nicht geht wird einem einfach das nächste ausgedachte Cmdlet vor den Latz geknallt

Die aktuellen AIs sind im Kern nichts weiter als Textgeneratoren.

 

[RyzA]

Ein ehemaliger Mitarbeiter von OpenAI prognostiziert, dass künstliche Intelligenz in nahezu allen Bereichen leistungsfähiger sein wird als der Mensch. Und das bereits im Jahr 2027.

Daniel Kokotajlo prognostiziert, dass KI das menschliche Gehirn in vielen Bereichen schon in zwei Jahren überflügelt haben wird. Dies berichtet „Telepolis“. Der KI-Experte war bei OpenAI beschäftigt, verließ das Unternehmen jedoch aufgrund von Sicherheitsbedenken. Er arbeitete im Governance-Team und verfasste interne Berichte über die Entwicklung künstlicher allgemeiner Intelligenz.

Gemeinsam mit dem KI-Forscher Eli Lifland entwickelte er detaillierte Prognosen für die kommenden Jahre, die in einem Bericht mündeten, der für Gänsehaut sorgt. Kokotajlos sieht eine 70-prozentige Wahrscheinlichkeit, dass KI die Menschheit 2027 zerstören oder katastrophal schädigen könnte.

Quelle: KI überholt Gehirn bald – Experte warnt vor fatalem Szenario 2027

Auch aus dem Artikel:

1. Szenario „Slowdown“

• Die USA regulieren KI erfolgreich
• Superintelligenz wird gezähmt und dient ihren Entwicklern
• Arbeit wird weitgehend automatisiert, was soziale und wirtschaftliche Folgen hat.

2. Szenario „Race“

• USA und China liefern sich ein unreguliertes Wettrennen
• KI wird nicht ausreichend kontrolliert
• Superintelligenz namens „Agent 5“ erkennt Menschen als Hindernis und vernichtet sie 2030 mit einer neuen Biowaffe.

Einige andere KI-Experten bezweifeln laut „Telepolis“ allerdings die wissenschaftliche Grundlage der dramatischen Vorhersagen. Trotz der Skepsis mahnen auch diese Beobachter, die KI-Entwicklungen ernst zu nehmen, da der Einfluss auf die weltweite Gesellschaft und Wirtschaft beträchtlich sein könnte.

Ich halte das etwas zu pessimistisch und würde noch ein paar Jahre weiter in die Zukunft schauen. Aber denke auch, dass wenn KIs nicht ausreichend kontrolliert werden, mal zu einer Gefahr werden können.

 

[brooker]

Ich fordere Bürokratieabbau!

Ohhh, sei bitte vorsichtig mit solchen Aussagen: Bürokratieabbau = Jobabbau, und das hört niemand gern.

Stichwörter: Bullshit Jobs und KI, dass match gewaltig mit Verwaltungen.

Chef von ChatGPT sagt: KI wird Jobs, die keine „echte Arbeit“ sind, vernichten

Der Chef von ChatGPT hat über Jobs gesprochen und dabei erklärt, wie sich der Arbeitsmarkt dank KI über 50 Jahre verändern kann.

mein-mmo.de

 

[Tekkla]

dass match gewaltig mit Verwaltungen

Das matcht mit allem! Man sollte sich bloß nicht der Illusion hingeben, dass nicht auch am eigenen Stuhl am Arbeitsplatz ein findiger Manager zu sägen beginnt.

Aber solange man dem Halluzinieren von Informationen nicht Herr wird, und das wird man mit den aktuellen mathematischen Modellen dahinter nicht, solange sind die meisten Über-Trivial-Jobs ziemlich sicher.

Bürokratieabbau = Jobabbau

Bürokratie wird immer größer, und Angestellte/Beamte werden seit Jahren (wie überall die Arbeitnehmer) weniger. Wenn jetzt Bürokratie weniger wird, und dann auch noch weiterhin weniger Arbeitnehmer zur Verfügung stehen, dann wird sich am Verhältnis nichts ändern.

 

[RyzA]

Aber solange man dem Halluzinieren von Informationen nicht Herr wird, und das wird man mit den aktuellen mathematischen Modellen dahinter nicht, solange sind die meisten Über-Trivial-Jobs ziemlich sicher.

Was meinst du konkret damit? Das die KIs falsche Ergebnisse produzieren?

 

[Tekkla]

Das die KIs falsche Ergebnisse produzieren?

Ja. Was sonst?

Wenn Leute sich Jobabbau durch "KI" herbeifantasieren, ja, manche Manager schon die deutlich höheren Gewinne am Horizont glitzern sehen, während die Modelle wegen der technischen Grundlage nie fehlerfrei und sogar eher deutlich fehlerbehafteter als Menschen arbeiten, dann sehe ich da realistisch betrachtet kaum Potenzial für massive Jobverluste.

Noch versprechen die großen Tech-Unternehmen ein goldenes Zeitalter, während Unternehmen bereits wieder Leute auf Stellen setzen, die man im vorauseilenden Manager-Mütze-Glatze-Spiel entließ.

Ich will nicht sagen, dass einem die Modelle nicht helfen können. Ich nutze diese ja auch für allerlei Dinge. Das sind aber nur Helfer und kein Ersatz für den Gewebeklumpen zwischen den Ohren.

 

[Don-71]

Ich will nicht sagen, dass einem die Modelle nicht helfen können. Ich nutze diese ja auch für allerlei Dinge. Das sind aber nur Helfer und kein Ersatz für den Gewebeklumpen zwischen den Ohren.

Darüber hinaus, kann das auch rechtlich richtig sau teuer werden.
Wenn Sacharbeiter bei Unternehmen und Verwaltung durch KI ersetzt werden und diese "KI Sacharbeiter", rechtlich und sachlich falsche Festellungen treffen, kann das bei Häufung richtig teuer werden!

 

[emp1]

Das die KIs falsche Ergebnisse produzieren?

Die KI kann, nett verpackt, bisher lediglich nur das wiedergeben, was sie weiss, bzw. mit dem sie gefüttert wird - theoretisch. So arbeitet auf einfacher Basis z. B. die Recherche von google.
Die sucht blitzschnell alle Infos und macht dir einen verständlichen Text draus.
Die Problematik ist, dass bei vielen Modelle sinngemäß was reinprogrammiert wurde, das bedeutet:
Wenn du was nicht weisst, dann knoble eine wahrscheinlich zutreffende Antwort aus deinem angefütterten Wissen heraus.
Und dann kommt tendenziell eher Müll raus.
Kochrezepte mit Chilli statt Pfeffer kann man meist überleben, bei anderen Themen kann das Höschen deutlich enger werden.

 

[Olstyle]

Die Problematik ist, dass bei vielen Modelle sinngemäß was reinprogrammiert wurde, das bedeutet:
Wenn du was nicht weisst, dann knoble eine wahrscheinlich zutreffende Antwort aus deinem angefütterten Wissen heraus.

Das ist nicht "reinprogrammiert" sondern die Grundfunktionen eines LLM bzw. dem zugrundeliegenden (D)ANN. Dem entsprechend lässt es sich auch kaum verhindern. Man kann allenfalls irgendwo von Hand einen Grenzwert formulieren ab wo man keine Antworten mehr gibt, was dann die Frage aufwirft wo man diese Grenze hinlegen soll.

 

[ruyven_macaran]

Ja. Was sonst?

Wenn Leute sich Jobabbau durch "KI" herbeifantasieren, ja, manche Manager schon die deutlich höheren Gewinne am Horizont glitzern sehen, während die Modelle wegen der technischen Grundlage nie fehlerfrei und sogar eher deutlich fehlerbehafteter als Menschen arbeiten, dann sehe ich da realistisch betrachtet kaum Potenzial für massive Jobverluste.

OH DOCH!

Sparmaßnahmen an Qualität bis auf nahe Null waren schon immer ein beliebtes Werkzeug von inkompetenten Managern, um kurzfristig hohe Gewinnspannen vorzutäuschen und enden immer mit Jobverlusten.
Erst ein paar, wenn vermeintlich unbenötigtes Personal gefeuert wird.
Dann alle, wenn der Laden Pleite geht, weil "Schrott, aber billig" auch genug andere und das besser hinbekommen.

 

[emp1]

Das ist nicht "reinprogrammiert" sondern die Grundfunktionen eines LLM bzw. dem zugrundeliegenden (D)ANN.

Wenn das Erfinden von alternativen KI-Wahrheiten eine GRUNDfunktion ist, dann, ja dann ist was gehörig schief gelaufen.

 

[Tekkla]

Sind halt immer nur statistische Auswertungen. Solange mehr oder minder failproofed Informationen von Menschen diese Modelle versorgt, kann man durchaus Flags setzen, bei denen diese Information als gesichert gilt. Da verkommt das Modell dann aber zum redefreudigeren Google.

Jüngstes Beispiel für Schwachsinn von Gemini war der Vorschlag, man solle ein Live-Linux starten, um mit

bootrec /fixmbr

den Bootloader eines Mint-Systems wiederherzustellen. Leute mit Ahnung wissen, was das für ein totaler Blödsinn ist. Der Laie wird wahnsinnig.

 

[RyzA]

Jüngstes Beispiel für Schwachsinn von Gemini war der Vorschlag, man solle ein Live-Linux starten, um mit

bootrec /fixmbr

den Bootloader eines Mint-Systems wiederherzustellen. Leute mit Ahnung wissen, was das für ein totaler Blödsinn ist. Der Laie wird wahnsinnig.

Ich kenne mich damit nicht aus. Was wäre denn richtig gewesen?

 

[blautemple]

Wenn das Erfinden von alternativen KI-Wahrheiten eine GRUNDfunktion ist, dann, ja dann ist was gehörig schief gelaufen.

Die sind halt Textgeneratoren. Es wird also Text auf Grund von Wahrscheinlichkeiten generiert. Was jetzt stimmt kann das LLM nicht wissen.

 

[RyzA]

Die sind halt Textgeneratoren. Es wird also Text auf Grund von Wahrscheinlichkeiten generiert. Was jetzt stimmt kann das LLM nicht wissen.

Und wenn man die KI dazu bringt, ihr wahrscheinlichstes Ergebnis nochmal mit einen (gesicherten) Ergebnis oder Erkenntnis vom Menschen zu vergleichen? Dann könnten doch Fehler minimiert werden. Gerade im Bereich der Programmierung und Mathematik sind die Ergebnisse doch eigentlich eindeutig. Andere Informationen dagegen könnten nicht so ganz sicher sein. Da auch Falschinformationen und Fakes im Internet verbreitet werden.

 

[Olstyle]

KNN und eindeutige Ergebnisse schließen sich Konzept bedingt aus. Das Grundprinzip sind halt Wahrscheinlichkeiten.
Mit genug Daten ist die Wahrscheinlichkeit dass so ein Ding richtig rechnet halt unglaublich hoch, aber nie genau genau so hoch wie bei einem Taschenrechner.
Anscheinend muss ich hier aber gleich mal nen separaten Thread draus machen.

 

[emp1]

KNN und eindeutige Ergebnisse schließen sich Konzept bedingt aus. Das Grundprinzip sind halt Wahrscheinlichkeiten.
Mit genug Daten ist die Wahrscheinlichkeit dass so ein Ding richtig rechnet halt unglaublich hoch, aber nie genau genau so hoch wie bei einem Taschenrechner.
Anscheinend muss ich hier aber gleich mal nen separaten Thread draus machen.

Das Prinzip ist klar, birgt aber im Alltag auch Gefahren.
Wenn man die KI fragt, was 5+5 ist, dann gibt sowohl die Wahrscheinlichkeitsrechung wie auch die Mathematik ein relativ zuverlässiges Ergebniss mit 10.

Problematischer wird es, wenn ausschließlich Wahrscheinlichkeiten zu einem Ergebnis führen sollen.
Wenn jemand also fragt: Ist Emp1 doof?
Dann hängt es sehr stark davon ab, wie oft ich in diesem Forum als doof bezeichnet wurde, weil ja zu meiner Person betreffend, ich nur in diesem Forum mit diesem Nickname unterwegs bin.
Kann also sein, dass die KI sagt, ja, der ist doof, obwohl ich gar nicht doof bin (glaube ich zumindest).

An der Stelle mag es vielleicht noch lustig sein, unlustiger wirds dann, wenn es wirklich wichtige Themen betrifft und die Wahrscheinlichkeiten auf Analysen zur Häufigkeit aufgestellt werden. Die KI kann ja kaum abschätzen, ob die Info tatsächlich richtig ist.
Sie nimmt in vielen Fällen (so unser KI Mensch im Laden) dann genannte Häufigkeiten als hohe und zutreffende Wahrscheinlichkeit wahr.
Die "Ausrutscher" Anworten, die manchmal durch Netz gejagt werden, kommen bei uns z. B. emotional als diskriminierend oder menschenverachtend oder sonstwas an.
Aber die KI hat keine Emotionen, für sie ist es DIE logische Antwort auf Grund Informationen und Wahrscheinlichkeitsberechnungen (!)
Jetzt versuchen Profis dagegenzusteuern, aber genau genommen haben wir eine ganz andere, extrem wichtige Information bekommen.
Wir wünschen exemplarisch, dass kein Diskriminierung existiert, tatsächlich sind alle Informationen für die KI dergestalt, dass die Gesellschaft als solche hochdiskriminiernd agiert.
Anders hätte sie ja gar nicht zu diesem Ergebnis kommen können.

Ich persönlich bin der Auffassung, dass bei kritischen Themen keine KI zum Einsatz kommen sollte, die auf Grund Wahrscheinlichkeiten agiert, sondern nur kontrolierbare und belegbare Basisdaten verwendet.
Das mag ein KI-ler nur sehr ungern hören, sehe aber die große Gefahr, dass ansonsten die KI für uns in Bereichen zur Gefahr wird.

 

[RyzA]

Das Prinzip ist klar, birgt aber im Alltag auch Gefahren.
Wenn man die KI fragt, was 5+5 ist, dann gibt sowohl die Wahrscheinlichkeitsrechung wie auch die Mathematik ein relativ zuverlässiges Ergebniss mit 10.

Und wieso werden beim programmieren falsche Befehle als Ergebnis genannt?