Künstliche Intelligenz - Fluch oder Segen?

[psalm64]

Davon waren sogar ihre Entwickler überrascht.

Klar, hab ich schon gelesen.
Haben schon unabhängige Entwickler den Quellcode auseinandergenommen und bewiesen, das das unerwartet war?

 

[RyzA]

Haben schon unabhängige Entwickler den Quellcode auseinandergenommen und bewiesen, das das unerwartet war?

Das weiß ich nicht. Im Artikel steht nur das sie nicht darauf trainiert war.

Ich denke das es nur eine Frage der Zeit ist bis KIs ein Eigenleben entwickeln. Und Bewusstsein.
Davon bin ich fest überzeugt. Dass das nicht nur SciFi ist.
Beweisen kann ich es nicht. Aber es sagt mir meine Intuition.

 

[psalm64]

Das weiß ich nicht. Im Artikel steht nur das sie nicht darauf trainiert war.

Nein, im Artikel staht, das der CEO eines AKTIENunternehmens von seiner Software behauptet, das sie geilen Scheiß macht.
Was machen Aktienunternehmen nochmal? Achja, Kohle scheffeln um (fast) jeden Preis und da gehört gutes Marketing natürlich dazu.
Da würde ich auch viel behaupten. Solange ich bestimmte Sachen nicht live sehe oder halbwegs glaubwürdige/unabhänge Quellen das geprüft haben, glaube ich da gar nichts.
Klar, ich hätte vor ein paar Jahren auch nicht gedacht, das ich mit chatbots wie chatgpt so geilen Scheiß machen kann. Vielleicht hat er ja recht. Aber das eine KI selbst auf die Idee kommt, Sprachen zu lernen, bezweifle ich.
Wieviel "ungewollte" Software-"Lücken/Funktionen" finden sich im Moment so pro Tag in produktivem Code weltweit?

1. Schätzungen auf Basis von Codegröße

• Laut dem US-amerikanischen National Institute of Standards and Technology (NIST)gibt es durchschnittlich:
  • 15–50 Bugs pro 1000 Zeilen Code (KLOC – Kilo Lines of Code), auch nach der Veröffentlichung.
• Moderne Betriebssysteme (wie Windows oder Linux) bestehen aus über 50 Millionen Zeilen Code.
  • Beispiel: Windows 10/11 ≈ 50 Mio. LOC → Potenziell mehrere hunderttausend Bugs im Produktivbetrieb.

[...]
Fazit (konservative Schätzung):[/B]
Eine realistische konservative Schätzung für entdeckte Softwarefehler pro Tag weltweit in produktiver Software und Betriebssystemen liegt bei:
30.000–100.000 Bugs pro Tag weltweit.
Das umfasst Fehler in Betriebssystemen (Windows, Linux, macOS, Android, iOS) sowie in produktiver Anwendungssoftware (ERP-Systeme, Webapps, Mobile Apps, Datenbanken etc.).

-> Und das gilt natürlich auch für KI-Code.

Ich denke das es nur eine Frage der Zeit ist bis KIs ein Eigenleben entwickeln. Und Bewusstsein.
Davon bin ich fest überzeugt. Dass das nicht nur SciFi ist.
Beweisen kann ich es nicht. Aber es sagt mir meine Intuition.

Kann sein. Glaube (und hoffe) ich aber nicht.

 

[RyzA]

-> Und das gilt natürlich auch für KI-Code.

Gibt es nicht Software welche andere Software auf Fehler prüft? Ich glaube Compiler oder so?

 

[psalm64]

Gibt es nicht Software welche andere Software auf Fehler prüft? Ich glaube Compiler oder so?

Ich bin kein Programmierer, aber wenn ich das richtig verstanden habe, sind Compiler das, was den Quellcode in ausführbaren Code umsetzt.
Der prüft bestimmt auch, ob Fehler drin sind. Aber der kann vermutlich nur auf Code-Fehler prüfen, also ob im per hand geschriebenen Quellcode Fehler wie Klammerfehler oder so drin sind. Aber wenn der Fehler kein "Code"-Fehler ist, sondern der Code korrekt ist, aber halt nicht das tut, was der Programmierer eigentlich wollte, aber das etwas versteckt ist, weil es vielleicht nur 1 mal von 1000 Tests auffällt...

 

[RyzA]

Ich frage mich wie man eine KI beibringen könnte selbstständig zu agieren?

Und noch schwieriger wäre der Schritt vom Bewusstsein zum Selbstbewusstsein.
Einmal das ich denke wann und woran ich will.
Und dann das erkennen und begreifen des Selbst als Lebewesen und das reflektieren.
Also denken über sich (als Person) und denken über das denken.
Aus einer anderen Perspektive oder Instanz. Oder als "innerer Spiegelung".

Aber man kann beim Menschen das zustande kommen des Bewusstseins auch noch nicht genau erklären. Vor allem weil es keine Einigung auf eine allgemeingültige Definition gibt.

 

[psalm64]

Ich frage mich wie man eine KI beibringen könnte selbstständig zu agieren?

Ich würde eher darüber nachdenken, wie ich klar und definiert diese Grenzen erzeuge, damit genau das nicht passiert...

 

[RyzA]

Ich würde eher darüber nachdenken, wie ich klar und definiert diese Grenzen erzeuge, damit genau das nicht passiert...

Klar die könnte, wenn sie Zugriffe auf kritische Bereiche hat, eventuell gefährlich werden.
Deswegen sollte man Sicherheits - und Kontrollmechanismen verwenden.
Aber ich fände es spannend wenn eine künstliche Lebensform entstehen würde.

 

[psalm64]

Da Menschen Fehler machen, halte ich das für keine gute Idee.

 

[RyzA]

Da Menschen Fehler machen, halte ich das für keine gute Idee.

Stimmt. Vielleicht öffnet man dann auch die "Büchse der Pandora". Und es ist nicht mehr rückgängig zu machen.

Wie einigen SciFi-Werken und Filmen beschrieben.

Dann würde die KI vielleicht noch auf die Idee kommen das alles organische Leben überflüssig ist. Und es auslöschen. Oder richtig kranke Experimente machen.
Oder vielleicht später auch ins All expandieren.
Oder versuchen ein Wurmloch zu konstruieren und dabei den Planeten zerstören.

Vielleicht habe ich aber auch zuviel SciFi gelesen und geguckt.

 

[Olstyle]

Ich bin kein Programmierer, aber wenn ich das richtig verstanden habe, sind Compiler das, was den Quellcode in ausführbaren Code umsetzt.
Der prüft bestimmt auch, ob Fehler drin sind. Aber der kann vermutlich nur auf Code-Fehler prüfen, also ob im per hand geschriebenen Quellcode Fehler wie Klammerfehler oder so drin sind. Aber wenn der Fehler kein "Code"-Fehler ist, sondern der Code korrekt ist, aber halt nicht das tut, was der Programmierer eigentlich wollte, aber das etwas versteckt ist, weil es vielleicht nur 1 mal von 1000 Tests auffällt...

So ist es, sage ich als Programmierer.
Ein auch nur halbwegs tauglicher Programmierer kann problemlos Syntaktisch korrekten Code erstellen, also etwas was ein Compiler zu einem ausführbaren Programm übersetzen wird.
Aber dass er in allen Fällen genau das tut was der Programmiere wollte, oder gar das was der Auftraggeber gerne wollte, ist die eigentliche Herausforderung.

 

[RyzA]

So ist es, sage ich als Programmierer.
Ein auch nur halbwegs tauglicher Programmierer kann problemlos Syntaktisch korrekten Code erstellen, also etwas was ein Compiler zu einem ausführbaren Programm übersetzen wird.
Aber dass er in allen Fällen genau das tut was der Programmiere wollte, oder gar das was der Auftraggeber gerne wollte, ist die eigentliche Herausforderung.

Ja ok. Aber ein Compiler prüft doch auch den Programmcode auf Fehler.
Mir ging es um eine Kontrollinstanz.
Wenn z.B. ein KI Fehler im Code produziert sie (selbstständig) überprüfen kann ob der Code richtig ist.

 

[Olstyle]

Ja ok. Aber ein Compiler prüft doch auch den Programmcode auf Fehler.
Mir ging es um eine Kontrollinstanz.
Wenn z.B. ein KI Fehler im Code produziert sie (selbstständig) überprüfen kann ob der Code richtig ist.

Wo wir wieder bei den verschiedenen Definitionen von richtig sind.
"Kompiliert" bekommt die KI eh hin. Schon "Linkt" wird gerade für Malware Angriffe extrem missbraucht. Die Coding KIs haben nämlich gelernt dass es für alle möglichen Funktionen Bibliotheken gibt und fantasieren sich dann Namen von Paketen zusammen die die gewünschte Unterfunktion lösen soll. Angreifer haben nun diverse Paket mit erwartbaren Namen in GitHub, npn und co hochgeladen und führen damit Schadcode statt der erhoffte Funktion aus. Oder noch perfider: Schadcode zusätzlich zur erhofften Funktion.
Ganz ohne Angriff bleibt noch der Punkt "das tun was es soll". Was nämlich voraussetzt dass der KI Nutzer stringent beschreiben kann was seine Applikation denn genau machen soll. Schon bei manuellem Coding ist es aber z.T. die größte Herausforderung das aus den Stakeholdern heraus zu kitzeln.

TLDR: Ausführbaren Code schreiben ist einfach. Die Herausforderung ist Code zu schreiben der das, und wirklich nur das, tut was der Nutzer will.

 

[RyzA]

Schon "Linkt" wird gerade für Malware Angriffe extrem missbraucht. Die Coding KIs haben nämlich gelernt dass es für alle möglichen Funktionen Bibliotheken gibt und fantasieren sich dann Namen von Paketen zusammen die die gewünschte Unterfunktion lösen soll. Angreifer haben nun diverse Paket mit erwartbaren Namen in GitHub, npn und co hochgeladen und führen damit Schadcode statt der erhoffte Funktion aus. Oder noch perfider: Schadcode zusätzlich zur erhofften Funktion.

Ist das also quasi ein einschleusen von Schadsoftware in normalen Programmcode?

Ganz ohne Angriff bleibt noch der Punkt "das tun was es soll". Was nämlich voraussetzt dass der KI Nutzer stringent beschreiben kann was seine Applikation denn genau machen soll. Schon bei manuellem Coding ist es aber z.T. die größte Herausforderung das aus den Stakeholdern heraus zu kitzeln.

Man kann sich von ChatGPT z.B. kleinere Scripte und Programme schreiben lassen. Dann muss die doch umgekehrt, durch die Frage oder Aufforderung "wissen" was das ist.

TLDR: Ausführbaren Code schreiben ist einfach. Die Herausforderung ist Code zu schreiben der das, und wirklich nur das, tut was der Nutzer will.

Aber bevor man Code schreibt überlegt man sich doch den Einsatz-Zweck. Das bestimmte Funktionen bestimmte Dinge machen. Es setzt sich doch niemand hin und programmiert etwas was nicht zielgerichtet ist.

Denkst du denn das eine KI mal selbstständig programmieren kann? Oder sich sogar selber umprogrammieren kann?

Wir können uns ja bis zu einen bestimmten Punkt auch "umprogrammieren". In dem wir bewusst etwas denken und erlernen/trainieren und dabei neue Verknüpfungen im Gehirn anlegen.

Unser Gehirn ist Hardware und Software zugleich.

 

[psalm64]

Aber bevor man Code schreibt überlegt man sich doch den Einsatz-Zweck. Das bestimmte Funktionen bestimmte Dinge machen. Es setzt sich doch niemand hin und programmiert etwas was nicht zielgerichtet ist.

Klar. Aber um das mal etwas plakativ zu formulieren:
1. Ich bekomme vom Vertrieb den Auftrag ein Zimmer grau zu streichen.
2. Ich schaffe nur zwei von vier Wänden zu streichen, weil andere Sachen Priorität bei mir bekommen und übergebe an den nächsten Kollegen.
3. Der hat statt grau leider schwarz verstanden, wundert sich zwar über die beiden grauen Wände, hat aber selber genug Stress und malt erstmal die nächste Wand schwarz.
4. Danach übergibt er an den Nächsten und der versucht es auszugleichen in dem er die letzte Wand zum Ausgleich weiß malt...
5. Der Kunde kommt rein und guckt irritiert den neben im stehenden Vertriebler an: Vereinbart war doch blau?
Und jetzt hast Du ne Ahnung, wie (IT-)Projekte manchmal laufen.

Denkst du denn das eine KI mal selbstständig programmieren kann? Oder sich sogar selber umprogrammieren kann?

Naja, ich hab keine Ahnung davon, aber ich hab das so verstanden, das man einer KI ungefähr sagt, was sie lernen soll und wirft ihr dann Texte usw hin und sie lernt sich daraus einen zurecht, hoffentlich das richtige bis man damit zufrieden ist. Und das prüft man ein bischen und lässt dann die KI mit genau dem Stand arbeiten.
Wenn man der KI was neues beibringen will, muß man den Lernprozess neu starten. Das geht quasi nicht "on the fly".
Also Beispiel:
Egal wieviel Leute chatgpt versuchen zu erklären, das Rasen meistens blau ist, funktioniert das nicht, weil das Modell vorher gelernt hat, Rasen ist grün. Du kannst das für einen Deiner Chats mit chatgpt so definieren, aber das wird niemals so in die "Datenbank" aufgenommen.
Außer jemand wertet die Chats von chatgpt aus und lernt damit wieder ein Modell neu an.

Abgesehen davon ist das Problem, das ausführbarer Code der KI wahrscheinlich/hoffentlich in einem Bereich des Filesystems liegt, den nur "die Admins" ändern dürfen. Selbst wenn eine KI programmieren kann und man ihr gesagt hat, sie soll bitte ihren eigenen Code überprüfen und nach bestimmten Kriterien verbessern, solange sie nicht die Rechte im Dateisystem bekommt, kann sie da gar nichts dran ändern.
Sie müsste ja ihren Code neu schreiben, kompilieren, die alten Daten überschreiben und neustarten.
Wenn man ihr die Rechte dazu gibt, wäre es vielleicht mal spannend zu sehen was passiert.
Vieleicht könnte man mal eine Ki mit eher "unoptimiertem Code" schreiben, ihr (unter anderem) programmieren beibringen und dann sagen: Bitte prüfe Deinen eigenen Code, finde die schlimmste unoptimierteste Stelle und optimiere genau diese eine Stelle, kompiliere, überschreibe und starte neu. Und das in Schleife. Und dann gucken was passiert.

 

[RyzA]

Mich würde auch mal interessieren was @Olstyle dazu als Programmierer meint?

 

[Olstyle]

Ist das also quasi ein einschleusen von Schadsoftware in normalen Programmcode?

Streich das quasi.

Man kann sich von ChatGPT z.B. kleinere Scripte und Programme schreiben lassen. Dann muss die doch umgekehrt, durch die Frage oder Aufforderung "wissen" was das ist.

Ob das so ist wird noch heiß diskutiert. Es gibt auch die Ansicht dass die KI nur "weiß" dass irgendwann jemand bei Stackoverflow die gleiche Frage gepostet hat und die Antwort mit der höchsten Bewertung diesen Code beinhaltet hat den es nun wiederkäut.

Aber bevor man Code schreibt überlegt man sich doch den Einsatz-Zweck. Das bestimmte Funktionen bestimmte Dinge machen. Es setzt sich doch niemand hin und programmiert etwas was nicht zielgerichtet ist.

Schon, aber was das exakte Ziel ist, was in Ausnahmefällen passieren soll etc. Wird oft nicht richtig kommuniziert.
Nicht umsonst gibt es hunderte Treffer mit sowas wenn man "Comic requirements" bei einer Suchmaschine eingibt

Denkst du denn das eine KI mal selbstständig programmieren kann? Oder sich sogar selber umprogrammieren kann?

Wir können uns ja bis zu einen bestimmten Punkt auch "umprogrammieren". In dem wir bewusst etwas denken und erlernen/trainieren und dabei neue Verknüpfungen im Gehirn anlegen.

Heutige "KI" ist kein klassisches Programm sondern eine riesige Sammlung von Wahrscheinlichkeiten. Dass sie "lernen" kann indem man ihr neuen Input, im Idealfall samt gewünschtem Output, gibt und dieser dafür sorgt dass die Wahrscheinlichkeiten neu abgeschätzt werden ist Teil des Grundprinzips.
Wie @psalm64 richtig schreibt sind die Modelle die veröffentlicht werden aber ein fester Lernstand und die Anpassung ist aus.
Man hat dabei weniger sorge dass die KI schlauer wird sondern vor allem Sorge dass sie durch absichtlich falsches Feedback dümmer wird.
Außerdem ist ein Lerncorgang in Rechenzeit viel teurer als ein druchlaufen des festen Standes.

Unser Gehirn ist Hardware und Software zugleich.

Unser Gehirn ist vor allem überraschend schlecht verstanden.

Das Gehirn ist (k)ein Computer

Das Gehirn zu verstehen ist ein Traum der Menschheit. Doch trotz intensiver Forschung bleiben die Erkenntnisse rudimentär. Liegt dies an einem Mangel an Daten oder an den gängigen Forschungsmethoden? Und wie kann man überhaupt wissen, ob eine Methode angemessen ist, wenn deren Ergebnisse nicht...

reatch.ch

 

[RyzA]

Unser Gehirn ist vor allem überraschend schlecht verstanden.

Das Gehirn ist (k)ein Computer

Das Gehirn zu verstehen ist ein Traum der Menschheit. Doch trotz intensiver Forschung bleiben die Erkenntnisse rudimentär. Liegt dies an einem Mangel an Daten oder an den gängigen Forschungsmethoden? Und wie kann man überhaupt wissen, ob eine Methode angemessen ist, wenn deren Ergebnisse nicht...

reatch.ch

Ich würde wenn dann unser Gehirn mit einen künstlichen neuronalen Netz vergleichen anstatt mit einen Mikroprozessor. Ein Prozessor ist ganz anders aufgebaut, wenn auch komplex.
Man könnte aber vielleicht einen Transistor grob mit einer Nervenzelle vergleichen.

Und was sind Bewusstseinsinhalte? Die sind physisch als elektrische Impulse und gleichzeitige Verknüpfungen aber auch psychisch. Also Software und Hardware.

Das Bewusstsein selber wäre das Betriebssystem.

 

[Registrierzwang]

Gibt es nicht Software welche andere Software auf Fehler prüft? Ich glaube Compiler oder so?

Syntaktische Probleme ja, inhaltliche Probleme nein. Ob die zusammengeklebten Code-Zeilen tatsächlich ein Problem oder eine Aufgabe lösen können, ist der KI nicht wirklich bewusst. Die kennt nur die genutzte "Sprache", in dem Fall die Programmiersprache, und kann natürlich im Best-Case auch Referenzen von Beispiel-Code aus dem Internet ziehen.

 

[RyzA]

Syntaktische Probleme ja, inhaltliche Probleme nein. Ob die zusammengeklebten Code-Zeilen tatsächlich ein Problem oder eine Aufgabe lösen können, ist der KI nicht wirklich bewusst. Die kennt nur die genutzte "Sprache", in dem Fall die Programmiersprache, und kann natürlich im Best-Case auch Referenzen von Beispiel-Code aus dem Internet ziehen.

Sie kann aber inhaltliche Probleme nach denen ich frage analysieren und eine Lösung vorschlagen.