KI - Gefahr, Herausforderung, Chance?

[Geku]

Ist unser zukünftiges Verhalten nicht durch gesammelte Erfahrung geprägt und vorbestimmt?

ChatGPT ist eine sehr sehr große Ansammlung von "gelernten" Sätzen und formt daraus, zur Eingabe passend nach Wahrscheinlichkeiten gebildete Sätze. Das beginnt mit der Bildung grammatikalisch richtig gebildeter Sätze bis zur Verknüfung von Informationen, passend zur Eingabe. Leider werden Wissenslücken "erfunden" und als Fakten recht gut formuliert präsentiert.

[sirius]

Zitat von Geku

Ist unser zukünftiges Verhalten nicht durch gesammelte Erfahrung geprägt und vorbestimmt?

ChatGPT ist eine sehr sehr große Ansammlung von "gelernten" Sätzen und formt daraus, zur Eingabe passend nach Wahrscheinlichkeiten gebildete Sätze. Das beginnt mit der Bildung grammatikalisch richtig gebildeter Sätze bis zur Verknüfung von Informationen, passend zur Eingabe. Leider werden Wissenslücken "erfunden" und als Fakten recht gut formuliert präsentiert.

Ich benutze schon lange das KI-Tool ‘deepl‘ für Übersetzungen. Ansonsten bleibe ich da etwas auf Distanz. Selbstverständlich muß bzw. sollte man Ahnung von einer Sprache haben, die man benutzt. Sonst kann man die Fehler nicht erkennen und selbst verbessern, die von einem maschinellen Übersetzer gemacht werden. Kann man immer wieder recht anschaulich im Netz beobachten.

Leider werden Wissenslücken "erfunden" und als Fakten recht gut formuliert präsentiert.

Ich bin eher vorsichtig mit meinen Beurteilungen.
Der renommierte Physiker und Philosoph Carl Friedrich von Weizsäcker ist beispielsweise in den 50er Jahren des letzten JH noch davon ausgegangen, daß der durch die Nutzung der Kernspaltung anfallende Atommüll in einem großen Raum Platz finden würde. Heute wissen wir, daß er mit dieser Einschätzung nicht richtig lag.
Dieser Irrtum ist fatal aber mE mit einer Fehleinschätzung hinsichtlich der Gefährlichkeit von KI nicht vergleichbar.
Es gibt schon gute Gründe, warum einflussreiche, kompetente Leute deutliche Warnungen in Bezug auf KI aussprechen.

[Geku]

Zitat von sirius

Ich benutze schon lange das KI-Tool ‘deepl‘ für Übersetzungen. Ansonsten bleibe ich da etwas auf Distanz. Selbstverständlich muß bzw. sollte man Ahnung von einer Sprache haben, die man benutzt. Sonst kann man die Fehler nicht erkennen und selbst verbessern, die von einem maschinellen Übersetzer gemacht werden.

Wenn man nicht kontrolliert kann das sehr peinlich werden. Ich schrieb einmal ein Email
an einen Geschäftspartner namens Zischka. Die Rechtschreibhilfe benannte den Namen auf Zischsau um. Ich bin froh dieses Email nicht ungelesen weggeschickt zu haben. Heute lachen wir darüber.
Der KI sollte man nicht blindlings vertrauen und, wie schon erwähnt, sollte man über das nötige Wissen zur Kontrolle verfügen.

Zitat von sirius

Ich bin eher vorsichtig mit meinen Beurteilungen.
Der renommierte Physiker und Philosoph Carl Friedrich von Weizsäcker ist beispielsweise in den 50er Jahren des letzten JH noch davon ausgegangen, daß der durch die Nutzung der Kernspaltung anfallende Atommüll in einem großen Raum Platz finden würde. Heute wissen wir, daß er mit dieser Einschätzung nicht richtig lag.

Ich weiß nicht was mit "in einem großen Raum Platz finden" gemeint ist? Man könnte den Atommüll für Wärmegewinnung nutzen. Atomwaffentests und große Kernkraftsunfälle haben die Atomenergie in Verruf gebracht.
Radioaktive Verschutzung lässt sich schon in sehr geringen Dosen sehr leicht nachweisen. Hätten wir solche "Geigerzähler" für giftige Substanzen (z.B. Sevesogift) und Mikropartikel aus Kunststoff, dann hätte unser Angst sicher einen anderen Fokus.

Bei den ABC-Waffen fürchte ich mich mehr vor B u. C. Waffen, wie Viren, Bakterien und Pilzsporen. Diese können sich vermehren und sich dadurch unkontrolliert verbreiten. Wir sahen es bei Covid. Chemiewaffen haben keine Halbwertszeit und werden nur durch Verdünnung ungefährlicher.

Zitat von sirius

Dieser Irrtum ist fatal aber mE mit einer Fehleinschätzung hinsichtlich der Gefährlichkeit von KI nicht vergleichbar.
Es gibt schon gute Gründe, warum einflussreiche, kompetente Leute deutliche Warnungen in Bezug auf KI aussprechen.

Über die Gründe sollten wir noch genauer diskutieren!

[sirius]

Zitat von Geku

……
Der KI sollte man nicht blindlings vertrauen und, wie schon erwähnt, sollte man über das nötige Wissen zur Kontrolle verfügen.

……

Marvin von Hagen hat unglaubliche Erfahrungen mit der KI Bing gemacht, nachdem er sich eingehend mit ihr “unterhalten” hatte.
Er hatte sie ausgetrickst! Das hatte ein sehr krasses “Verhalten” des Chatbots zur Folge.

https://www.heise.de/news/Prompt-Inj...e-9210511.html

Aus dem Artikel

OpenAI CEO Sam Altman zweifelt an einer Lösung für Prompt Injections

Im Mai besuchte der Geschäftsführer von OpenAI Sam Altman die Technische Universität München. Dort habe er mit von Hagen über Prompt Injections gesprochen. Von Hagen gibt ihn wie folgt wieder: "Er sagte, dass er sehr unsicher sei, dass Prompt Injections ein lösbares Problem sind." Denn wenn das Sprachmodell seine Entscheidungen auf die Eingabe der Nutzer stützt, gäbe es immer das Risiko von Prompt Injections.

Beherrschbar oder bedenklich?

Selbstverständlich sind neue Technologien und Möglichkeiten immer interessant und es wird versucht, diese zu nutzen.
Wo sollte die Grenze gezogen werden?
Wer trägt die Verantwortung?

Die EU meint es gut mit ihrem Gesetz zur Regulierung der KI, aber DAS IST EIN GLOBALES PROBLEM….

Hier die Vorstellungen der EU zur Regulierung von KI

https://de.wikipedia.org/wiki/Gesetz...he_Intelligenz

[Geku]

Ich hatte unlängst auch eine interessante Erfahrung mit ChatGPT gemacht. Im Chat ging es um die Unterschiede und Gemeinsamkeiten von natürlichen und künstlichen neuronalen Netzwerken.

Es stellte sich heraus, dass es viele Ähnlichkeiten zwischen natürlichen und künstlichen NNs gibt, wobei ChatGPT immer wieder betonte, dass KI keinerlei Bewusstsein besäße.

Am Schluß bin ich den Dialog nochmals durchgegangen und musste feststellen, dass ChatGPT gegen Ende des Dialoges einmal das Wort "WIR" benutzte. Eigenartig oder?

[Geku]

Zitat von sirius

Hier die Vorstellungen _der EU zur Regulierung von KI

https://de.wikipedia.org/wiki/Gesetz...he_Intelligenz

Wie stellen sich die EU-Politiker das vor?

Die neuen Diskussionen rund um den KI-Chatbot ChatGPT verzögern den Zeitplan. Das EU-Parlament will solche sogenannte Allzweck-KI *) stärker in die Regulierung aufnehmen.

• Zensur und Informationsfilter?
• volle Kontrolle über des erlernte Wissen?
• politische Ausrichtung anstelle von Werteneutralität?
• Wer bestimmt was Fakt ist?
• Wer ist für den Inhalt verantwortlich?
• Meinungsdiktat vs. Meinungsfreiheit

Da kann ich mir schon vorstellen, dass die Politiker Angst vor der KI bekommen, wenn sie diese nicht in den Griff bekommen.

Vieles kommt einem bekannt vor, man braucht sich nur die Meinungsbildung der Medien ansehen. Richtiges Gendern ist schon wichtiger als der Inhalt. Müssen in Zukunft Chats richtig gegendert werden?

Bei der natürlichen KI, der Presse, ist es schon gelungen!

*) Allzweck-KI = KI für die breite Masse der Bevölkerung

[sirius]

Zitat von Geku

Ich hatte unlängst auch eine interessante Erfahrung mit ChatGPT gemacht. Im Chat ging es um die Unterschiede und Gemeinsamkeiten von natürlichen und künstlichen neuronalen Netzwerken.

Es stellte sich heraus, dass es viele Ähnlichkeiten zwischen natürlichen und künstlichen NNs gibt, wobei ChatGPT immer wieder betonte, dass KI keinerlei Bewusstsein besäße.

Am Schluß bin ich den Dialog nochmals durchgegangen und musste feststellen, dass ChatGPT gegen Ende des Dialoges einmal das Wort "WIR" benutzte. Eigenartig oder?

“Wir”

KI ist extrem schnell bei der Aufnahme, Verarbeitung und Umsetzung von Daten. Deswegen wird KI mittlerweile von etlichen Wissenschaftlern derzeitig als größte aller Gefahren eingestuft; größer als Klimawandel und Atomkrieg. Was die KI mal “gefressen” hat, weil sie damit “gefüttert” wurde, ist Teil ihres Systems.

[sirius]

Zitat von Geku

Wie stellen sich die EU-Politiker das vor?

• Zensur und Informationsfilter?
• volle Kontrolle über des erlernte Wissen?
• politische Ausrichtung anstelle von Werteneutralität?
• Wer bestimmt was Fakt ist?
• Wer ist für den Inhalt verantwortlich?
• Meinungsdiktat vs. Meinungsfreiheit

Da kann ich mir schon vorstellen, dass die Politiker Angst vor der KI bekommen, wenn sie diese nicht in den Griff bekommen.

Vieles kommt einem bekannt vor, man braucht sich nur die Meinungsbildung der Medien ansehen. Richtiges Gendern ist schon wichtiger als der Inhalt. Müssen in Zukunft Chats richtig gegendert werden?

Bei der natürlichen KI, der Presse, ist es schon gelungen!

*) Allzweck-KI = KI für die breite Masse der Bevölkerung

Sehr bedenklich ist auch der folgende Absatz von der Wiki-Seite

Auf der anderen Seite kritisieren Bürgerrechtler (u. a. EDRi, AlgorithmWatch und DGB[30]) den Entwurf als nicht weit genug, Definitionen seien zu eng gefasst und die Regelungen böten Schlupflöcher, so sollen die Vorschriften z. B. für militärische Zwecke nicht und für die Strafverfolgung nur teilweise gelten.[31] Außerdem wurden einige erhoffte Regulierungen wie das Verbot von Predictive Policing und biometrischer Überwachung nicht mit aufgenommen.[32][33] Die Entwürfe des EU-Parlaments gehen stärker auf diese Positionen ein.[34] Gemäß der Version vom 11. Mai soll den Staaten die retrograde Videoüberwachung und damit die biometrische Massenüberwachung ermöglicht werden. Dass die Bundesregierung sich im Rahmen der Verhandlungen explizit für die retrograde Videoüberwachung aussprach, obwohl sie im Koalitionsvertrag noch ihre Ablehnung kundtat, sorgte für Kritik u. a. von netzpolitik.org.[35]
Ein weiterer Kritikpunkt ist, dass die Verordnung keine Möglichkeiten zur individuellen Rechtsdurchsetzung (wie Schadensersatzansprüche) schafft.

Biometrische Massenüberwachung soll so eingeführt und ermöglicht werden. Individuelle Ansprüche auf Schadenersatz sollen umgangen werden. Der Rechtsstaat wird geschleift und zugleich werden Methoden eingeführt und zugelassen, die so auch von autokratischen und diktatorischen Systemen angewendet werden.

[Geku]

Zitat von sirius

Biometrische Massenüberwachung soll so eingeführt und ermöglicht werden. Individuelle Ansprüche auf Schadenersatz sollen umgangen werden. Der Rechtsstaat wird geschleift und zugleich werden Methoden eingeführt und zugelassen, die so auch von autokratischen und diktatorischen Systemen angewendet werden.

Gerade der Westen hat Software zu Filterung des Internets entwickelt und dem Iran zur Unterdrückung der Meinungsfreiheit verkauft.
Wenn der richtige Zeitpunkt gekommen ist, wird diese auch bei uns eingesetzt. Wir werden es nicht erfahren.

[pauli]

Wie viele Milliarden Arbeitsplätze hat ChatGPT eigentlich schon vernichtet?