Zitat:
Zitat von Geku
……
Der KI sollte man nicht blindlings vertrauen und, wie schon erwähnt, sollte man über das nötige Wissen zur Kontrolle verfügen.
……
|
Marvin von Hagen hat unglaubliche Erfahrungen mit der KI Bing gemacht, nachdem er sich eingehend mit ihr “unterhalten” hatte.
Er hatte sie ausgetrickst! Das hatte ein sehr krasses “Verhalten” des Chatbots zur Folge.
https://www.heise.de/news/Prompt-Inj...e-9210511.html
Aus dem Artikel
Zitat:
OpenAI CEO Sam Altman zweifelt an einer Lösung für Prompt Injections
Im Mai besuchte der Geschäftsführer von OpenAI Sam Altman die Technische Universität München. Dort habe er mit von Hagen über Prompt Injections gesprochen. Von Hagen gibt ihn wie folgt wieder: "Er sagte, dass er sehr unsicher sei, dass Prompt Injections ein lösbares Problem sind." Denn wenn das Sprachmodell seine Entscheidungen auf die Eingabe der Nutzer stützt, gäbe es immer das Risiko von Prompt Injections.
|
Beherrschbar oder bedenklich?
Selbstverständlich sind neue Technologien und Möglichkeiten immer interessant und es wird versucht, diese zu nutzen.
Wo sollte die Grenze gezogen werden?
Wer trägt die Verantwortung?
Die EU meint es gut mit ihrem Gesetz zur Regulierung der KI, aber DAS IST EIN GLOBALES PROBLEM….
Hier die Vorstellungen der EU zur Regulierung von KI
https://de.wikipedia.org/wiki/Gesetz...he_Intelligenz