Quanten.de Diskussionsforum

Quanten.de Diskussionsforum (http://www.quanten.de/forum/index.php5)
-   Plauderecke (http://www.quanten.de/forum/forumdisplay.php5?f=5)
-   -   KI - Gefahr, Herausforderung, Chance? (http://www.quanten.de/forum/showthread.php5?t=3445)

sirius 12.11.18 01:35

KI - Gefahr, Herausforderung, Chance?
 
Erste KI als Nachrichtensprecher in China. Der Kollege, der 24/7 bereit ist, keine Pausen, keinen Urlaub braucht und auch sonst keine stoerenden Beduerfnisse hat.

Xinhua's first English AI anchor makes debut

https://www.youtube.com/watch?v=GAfiATTQufk

Ich schwanke zwischen Faszination und Besorgnis.

sirius 12.11.18 02:37

AW: Youtube etc.
 
Ein Gedankenexperiment

https://www.youtube.com/results?sear...weise+umbringt

Wie realistisch ist das?

JoAx 12.11.18 16:38

AW: Youtube etc.
 
Zitat:

Zitat von sirius (Beitrag 89020)
Erste KI als Nachrichtensprecher in China. Der Kollege, der 24/7 bereit ist, keine Pausen, keinen Urlaub braucht und auch sonst keine stoerenden Beduerfnisse hat.

Ich schwanke zwischen Faszination und Besorgnis.

Der Kollege spricht die Nachrichten nur vor. Er macht und findet diese nicht. Das machen (vorerst) Kollegen, die sehr wohl 'ne Menge an Bedürfnissen haben. :)

Die KI ist schon eine Herausforderung, ich würde aber raten, es nicht als Gefahr zu sehen. (Der Unterschied liegt in der persönlichen Einstellung. Gefahr => Angst, Lehmung = destruktiv. Herausforderung => das ist konstruktiv.) Man muss Fähigkeiten und Fertigkeiten entwickeln/erlernen, die so ein Kollege nicht haben kann, zumindest nicht so schnell. ;)

Ich frage mich da in letzter Zeit bsw. - wie lange es wohl dauern wird, bis KIs anfangen werden, Software zu entwickeln? Und wie sollte mein "Lern-Vektor" aussehen, damit ich denen nicht in die Quere komme? Selber KIs entwickeln? Habe heute mein erstes Tutorial zum Thema absolviert. Wird aber noch 'ne Weile dauern, bis ich es richtig durchblicke. :D

Und nicht vergessen - Weltuntergangsthemen verkaufen sich besser als gute Nachrichten. Eine der wichtigen Fähigkeiten heutzutage ist - die Informationen, die eine(n) erreichen, filtern und richtig einordnen zu können.

In diesem Sinne ...

Hawkwind 12.11.18 17:27

AW: Youtube etc.
 
Die wirklich spannendste Frage ist m.E., ob eine KI so etwas wie ein Bewusstsein besitzen kann. Die gängige Meinung ist wohl recht materialistisch, das Bewusstsein als Resultat einer hinreichend komplizierten Hardware/Software-Architektur, bei uns das Gehirn, bei der KI ein simuliertes neuronales Netz.

Aber wenn dem so wäre, was hätte das für ethische Implikationen, Bewusstseine die als Sklaven gehalten werden?
Umgekehrt kann auch ein Schuh draus werden: KI, die Menschen diskrimiert, gibt es schon:
http://www.informationsethik.net/?ta...he-intelligenz
“Künstliche Intelligenz (KI) rechnet in der Finanzbranche nicht nur Versicherungsbeiträge aus. Mithilfe von Algorithmen überprüfen Banken und andere Finanzdienstleister die Kreditwürdigkeit ihrer Kunden, forschen nach Betrug und automatisieren quasi jeden Geschäftsbereich – von der Vermögensverwaltung bis zur Kontoeröffnung.”

Ich kann mir allerdings nicht vorstellen, wie ein Berg von IF-Anweisungen, Loops und GoTo -Anweisungen ein Bewusstsein hervorbringen sollte.

Marco Polo 12.11.18 18:38

AW: Youtube etc.
 
Zitat:

Zitat von Hawkwind (Beitrag 89038)
Ich kann mir allerdings nicht vorstellen, wie ein Berg von IF-Anweisungen, Loops und GoTo -Anweisungen ein Bewusstsein hervorbringen sollte.

Das klingt ja auch eher nach einem BASIC-Programm, bei dem sicherlich kein Bewusstsein entstehen kann, da hier Probleme lediglich sequenziell abgearbeitet werden.

Aber bei neuronalen Netzwerken mit irgendwelchen nichtlinearen Problemstellungen werden Probleme parallel abgearbeitet und da kann ich mir schon vorstellen, dass bei entsprechender Komplexität so was wie ein Pseudo-Bewusstsein entstehen kann. Das funktioniert ja im Gehirn auch.

Interessant wäre die Frage, wie man das wertet. Ist ein künstliches Bewusstsein weniger wert wie ein natürliches?

Ich 12.11.18 21:31

AW: Youtube etc.
 
Zitat:

Zitat von Hawkwind (Beitrag 89038)
Ich kann mir allerdings nicht vorstellen, wie ein Berg von IF-Anweisungen, Loops und GoTo -Anweisungen ein Bewusstsein hervorbringen sollte.

Ich habe mal die Ansicht gehört, dass auch ein Heizungsthermostat Bewusstsein hat - nur eben ziemlich wenig. Das ist auch meine Meinung: Bewusstsein ist nichts qualitativ Neues, auch ein Basic-Programm kann Bewusstsein haben. Wenn es hinreichend komplex und schnell ist, auch mit dem Menschen vergeichbar.
Zitat:

Zitat von Marco Polo (Beitrag 89041)
Das klingt ja auch eher nach einem BASIC-Programm, bei dem sicherlich kein Bewusstsein entstehen kann, da hier Probleme lediglich sequenziell abgearbeitet werden.

Aber bei neuronalen Netzwerken mit irgendwelchen nichtlinearen Problemstellungen werden Probleme parallel abgearbeitet und da kann ich mir schon vorstellen, dass bei entsprechender Komplexität so was wie ein Pseudo-Bewusstsein entstehen kann. Das funktioniert ja im Gehirn auch.

Was ein nichtlineares neuronales Netzwerk rechnen kann, kann auch eine Turingmaschine rechnen, und ein Basicprogramm erst recht. Wenn da kein Bewusstsein entstehen kann, dann nirgendwo.
Zitat:

Interessant wäre die Frage, wie man das wertet. Ist ein künstliches Bewusstsein weniger wert wie ein natürliches?
Nun, bei Iain Banks zählte ein "Mind" (künstliches Bewusstsein) soviel wie ein paar Millionen Menschen, wenn es z.B. um Kriegstote ging. Weil sie entsprechend mehr Rechenleistung und damit "Bewusstsein" hatten.

JoAx 13.11.18 09:32

AW: KI - Gefahr, Herausforderung, Chance?
 
Beiträge in einem neuen Thread zusammengefasst.

Hawkwind 13.11.18 09:42

AW: Youtube etc.
 
Zitat:

Zitat von Marco Polo (Beitrag 89041)
Das klingt ja auch eher nach einem BASIC-Programm, bei dem sicherlich kein Bewusstsein entstehen kann, da hier Probleme lediglich sequenziell abgearbeitet werden.

Aber bei neuronalen Netzwerken mit irgendwelchen nichtlinearen Problemstellungen werden Probleme parallel abgearbeitet und da kann ich mir schon vorstellen, dass bei entsprechender Komplexität so was wie ein Pseudo-Bewusstsein entstehen kann. Das funktioniert ja im Gehirn auch.

Noch ein Materialist? :)
Das ist m.E. nichts als ein Vorurteil.
M.W. gibt es durchaus Hinweise, die dagegen sprechen, dass das Bewusstsein vom Gehirn produziert wird.

Die AWARE-Studie ist ein seriöses Projekt, das über Jahre in einer ganzen Reihe von Kliniken läuft.

https://de.wikipedia.org/wiki/Sam_Parnia
https://www.independent.co.uk/news/s...s-9780195.html

Zitat:

...
A team based in the UK has spent the last four years seeking out cardiac arrest patients to analyse their experiences, and found that almost 40 per cent of survivors described having some form of “awareness” at a time when they were declared clinically dead.

Experts currently believe that the brain shuts down within 20 to 30 seconds of the heart stopping beating – and that it is not possible to be aware of anything at all once that has happened.
...
Das Bewusstsein scheint also doch für einige Zeit auch ohne funktionierendes Hirn existieren zu können!?

---
sorry, war jetzt etwas off-topic

Timm 13.11.18 10:04

AW: Youtube etc.
 
Zitat:

Zitat von Ich (Beitrag 89043)
Ich habe mal die Ansicht gehört, dass auch ein Heizungsthermostat Bewusstsein hat - nur eben ziemlich wenig. Das ist auch meine Meinung: Bewusstsein ist nichts qualitativ Neues, auch ein Basic-Programm kann Bewusstsein haben. Wenn es hinreichend komplex und schnell ist, auch mit dem Menschen vergeichbar.

Meine nicht, aber es kommt natürlich darauf an, was man unter "Bewußtsein" versteht, wahllos eine Definition hier.

Ein Insekt, das sich Richtung Licht bewegt, folgt Instinkten oder besser einem Reflex. Ich glaube eher, daß Bewußtsein ab einer bestimmten Komplexität (z.B. Säugetiere) etwas qualitativ Neues ist. Und die Vorstufe zu Ich-Bewußstsein ist, was wiederum qualitativ neu ist.

Die Frage nach dem künstlichen Bewußtsein wird soweit ich das mitbekommen habe kontrovers diskutiert. Ich denke es ist prinzipiell möglich, dürfte aber noch ein weiter Weg sein.

JoAx 13.11.18 12:57

AW: KI - Gefahr, Herausforderung, Chance?
 
Intelligenz ist vlt. nicht gleich Bewustsein.

Man muss aber nicht bis zum Bewustsein vordringen, um auf erstaunliches zu stoßen. Ich habe vor einigen Wochen mit meinem Cousin bei einer Autofahrt über KI diskutiert, und er hat mir erzählt, dass bereits heutige KIs (korrekte) Antworten liefern, bei denen weder Fachleute (Ärtze etwa) noch Entwickler wissen, wie sie auf diese kommen.

Falls es jemanden interessiert, das hier
C# Artificial Intelligence (AI) Programming: A Basic Object Oriented (OOP) Framework for Neural Networks
ist das, was ich gestern ausprobiert habe.

TheoC 13.11.18 17:59

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von JoAx (Beitrag 89050)
Intelligenz ist vlt. nicht gleich Bewustsein.

[/SIZE]

Bewusstsein losgelöst von "Handlungsmöglichkeit" zu definieren führt zu nix.
Eine "Handlungseinheit" ist etwas, mit dem wir interagieren können, das kann sein ein Nachrichtensprecher, oder eine Maschine.

Wir können grundsätzlich nicht beurteilen ob etwas Bewusstsein hat, oder intelligent ist, ohne die Handlungen zu betrachten, weil wir nicht in das "Innen" schauen können.

Handlungen erscheinen uns als intelligent, wenn sie bestimmten Mustern folgen, wenn also nicht strikt nach einem bestimmten Prozeduren gearbeitet wird, sondern Situationsabhängig.

Damit können wir, speziell mit neuronalen Netzen, Handlungseinheiten produzieren, die sich intelligent verhalten, und in vielen Situationen kaum von Menschen unterscheiden lassen.

Wir können aber KEIN Bewusstsein modellieren, weil dies die Interpretatoren- Ebene inkludieren würde. Und da gibt es aktuell keinen Ansatz wie so etwas funktionieren sollte,wie so etwas implementiert werden könnte. Bewusstsein ist eine Meta- Ebene, die "hinter dem Handeln" einen "Sinn" erkennt, und nicht das was einen Handeln scheinbar intelligent macht.


lg
Theo

TomS 13.11.18 18:29

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von TheoC (Beitrag 89051)
Bewusstsein losgelöst von "Handlungsmöglichkeit" zu definieren führt zu nix.

Sehe ich nicht so. Z.B. kann man im Traum Handlungen bewusst erleben, ohne sie durchführen zu können.

Zitat:

Zitat von TheoC (Beitrag 89051)
Wir können grundsätzlich nicht beurteilen ob etwas Bewusstsein hat, oder intelligent ist, ohne die Handlungen zu betrachten, weil wir nicht in das "Innen" schauen können.

Wir können das auch bei Betrachtung der Handlungen nicht von außen beurteilen.

Zitat:

Zitat von TheoC (Beitrag 89051)
Handlungen erscheinen uns als intelligent, wenn sie bestimmten Mustern folgen, wenn also nicht strikt nach einem bestimmten Prozeduren gearbeitet wird, sondern Situationsabhängig.

Warum?

Eine Situation ist gegeben durch die Gesamtheit aller Gehirn- oder Bewusstseinszustände plus alle externen Reize. Damit können intelligente Handlungen weiterhin strikt nach Mustern und Prozeduren erfolgen.

(ich behaupte hier nicht, dass dies so ist, lediglich, dass es so sein könnte und nicht bzgl. der Kategorisierung von Intelligenz oder Bewusstsein helfen würde)

Zitat:

Zitat von TheoC (Beitrag 89051)
Wir können aber KEIN Bewusstsein modellieren, weil dies die Interpretatoren- Ebene inkludieren würde. Und da gibt es aktuell keinen Ansatz wie so etwas funktionieren sollte,wie so etwas implementiert werden könnte. Bewusstsein ist eine Meta- Ebene, die "hinter dem Handeln" einen "Sinn" erkennt, und nicht das was einen Handeln scheinbar intelligent macht.

Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können.

TheoC 13.11.18 20:40

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von TomS (Beitrag 89052)
Sehe ich nicht so. Z.B. kann man im Traum Handlungen bewusst erleben, ohne sie durchführen zu können.


Wir können das auch bei Betrachtung der Handlungen nicht von außen beurteilen.


Warum?

Eine Situation ist gegeben durch die Gesamtheit aller Gehirn- oder Bewusstseinszustände plus alle externen Reize. Damit können intelligente Handlungen weiterhin strikt nach Mustern und Prozeduren erfolgen.

(ich behaupte hier nicht, dass dies so ist, lediglich, dass es so sein könnte und nicht bzgl. der Kategorisierung von Intelligenz oder Bewusstsein helfen würde)


Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können.

wie immer ist es die Sprache die uns Scheitern lässt im Verständnis :)


Im letzen Punkt stimme ich zu 100% zu,
"Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können".

Das ist der springende Punkt!

zu den Handlungsmöglichkeiten; ich habe ein wunderbares Buch von einen Südafrikaner gelesen, der 15 Jahre in seinen Körper in eine Zustand des "Tagtraumas" gefangen war, der das aber voll Bewusst erlebt hat. Jeden Tag, jede Aktion, voll Bewusst, ohne körperliche Aktion. Was nützt es, wenn du voll Bewusst, und voll Intellegent bist, wenn du es nicht ausdrücken kannst, und keiner in deiner Umwelt es wahrnehmen kann?

Das es Bewusstsein gibt, ohne das sich dieses durch konkete Handlungsmöglichkeiten ausdrückt (Traum)schliesse ich definitiv nicht aus!

Zu den Handlungen.
Natürlich können wir nicht definitiv aus den Handlungen schliessen, ob etwas intelligent ist, oder nicht. Wir können das aber OHNE Handlungen BESTIMMT NICHT schliessen! Das ist der Punkt.

Der Punkt mit den Mustern ist "weich";
meiner Meinung nach, und da bin ich nicht so sicher, gibt es einen Unterschied zwischen Algorithmen die sich auf "wenn- dann Entscheidungen" reduzieren lassen, und solchen, die auf Grund von Mustern Ähnlichkeiten erkennen, und "situationsabhängig" regieren, was mir als ein Zeichen einer Form einer Intelligenz erscheint.

Wollte eigentlich nur auf den Aspekt bestätigen, das Intelligenz und Bewusstsein ganz sicher zwei verschiedene Dinge sind.

lg
Theo

Timm 13.11.18 20:52

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von TomS (Beitrag 89052)
Wir können das auch bei Betrachtung der Handlungen nicht von außen beurteilen.

Warum nicht? Eine Katze interagiert mit der Umgebung der jeweiligen Situation entsprechend angepasst.

TomS 13.11.18 22:15

AW: KI - Gefahr, Herausforderung, Chance?
 
Zunächst mal dimmen wir ja in vielen Punkten überein.

Dann

Zitat:

Zitat von TheoC (Beitrag 89053)
Was nützt es, wenn du voll Bewusst, und voll Intellegent bist, wenn du es nicht ausdrücken kannst, und keiner in deiner Umwelt es wahrnehmen kann?

Nichts - aber das war ja nicht die ursprüngliche Frage ;-)

Kennst du das Buch „Der Seewolf“ von Jack London?

Zitat:

Zitat von TheoC (Beitrag 89053)
Der Punkt mit den Mustern ist "weich";
meiner Meinung nach, und da bin ich nicht so sicher, gibt es einen Unterschied zwischen Algorithmen die sich auf "wenn- dann Entscheidungen" reduzieren lassen, und solchen, die auf Grund von Mustern Ähnlichkeiten erkennen, und "situationsabhängig" regieren, was mir als ein Zeichen einer Form einer Intelligenz erscheint.

Zumindest bei neuronalen Netzen ist das nicht weich. Sie sind lediglich eine andere Art der Repräsentation von Daten, Signalen und Algorithmen.

JoAx 14.11.18 08:25

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von TheoC (Beitrag 89051)
Bewusstsein losgelöst von "Handlungsmöglichkeit" zu definieren führt zu nix.
Eine "Handlungseinheit" ist etwas, mit dem wir interagieren können, das kann sein ein Nachrichtensprecher, oder eine Maschine.

:confused:
Zitat:

Zitat von TheoC (Beitrag 89051)
Wir können grundsätzlich nicht beurteilen ob etwas Bewusstsein hat, oder intelligent ist, ohne die Handlungen zu betrachten, weil wir nicht in das "Innen" schauen können.

"Handlungen" sind auch nur eine spezielle Art des Outputs.

Zitat:

Zitat von TheoC (Beitrag 89051)
Handlungen erscheinen uns als intelligent, wenn sie bestimmten Mustern folgen, wenn also nicht strikt nach einem bestimmten Prozeduren gearbeitet wird, sondern Situationsabhängig.

:confused:
Zitat:

Zitat von TheoC (Beitrag 89051)
Damit können wir, speziell mit neuronalen Netzen, Handlungseinheiten produzieren, die sich intelligent verhalten, und in vielen Situationen kaum von Menschen unterscheiden lassen.

:confused:
Zitat:

Zitat von TheoC (Beitrag 89051)
Wir können aber KEIN Bewusstsein modellieren, weil dies die Interpretatoren- Ebene inkludieren würde. Und da gibt es aktuell keinen Ansatz wie so etwas funktionieren sollte,wie so etwas implementiert werden könnte. Bewusstsein ist eine Meta- Ebene, die "hinter dem Handeln" einen "Sinn" erkennt, und nicht das was einen Handeln scheinbar intelligent macht.

:confused:
Ich bezweifle, dass das Problem der Entstehung von Bewustsein schon so gut erforscht ist, dass definitive Antworten (wie von dir hier gegeben) bereits möglich sind.

JoAx 14.11.18 10:20

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von TheoC (Beitrag 89053)
Wir können das aber OHNE Handlungen BESTIMMT NICHT schliessen! Das ist der Punkt.

Ist das nicht trivial?

n4mbuG0t0 14.11.18 14:12

AW: KI - Gefahr, Herausforderung, Chance?
 
Ich denke Bewusstsein auf intelligente Handlungen zu reduzieren ist falsch.
Bewusstsein setzt das bewusste setzen der Handlung voraus.
Dass ich Atme macht völlig Sinn, und ist wohl auch intelligent, dennoch
atme ich die meiste Zeit unbewusst.
Meiner Meinung nach ist dies eng verwoben mit der Frage nach freiem Willen, und daher
wohl auch mit der Frage nach Determinismus vs. Zufall. Und wie so oft endet
man dann bei der Interpretation der Quantenphysik.

Zum Thema Neuronale-Netze:
Das sind vereinfacht ausgedrückt mathematische Blackboxen, welche eine unbekannte Funktion annähern. Bei gleichem Input ist der Output immer deterministisch (zumindest wenn man nicht bewusst irgendwo Zufallsgeneratoren einbaut, aber bei klassischen neuronalen Netzen habe ich sowas auch noch nie gesehen). Solch ein System kann den Anschein von freiem Willen und Bewusstsein erwecken, da man unter Umständen nicht alle Input-Parameter kennt und schon gar nicht die Funktion welche durch das Netz simuliert wird. Dennoch wird das Netz nie einen anderen Output liefern bei gleichem Input. Es kann sich also nicht bewusst für eine andere Handlung entscheiden. Inwiefern wir als Menschen das können, kann ich natürlich auch nicht beantworten. Vllt. kennen wir nur nicht alle Anfangsparameter, und haben daher den Eindruck wir würden bewusst Entscheidungen treffen, vllt. können wir es tatsächlich.

Hawkwind 14.11.18 16:05

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von n4mbuG0t0 (Beitrag 89061)
Solch ein System kann den Anschein von freiem Willen und Bewusstsein erwecken, da man unter Umständen nicht alle Input-Parameter kennt und schon gar nicht die Funktion welche durch das Netz simuliert wird.

Das konnte sogar schon das uralte Programm Eliza aus der Mitte der 60er
; viele seiner "Klienten" fühlten sich gut verstanden:
https://en.wikipedia.org/wiki/ELIZA
http://manifestation.com/neurotoys/eliza.php3/

mit Dialogen wie
----
Human: Well, my boyfriend made me come here.
ELIZA: Your boyfriend made you come here?
Human: He says I'm depressed much of the time.
ELIZA: I am sorry to hear you are depressed.
Human: It's true. I'm unhappy.
ELIZA: Do you think coming here will help you not to be unhappy?

TheoC 14.11.18 22:39

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von JoAx (Beitrag 89058)
:confused:
"Handlungen" sind auch nur eine spezielle Art des Outputs.

@Joax

Auf was ich hinaus will, ist das es der Begriff "Intelligenz" nicht getrennt werden kann von einem handelndem Objekt. Ein "intellegent wirkender" Nachrichtensprecher, eine intellegent wirkender Roboter. Ohne etwas "das etwas tut" könne wir es einfach nicht beurteilen, weil wir NUR über das "Wirken" auf "Intelligenz" schliessen können. Ist trivial, aber in den Diskussionen wird das imho nicht unterschieden.

Ich arbeite mit "KI", wir trainieren zB unsere Systeme darauf, aus "Geräuschen", die über Mikrofone aufgenommen werden, "Unfälle" zu erkennen (und zB von ähnlich klingenden Abbremsmannövern zu unterscheiden); das WIRKT meiner Meinung nach "Intelligent", weil es auf Grund von Mustern Analogien erkennt.

Komplexe Muster zu Kategorisieren ist ein "Intelligenzleistung" die deutlich anders ist, wie "es ist zu kalt, deswegen schalte ich die Heizung ein".

Zumindest ist die Vorstellung das auf Gund eines Geräusches beurteilen werden kann, ob es ein Unfall war, oder eine Notbremsung, unserer eigenen Vorstellung von Intelligenz deutlich näher wie die "Intelligenz" eines Raumthermostates.



Zitat:

Zitat von JoAx (Beitrag 89058)
:
Ich bezweifle, dass das Problem der Entstehung von Bewustsein schon so gut erforscht ist, dass definitive Antworten (wie von dir hier gegeben) bereits möglich sind.

Ich bin definitiv nicht der Meinung das wir Bewusstsein als Phänomen verstanden (erforscht) haben; und wollte diesbezüglich auch keine definitiven Positionen beziehen.

Etwas das intelligent für einen "intelligenten Betrachter" wirkt, hat mit Bewusstsein nichts zu tun! Mehr wollte ich nicht sagen.

Eine komplexe Muster analysierende Einheit, die, menschenähnliche Reaktionen aus der Analyse ihre Umwelt produziert, kann durchaus sehr intelligent wirken, hat aber mit "Bewusstsein" nichts zu tun!

Dazu würde gehören dass die Maschine die "Bedeutung" von "Unfall" und "Notbremsung" VERSTEHT!!

Ein intelligent WIRKENDER Nachrichtensprecher hat mit einer bewussten Einheit "Nachrichtensprecher" NICHTS ZU TUN.



lg
Tneo

soon 16.11.18 07:45

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von n4mbuG0t0 (Beitrag 89061)
...
Meiner Meinung nach ist dies eng verwoben mit der Frage nach freiem Willen, und daher wohl auch mit der Frage nach Determinismus vs. Zufall. Und wie so oft endet man dann bei der Interpretation der Quantenphysik.

Da ist was dran.

Der scheinbare Widerspruch zwischen Determinismus und freiem Willen/Zufall lässt sich aber einfach auflösen, indem man sagt:
welche Entscheidung ich mittels freiem Willen treffe ist determiniert.

Freier Wille und Bewusstsein wären, so gesehen, nur eine Interpretation innerhalb des Modells 'Alltagsvorstellung'.


Eine Parallele zur Interpretation der Quantenphysik kann man auch konstruieren.

Angenommen, per Zufall oder freiem Willen wird Tor1, Tor2 oder Tor3 geöffnet, dann würde nach der VWI jedes der Tore in einem eigenen "Zweig" geöffnet.

Die VWI ist aber, meiner Meinung nach, nur eine komplizierte Umformulierung des Begriffs 'Zufall', weil nicht danach gefragt wird, in welchem Zweig welches Tor geöffnet wird.

JoAx 06.12.18 20:24

AW: KI - Gefahr, Herausforderung, Chance?
 
Man muss schon schmunzeln. :)

Bin vor kurzem auf ein Youtuber gestoßen, der Schachspiele kommentiert. Ich weiss nicht, ob er der beste ist, mir gefällt er. Warum ich das hier poste? Er kommentiert auch spiele zwischen Stockfish und Alpha Zero. Und in einem Spiel muss man sich fast schon fragen, ob Alpha Zero sich etwas dabei denkt, oder zumindest "denkt". Zumindest scheint so eine Interpretation möglich. :D

Hier: Deep Mind AI Alpha Zero Refuses a Draw from Stockfish

TomS 07.12.18 15:56

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von JoAx (Beitrag 89592)
Und in einem Spiel muss man sich fast schon fragen, ob Alpha Zero sich etwas dabei denkt, oder zumindest "denkt".

Die Frage ist, ob wir das jemals beantworten können.

Dazu müssten wir zuerst mal definieren können, was unser eigenes Denken oder gar Bewusstsein ausmacht. Wenn dies letztlich ein reiner Algorithmus wäre, dann wäre eine hinreichend mächtige KI äquivalent (isomorph) zum menschlichen Gehirn.

Aber wir stehen vor dem Problem der Introspektion, des Beweises oder Verständnisses eines (potentiellen) Algorithmus durch eben diesen Algorithmus (unserer Denken). Und wir stünden natürlich vor der Hürde des Eingeständnisses, dass wir eben auch nur Maschinen mit Algorithmen sind.

Bei der Lektüre von Philosophiebüchern, die argumentieren, dass unser Denken mehr ist als ein Algorithmus, stelle ich immer wieder fest, dass diese die triviale Frage, ob wir uns selbst evtl. gar nicht erkennen und verstehen können, und was dies bedeuten könnte, gar nicht stellen.

Zwei Behavioristen hatten Sex; sie: "und, wie war's für mich?"

Bernhard 08.12.18 07:41

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von JoAx (Beitrag 89592)
Und in einem Spiel muss man sich fast schon fragen, ob Alpha Zero sich etwas dabei denkt, oder zumindest "denkt".

Ich habe mal in den Clip etwas reingesehen. Dabei ist mir aufgefallen, dass es dabei scheinbar um eine Stellung geht, die leicht in eine Schleife laufen kann, d.h. wo sich Züge einfach wiederholen. Damit das Programm solche Situationen vermeiden kann, muss der Programmierer natürlich Abbruch- und Erkennungskriterien hinzufügen, und es würde mich nicht wundern, wenn diese Vorschriften gerade hier besonders bemerkbar werden.

Bernhard 08.12.18 07:48

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von TomS (Beitrag 89610)
Dazu müssten wir zuerst mal definieren können, was unser eigenes Denken oder gar Bewusstsein ausmacht.

Vielleicht ist das ja gar nicht so kompliziert?

Ich vermute, dass "in erster Näherung" Bewusstsein erst mal "nur" aus Algorithmen besteht, welche die eigene Existenz beurteilen. Z.B. die Klärung oder Beurteilung der Frage, inwieweit Umwelteinflüsse der eigenen Existenz gefährlich werden können und wie geeignete Gegenmaßnahmen ergriffen werden können. Im Prinzip sind auch solche Algorithmen programmierbar und werden mittlerweile bei Studien-Robotern ansatzweise anscheinend auch schon verwendet.

TomS 08.12.18 08:18

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von Bernhard (Beitrag 89614)
Ich vermute, dass "in erster Näherung" Bewusstsein erst mal "nur" aus Algorithmen besteht, welche die eigene Existenz beurteilen.

Aber in zweiter Näherung befasst sich das Bewusstsein mit dem Bewusstsein - d.h. Selbstwusstsein, Introspektion, ...

Und damit hätten wir ein selbstbezügliches algorithmisches System, von dem wir mathematisch beweisbar wissen, dass unlösbare Aufgaben, nicht haltende Programme, ... existieren.

Timm 08.12.18 16:50

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von JoAx (Beitrag 89592)
Und in einem Spiel muss man sich fast schon fragen, ob Alpha Zero sich etwas dabei denkt, oder zumindest "denkt". Zumindest scheint so eine Interpretation möglich. :D

Zumindest lernen neuronale Netze wie Alpha Zero, Lc0 und Komodo MCTS mittels backpropagation aus Fehlern. Ein Effekt ist, daß die Zahl der untersuchten Knoten und die Geschwindigkeit im Vergleich zu den herkömmlichen alpha-beta Maschinen um den Faktor 1000 kleiner ist. Das Großmeister Hirn ist nochmals selektiver und langsamer. Vielleicht repräsentiert das Abarbeiten eines solchen Algorithmus ein Fünkchen Denken.

TomS 08.12.18 17:59

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von Timm (Beitrag 89627)
Vielleicht repräsentiert das Abarbeiten eines solchen Algorithmus ein Fünkchen Denken.

Wenn das Denken im wesentlichen so ein Algorithmus ist, dann unterschreibe ich das sofort.

sirius 09.12.18 20:13

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von TomS (Beitrag 89052)
.....

Ich denke, wir können Bewusstsein nicht modellieren, weil wir es nicht mal definieren können.

Sehe ich aehnlich hinsichtlich der Definition von Bewusstsein.

Warum verspueren wir im Schlaf keine Schmerzen koennen aber erkennen, dass wir traeumen?

https://de.wikipedia.org/wiki/Klartraum

Da sind noch etliche Fragen offen, was das menschliche Bewusstsein anlangt.

JoAx 10.12.18 15:40

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von Bernhard (Beitrag 89613)
Dabei ist mir aufgefallen, dass es dabei scheinbar um eine Stellung geht, die leicht in eine Schleife laufen kann, d.h. wo sich Züge einfach wiederholen. Damit das Programm solche Situationen vermeiden kann, muss der Programmierer natürlich Abbruch- und Erkennungskriterien hinzufügen, und es würde mich nicht wundern, wenn diese Vorschriften gerade hier besonders bemerkbar werden.

Bei den Chess Engines (Stockfish) ist es sicher so.

Bei KIs funktioniert es anders. Da wird nichts derartiges von Hand programmiert. Vor dem ersten Spiel gegen Stockfish wurden Deep Mind nur die Regeln beigebracht, inkl. der Regel für ein Unentschieden, wenn sich die Stellung wiederholt. Das geschah wohl genau so oder ähnlich, wie im Tutorial, den ich weiter oben verlinkt habe. Anschließend spielte es 4 Std. lang gegen sich selbst. Das war's. Und Stockfisch hatte keine Chancen. :eek:

Der Kommentar von dem besagten Youtuber war in etwa: "Stockfish looks like a kid moving pieces around."

JoAx 21.12.18 00:16

AW: KI - Gefahr, Herausforderung, Chance?
 
Entweder ist Sockfish 10 viel besser als der 8-er, oder Leela ist nicht so gut. 6 Spiele und man muss bis zum letzten Spiel schauen:
AI Leela Chess Zero vs Stockfish 10 | Mini Match
Bin auf die Begegnung S10 vs AZ gespannt.

Hawkwind 21.12.18 08:20

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von JoAx (Beitrag 89765)
Entweder ist Sockfish 10 viel besser als der 8-er, oder Leela ist nicht so gut. 6 Spiele und man muss bis zum letzten Spiel schauen:
AI Leela Chess Zero vs Stockfish 10 | Mini Match
Bin auf die Begegnung S10 vs AZ gespannt.

Ich halte es für ziemlich unwahrscheinlich, dass Stockfish mit dem Update eine dramatische Verbesserung erfahren haben soll.
In den Zeiten, wo ich selbst noch an einem Schachprgramm rumgebastelt hatte, hatte ich festgestellt, dass es leider ein große Menge an Partien zwischen Version n und n+1 braucht, um zuverlässig feststellen zu können, ob eine Verbesserung gelungen ist. Nicht selten schlägt die schlechtere Version die bessere in 10 Partien mit 7:3. In 200 Partien würde das dann aber evtl. ganz anders ausschauen. Diese 6 Partien haben keine andere Aussagekraft als die, dass die Gegner nicht um Welten auseinander liegen. Und das ist ja noch in Übereinstimmung mit den älteren Partien; da hatte es ja schon reichlich Remisen gegeben.

sirius 16.02.19 19:44

AW: KI - Gefahr, Herausforderung, Chance?
 
Hier ein Interview mit Peter Liggesmeyer, dem Leiter des Frauenhofer-Instituts für Experimentelles Software Engineering, zum Thema KI und für wie wichtig er gute Kenntnisse in lnformatik hält.

http://www.manager-magazin.de/digita...a-1253170.html

Da haperts wohl ganz schön bei der Ausbildung und damit auch bei der Zukunftsfähigkeit der Wirtschaft.

pauli 16.02.19 21:43

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

manager-magazin.de: Herr Liggesmeyer, wenn aktuell in Deutschland von KI die Rede ist, geht es meistens darum, wie weit Deutschland von China und den USA bereits abgehängt ist und ob Deutschland überhaupt noch Chancen hat aufzuholen.
Was konkret hat China denn bisher erreicht in Sachen KI?

sirius 19.02.19 07:19

AW: KI - Gefahr, Herausforderung, Chance?
 
Man sollte das vielleicht nicht nur auf China beziehen.
In dem Artikel werden Indien, Osteuropa, Afrika und Vietnam genannt.
Man kann im Zuge der Globalisierung aber auch noch mit Anbietern aus anderen Laendern rechnen.

Zitat:

Natürlich droht auch hier die ernste Gefahr, dass ausgereifte KI-Programme eigenständig lernende Systeme hervorbringen, die ganze Codier- und Programmierarbeiten übernehmen können.
https://www.com-magazin.de/praxis/di...t-1679723.html

Man muss ja nicht gleich an „Sofia“ denken, aber eine KI, der (wenn vielleicht auch nur symbolisch) die Staatsbürgerschaft verliehen wurde, lässt mE für die Zukunft einen mehr als breiten Spielraum erwarten.
Man darf auf die Entwicklung gespannt sein.

sirius 24.02.19 15:13

AW: KI - Gefahr, Herausforderung, Chance?
 
Schneller als erwartet oder befürchtet kann KI als Waffe eingesetzt werden.

http://www.spiegel.de/wissenschaft/t...a-1253320.html

Wo das enden wird, daran mag man gar nicht denken.....obwohl man sich da viel vorstellen kann.

Wie seht ihr das?
Bald ist/wird die Grenze überschritten, bei der ältere Sience-Fiction-Filme traurige und bittere Realität werden?

„Judge Dredd“ lässt gruessen - nur auf Grundlage von KI

Eyk van Bommel 25.02.19 10:55

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von sirius (Beitrag 90728)
„Judge Dredd“

Erinnert mich eher an WarGames - tic-tac-toe – rettet(e) die Welt.

sirius 06.04.19 11:18

AW: KI - Gefahr, Herausforderung, Chance?
 
David - hier zu verstehen als kleiner Wicht

https://m.youtube.com/watch?v=gdej2jjiBXw


gegen Goliath - die Marktführer mit enormem finanziellem Hintergrund


https://m.youtube.com/watch?v=EE_tQtwXTaI

https://m.youtube.com/watch?v=0Xbpb-AvISc

Bernhard 06.04.19 16:47

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von sirius (Beitrag 91129)
David - hier zu verstehen als kleiner Wicht ... gegen Goliath - die Marktführer mit enormem finanziellem Hintergrund.

Der technologische Fortschritt wird deshalb sicher nicht aufhören. Die Menschen werden sich also wohl oder übel mit KI anfreunden müssen.

Gerade beim Automobil finde ich diese Entwicklung z.T. auch wünschenswert, weil (solange der Mensch die Verantwortung behält) das Fahren, dadurch wieder sicherer und komfortabler werden könnte.

Bernhard 23.07.19 22:34

AW: KI - Gefahr, Herausforderung, Chance?
 
Eben gefunden: K.I. Wohin programmieren wir uns? - RICHARD DAVID PRECHT
Sehr gut nachvollziehbare Gedankengänge und informativ.

sirius 22.08.19 21:44

AW: KI - Gefahr, Herausforderung, Chance?
 
Ein Interview mit einem Neuropsychologen von der Uni Zürich.
Ich finde seine Sichtweise sehr interessant und teile sie auch.

https://www.nzz.ch/zuerich/mensch-od...cke-ld.1502927

Bernhard 22.08.19 22:01

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von sirius (Beitrag 92104)
Ich finde seine Sichtweise sehr interessant und teile sie auch.

Aus technischer Sicht wird da viel spekuliert, was den Artikel aus technischer Sicht eher uninteressant macht.

Aus menschlicher Sicht kann man schreiben, dass die Grenze zwischen Mensch und Maschine natürlich auch vom Menschen abhängt. Solange sich Menschen von Maschinen aktiv abgrenzen, gibt es eben auch die damit geschaffene Grenze. Die Frage ist also vielmehr, ob man so eine Grenze haben will oder nicht.

Ich persönlich bin z.B. froh, dass mich mein Arbeitgeber nicht dazu zwingt einen implantierten Erkennungschip zu tragen. In den USA ist das angeblich (?) und teilweise scheinbar schon anders.

Wo also ist die Grenze? Wo wollen "wir" die Grenze haben?

sirius 22.08.19 22:12

AW: KI - Gefahr, Herausforderung, Chance?
 
Diese „Erkennungschips“ gibt es schon länger und sie werden nicht nur in den USA eingesetzt. Die Menschen lassen sich diese Chips in anderen Ländern freiwillig einsetzen.

Witz einer KI

Warum läuft ein Huhn über die Autobahn?
Weil die Menschen so unberechenbar sind.

Das habe ich vor einiger Zeit in einem Videoclip gehört.
Seither habe ich öfter mal über diesen „Witz“ nachgedacht....

Bernhard 22.08.19 22:21

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von sirius (Beitrag 92106)
Die Menschen lassen sich diese Chips in anderen Ländern freiwillig einsetzen.

Ich persönlich würde so etwas als entwürdigend empfinden.

sirius 23.08.19 11:40

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von Bernhard (Beitrag 92107)
Ich persönlich würde so etwas als entwürdigend empfinden.

Das Einsetzen von Mikrochips ist schon mal im Zusammenhang mit der Bargeldabschaffung und damit verbundener bargeldloser Zahlung über diese Chips diskutiert worden. Ich weiß nicht, ob das bei sehr jungen Menschen nicht auf fruchtbaren Boden fallen könnte. Wer heute mit Smartphone usw. aufwächst, der hat einen ganz anderen Bezug zu solchen Dingen.
Der gesellschaftliche Wandel hat sich durch die Digitalisierung und das Internet stark verändert und beschleunigt.

soon 08.02.20 07:44

AW: KI - Gefahr, Herausforderung, Chance?
 
Interessantes Phänomen:


http://www.hornoxe.com/wp-content/pi...ump498_123.jpg


KI gesteuerte Messgeräte werden vermutlich und evtl. unbemerkt ähnlich seltsame Effekte produzieren können.


In diesem Zusammenhang:

Xerox-Kopierer verändern Zahlen (nicht wegen OCR-Ungenauigkeit, sondern letztlich aus übersteuerten Performancegründen) :
https://www.youtube.com/watch?v=7FeqF1-Z1g0

sirius 13.07.21 13:58

AW: KI - Gefahr, Herausforderung, Chance?
 
„Schöne neue Welt?“

Die Frage ging mir durch den Kopf, als ich den folgenden Artikel gelesen hatte.


https://www.focus.de/wissen/mensch/d..._13447563.html

Die Möglichkeiten sind enorm - die negativen Folgen reichen von bedenklich über katastrophal bis hin zu un-menschlich.

Ich bezweifle, dass z. B. die UN hier bald regulierend eingreifen kann und wird.

Wo und wie wird das enden?

Bernhard 14.07.21 09:26

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von sirius (Beitrag 95623)
Wo und wie wird das enden?

Wie üblich wird das technisch Machbare wohl ausgetestet werden.

Der Kinofilm Matrix und noch ganz andere Schreckensszenarien rücken damit immer weiter in den Alltag aller Menschen.

Mirko Buschhorn 13.08.21 15:36

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von sirius (Beitrag 89020)
Erste KI als Nachrichtensprecher in China. Der Kollege, der 24/7 bereit ist, keine Pausen, keinen Urlaub braucht und auch sonst keine stoerenden Beduerfnisse hat. (...)

Bei der KI ist es wie mit der Kernphysik oder der Biochemie. Damit lässt sich eine Wasserstoffbombe und Senfgas herstellen oder ein Fusionsreaktor und ein mRNA-Impfstoff.

Mit Text-to-Speech-Programmen die KI nutzen können Gehörlose sämtliche Fernsehprogramme oder YouTube-Videos ohne Gebärdensprachdolmetscher verfolgen. Der Text wird automatisch eingeblendet. Eigentlich eine tolle Sache. Aber wie beim Nachrichtensprecher in China lässt sich der Dolmetscher einsparen und er verliert vielleicht irgendwann seinen Job. Mit KI kann man auch feindliche Soldaten oder Terroristen töten. Gut oder schlecht? Die Taliban schlachtet in Afghanistan Menschen ab und verbietet Mädchen den Schulbesuch. Bald gibt es Drohnen in der Größe einer Stubenfliege. Sie könnte Talibankämpfer stechen. Die werden dann alle bewusstlos und wir können sie vor Gericht stellen und die Mädchen dürfen wieder in die Schule.

Geku 13.08.21 18:34

AW: KI - Gefahr, Herausforderung, Chance?
 
Zitat:

Zitat von sirius (Beitrag 89020)
Erste KI als Nachrichtensprecher in China. Der Kollege, der 24/7 bereit ist, keine Pausen, keinen Urlaub braucht und auch sonst keine stoerenden Beduerfnisse hat.

Vor allem kann der Sprecher lügen, ohne sich durch die Mimik zu verraten.


Die wirkliche Gefahr ist nicht, dass Computer beginnen wie Menschen zu denken, sondern umgekehrt. (Sydney J. Harris, amerikanischer Journalist)


Alle Zeitangaben in WEZ +1. Es ist jetzt 00:57 Uhr.

Powered by vBulletin® Version 3.8.8 (Deutsch)
Copyright ©2000 - 2024, vBulletin Solutions, Inc.
ScienceUp - Dr. Günter Sturm