KI - Gefahr, Herausforderung, Chance?

[Geku]

Zitat von TomS

Diese Argumente laufen alle ins Leere, wenn wir annehmen, dass wir gar nicht präzise wissen, was genau Bewusstsein wirklich ist. Ganz platt gesprochen könnte es sein, dass das Verständnis von Bewusstsein gerade der blinde Fleck des Bewusstseins ist. Damit sind sämtliche Hypothesen zum Bewusstsein in gewisser Weise inhaltsleer, da ein Gegenstand der Hypothesen nicht präzise definiert ist. Wir werden sie aus diesen Gründen nie testen können.

Ich würde die Definition auf einen kurzen Satz bergrenzen: Sich seiner Existenz bewust sein

und nicht mehr.


Gehirndefekte und Split Brain Patienten bringen mehr Licht in diese Frage.

Z.B. welche Schäden müssen auftreten um das Gefühl des Hörens zu verlieren?

Ludwig van Beethoven konnte noch komponieren obwohl er komplett taub wurde.
Manche Läsionen führen zum kompletten Verlust des Gehörsinns, man weiß dann nicht was hören überhaupt ist. Vergleichbar mit dem "Blinden Fleck".

[TomS]

Zitat von Geku

Aber beobachtet der Computer die Reaktionen der Zuseher auf seine Züge?

Oder ist er zu sehr auf das Spiel konzentriert, oder kann er es prinzipiell, aufgrund seiner Konstruktion, nicht?

Wie gesagt, das ist sekundär.

Möglicherweise hast du recht, dass der Computer keine echte Intelligenz und kein Bewusstsein entwickeln kann, weil er konstruktionsbedingt die Reaktionen des Gegners nur eingeschränkt und die der Zuseher überhaupt nicht beobachtet und verarbeitet. Und möglicherweise verhält es sich tatsächlich so, dass der Computer echte Intelligenz und kein Bewusstsein entwickeln wird, wenn man diese Beschränkungen aufhebt. Ich will dir da gar nicht widersprechen.

Aber was ist denn nun deiner Meinung nach Bewusstsein?

Das hast du noch nicht erklärt.

Du beschreibst also die Voraussetzung für etwas Undefiniertes; nicht böse gemeint


EDIT:

Die Definition von Bewusstsein lautet also

Zitat von Geku

sich seiner Existenz bewusst sein.

Das ist ein logischer Zirkel.

[Geku]

Zitat von TomS

Die Definition von Bewusstsein lautet also
Das ist ein logischer Zirkel.

Genau!

Douglas Hofstadter: Ich bin eine seltsame Schleife


https://www.klett-cotta.de/autor/Douglas_Hofstadter/242

[Geku]

Zitat von TomS

Wie gesagt, das ist sekundär.

Möglicherweise hast du recht, dass der Computer keine echte Intelligenz und kein Bewusstsein entwickeln kann, weil er konstruktionsbedingt die Reaktionen des Gegners nur eingeschränkt und die der Zuseher überhaupt nicht beobachtet und verarbeitet. Und möglicherweise verhält es sich tatsächlich so, dass der Computer echte Intelligenz und kein Bewusstsein entwickeln wird, wenn man diese Beschränkungen aufhebt. Ich will dir da gar nicht widersprechen.

Das Substrat für Bewustsein muß nicht die Biochemie sein. Es war für die Evolution nur der einfachere wahrscheinlicherer Weg.

Letztendlich kann Bewustsein im Universum nur überleben, wenn dieses auf ein robusteres Substrat überwechselt und das ist statt Kohlenstoff Silizium ohne wässriger Basis.

[TomS]

Zitat von Geku

Genau!

Douglas Hofstadter: Ich bin eine seltsame Schleife

Wenn du zustimmst, dass deine Definition von Bewusstsein einen logischen Zirkel enthält, dann stimmst du hoffentlich auch zu, dass das erstens keine Definition ist und zweitens nicht zum Verständnis beiträgt.

Wir wissen also immer noch nicht, was Bewusstsein ist ;-)

Zitat von Geku

Das Substrat für Bewustsein muß nicht die Biochemie sein.

Das sage ich doch gar nicht.

[Geku]

Zitat von pauli

Was konkret hat China denn bisher erreicht in Sachen KI?

Gesichtsüberwachung und Zensur des Internets

[Geku]

Zitat von TomS

Dein Argument ist höchstens quantitativ: der Schachcomputer bezieht nicht genügend viele Sensordaten und Umgebungsinformationen mit ein, und seine Outputs sind nicht umfangreich genug, seine Handlungsoptionen nicht ausreichend. Das sind jedoch keine Argumente bzgl. der Definition des Wesens von Bewusstsein sondern "nur" bzgl. der Voraussetzungen für dessen Entstehung.

Ich glaube da liegt das Missverständnis. Ich meinte, dass der Schachcomputer mit seinen Sensoren nicht in der Lage ist, neue Information abseits des Schachfeldes zu erfassen und daraus neue Reaktionen zu generieren.

Das Bewustsein ist ständig auf der Suche nach Neuem.

Auf einer anderen, höheren Ebene werden, zu Routine werdende Inputs und Outputs ins Unterbewustsein verschoben und vom Bewustsein nicht mehr wahrgenommen. Erst Abweichung werden uns wieder bewust. Das zeigt wie wichtig die Einflüsse der Umwelt auf unser Bewustsein sind.

[TomS]

Zitat von Geku

Ich glaube da liegt das Missverständnis. Ich meinte, dass der Schachcomputer mit seinen Sensoren nicht in der Lage ist, neue Information abseits des Schachfeldes zu erfassen und daraus neue Reaktionen zu generieren.

Ja, deinerseits.

Genauso gut könnte ich sagen, der menschliche Organismus ist mit seinen Sensoren nicht in Lage, neue Informationen im Röntgenbereich abseits des bisherigen Spektrums zu erfassen.

Du konzentrierst dich zu sehr auf quantitative Limitierungen, von denen du ex post annimmst, sie wären relevant. Wir wissen lediglich, dass Bewusstsein ohne diese Limitierungen entstehen konnte, aber auch, dass es trotz anderer Limitierungen entstanden ist.

Ich bestreute das alles gar nicht. Ich bestreute aber, dass wir dadurch das Wesen des Bewusstseins erfassen können.

Zitat von Geku

Auf einer anderen, höheren Ebene werden, zu Routine werdende Inputs und Outputs ins Unterbewusstsein verschoben und vom Bewusstsein nicht mehr wahrgenommen. Erst Abweichung werden uns wieder bewusst. Das zeigt wie wichtig die Einflüsse der Umwelt auf unser Bewusstsein sind.

Alles richtig.

Das sind singuläre Beispiele für unbewusste und bewusste Prozesse, die jedoch nicht den Kern des Bewusstseins definieren oder vollumfänglich erfassen.

Stell' dir vor, du möchtest jemandem aus dem achtzehnten Jahrhundert das Wesen des Autos beschreiben. Du erklärst ihm alles über die Räder und Reifen, Sitze, das Lenkrad ... kommst aber nicht zur eigentlichen Essenz - dem Motor im Unterschied zu den Pferden. Er wird nie verstehen, was an einem Auto so besonders sein soll. Das ist das Problem bei deinen Beschreibungen. Alles wichtig und richtig, aber sicher nicht erschöpfend.

Stell' dir einen Roboter vor, der auf mehr sensorische Daten zurückgreifen kann als der Mensch, der bzgl. der motorischen Fähigkeiten deutlich überlegen ist, der diese Daten wesentlich schneller bearbeitet, der über ein gigantisches neuronales Netz mit vollständig freier Konfigurierbarkeit verfügt, das das Gehirn des Menschen deutlich übertrifft ... Hat er (oder entwickelt er zukünftig) Bewusstsein? Du weißt es nicht, weil du nicht weißt, was Bewusstsein im Kern wirklich ist und weil die Fragen der Sensorik u.a. dazu nichts beitragen.

Wenn du den Roboter fragst, wie er sein Bewusstsein definieren würde, antwortet er dir evtl., dass er sicher bzgl. bewusster Prozesse dem Menschen deutlich überlegen ist. Um seine Antwort für dich verständlich formulieren zu können, benötige er aber zunächst deine Definition und deine Erklärung deines Bewusstsein. Was antwortest du ihm?

[Geku]

Zitat von TomS

Genauso gut könnte ich sagen, der menschliche Organismus ist mit seinen Sensoren nicht in Lage, neue Informationen im Röntgenbereich abseits des bisherigen Spektrums zu erfassen.

Nur der Mensch hat sich ein Hilfsmittel geschaffen um Röntgen für ihn sichtbar (bewust) zu machen.
Es schafft aber keinen neuen Sinneseindruck.

Mit den Gedanken zu schweifen, lässt sich nicht mit einem starren, einfachen Algorithmus realisieren.

[TomS]

Zitat von Geku

Mit den Gedanken zu schweifen, lässt sich nicht mit einem starren, einfachen Algorithmus realisieren.

Woher weißt du das? Was genau unterscheidet „Gedanken schweifen lassen“ von „einen Algorithmus ausführen“? Welche Operationen führt eine intelligente, bewusste Entität auf einem gegebenen Input aus, zu der ein Algorithmus nicht fähig ist?

Ich finde deine Ausführungen ja interessant, ich will nur auf etwas anderes hinaus, nämlich nicht nur auf unbewiesene Meinungen (und seien sie noch so plausibel).