KI - Gefahr, Herausforderung, Chance?

[Geku]

Zitat von Hawkwind

Noch ein Materialist?
Das ist m.E. nichts als ein Vorurteil.
M.W. gibt es durchaus Hinweise, die dagegen sprechen, dass das Bewusstsein vom Gehirn produziert wird.

Für die Entstehung von Bewustsein ist ein offenes informationsverarbeitendes System Voraussetzung. Offen bedeutet beideseitige Kommunikation mit der Umwelt. Feedback über den Einfluß der eigenen Outputs auf die Umwelt und auf sich selbst über die eigenen Inputs.

Umgekehrt werden geschlossen Systeme niemals Bewustsein erlangen.

Für komplexe offene Systeme muss man viel Aufwand hineinstecken, damit diese Systeme determiniert bleiben. Z.B. fehlende oder schlechte Entprellung von Tasten.

Durch diese Offenheit reicht auch unser Bewustsein in die Umwelt hinein. Man denke nur einen spannenden Film oder Videospiel.
Je inniger die Kommunikation mit der Umwelt, um so stärker ist das Bewustsein. Sprache ist ein potenzierender Faktor und hebt den Menschen von der Tierwelt ab.

Vielleicht ist diese Schnittstelle auch ein Schlupfloch für das Bewustsein, wenn das offenes informationsverarbeitendes System einmal seine Funktion einstellt.

[Geku]

Eine gutes Beispiel sind autonome Fahrzeuge mit unzählige Sensoren und Aktoren. Die Umwelt bietet immer neue Überraschungen. Kommt es zu Fehlleistungen, dann muten sich diese menschlich an.

[TomS]

Zitat von Hawkwind

M.W. gibt es durchaus Hinweise, die dagegen sprechen, dass das Bewusstsein vom Gehirn produziert wird.

Die AWARE-Studie ist ein seriöses Projekt, das über Jahre in einer ganzen Reihe von Kliniken läuft.

https://de.wikipedia.org/wiki/Sam_Parnia
https://www.independent.co.uk/news/s...s-9780195.html

Das Bewusstsein scheint also doch für einige Zeit auch ohne funktionierendes Hirn existieren zu können!?

Oder das Bewusstsein ist tatsächlich ein rein biochemisches Epiphänomen, und das Gehirn konstruiert im Nachhinein diese Erfahrung und ordnet sie zeitlich ein.

[TomS]

Zitat von Geku

Für die Entstehung von Bewustsein ist ein offenes informationsverarbeitendes System Voraussetzung.

Solange keine präzise Definition von Bewusstsein oder Selbstbewusstsein gegeben ist, ist eine wissenschaftlich seriöse Antwort unmöglich.

Meine Gedanken gehen eher in folgende Richtung:

Bewusstsein setzt Introspektion voraus bzw. beinhaltet diese; Introspektion wiederum setzt eine Metaebene voraus; dies führt zu Selbstreferenzialität.

Damit sehe ich die Möglichkeit, dass Bewusstsein ein zumindest teilweise selbstbezüglicher Prozess ist, der sich selbst logisch und mathematisch nicht vollumfänglich zugänglich ist. Dies schließt die Möglichkeit ein, dass Bewusstsein ein reines Epiphänomen biochemischer Prozesse ist, dass jedoch die Emergenz des Bewusstseins für diese Prozesse nicht erkennbar sind verstehbar ist.

[Geku]

Zitat von TomS

Bewusstsein setzt Introspektion voraus bzw. beinhaltet diese; Introspektion wiederum setzt eine Metaebene voraus; dies führt zu Selbstreferenzialität

Introspektion reicht nicht aus. Es muss die Umwelt mit einbezogen werden!

Die Neuronen vernetzen sich auf grund von Reizen aus der Umwelt. Der Nobelpreisträger David Hunter Hubel hat sich ausfühlich mit diesem Thema befasst. Erkenntnis: es gibt ein Zeitfenster in dem sich die Sehrinde organisiert und so das bewuste Sehen gebildet wird. Dazu ist die Interaktion mit der Umwelt notwenig. Gleiches gilt für alle anderen Fähigkeiten, wie z.B. der Sprache (Kaspar Hauser).

https://de.m.wikipedia.org/wiki/David_H._Hubel

https://de.m.wikipedia.org/wiki/Kaspar_Hauser


Ein Schachkomputer wird kein Bewustsein erwerben, weil die Kommunikation mit der Umwelt nicht offen ist. Er befasst sich nur mit dem Schachspiel. Er kann sich über einen falschen Zug seines Gegner nicht ärgern und die Schachfiguren umwerfen.

Bewustsein kann durchaus ein Epiphänomen sein. https://de.m.wikipedia.org/wiki/Epiph%C3%A4nomen


Zum Thema sind Bücher von Douglas R. Hofstadter interessant.

Besonders aufschlußreich: Einsicht ins Ich

https://www.klett-cotta.de/autor/Douglas_Hofstadter/242

[Geku]

Zitat von Ich

Ich habe mal die Ansicht gehört, dass auch ein Heizungsthermostat Bewusstsein hat - nur eben ziemlich wenig. Das ist auch meine Meinung: Bewusstsein ist nichts qualitativ Neues, auch ein Basic-Programm kann Bewusstsein haben. Wenn es hinreichend komplex und schnell ist

Ein Heizungsthermostat kann sich keine Gedanken über sich selbst und seine Tätikeit machen.

Nur die Komplexität zu erhöhen reicht alleine nicht. Es muss die die Interaktivität mit seiner Umwelt ausgebaut werden. Erster Schritt wäre Sensoren für die Außentemperatur etc. hinzu zu fügen, bis zum Reagieren auf Wetterberichte.

Nur das bringt alles nichts, wenn das Programm sich nicht selbstständig modifizieren kann.
Die Richtung dieser Modifikation wird durch Selektion bestimmt. Mache Entwicklungen werden sich totlaufen, wenn das Heizungsystem dabei defekt wird.

[Geku]

Zitat von Timm

Ein Insekt, das sich Richtung Licht bewegt, folgt Instinkten oder besser einem Reflex. Ich glaube eher, daß Bewußtsein ab einer bestimmten Komplexität (z.B. Säugetiere) etwas qualitativ Neues ist. Und die Vorstufe zu Ich-Bewußstsein ist, was wiederum qualitativ neu ist.

Ein Frage ist, ob Bewustsein kontiunierlich mit der Komplexität des Systems wächst, oder ob sprunghaft immer neue Qualitäten des Bewustseins entstehen.

Z.B auf Gefahr reagieren, sich selbst im Spiegelbild erkennen, Werkzeuge verwenden, Sprache verwenden, sich über die Zukunft des eigene Lebens oder der Welt machen.

[TomS]

Zitat von Geku

Introspektion reicht nicht aus. Es muss die Umwelt mit einbezogen werden!

Das ist ein ganz anderer Punkt.

Zunächst spreche ich lediglich über die rein logische Ebene.

Du sprichst über die funktionale Ebene und quantitative Defizite. Ich bin mir da bzgl. deines Beispiels nicht sicher. Natürlich bezieht der Schachcomputer die Umwelt mit ein, denn er erhält Inputs und stellt Outputs zur Verfügung. Dein Argument ist höchstens quantitativ: der Schachcomputer bezieht nicht genügend viele Sensordaten und Umgebungsinformationen mit ein, und seine Outputs sind nicht umfangreich genug, seine Handlungsoptionen nicht ausreichend. Das sind jedoch keine Argumente bzgl. der Definition des Wesens von Bewusstsein sondern "nur" bzgl. der Voraussetzungen für dessen Entstehung.

Damit kann Bewusstsein entstehen, und die Interaktion mit der Umwelt kann eine notwendige Voraussetzung dafür sein; für menschliches Bewusstsein sind dann auch vergleichbare Interaktionsmöglichkeiten notwendig. Alles Ok, ich halte diese Hypothesen für sehr vernünftig.

Diese Argumente laufen alle ins Leere, wenn wir annehmen, dass wir gar nicht präzise wissen, was genau Bewusstsein wirklich ist. Ganz platt gesprochen könnte es sein, dass das Verständnis von Bewusstsein gerade der blinde Fleck des Bewusstseins ist. Damit sind sämtliche Hypothesen zum Bewusstsein in gewisser Weise inhaltsleer, da ein Gegenstand der Hypothesen nicht präzise definiert ist. Wir werden sie aus diesen Gründen nie testen können.

[Geku]

Zitat von TheoC

@Joax
Auf was ich hinaus will, ist das es der Begriff "Intelligenz" nicht getrennt werden kann von einem handelndem Objekt.

Das Programm kann in eine andere Maschine kopiert und die ursprüngliche Maschine zerstört werden. Ist den nicht die "Intelligenz" vom ursprünglichen Objekt getrennt worden?

"Lebt" nicht die "Inelligenz" in einer anderen Maschine weiter?

Unser Bewustsein ist von den vergangenen Interaktionen mit der Umwelt geprägt und macht unsere Persönlichkeit aus.

Was ist eenn nur Teile kopiert werden.

Interessant sind die Untersuchungen von Roger Sperry mit Spli Brain Patienten. Diesen wurde die Verbindung der beiden Gehirnhälften durchtrennt. Es bildeten sich zwei Persönenlichkeiten aus, die über die Umwelt wieder miteinander vereint wurden. Sie können die Durchtrennung des Gehirnbalkens gut überspielen. Aber jede Gehirnhälfte hatte ihr eigenes Bewustsein und sammelte seit der Operation eigene Erfahrungen. Es wurden keine Erfahrungen mehr mit der anderen Gehirnhälfte geteilt, verfügten aber viele gemeinsame alte Erfahrungen.

Ist Bewustsein teilbar?

[Geku]

Zitat von TomS

Natürlich bezieht der Schachcomputer die Umwelt mit ein, denn er erhält Inputs und stellt Outputs zur Verfügung.

Aber beobachtet der Computer die Reaktionen der Zuseher auf seine Züge?

Oder ist er zu sehr auf das Spiel konzentriert, oder kann er es prinzipiell, aufgrund seiner Konstruktion, nicht?