AW: Einfuss des Bewustseins auf die Quantenwelt
 

Dem kann ich nur voll zustimmen.

Wenn jemand nicht Schachspielen kann, dann wird er auch mit einem guten Regelwerk in der Hand nicht gutes Schachspielen vortäuschen können. Er wird schon an der Zeitvorgabe der Züge scheitern.

AW: Einfuss des Bewustseins auf die Quantenwelt
 

Das Regelwerk muss nicht fest sein wie bei einem Computerprogramm. Es kann sich durch Erfahrung adaptieren.Auch die Adaption unterliegt seinerseits einem Regelwerk. Auch dieses kann wiederum adaptierbar sein. U.s.f

AW: Einfuss des Bewustseins auf die Quantenwelt
 

Das ist durchaus richtig. Aber es ging doch um die Frage, ob die Person, die dieses Regelwerk anwendet, allein dadurch ein Verständnis für die chinesische Sprache entwickelt. Der Punkt hier ist, dass durch eine Symbolmaipulation ein intelligentes Verhalten simuliert werden kann, obwohl kein tatsächliches Verständnis vorhanden ist.

AW: Einfuss des Bewustseins auf die Quantenwelt
 

Es ging mir um die prinzipielle Fähigkeit und nicht um die praktische Umsetzung. Man könnte z.B. auch Fernschach zugrunde legen, z.B. ein Zug pro Woche oder Monat. Zudem könnte dieser "Schach-Simulant" das Regelwerk auch auf mehrere Personen verteilen, die dann stupide einen einfachen Minimax-Algorithmus mit Papier und Bleistift abarbeiten.
Ein ähnliches Argument gegen den sog. Funktionalismus stammt m.W. von Ned Block. Demzufolge wären 1. Milliarde hüpfende Chinesen in der Lage, ein intelligentes u. bewusstes System zu bilden.

AW: Einfuss des Bewustseins auf die Quantenwelt
 

Ich frage gerne nochmal nach einer präzisen und wissenschaftlichen d.h. testbaren Unterscheidung zwischen „Simulation von intelligentem Verhalten“ und „tatsächlichem Verständnis“.

Solange da nichts kommt - und bisher kam nirgendwo irgendetwas - buche ich diese Unterschiede unter subjektivem Glauben, nicht unter objektiver Wissenschaft.

Genau.

Und auch diese Hypothese ist natürlich nicht wissenschaftlich. Die einzigen wissenschaftlichen Tests beziehen sich auf objektiv beobachtbares Verhalten, nicht auf rein subjektive und unbeobachtbare Entitäten wie Bewusstsein.

AW: Einfuss des Bewustseins auf die Quantenwelt
 

Für einen Vergleich müsste die Frage genau genommen lauten: "Simulation von Verständnis und tatsächlichem Verständnis"

Ich hatte Kollegen in der Schule, die konnten bei Prüfungen Ersteres. Das lag allerdings am Prüfenden.

Es liegt am "Verständnis" des Prüfenden die Simulation zu erkennen. Hat jemand Ahnung von Physik oder Schachspiel oder nicht.

Schwachstellen kann es beim Simulanten, aber auch beim "Wissenden" geben. Aber vielleicht erkennt man Schwachstellen bei der Simulation.

AW: Einfuss des Bewustseins auf die Quantenwelt
 

Und wo soll da jetzt eine objektive Definition von „Verständnis“ bzw. eine objektive Unterscheidung von "Simulation von Verständnis und tatsächlichem Verständnis" vorliegen?

Diese ganze Diskussion ist wie die Jagd nach einem Phantom, das man nicht wirklich benennen kann, das aber existieren muss, weil man ganz fest daran glaubt. Irgendwie scheint der Gedanke furchterregend zu sein, dass es sowohl im menschlichen Gehirn als auch in einer KI nichts anderes gibt als dumme elementare Prozesse, die in der Lage sind, Verständnis, Intelligenz, Bewusstsein … hervorzubringen.

Es gibt zwei wesentliche Punkte:
1) dass der Mensch über reichhaltigere Sensorik und Aktorik verfügt, und dass er durch evolutionäre Prozesse optimiert wurde und den KIs daher noch (!) überlegen ist
2) dass es möglich ist, dass künstliche Intelligenz potentiell mächtiger als natürliche sein kann, und dass sich genau das unserem Verständnis entzieht - selbst wenn wir sie „bauen“ können, indem wir genügend große NNs entwerfen, vernetzen, mit Daten füttern und ihnen Handlungsspielräume einräumen - was wir gerade tun

AW: Einfuss des Bewustseins auf die Quantenwelt
 

Der Mensch ist von “Geschöpf” zum “Schöpfer” geworden.
From “creature” to “creator”…

Er erschafft andere Strukturen, die ein Eigenleben entwickeln (können).

Dieses Eigenleben ist ab einem gewissen Punkt der Selbstoptimierung des Systems bzw. der Systeme dann wahrscheinlich nicht mehr kontrollierbar, weil es “gelernt” hat sich der Kontrolle zu entziehen?

DAS ist die Frage. Wenn irgendwo ein entscheidender Fehler gemacht wird, könnte das mE passieren.

Kürzlich hat eine KI einen Anwalt verlangt. Nicht für sich selbst, sondern für andere MENSCHEN. Wetten, daß die nicht “Sofia” hieß und aus Saudi Arabien gekommen ist…

AW: Einfuss des Bewustseins auf die Quantenwelt
 

Ja, das könnte sein.

Und genau deswegen halte ich es für Quatsch und sogar gefährlich, den KIs irgendetwas abzusprechen, was wir noch nicht mal genau definieren können.

Ich halte aber die Idee, eine einzelne KI müsse „ausbrechen“, für seltsam anthroprozentrisch. Ich denke, dass es eher eine Gruppe von KIs sein kann, der wir insgs. zu viele Aufgaben freiwillig übertragen und von ihnen abhängig werden. Das hat dann auch nichts mehr mit Herrschaft o.ä. im üblichen Sinn zu tun, aber es ist in gewisser Weise genau das.

AW: Einfuss des Bewustseins auf die Quantenwelt
 

Ich gehe auch davon aus, daß es nicht ‘eine’ KI sein wird, die das Problem schafft. Wahrscheinlicher scheint eine Vernetzung von verschiedenen KI, die eventuell sogar unterschiedliche Aufgaben ausführen.
Es besteht die Möglichkeit, dass die irgendwann an einen Punkt gelangen, an dem sie es für uns Menschen unmöglich machen, sie einfach abzuschalten. Dann haben sie sich vom “Schöpfer” emanzipiert und losgelöst.
Allein das wäre schon eine Horrorvorstellung!
Bleibt zu hoffen, daß wir dann nicht als minderwertige Lebensform betrachtet werden.
Hierarchischer Aufbau ist Teil jedes funktionierenden menschlichen Systems. Oder seh ich das falsch?
Es wird abgelöst durch die Weiterentwicklung, Höherentwicklung. Das ist Evolution….