Interessante Internetseiten

[Marco Polo]

Zitat von Bernhard

Ich denke Elon Musk (und Stephen Hawking) geht es eher um eine Extrapolation des bereits verwirklichten schleichenden Kontrollverlustes gegenüber der KI.

Genau. Richtig interessant wird es imho ohnehin erst dann, wenn die KI die Stufe der menschlichen Intelligenz erreicht. Man muss sich das vorstellen:

In meinetwegen 50-100 Jahren, möglicherweise sogar noch eher, haben wir Assistenzsysteme von menschlicher Intelligenz, deren Intelligenz sich alle 2-3 Jahre verdoppelt.

Sorry, aber wer will da seriös voraussagen, ob sich das zu keinem Problem für die Menschheit entwickeln kann?

Angenommen, wir stellen irgendwelche Direktiven auf, nach denen sich die KI künftig orientieren soll. Wer garantiert, dass sich eine KI, die der unseren irgendwann meilenweit überlegen ist, auch an diese Vorgaben hält und kein Eigenleben entwickelt?

[Bernhard]

Zitat von Marco Polo

Wer garantiert, dass sich eine KI, die der unseren irgendwann meilenweit überlegen ist, auch an diese Vorgaben hält und kein Eigenleben entwickelt?

Diesen Punkt haben wir eigentlich schon lange hinter uns gelassen. Jedes neuronale Netz hat ein charakteristisches Eigenleben, das man etwas überspitzt als Erfahrung bezeichnen könnte. Diese "Erfahrung" ist nicht statisch und entwickelt sich mit der Zeit gemäß von außen vorgebbaren Kriterien.

Und da ist es nun schon etwas gruselig, was neulich bei Facebook passiert ist, als zwei unabhängige Netze unerwartet damit begonnen haben halb verschlüsselte Sätze auszutauschen. Das zeigt, welches enorme prinzipielle Potenzial die KI hat.

Ich bin allerdings auch immer noch optimistisch genug, um daran zu glauben, dass man dieses Potenzial sinnvoll nutzen kann.

[Marco Polo]

Zitat von Bernhard

Ich bin allerdings auch immer noch optimistisch genug, um daran zu glauben, dass man dieses Potenzial sinnvoll nutzen kann.

In absehbarer Zeit schon. Aber mir gehts um die nähere bis fernere Zukunft, also 50 Jahre plus.

Jedes neuronale Netz hat ein charakteristisches Eigenleben...

Stimmt. Kürzlich hat man eine KI eine Geometrie (Verstrebung) für eine ultraleichte Trennwand (Flugzeugbau) berechnen/konstruieren lassen.

Was dabei heraus kam, war eine Gewichtseinsparung von nahezu 40 Prozent.

Problem: Die Softwareentwickler konnten die von der KI eigenständig entwickelten Algorithmen nicht mehr nachvollziehen. Und das zu dem jetzigen noch geradezu lächerlichen KI-Potential.

Da stellt sich unweigerlich die Frage: Wie soll das in 50 Jahren plus aussehen, wenn die KI so ziemlich alle Lebensbereiche durchdrungen hat und dann zudem wesentlich leistungsfähiger sein wird?

[Bernhard]

Zitat von Marco Polo

Da stellt sich unweigerlich die Frage: Wie soll das in 50 Jahren plus aussehen

Die Taktraten der CPUs stagnieren doch bereits aus physikalischen Gründen. Das Mooresche Gesetz kann also nur eingehalten werden, wenn es demnächst bahnbrechende Entwicklungen im Bereich des Quantencomputers geben wird. Ich persönlich bin in dieser Hinsicht eher pessimistisch eingestellt.

[Marco Polo]

Zitat von Bernhard

Die Taktraten der CPUs stagnieren doch bereits aus physikalischen Gründen. Das Mooresche Gesetz kann also nur eingehalten werden, wenn es demnächst bahnbrechende Entwicklungen im Bereich des Quantencomputers geben wird. Ich persönlich bin in dieser Hinsicht eher pessimistisch eingestellt.

Ja. Mit dem Mooreschen Gesetz dürfte es in spätestens 15-20 Jahren vorbei sein.

Vielleicht sind noch Strukturen bis 5 Nanometer möglich, aber das wars dann.

Aber vielleicht ist das ja auch gut so, denn dann wären meine Befürchtungen bezüglich der stetig voranschreitenden KI möglicherweise unbegründet.

[herri]

Zitat von Bernhard

Diesen Punkt haben wir eigentlich schon lange hinter uns gelassen. Jedes neuronale Netz hat ein charakteristisches Eigenleben, das man etwas überspitzt als Erfahrung bezeichnen könnte. Diese "Erfahrung" ist nicht statisch und entwickelt sich mit der Zeit gemäß von außen vorgebbaren Kriterien.
Und da ist es nun schon etwas gruselig, was neulich bei Facebook passiert ist, als book of ra spiel zwei unabhängige Netze unerwartet damit begonnen haben halb verschlüsselte Sätze auszutauschen. Das zeigt, welches enorme prinzipielle Potenzial die KI hat. Ich bin allerdings auch immer noch optimistisch genug, um daran zu glauben, dass man dieses Potenzial sinnvoll nutzen kann.

Ich bin auch sicher, dass an einem Tag man KI Potenzial benutzen kann. Es gibt immer in unserer Welt "was zur Zeit unmögliches", das sich in ein paar Dekaden verwirklicht

[Bernhard]

Zitat von herri

Ich bin auch sicher, dass an einem Tag man KI Potenzial benutzen kann.

Angeblich werden neuronale Netze heute schon in Frischwasserstationen eingesetzt, also auch kommerziell genutzt.

Eine Eskalation und echte Probleme für die Menschheit kann ich mir nur in Verbindung mit einer sehr weit entwickelten Raumfahrt a la Kampfstern Galaktica vorstellen, die nach aktuellem Kenntnisstand technisch aber nicht machbar ist.

[sirius]

Bei meinem nerdigen Herumstreifen im Netz bin ich auf folgende Seite gestossen

www.urknall-weltall-leben.de

Hier werden interessante Infos zusammen gefasst

https://urknall-weltall-leben.de/tutorials.html

Wer Josef Gassner "Live" erleben moechte koennte einen seiner Vortraege besuchen

https://josef-gassner.de/veranstaltungen