Wir sind zu dumm für künstliche Intelligenz

[ThomasM]

Vor Kurzem gerieten die High Tech Gründer Mark Zuckerberg und Elon Musk über ein interessantes Thema aneinander.
Die Frage, was passiert, wenn künstliche Intelligenz klüger wird als wir es sind.

Mark Zuckerberg ist der Optimist. Er sieht in solchen Maschinen großartige Helfer, die das Paradies auf Erden schaffen.
Elon Musk ist der Pessimist. Er sieht in solchen Maschinen die Spezies, die den Mensch verdrängen wird.

In einem Artikel im Spiegel kommentiert Christian Stöcker dafür, dass beide Unrecht haben.
Wir sind viel zu dumm, um dafür sorgen zu können, dass künstliche Intelligenz schlauer wird wie wir.
Alles, was wir schaffen können, ist eine künstliche Intelligenz, die dieselben Schwächen hat wie wir.
http://www.spiegel.de/wissenschaft/mens ... 60095.html

[Mimi]

Hallo,
Darüber hatten mein Sohn und ich am Wochenende auch diskutiert.....

ThomaM:
Wir sind viel zu dumm, um dafür sorgen zu können, dass künstliche Intelligenz schlauer wird wie wir.
Alles, was wir schaffen können, ist eine künstliche Intelligenz, die dieselben Schwächen hat wie wir.

Nur mal angenommen, das Szenario würde sich im ganzen ausgemalten Horror verwirklichen,
dann würde ich noch hinzufügen:
„Wir sind viel zu dumm, um zu bemerken, dass wir uns damit selbst abschaffen“.
LG

[Novas]

Hallo,
Darüber hatten mein Sohn und ich am Wochenende auch diskutiert.....

ThomaM:
Wir sind viel zu dumm, um dafür sorgen zu können, dass künstliche Intelligenz schlauer wird wie wir.
Alles, was wir schaffen können, ist eine künstliche Intelligenz, die dieselben Schwächen hat wie wir.

Nur mal angenommen, das Szenario würde sich im ganzen ausgemalten Horror verwirklichen,
dann würde ich noch hinzufügen:
„Wir sind viel zu dumm, um zu bemerken, dass wir uns damit selbst abschaffen“.
LG

Mit Fortschritten im Bereich der künstlichen Intelligenz (AI) könnte man Kampfroboter bauen, die - im Gegensatz zu menschlichen Soldaten - keine Empathie und kein Gewissen mehr haben und ideal für skrupellose Einsätze wären. Sie werden nie müde, brauchen keinen Urlaub und leiden nicht unter einer posttraumatischen Störung. Nicht bewusste Roboter machen mir sorgen (Sonny von Irobot ist sehr sympathisch ), sondern seelenlose Kampfmaschinen. Das ist ein sehr gutes Beispiel dafür, warum die materielle und spirituelle Entwicklung zusammen gehören.

[Pluto]

In einem Artikel im Spiegel kommentiert Christian Stöcker dafür, dass beide Unrecht haben.
Wir sind viel zu dumm, um dafür sorgen zu können, dass künstliche Intelligenz schlauer wird wie wir.
Alles, was wir schaffen können, ist eine künstliche Intelligenz, die dieselben Schwächen hat wie wir.
http://www.spiegel.de/wissenschaft/mens ... 60095.html

Christian Stöcker übersieht einen ganz wesentlichen Punkt:
Wenn einmal die Stufe der menschlichen Intelligenz erreicht ist (vielleicht schon vorher) wird sich die Entwicklung der Roboter explosionsartig fortsetzen, und sie werden immer intelligenter.
Noch ist es Utopie, aber ich zweifle ich nicht daran, dass Roboter, die klüger sind als wir, entstehen können. Sie werden sich selbst bauen und so vermehren.

[ThomasM]

Christian Stöcker übersieht einen ganz wesentlichen Punkt:
Wenn einmal die Stufe der menschlichen Intelligenz erreicht ist (vielleicht schon vorher) wird sich die Entwicklung der Roboter explosionsartig fortsetzen, und sie werden immer intelligenter.

Ich glaube nicht, dass Stöcker das übersieht, denn genau davon gehen Zuckerberg und Musk ja auch aus.
Die Frage ist: Wieso sollte das der Fall sein?

Tatsache ist: Beim Menschen ist das nicht passiert.
Und das hat den einfachen Grund, dass eine Zunahme an Intelligenz (ist sowieso schwer zu definieren, besser Zunahme an Gehirnzellen) eine exponentielle Zunahme der benötigten Energie bedeutet.
Es ist nicht einzusehen, dass das für Maschinen nicht gelten soll.
Damit ist einer Zunahme von Intelligenz bei Maschinen dieselbe Grenze gesetzt, wie bei Menschen.

Was möglich ist, ist, dass Maschinen ein gut definierbares und beschränktes Problem besser lösen lernen als Menschen (Beispiel AlphaGo). Grundvoraussetzung ist aber die Beschränktheit des Problems.
Das gilt aber nicht allgemein.

[Pluto]

Christian Stöcker übersieht einen ganz wesentlichen Punkt:
Wenn einmal die Stufe der menschlichen Intelligenz erreicht ist (vielleicht schon vorher) wird sich die Entwicklung der Roboter explosionsartig fortsetzen, und sie werden immer intelligenter.

Ich glaube nicht, dass Stöcker das übersieht, denn genau davon gehen Zuckerberg und Musk ja auch aus.
Die Frage ist: Wieso sollte das der Fall sein?

Einfache Antwort: Weil sie sehr viel schneller denken und arbeiten können.

Tatsache ist: Beim Menschen ist das nicht passiert.
Und das hat den einfachen Grund, dass eine Zunahme an Intelligenz (ist sowieso schwer zu definieren, besser Zunahme an Gehirnzellen) eine exponentielle Zunahme der benötigten Energie bedeutet.

Natürlich nicht. Der Mensch ist in seinem Denkvermögen durch die Geschwindigkeit elektrochemischer Prozesse begrenzt.

Es ist nicht einzusehen, dass das für Maschinen nicht gelten soll.
Damit ist einer Zunahme von Intelligenz bei Maschinen dieselbe Grenze gesetzt, wie bei Menschen.

Für Roboter gilt Lichtgeschwindigkeit als Grenzgeschwndiegkeit der Übermittlung von Signalen.

Das gilt aber nicht allgemein.

Warum nicht?
Forscher bei IBM sind dabei einen Computer zu bauen, der die Intelligenz einer Stubenfliege besitzen soll.
Ist doch schon ein erster Schritt.

[Ska'ara]

Der Mensch ist in seinem Denkvermögen durch die Geschwindigkeit elektrochemischer Prozesse begrenzt.

Schnelligkeit ist dann Intelligenz? Wir sind vielleicht deshalb so langsam, weil wir komplexer denken können. Eine KI wird dies in absehbarer Zeit nicht können, falls überhaupt. Je komplexer Denkvorgänge sind, desto mehr Wissen müsste er mitschleppen. Zapft er dieses Wissen nur an wie im Internet, kann man dies nicht mit Intelligenz gleichstellen. Er wäre so ähnlich wie ein Borg (in diesem Fall zwar nur Cyborg, aber ein kybernetisch aufgewerteter Bioorganismus) mit kollektivem Bewusstsein.

Forscher bei IBM sind dabei einen Computer zu bauen, der die Intelligenz einer Stubenfliege besitzen soll.
Ist doch schon ein erster Schritt.

Summ ... summ
Die werden dann immer größer ...

[ThomasM]

Für Roboter gilt Lichtgeschwindigkeit als Grenzgeschwndiegkeit der Übermittlung von Signalen.

Ich sehe, du hast auch von IT wenig Ahnung.
Die Grundschnelligkeit von Operationen ist nicht relevant, wenn es um komplexe Berechnungen geht. So ist das Gehirn einem PC massiv überlegen, weil es sehr gut in Parallelisieren ist. Und um Erfolg in KI zu haben, ist Parallelisierung essentiell.

Aber es ist trotzdem nicht einzusehen, warum Schnelligkeit ein Argument dafür ist, dass die Intelligenz von Maschinen exponentiell zunehmen wird. Ich verweise nochmals auf die Energiegrenze. Diese und nicht die Geschwindigkeit der Denkoperationen hat den Zuwachs beim Menschen begrenzt.

Dafür gibt es auch eine einfach physikalische Abschätzung.
Geht man davon aus, dass ein Gehirn (Mensch oder Roboter) aus Einzelelementen wie z.B. Neuronen aufgebaut ist und höhere Intelligenz eine höhere Anzahl davon benötigt und dass die Fähigkeit, die Elemente miteinander zu vernetzen wesentlich ist (alles Fakten der Hirnforschung), dann bedeutet eine höhere Anzahl von Einzelelementen eine exponentiell zunehmende Anzahl von Verbindungen, und damit eine exponentiell zunehmenden Energiebedarf.

Schon heute müssen PCs Spezialgekühlt werden, wenn sie hohe Leistungen fahren und verbrauchen ziemlich viel Strom. Die Zunahme der Intelligenz wird an diesen Grenzen scheitern.
Und die Grenze ist durch die Evolution bis ans Äußerste ausgereizt worden. Wie heißt es doch so schön: Die Evolution ist schlauer.

[Pluto]

Ich sehe, du hast auch von IT wenig Ahnung.

Im Gegenteil, es ist eines meiner Spezialgebiete.

Die Grundschnelligkeit von Operationen ist nicht relevant, wenn es um komplexe Berechnungen geht. So ist das Gehirn einem PC massiv überlegen, weil es sehr gut in Parallelisieren ist. Und um Erfolg in KI zu haben, ist Parallelisierung essentiell.

Das gilt nur so lange, bis man hochgradig parallele Computer bauen kann.

Aber es ist trotzdem nicht einzusehen, warum Schnelligkeit ein Argument dafür ist, dass die Intelligenz von Maschinen exponentiell zunehmen wird. Ich verweise nochmals auf die Energiegrenze. Diese und nicht die Geschwindigkeit der Denkoperationen hat den Zuwachs beim Menschen begrenzt.

Das ist eine Scheingrenze. Ist dir das Mooresche Gesetz ein Begriff? Immer wieder wurden Grenzen gesetzt, und diese immer wieder von der Praxis gebrochen. Ich erwähne es, weil genau das Problem der Energiegrenze damit angesprochen wird.

Geht man davon aus, dass ein Gehirn (Mensch oder Roboter) aus Einzelelementen wie z.B. Neuronen aufgebaut ist und höhere Intelligenz eine höhere Anzahl davon benötigt und dass die Fähigkeit, die Elemente miteinander zu vernetzen wesentlich ist (alles Fakten der Hirnforschung), dann bedeutet eine höhere Anzahl von Einzelelementen eine exponentiell zunehmende Anzahl von Verbindungen, und damit eine exponentiell zunehmenden Energiebedarf.

Heute werden Computer immer noch nach den Prinzipien gebaut, die noch zu Alan Turings Zeiten galten: diskrete Prozessor und Arbeitspeicher; dazwischen relativ langsame Verbindungen. Wenn man den Arbeitsspeicher mit dem Prozessor integriert, wird sich die Arbeitsgeschwindigkeit enorm erhöhen. Wenn dann in einem weiteren Schritt das Parallel-Problem gelöst ist, wird sich die Leistungsfähigkeit nochmal massiv steigern lassen.

Schon heute müssen PCs Spezialgekühlt werden, wenn sie hohe Leistungen fahren und verbrauchen ziemlich viel Strom. Die Zunahme der Intelligenz wird an diesen Grenzen scheitern.

Glaube ich nicht. Man wird Wege finden, um diese Energiegrenzen zu umgehen.
In den 90'ern dachte man 1 MHz sei etwa die Grenze. Heute taktet man mit dem Fünffachen.

Und die Grenze ist durch die Evolution bis ans Äußerste ausgereizt worden. Wie heißt es doch so schön: Die Evolution ist schlauer.

Das Problem bleibt: Die neuronale Verarbeitung wird durch die Geschwindigkeit von elektrochemischen Prozessen begrenzt.

[ThomasM]

Heute werden Computer immer noch nach den Prinzipien gebaut, die noch zu Alan Turings Zeiten galten: diskrete Prozessor und Arbeitspeicher; dazwischen relativ langsame Verbindungen. Wenn man den Arbeitsspeicher mit dem Prozessor integriert, wird sich die Arbeitsgeschwindigkeit enorm erhöhen. Wenn dann in einem weiteren Schritt das Parallel-Problem gelöst ist, wird sich die Leistungsfähigkeit nochmal massiv steigern lassen.

Dir sollte aufgefallen sein, dass die weitere Gültigkeit des Moorschen Gesetzes nicht mehr mit den Methoden der Vergangenheit erreicht wird. Das war bisher eine zunehmende Miniaturisierung, bis die Größe der Schaltelemente auf atomarer Ebene angekommen ist (was beim Gehirn bereits der Fall ist).
Das geschieht seit etwa 5 Jahren nicht mehr, da es zwar weitere Miniaturisierungstechniken gibt, diese aber zu fehleranfällig und zu teuer sind, um sie im Massenmarkt einzusetzen. Stattdessen setzt man zunehmend auf Mehrkern Prozessoren, also Parallelisierung. Und Spezialisierung, z.B. durch Grafikkarten, auch etwas, was im Gehirn bereits verwirklicht ist.
Daran sieht man, dass man sich an die Technik des Gehirns annähert, aber nicht, dass man sie überschreitet.

Das Problem bleibt: Die neuronale Verarbeitung wird durch die Geschwindigkeit von elektrochemischen Prozessen begrenzt.

Die höhere Geschwindigkeit der elektrischen Prozesse wird durch die exponentielle Zunahme der Komplexität sehr schnell wieder aufgefressen. Die Begründung hatte ich dir schon geliefert.
Hast du denn eine Begründung für deine Behauptung der exponentiellen Zunahme an Intelligenz?
Das ist doch reines Wunschdenken, die Projektion eines Gottesbildes in eine vom Menschen kontrollierte oder erschaffene Maschine. Wenn du unbedingt einen Gott willst, warum nimmst du nicht den, der schon da ist?