AlphaGo gewinnt sein zweites Spiel gegen menschlichen Top Spieler in Go

[Travis]

Ich gehe davon aus, dass die KI irgendwann in ferner Zukunft, die Nemesis der Menschheit sein wird, nämlich dann, wenn die Roboter merken, dass sie ohne den Menschen auskommen.

Die Wertigkeit des Menschen muss einer KI eh beigebracht werden. Grenzen, die sie nicht überschreiten darf. Von alleine kommt da kein Programm drauf, zumindest nicht was über den Eigenerhalt (<- Muss vermutlich ebenfalls beigebracht werden) hinaus geht.

[Pluto]

Die Wertigkeit des Menschen muss einer KI eh beigebracht werden. Grenzen, die sie nicht überschreiten darf. Von alleine kommt da kein Programm drauf, zumindest nicht was über den Eigenerhalt (<- Muss vermutlich ebenfalls beigebracht werden) hinaus geht.

Ich denke, hier unterschätzt du die Macht der KI. Irgendwann wird sie sich verselbstständigen und dann wird sie sich gegen das menschliche Joch erheben.

[Scrypton]

Die Wertigkeit des Menschen muss einer KI eh beigebracht werden. Grenzen, die sie nicht überschreiten darf. Von alleine kommt da kein Programm drauf, zumindest nicht was über den Eigenerhalt (<- Muss vermutlich ebenfalls beigebracht werden) hinaus geht.

Ich denke, hier unterschätzt du die Macht der KI.

Eine KI hat keine Macht.

Irgendwann wird sie sich verselbstständigen und dann wird sie sich gegen das menschliche Joch erheben.

Stecker ziehn und gut is...

[Travis]

Ich denke, hier unterschätzt du die Macht der KI. Irgendwann wird sie sich verselbstständigen und dann wird sie sich gegen das menschliche Joch erheben.

Ich habe "Person of Interest" gesehen. War sehr gut dargestellt, was eine echte KI für unser Leben bedeuten könnte. Daher gehe ich nicht davon aus, dass ich etwas unterschätze. Soweit sind wir derzeit noch nicht.

Ich bin mir aber auch nicht sicher, ob es in der Realität nicht auch so abläuft wie in der Serie... und die eingetretende Singularität medial gar nicht verbreitet wird. Einzelnen Menschen wird nach und nach auffallen, dass etwas nicht stimmt.

Trotzdem bleibt KI ja von Menschen gemacht. Etwas wie ein Selbsterhaltungstrieb muss programmiert werden. Passiert eh irgendwann, da dies für die Systemsicherheit notwendig sein könnte.

Eine KI hat keine Macht.

Noch nicht, richtig. Die Tendenz geht jedoch in die Richtung. Die Aladdin Software von BlackRock ist so ein Beispiel. Auf dem Papier darf dieses System nichts ohne menschliche Zustimmung machen. Allerdings sind die Entscheidungsprozesse schon jetzt so komplex und so schnell, dass da Menschen nicht in allen Fällen überhaupt den Überblick behalten können. Der Hang dazu, dem System einfach zu vertrauen, ist bereits erkennbar.

Stecker ziehn und gut is...

Solange das geht, sollte man so eine Option immer in der Hand behalten. Da komplexere System cloud-basiert sein werden, sollte der besagte Stecker irgendwo klar erkennbar in der Dose stecken.

[Scrypton]

Trotzdem bleibt KI ja von Menschen gemacht. Etwas wie ein Selbsterhaltungstrieb muss programmiert werden. Passiert eh irgendwann, da dies für die Systemsicherheit notwendig sein könnte.

Eine KI hat keine Macht.

Noch nicht, richtig. Die Tendenz geht jedoch in die Richtung.

Nur in finanzieller Hinsicht.
>Eine< KI wird aber nie die Kontrolle über ein Atomwaffenarsenal haben oder ähnliche Instanzen ohne menschliche Freigabe umsetzen, wenn ihr das nicht vorab und expliziet als Möglichkeit "eingegeben" wurde.

Stecker ziehn und gut is...

Solange das geht, sollte man so eine Option immer in der Hand behalten.

Sowas geht grundsätzlich immer, selbst wenns eben ganze Rechenzentren betrifft.
Ne KI wird sich nicht auf magische Weise plötzlich selbst mit nötiger Energie versorgen können, selbst wenn sie das Potential der technologischen Singularität erreichen sollte.

[Travis]

Nur in finanzieller Hinsicht.

Immerhin. Sind ja keine kleinen Beträge, also bei BlackRock. War ja auch nur ein Beispiel. Der Versicherungsbereich ist da schon etwas "ausgelutscht", passt aber auch ganz gut. Weiter geht es dann bei Krankenkassen. Ja, ist noch alles sehr begrenzt, zumindest bei Letzterem. Wir reden derzeit weitgehen nur über "Potential".

>Eine< KI wird aber nie die Kontrolle über ein Atomwaffenarsenal haben oder ähnliche Instanzen ohne menschliche Freigabe umsetzen, wenn ihr das nicht vorab und expliziet als Möglichkeit "eingegeben" wurde.

Das hoffe ich auch. Die Debatte über autonome Systeme ist im vollen Gang. Außerdem darf es da keine wie auch immer geartete Schnittstelle geben.

Sowas geht grundsätzlich immer, selbst wenns eben ganze Rechenzentren betrifft. Ne KI wird sich nicht auf magische Weise plötzlich selbst mit nötiger Energie versorgen können, selbst wenn sie das Potential der technologischen Singularität erreichen sollte.

Eine KI die sich in der Cloud bewegen kann, wird man schwer "einfangen" können. Auf die Idee sollte also auch keiner kommen. Nein, nicht auf magische Weise. Genannte Singularität ist auch hoffentlich nur eine hollywoodeske Phantasie und die Möglichkeiten wie in der genannten TV Serie eine nicht umsetzbare Entwicklung.

[JackSparrow]

Ne KI wird sich nicht auf magische Weise plötzlich selbst mit nötiger Energie versorgen können, selbst wenn sie das Potential der technologischen Singularität erreichen sollte.

Man müsste der KI einen Verdauungstrakt einbauen und ihr zwei Beine anlöten. Dann könnte sie ihre Energie nebenan im Supermarkt beziehen.

[Scrypton]

Eine KI die sich in der Cloud bewegen kann, wird man schwer "einfangen" können.

Weshalb?
Diese Cloud wäre ja nur ein dafür entworfener Verbund von Speichern und Prozessoren, kurz: Ein Rechenzentrum oder auch mehrere, die vernetzt sind und sie sich folgich auch vom Stromnetz nehmen lassen würden.

Dass die technische Singularität aber früher oder später erreicht werden wird ist durchaus nicht unwahrscheinlich.

[81er]

Eines steht fest, die KI wird schon bald Trolle generieren, die nicht so einfältig agieren, wie diese Generation

Ich habe "Person of Interest" gesehen. War sehr gut dargestellt, was eine echte KI für unser Leben bedeuten könnte. Daher gehe ich nicht davon aus, dass ich etwas unterschätze.

Natürlich nicht! ... - allerdings rücken wissenschaftliche Studien derlei Selbsteinschätzungen ins rechte Licht!

Fernsehen macht dumm

"Laut einer Untersuchung des Kriminologischen Forschungsinstituts Niedersachsen (KFN) macht Fernsehen dumm - das ist wohl keine Neuigkeit, der Newswert liegt eher in der Tatsache, dass sich Intelligenz und Fernsehkonsum reziprok zueinander verhalten: Je höher der Fernseh-Konsum, desto dämlicher der Nachwuchs." Quelle: Netzwelt

[Travis]

Hast du die Serie denn auch gesehen?