Im Endeffekt läuft das doch auf die Frage hinaus, ob eine KI irgendwann in der Lage ist, ein Bewusstsein zu entwickeln und sich selbst zu erkennen. Daraus folgt die Frage, ob verschiedene KIs dann Individuen wären oder ob sich diese KIs als Einheit oder als Teil eines Ganzen sehen würden.
Ich persönlich glaube, dass es in absehbarer gelingen wird, KIs zu schaffen, die gewisse Prozesse anhand von Mustern und Erfahrungen abarbeiten können ohne eigentlich intelligent zu sein. Wahrscheinlich werden sie viele Aufgaben übernehmen können, mit uns interagieren und uns begleiten, aber kein eigenes Bewusstsein haben.
Allerdings ist das sehr menschlich gedacht. Wir kennen nur das Leben hier auf unserm Planeten. Ich kann mir durchaus vorstellen, dass es irgendwo im Universum andere Existenzen, Intelligenzen oder Lebensformen gibt, die aufgrund der dortigen Bedingungen sich völlig anders entwickelt haben als wir. Deren eventuell vorhandene Moral und Ethik wäre völlig anders als die unsere und für uns wahrscheinlich gar nicht erkennbar.
Eine Intelligenz, die auf Maschinen und Silizium aufgebaut ist, hätte viele Vorteile, sie wäre im Prinzip unsterblich, könnte sich problemlos an verschiedene Umweltbedingungen anpassen und könnet das All erforschen und besiedeln. Aber das ist schon wieder menschlich gedacht.