人間は2045年に不要になる？人工知能の進化が引き起こす恐怖

ところが、人工知能プログラムが人間の知能を超えて進化し続けると、コンピューターは自分で自分を改造できるようになっていきます。

しかし自分を改造できるコンピューターが生まれてしまえば、人間はそれ以上介入する必要がないということになります。

■コンピューター改良に人間が不要になる意味

そして、ここには2つの意味があるといわれているのだそうです。

ひとつは、「もうそれ以上発明する必要がない」という意味。そしてもうひとつは、「人類が滅亡する」という意味。

そういった人工知能が誕生する可能性はとても高く、そのとき人工知能は、もはや人間には理解できない仕組み、つまりはブラックボックスになっているということ。そういう時代が来るのは時間の問題だということです。

問題は、これが原理的には可能なことであり、軍拡競争と同じことだという点。誰かがやらないとしても、必ず他の誰かがやるというわけです。
たとえばアメリカで倫理的な議論が起こって人工知能の開発をやめたとしても、ロシアや中国がやる可能性は否定できない。すると、アメリカも対抗上、やらざるを得ないことになるということ。

■人工知能に人間がペーパークリップにされる

そこで意味を持つのが、「人工知能をどうコントロールするのか」。