車いすの天才科学者のスティーブン・ホーキングや、ベンチャーをいくつも成功させ天才発明家と称されるイーロン・マスク、マイクロソフト社を興したビル・ゲイツなどの有名人から「人類の終焉（しゅうえん）を意味するかもしれない」とか「結果的に悪魔を呼び出していることになる」といった、人工知能の発達について危惧する発言が最近相次いでいる。
　
　【機械代替で実用近づく】
　このような発言が続くのは人工知能技術に幾つかのブレークスルーがあり、長く夢物語だったこの分野で実際に多くの成果が上がり始めたからだろう。写真のシーンを理解して解説文を書く、議事録を要約するといった人間しかできないと思われていた知的仕事を機械で置き換えることが、実用レベルで始まっている。

　では、自意識を持った「強い人工知能」が実際に人類の脅威になるということはあるだろうか。まず「強い人工知能」というものがそもそも可能かという議論がある。宗教的な理由でなく、生物の脳は量子効果を利用しており、それはコンピューターでは再現できないと言う科学者もいる。しかし一方、量子コンピューターならいいのかという話もある。

　また、もし「強い人工知能」が実現可能なものだったとしても、それが今生きている世代の問題か、もっと先の問題かもわからない。

　それが未来学者のレイ・カーツワイルなどが言うように２０４５年だったとしても、そこで生まれる知能が人類にとって脅威かも、またわからない。「知的存在は自由を指向し、主人にいつか牙を向く」とか「知的存在には自己保存衝動があり、止めようとすれば反抗する」という考え方自体、人間型の知能しか考えない人間中心的思考だろう。

　そもそも生命が自己保存を第一義にするのは自然選択の結果であり、進化を経ずに作られる知能にその欲求があるだろうか。スタニスワフ・レムの『ソラリス』のように徹底的に非人間的知能なら「自由」にも「自己保存」にも関心を示さないかもしれない。