テスラモーターズCEOのイーロン・マスク氏、アップル共同創業者のスティーブ・ウォズニアック氏、理論物理学者のスティーブン・ホーキング博士のほか、1000人を超す人工知能（AI）・ロボットの専門家や企業関係者らが、AIによる自律型兵器の開発禁止を訴える公開書簡に署名した。米国の非営利団体「命の未来研究所（Future of Life Institute = FLI）」が主宰したもので、25日から31日までブエノスアイレスで開催中の国際人工知能会議で28日に発表された。

　この公開書簡では、「法律上はともかく実質的な意味で、AI技術による兵器の配備があと数十年ではなく、何年かで可能なところまで来ている。だが、その代償も大きい。自律型兵器は火薬、核兵器に次ぐ第３の戦争革命と呼ばれてきた」とし、「人間が干渉することなく目標を選択し、交戦する」自律的なAI兵器の開発に反対している。

　さらに、「もし軍事大国がAI兵器開発を推進していけば、世界の兵器競争は実質的に避けられない。そして技術的な軌道の行き着く先は明らかだ。自律的兵器は明日のカラシニコフ銃になるだろう」とし、「核兵器とは違ってAI兵器は高価で入手しにくい原材料を必要としない。そのため、すべての軍事大国にとって安く量産でき、どこにでも存在するようになる」と強く警告している。

　ただ、署名した研究者らはAI研究そのものに反対しているのではない。「ほとんどのAI研究者はAI兵器を作ることに興味はなく、ほかの人たちに自分たちの分野を汚されたくない。AIに対して潜在的に大きな社会的反発を生むことは、AIによる将来の社会的利益を損なうことになる」とし、AIの”平和利用”を強調する。

　AIが注目され、社会や産業のさまざまな場面で使われるようになる中、AIの研究開発に力を入れながら、軍事利用を明確に禁止している会社もある。グーグルはその代表格で、AIが専門のピーター・ノーヴィグ研究所長と、グーグルが買収したAIベンチャー、英ディープマインドのデミス・ハサビス創業者兼CEOも公開書簡に署名している。

　FLIはAIを筆頭に人類が直面するリスクを緩和し、よりよい未来を作り出すための調査研究や活動が目的の民間非営利団体。マサチューセッツ工科大学（MIT）のマックス・テグマーク教授（宇宙物理学）やスカイプ共同創業者のヤーン・タリン氏らが2014年3月に創設し、イーロン・マスクがAIのリスク研究を目的に多額の資金援助を行っている。

　アドバイザリーボードにはイーロン・マスク、ホーキング博士ほか、著名な人工知能学者であるスチュワート・ラッセル、ノーベル物理学賞受賞者のソール・パールムッター（天体物理学）とフランク・ウィルチェック（理論物理学）、分子遺伝学者のジョージ・チャーチ、俳優のモーガン・フリーマンらも名を連ねている。