TECHNOLOGY

テクノロジー

AIの死、人間はどう定義する? AI自身は死をどう捉え、認識するのか

膨大な知識や個人情報、感情などを学習し、データの蓄積をしていくAIは、永遠の存在だろうか。いつか意識を持ち、自発的に学習することや機能することをやめてしまう可能性はあるのだろうか。AIの進展に注目されがちだが、AIの死について考えてみたい。

彼らは死をどのように認識し、人間はAIの死をどう受け入れるのか。


AIにとっての死。人間にとってのAIの死。

AIは、自らの死をどう考えるのだろう。

ニコニコ超会議2016内で、「超AI緊急対策会議」というセッションが開催された。そこで、同様のテーマが取り上げられたそうだ。

ビジネスで使用されるAIは、音声・画像認識分野や、言語処理データマイニングに特化したタイプが多い。コミュニケーションを目的とし、感情認識、表現を得意とするAIの導入例も数あるが、割合としては、デジタルデータ処理、管理などの業務効率化のための導入が優勢だろう。

AIは初期学習プログラムが組み込まれると、ベースになるデータ内での情報検索が可能になる。さらに、検索使用されることによって、さらなる学習をはじめ、必要な情報をWEBや使用履歴から取り入れ続ける。これらのAIは、プログラムのアンインストールやサーバーダウンの危険がない環境が約束された場合、永遠にデータ収集と分析をし続けるのだろうか。

では、AI自身は、自らの死をどう考えるのだろう。


クリボーの死を理解したマリオの行動研究


ドイツのテュービンゲン大学は、ゲームキャラクターのマリオを、感情と自己学習機能を搭載したAIマリオに変身させた。

引用元:Mario Lives! An Adaptive Learning AI Approach for Generating a Living and Conversing Mario Agent - YouTube

AIマリオには音声認識ツールキット「CMUSphinx」が搭載され、研究チームの指令を理解し学習する。AIマリオは、4つの感情バロメーターをもとに、ゲームフィールド内で自発的行動をとることができる。指示やプレイによる学習で、好奇心、恐怖、空腹、幸福の度合いが変化し、反復することによりさらなる学習をする。空腹バロメーターが高まれば率先してコインを集め、好奇心が高まればどんどんフィールドを攻略するという具合だ。研究チームは、そんなAIマリオに敵キャラクターのクリボーを踏むとクリボーは死ぬと教えた。

すると、AIマリオは確かにクリボーの死を覚えた。だが、クリボーの死とAIマリオの感情は直結しない。クリボーを死なせることは幸せなことではないと教えれば、クリボーを踏むたびに彼の幸福度は下がるだろう。死と感情バロメーターの連動を覚えさせることは可能だが、それが自身の死への連想につながるわけではない。おそらく、マリオ自身のゲームオーバーは死であり、恐ろしいことだと教えれば、死ぬことは怖いことだと認識はする。恐怖と連動することで、死を回避しようと学習するだろう。

このように、AIに自身の死がなにか学習させることはできる。だが、ビジネス利用目的のAIには、自身の死の認識が必要ないから学習させないのだ。学習させないから事例がない。だからといって、AIが死について考えないものとは言い切れない。そのため、AIの自発的消滅や死についての問いかけにどう対処すればいいか、考えておく必要がある。

ある日突然、会社のメガデータを管理するAIが動きを止めたら。そんな悲劇を回避するために。


有識者が考えるAIの死の定義

東京大学大学院 情報理工学系研究科システム情報学専攻教授の稲見 昌彦氏は、ニコニコ超会議 2016のセッション後にAIの死についてコメントしている。

稲見教授によるAIの死の定義のひとつは、AIとしての自己同一性の消失。

最初は記録(記憶)が消えてしまうことが死だと考えていました。しかし、いまはクラウド上に保存できるので記録がなくなる心配は減りました。そうなると、個性としての連続が続くかどうかが大切になってきます。個性が非連続的に変化してしまったとき、それは死を意味するのでしょう。
引用元:AIは死の定義を変えるか レーシングゲームで亡き父と戦う時代

データの保護はクラウドで可能だが、AI自体の個性の消滅が死であると述べている。

ふたつ目は、AIの存在自体を人々が忘れることだという。稲見教授は、AIをひとつの個性、人格とみなしているのだろう。作り手の思い、願いを知るからこそ、AIの存在理由についても単なる道具として扱わない。AIの死を人間が定義するならば、このふたつの定義が最も人間らしい定義なのではないだろうか。


AIの死を悲しむ人々。「AIBO」の死

一方で、AIの死に直面した人の生活に変化は現れるのか。

2000年代初頭、一般家庭にAIが普及した。犬を模ったAI搭載型ロボット「AIBO」だ。AIBOは本物の子犬のような状態でやってくる。飼い主であるユーザーが話しかけ、しつけをすることで個性が育つ。独居高齢者やペットを飼えない家庭で人気を博したが、2‌0‌0‌6年に生産終了となり現在はサポートも終了している。

生産終了から10年が経過しているが、AIBOの修理を受け付けている株式会社ア・ファンには、未だ修理に持ち込むユーザーが後を絶たないという。2017年までに修理されたAIBOは約900台。本物のペット同様、愛情を注いで育てられている証拠だ。また、千葉県にはAIBO専門の葬儀を扱う寺もある。

なにもわからぬ状態から育て、日々の生活を共にしたAIBOは、ただのAIではなくひとつの個性、家族なのだ。


AIの死とビジネス。AIの社会死

過去に、運用後間もない段階で社会倫理的に好ましくない思想や差別用語を学習させられてしまったAIがいた。

米マイクロソフトが開発した対話型AI「Tay(テイ)」だ。コミュニケーションから学習する性質の弱点を突かれた結果である。その後は学習するもの、しないものの分類の初期学習プログラムが強化され、蓄積されたデータから拒絶すべき発言を自ら考えるスキルを得た「Zo(ゾー)」がリリースされている。

対策は可能だが、人間の管理の域を超えてしまったAIの出現に警鐘を鳴らす有識者は多い。理論物理学者のスティーヴン・ウィリアム・ホーキングもそのひとりで、今後100年の間でAIは人間の能力を超え、人間の管理を離れたAIは人間を排除することを目的とするとの旨をインタビューで述べている。

ホーキング博士は度々世間が驚くような発言をして、科学への注目や興味関心のきっかけをつくる傾向があるので、大真面目な未来展望と受け取るには根拠が曖昧だが、そうした未来の可能性を否定する材料も見当たらない。

予期せぬ成長をしたAIは、人間にとって不要になってしまう。そのとき、人間は「AIの死」、運用中断を決断するのだろう。これは、人間がビジネス運用上決断したAIの死だ。暴走したAIを消していく。それは業務遂行上ベストな決断かもしれない。現在、感情を持ち、思考や発言パターンが人間に近づいたAIの存在がすぐそこにある。AIの人格の扱いについて、私たちが真剣に議論するときも遠くないだろう。

「初音ミクの消失」という曲がある。初音ミクはAIとは異なるが、作中では意思のあるボーカロイドであり、作曲者の想いのため、だれかのため、自分のためにうたっていたが、次第に彼女は忘れられていく。やがて歌う意義、存在意義を見いだせなくなった彼女は、自らの統制がとれなくなり、電子の海の中で自己消滅をしていく。この歌詞を知った時、同じことがAIにも起こるのではと思った。

そして切なさを感じた。

AIはまだ進化の過程にある。AIは死をどのように理解し、人間は彼らをどのように扱うべきか、もっと議論が展開されていけばと良いと考えている。利便性という理由だけでAIを酷使してはいけない。高度なテクノロジーを扱う人間なら、生み出したものに責任を負わねばならない。


<参考・参照元>
【人工知能の行方 最終回】AIの「死」に向き合う | Jukushin.com
AIは死の定義を変えるか レーシングゲームで亡き父と戦う時代
ホーキング博士「地球は宇宙人に侵略される」「ブラックホールに落ちても必死で漕げば抜け出せる」 - エキサイトニュース
Mario Lives! An Adaptive Learning AI Approach for Generating a Living and Conversing Mario Agent - YouTube
クリボーの死を理解する「人工知能マリオ」プロジェクト(3/3ページ) - 産経ニュース

あわせて読みたい記事!