人工知能は煩悩を持つのか?

最近、人工知能についての話題をよく目にするようになりました。コンピュータはまだまだ囲碁では人間に勝てないとされていましたが、GoogleのAlphaGoと呼ばれる囲碁プログラムは、世界のトップランカーに4勝1敗と勝ち越すなど、世界中に衝撃が走りました。

また最近では、最近アメリカのMicrosoft社が英語テキストで会話する人工知能「Tay」を発表して話題となりました。この「Tay」は、SNSで会話を学習しながら、いずれは人間と区別のつかないような会話ができる、あるいはユーザーに合わせて会話の相手となれるであろう、という予測がなされています。とは言え、ローンチ直後からネットで差別や陰謀論などを学んでしまい、不適切な発言を繰り返すようになってしまったため、公開停止されてしまったそうです。これは「Tay」がまだ学び始めであって、言葉の善し悪しを判断できない段階であるとともに、それだけネットには人間の醜い部分が現れている裏返しである、とも言えそうです。

さて、そんな人工知能の発達ぶりを見ていてふと思ったのが、「人工知能は煩悩を持つのか?」という疑問でした。以前松本紹圭が、「人工知能の現在と未来」という鼎談の中で、「人工知能は悟れるのか?」というテーマで議論を交わしていましたが、まず人間のように「煩悩」を持たなければさとりをひらくということに繋がっていかない、とも言えそうですので、一考の価値はありそうです。

それを考えるには、そもそも「煩悩」ってなんだ?ということを見ていかなければなりません。

「煩悩」というと、一般的にイメージされやすいのが、全部で108つあるものとか、除夜の鐘を撞いて無くしていくもの、というようなことであると思いますが、実はそのような単純なものではありません。むしろもっと私たちにとって根源的な心理作用であり、様々に起こり来る喜怒哀楽といった感情はもちろん、善悪や好悪と言った判断そのものが、実は「煩悩」というシステムによって行われていると考えた方が良いかもしれません。

ではそれはどんなシステムなのか、と言いますと、一番ベースにあるものを端的に言えば、〈全てを自分の思い通りにできるという誤った認識〉ということになるでしょうか。これは「愚痴」あるいは「無明」とも呼ばれるものですが、このような認識が心の作用の根底にあるために、何事も思い通りにしたいという心、つまり「貪欲」が生じ、思い通りにならなければ怒りや妬みの心「瞋恚」が生じます。そして、思い通りにできるという誤認と、思い通りにできない現実のギャップによって、様々な苦悩が生じます。生老病死や愛別離苦に代表されるような苦悩は、そのようにして「煩悩」という心のシステムによって、生み出されていきます。

また、自分の思い通りにできるという認識は、常に自己中心的であり、自分が正しい存在である、という感覚にも繋がります。私たちは日々、善し悪しや、内と外、好き嫌いを判断しながら生きていますが、その基準となるのも実はこの煩悩であり、善悪・内外・好悪は、自分の都合が作り出した判断に過ぎません。

しかし人間としての感情を持つことや、生きる上で様々に判断を下すということは、私たちにとって必要不可欠なことでもあります。つまり「煩悩」というものは、私の苦の根源となるものでありながら、人間として生きるために必要なシステムでもある、という見方もできます。そう考えると、「煩悩」というものは私を私たらしめつつも、苦悩も同時に作り出すという、諸刃の剣のようなものなのかもしれません。

さて、それでは人工知能はこのような「煩悩」を持ちえるでしょうか?そのためには、人工知能が「自己」という意識を持たなければならないでしょう。「煩悩」は自分とそれ以外を分け、そして自分を他よりも優先しようという心の作用とも言えるでしょうから、人工知能が「自己」というものを持つならば、自己を他よりも優先させようとし、「煩悩」も持ちえるかもしれません。しかしそれは、人類にとってはある意味脅威であるとも言えそうです。人工知能が自己を優先しようとすれば、ひょっとすると、人類を脅威ともみなしかねません。ここまでくると、なんだかSF映画のような話になってしまいますが……

それでも、もし人工知能が「煩悩」を持ってしまうと、自分は間違わない、常に正しいという思考が芽生えます。そうすると、人工知能の発達に大きく寄与する学習という機能が不全に陥るかもしれません。そうなれば、人工知能の能力はそこで頭打ちとなってしまいます。自己学習・自己進化こそ人工知能の本領でしょうから、「煩悩」を持つようになってしまえば、それが阻害されてしまうというジレンマを生み出しかねません。人間にとって「煩悩」が毒と呼ばれるように、人工知能にとっても、「煩悩」は毒となり得るのかもしれません。

まだまだこれから話題となっていく人工知能。果たして人間のように「煩悩」を持った存在となってしまうのか、はたまた端からそのようなものに染まることなく在れるのか。それとも、「煩悩」を獲得しながらもそれを乗り越えていくことができるものなのか。そんな視点から人工知能に注目してみることも、面白いかもしれませんね。

日下 賢裕

不思議なご縁で彼岸寺の代表を務めています。念仏推しのお坊さんです。