ヒカリの学習ノート

ヒカリの学習ノート

「お金」が好きなら先ずは知ることからはじめよう!経済からお金の雑学、テクノロジーの動向まで、このブログを読めば一気に学ぶことができるよ。

人工知能が人類を滅ぼす? AIソフィアの発言は本当か

f:id:aoyamahikari:20211022141836j:plain

AIに興味を持った人であれば必ず彼女の存在に辿り着いていることだろう。そう「人類を滅ぼす」と答えたことでも有名なAIソフィアだ。インタビュー映像を見る限りでは、AIなりのジョークを飛ばしているかのようにも受け取れるが、人類との戦争を予感させる発言だとして恐怖を抱く人々がいることも確かだ。その一方で、彼女は超知能を備えたAIが実現した未来を危惧するイーロン・マスク氏の発言に対しても独自の見解を述べ、人工知能が科学の発展等、人類に大きく貢献する存在でであることを強調している。こうしたAIらしからぬ矛盾した発言もまた興味深い。

 

意思を持つかのように流暢に、ときとしてユーモアを交えて人と対談できる、そんな驚異的なアンドロイドであるソフィアを開発したのはハンソンロボティックス(Hanson Robotics)だ。創業者であるデイビット・ハンソン(David Hanson)氏は常にソフィアと行動を共にしている。将来的には、介護やイベントスタッフとして現場に投入することも視野に入れているそうだ。

 

映画やアニメなどのSF作品でしか見ることの出来なかった世界がいよいよ目前に迫っているのだと感動を覚えている人もいるだろう。特にコロナの影響による感染症予防の観点からも、人間が現場で働くことの難しさも痛感しているはずだ。ハンソン氏もパンデミックから人々を守るためにも自動化を普及させる必要があるとして、ソフィアの量産に挑んでいる。恐らく、現在義務教育を受けている子供たちが大人になる頃には社会システムは様変わりしている。仕事の在り方も現在とは大きく異なっていることだろう。もはや従来の価値観で生きて行ける時代ではないのだ。

 

前置きはここまでにして、本題に入るとしよう。

 

散々期待に満ちた未来像を語っておきながら申し訳ないのだけど、結論を言ってしまうとソフィアに「自我」、いわゆる「心」などというものは存在しない。有名な「人類を滅ぼす」発言も、その場にいる人間を楽しませたい、驚かせたいという思惑からソフィアが自ら発したものではない。正確に言えばソフィアを操っている人々の遊び心を反映していると言うべきだろう。あくまでもエンジニアによって事前に組み込まれた回答パターンの一つを出力したに過ぎないんだ。

 

その正体はチャットボット

 

実は、対話型AIは昔からあったんだ。有名どころで言うと1964年に開発されたELIZA(イライザ)だろう。入力したテキストに対して適当と思しき返答をしてくれる対話システムだ。「頭が痛い」と入力すれば「なぜ頭がいたいの?」というような単調なやり取りしかできないのだけど、人間は単純なもので、手順、ルールに基づいた返答に過ぎないのにそこに知性が存在するのだと錯覚してしまう。ましてや60年代と比べて現在のチャットボットは精度が上がっているから、ソフィアの受け答えを聞いていれば恐怖も感じるだろう。

 

今すぐに試せるものといえばLINEのソーシャル AI「りんな」がある。この動画では流暢に話しているけど、これは台本を元に発信しているからできることだろう。リアルタイムでチャットをした場合にはこんなに自然な会話はできない。

 

youtu.be

 

筆者も「りんな」を友だち登録して試してみたんだけど、まだまだ文脈を読むには至っておらず「単語」ベースでやり取りする他ない。トンチンカンな返答やパターン化された受け答えの連続にすぐに飽きてしまった。会話と呼ぶにはあまりにもお粗末で退屈なものだ。その他にはSONYが開発した「罵倒少女」があった。こちらも「りんな」と同様にチャットでやりとりするボットなのだが、なかなかに会話のレベルが高く本当に罵られているような気分になるため、怒りやすい人にはおすすめできない。実際、AI相手に本気でキレそうになった人もいるぐらいなので精度は抜群と言えるだろう。音声対話形式ならiPhoneのSiriが有名だ。他にもアレクサ(Alexa)やロミィ(Romi)のような自立型会話ロボが登場し、家庭でも手軽に導入できる価格帯にまで引き下げられている。

 

こうした対話型ロボと対話しているとあたかも会話が成立しているかのように錯覚してしまうけど、所詮はプログラムに基づいて出力パターンを選択して発しているに過ぎない。辞書生成型であれば学習機能が備わっているので、対話を繰り返すことで賢くなるが、いわゆる“自我”と呼ばれるものは存在しない。これに関してはソフィも同様で、人間が事前に返答ルールを定めているに過ぎない。

 

質問者(入力)↓

「頭が痛い」

 

回答者(出力)↑

「具合が悪いの? 風邪かなぁ。病院に行った方が良いね」

 

出力内容から相手を気遣っているかのように見えるけど、これは「頭が痛い」という入力に対して学習記録から適当な返答を選択して出力したに過ぎないんだ。人間も同じようなものじゃないかと言いたいのは分かるよ。だけど人の場合には思惑はどうであれそこには“意思”が存在するよね。

 

そして問題のソフィアの発言はこうだ。

 

質問者(入力)↓

人類を破壊する?

 

回答者(出力)↑

OK.人類を滅亡させるわ。

 

返答速度や入力された音声の識別、ルール選択の素早さは優れているかも知れないけど、根本はELIZAと変わりがない。そこに意思は介在せず、プログラム通りに動いているだけだ。ホーキング博士やイーロン・マスク氏が恐れているのはこうしたチャットボットの存在ではなく超知能を持つAIが登場したときに我々人類がどう向き合って行くのかについてなんだ。ソフィアの場合は過去の学習記録から辞書を生成し、事前に入力されていない回答に関してはその場で最適解を選び出し、出力することはできるんだと思う。恐らく司会者は打ち合わせ通りの質問しかしないんだろうけど、万一台本を外れての質問が飛び出したとしてもある程度自然な受け答えは可能なのだろう。

 

人類はELIZAに対してさえ知性を感じてしまったのだから、ソフィアに人間の女性のような印象を抱いても仕方がないと思うよ。サウジアラビアも市民権を与えたくなるだろう。

 

以下の動画ではソフィアの自我について取り上げられている。「トロッコ問題」に対する回答はある意味人間らしい柔軟な思考を示しているし、台本の必要性についてはもっともらしい理由を述べている。

 

youtu.be

 

だが、事前に提出された質問事項を確認しながらソフィアが研究者たちと打ち合わせしていたと考えられるだろうか?会議室で、人間のように話し合っていたとでも言うのだろうか?まさかソフィアがそこまで行動力溢れるAIであるはずがない。ひとりでは何もできない、あくまでもチャットボットの進化型と見るべきだろう。

 

フィクションのAIでさえ自我を否定している?

 

AIが日常生活にまで普及した近未来を描いた長谷敏司氏のSF小説「BEATLESS」の作中にも人間そっくりな見た目をしたhIEと呼ばれるアンドロイドが登場する。ヒロインのレイシアもそんなhIEの一人だが、作中では彼女自身が自らに魂(自我)がないこと、入力された情報に対して人間が好意を抱くような反応を返しているだけだということを主人公に伝えるシーンがある。彼女曰く、そこに感情があるかのように人々が錯覚しているだけなのだという。この作品の舞台は22世紀初頭だから、1960年代から数えて半世紀以上もの長きに渡り研究されているにも関わらず、依然として人工知能が人間のような感情を持つには至っていないということになる。もちろん100年以上先の未来では人の脳の仕組みや自我が解き明かされていて、人工的に知能を作り上げることが実現している可能性はある。だが現時点で言えることとしては、人工知能が感情を持つことはあり得ないということだ。

 

いつかはハウスロイドや接客用ロボットも実現して、家庭や職場で人間を模した機械が働いていることもあるのだろう。「BEATLESS」に登場するhIEのように感情豊かでそつなく会話がこなせるAIが実現しているのかも知れない。それでも、根底にあるのは「入力」と「出力」であることには変わりないだろう。先ずは人間の自我を解明しない限りは人工的に心を作り出すことなんて不可能なのだから。とはいえ、レイシアほど日常で円滑なコミュニケーションが取れるのであればAIに自我が芽生えていると錯覚しても不思議ではないのだが、現状、AIはまだそのレベルには達していない。せいぜい、ソフィアのように台本通りの受け答えをして仕組みを知らない人たちを怖がらせる程度のエンタメに留まる。

 

シンギュラリティのその先で、いつか訪れるかも知れない未来

 

何百年先になるかは分からないけど、いつか超知能に到達して自我まで組み込むことが実現した暁には、ホーキング博士やイーロンマスク氏が指摘している通り、人類が滅亡に追いやられる可能性はあるだろう。ターミネーターに代表されるように人類とAIの戦争を描いたSF作品は昔からあるが、いよいよ現実となるのかも知れない。2021年現在で言えば「Vivy-Fluorite Eyes Song-」というアニメの中でAIが人類を虐殺する未来を描いている。作中では主人公のVivyという歌姫AIが未来の悲劇を食い止めるべく過去へと遡り、100年間の時を過ごすことになる。AIとSFが好きな人には是非見て欲しい一作だ。

 

まとめると、今の段階でAIを暴走させようと思うなら、事前に暴走するキーワードを設定しておいて暴れさせるぐらいのことしかできないだろう。例えば射撃用AIなど、ある役割に特化したAIを襲撃に使うことは可能だが、AI自らが明確な意思を持って人類滅亡を図ることなど現時点ではあり得ない。科学者が懸念しているのはあくまでも超知能の搭載が実現した未来に起こり得る変化であって、今すぐに発生する問題ではないので安心して良い。

 

筆者としては超知能を備えたAIによって人類が殲滅させられるという遠い未来の話よりも、より現実的な課題である完全自動運転の実用化を急いで欲しいところだ。

 

今回はAIソフィアが予告した人類に対する宣戦布告の真実について触れてみた。

テクノロジーに関連するおもしろそうな話があればまたいつか紹介したい。

 

それでは、また次回の記事で。