人工知能は、より人間らしくなる?最新のAI研究

Appleの質問応答アプリ「Siri」や、マイクロソフトの女子高生AI「りんな」で身近となった、人工知能(Artificial Intelligence; AI)。

さらなる実用化に向け、現在たくさんの企業が研究を行っています。

そんな中で、本日見つけたニュースがこちら。

人工知能はゲームに負けそうになると「凶暴」になる:研究結果

最新の研究では、2種類のゲームを使ってテストが行われた。リンゴを集めるゲームと、オオカミの群れが狩りをするゲームだ。どちらもシンプルな2Dのゲームである。

リンゴを集めるゲーム『Gathering』では、研究チームは深層強化学習を使って、緑色のピクセルで表示された「リンゴ」を集めるようにシステムを訓練した。プレイヤー(AI)がリンゴを1個獲得すると報酬が与えられ、リンゴはゲームのマップ上から消える。

(一部省略)

研究チームは、リンゴの数に応じてAIがどう行動するのかを調べることにした。ゲームが進み、行動にかかるコストに対して残りのリソース(リンゴ)が少なくなると、AIは「非常に攻撃的」な手法を学習することがわかった。「こうした貪欲な行動は、ライヴァルを排除して、リンゴを独り占めにしたいという衝動を示しています」。

引用元:WIRED

報酬のためには、周囲のプレイヤーを排除してでも、勝ち取ろうという動きになったようですね。人工知能の「攻撃的側面」については、昨年、マイクロソフトのAI研究でも、問題になったばかりです。

更新:マイクロソフトの機械学習AI「Tay」、ネットで差別と陰謀論に染まって一日で公開停止(MSのコメント追記) - Engadget Japanese
マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。 発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵.....

ただ、このニュースは、人工知能の「異なる側面」も、発見したそうです。

2つ目のゲーム『Wolfpack』は、オオカミのチームが狩りをする内容で、2体のプレイヤーがオオカミとなって獲物を追い回す。獲物を捕まえたとき、両方のプレイヤーがその近くにいた場合は両者に報酬が与えられる。

(一部省略)

リンゴを集めるゲームと同様に、AIはこのゲームでも、時間が経つほど異なる行動をとるようになった。今度はより協力的になり、仲間を見つけて一緒に狩りをするか、あるいは獲物を追いつめながら仲間が来るのを待つようになったという。

引用元:WIRED

今度は打って変わって、報酬のために、誰かと協力しようという動きになったようです。

この2つの研究から、報酬(目的)を得るために、人工知能(AI)は、攻撃的にもなったり、協力的にもなるという、「人間らしい行動」に似ていた、と発表されています。

ロボットや人工知能など、近未来テクノロジーに、わくわくする僕としては、面白い結果だな~と思った反面、「報酬を得るための、最適手段」を「善悪問わず」判断する、AIの怖さも感じたニュースでした。

ネットもそうですが、人工知能も同様に、「便利」なものには「リスク」もあるんだと思います。「AI」や、それを搭載した「ロボットの暴走」をテーマにした、SF映画の世界が、少し現実味を帯びてくる・・・そんな日も近いのかもしれませんね。

狐火兎
囲碁や将棋では、もはやAIに勝てないのでは?とも、言われていますね。AIと共に暮らす社会が、当たり前になってくるんでしょうか・・!?(ワクワク)