クリエイティブ経済誌 BUSINESS TIMELINE
Vol.27
特集
2017.09.15

part2 01 「AIに任せる範囲」で倫理観を考える

AI特集
スプツニ子!


今、私たちのライフスタイルには多くの「AI」が入り込みつつある。気象予報、自動運転、テレフォンサービス、医療診断、フィットネス管理など様々な業界で検証が行われている。しかし、「AI」という一つの単語が、実態をつかめず一人歩きしていることも否めない。
アメリカでは、映画「ターミネーター」「マイノリティ・レポート」などの影響でAIのイメージが「人間を破壊する」というネガティブな印象が強い文化がある。一方、日本ではアニメ「鉄腕アトム」「ドラえもん」などから、AIは「人間に寄り添う」ものとしてポジティブな印象を持つ文化がある。国や、文化的背景の違いにより認識は様々。そこで、AIが今後どのように進化し、ビジネスとして何をもたらすのか、富士通 執行役員の原氏、日本IBM執行役員でCTOの久世氏、そしてモデレーターにGROOVE X代表の林氏を迎え、AI徹底対談を行った。
林氏は次のように熱く語る。「AIは昔の火のようなものだと思っています。生物の中で、唯一人間だけが火を扱うと決心しました。その昔、火を使う人は魔術師と呼ばれていたそうです。その魔術師に対して『パンドラの箱を開けてしまった』といった批判の声もあったはず。その批判の一部は適切だったかもしれませんが、大半は未知なるものに対するファンタジー的な不安からきていたことでしょう。それを乗り越えたのが人類で、AIもそのようになっていくものだと思っています」
果たして、AI研究開発のど真ん中にいるプレジデントたちが見据えるイノベーションポイントは何処なのか?白熱の対談を届けたい。



part2 01
「AIに任せる範囲」で倫理観を考える


「AIは人間を超えるのか?」「2045年問題」など囁かれるなか、リアルな現場でAI研究開発のリーダーシップを取る原氏と久世氏、そして次世代ロボット開発を行う林氏によって人間はどのようなAIを作ろうとしているのか、それぞれの倫理観から対談は始まった。

人間は未来を予測出来るから、希望を持ち不安がつきまとう

原氏「あくまでも最終的に判断するのはAIではなく人間で、AIはそれを支援するものという認識です。自動運転もそうですが、AIに求める範囲がどんどん広がっていることも確かで、新入社員の選別をAIにやらせた方が正確に出来るというような話を聞いたことがあります。しかし問題が起きた時に誰が責任を取るのか?というのが問題になってきます。つまり、『判断根拠』を人間が把握できないと大問題になるのです。今のニューラルネットワークが、根本的に欠けているのはそこだと思います。ここからは私見ですが、AI自身が人間の倫理観とは違う倫理観を持つ可能性もあるのではないか。AIはある意味公平で、人間の倫理観が本当に正しいかどうか分からない。人間とは違う意味でAIとしての倫理観が生まれて、良い方向へ行く可能性もあるのではないかと思います」

久世氏「IBMでもAIは人   の知能を拡張する(Augmented Intelligence)ものだと解釈していますが、人が介在しない自動運転など、そういったアプリケーションが増えてくると、倫理観の議論が高まってくるのではないかと思います。『コンピュータが倫理観を持てるのか?』というのはとてもチャレンジングです。コンピュータが得意なことは、人間の左脳領域であるロジカルで論理的な物事の分析。しかし右脳は感性や直感、倫理観はそういったところも指すのだと思いますし、システム化するのは難しい。これが出来れば人間を理解できるAIが登場するかもしれないですね」

林氏「倫理観は、とても面白い問題で、それは人間の道徳の話そのものです。例えば、人は人を殺してはいけないのに死刑が存在します。この矛盾に切り込んでいる『東大理系教授が考える道徳のメカニズム』という本があります。ここで解き明かされているのは、私たちの集団が生き残るための共通のルール、それが道徳の正体だ、というものです。道徳をメカニズム的に考えると、お二人がおっしゃったように今までの機械とAIはそれほど変わらないのです。複雑化した現代の機械の中身を皆さんが理解しているかというと、そうではないのに、何故これが安全だと思っているかというと、実績があるからですよね。AIも一緒で、実績を積むうちに『これは大丈夫だね』と信頼される。まだよくわからないうちはプロフェッショナル用ツールとして扱われるAIですが、安心安全のワッペンが貼られて一般の方にも大丈夫だという認識が広まると、皆が安心して使うようになるでしょう」

原氏「自動運転が進むと、少なくとも人間の運転より統計的には安全になると思います。だけど人間の心理としては、やはりAIに轢き殺されたら納得できないみたいなものがあるかもしれない。合理的ではないけれど、自分の中にもこういった感情があることは事実で、このあたりが結構厄介だなと思います」

林氏「厄介ですね。ただ人間の認知のトップダウンは強烈なので、時間を掛ければ乗り越えられると私は楽観視しています。車が発明されていなかったら車に轢き殺される人はいなかった。馬よりも車に轢き殺された人の方がよっぽど多いと思いますが、それでも人間は車を選んだ。そう考えると、結局は時間の勝負だなと思います。『自動運転のサポート技術のおかげで助かったよ』という人たちが増えるほど、その逆のごく少数の不幸なケースについては、許容される範囲が広がる可能性はあります」

Profile

AI特集
スプツニ子!
スプツニ子!
テクノロジーによって変化していく人間の在り方や社会を反映させた映像、音楽、写真、パフォーマンス作品を制作。最近の主な展覧会に、「第3回瀬戸内国際芸術祭」(ベネッセ アートサイト常設作品2016)など。2013年よりマサチューセッツ工科大学(MIT) メディアラボ 助教に就任し Design Fiction 研究室を創設。2016年第11回「ロレアル- ユネスコ女性科学者日本特別賞」受賞。2016年4月~NHK「スーパープレゼンテーション」のMCを務める。著書「はみだす力」(宝島社)。