『アルゴリズムはどれほど人を支配しているのか』を読んだ感想

■本の情報　
＜作者＞デイヴィッド・サンプター
＜発行日＞ 2019年4月 (株式会社光文社)

■概要　ネタバレを含みます。緑文字は私の意見、補足になります。
近年AIの発達に伴い、AIに個人情報を全て握られ管理される世の中になるのではないか、AIが人類によって脅威になるのではないかと懸念する声が広がっている。しかし筆者の見解としては、現在はまだ過度に恐れるものではないという。確かにフェイスブックやアマゾン等はたくさんの情報を蓄えて、個人の趣向や性格を高い精度で識別できるようなレベルになっていたり、世の中に起きている出来事を正しく伝える様なことを実現できているかのように見えるが、一人の人間の全てを理解したとは言える状態にはなく、また誤った情報や偏った情報を真実かの様に流してしまう場合がある。

現時点のAIは、特定の作業のみを得意とする特化型AIが中心となっており、人間の知性のように特定の用途に限定せず自律的に考え行動する汎用AIの実現には至っておらず、実現の兆候すらほとんど見られないという。仮に一つのコンピュータにいくつもの種類の特化型AIを実装したとしても、それは汎用AIにはなりません。それは自律的に考える事ができないからです。例えば、将棋盤の前に人が座っていたとしても、AIはその人が今将棋をしたいと思い、盤面の前に座ったりはしませんし、時に相手の顔色を伺いながら手加減するということもできません。更に言うと、ルールはわからないが将棋にどうやったら勝てるかという事を覚えこませるという行為を人間がしてやらないと、AIは将棋を指すことはできません。つまり汎用AIの実現には人間社会のルールや規範をAIが理解するということが必要です。

現在のAIのコアな技術の一つに、脳の神経細胞であるニューロンを数理モデル化したニューラルネットワークというものがあり、これが脳の思考プロセスを再現していると思うかもしれないが、私自身もこれは全く脳には及ばないものであると考えている。ディープラーニングのようにネットワーク層をどんなに深くしたとしてもダメで、AI技術に何か更なるブレイクスルーが必要であると思う。

筆者は現在のAI技術はどのレベルの生物の知性に相当するかを述べているが、それは人間でも犬でもハチでも線虫でも粘菌でもなく、大腸菌と同程度の知性であるという。ただこの筆者の主張に対して、「こうした生物が何をしようとしているか分からないからで、仮にこうした線虫の客観的役割が分かれば、それに沿うようににニューラルネットワークを訓練できれば理論的にはそれを再現できるはずだ」という反論があり、筆者も一部それを認めている。

■感想
AIの技術的な話が多く含まれているので、AI技術にある程度知見のある人にとっては非常に面白く読むことのできる作品だと思います。アルゴリズムは思ったほどまだ世界を支配していないという主張は私も同意で、AIが人類の脅威(あらゆる仕事を奪われる、人類に牙をむき生存を脅かされる)となるには、まだまだ先のことであると私も思います。それは汎用AIを実現するためには、コンピュータ技術の発達だけではなく、脳のメカニズムを理解するという生物学/脳科学的技術の発達が不可欠で、脳のメカニズムがまるで分っていないというのが現状だからです。ただし特化型AIが得意とする分類や回帰問題について、人間を凌ぐ性能を持つようになることは疑う余地はないのだろうと思います。

本論からはそれますが、本書を読んでいるときに気になったフレーズがあります。

① 「私たちがよく使う言い回しを借りるなら、一流の学術誌に掲載されるためには、論文を"セクシーにする"必要がある。」
これは2019/9/22に、小泉進次郎環境大臣がニューヨークで開かれた環境関連の会合で「気候変動のような問題は、楽しくクールでセクシーに取り組むべきだ」と発言したことを思い出しました。英語圏の国でこのようにセクシーという言葉を使うことを知って少し感動しました。

② 「チンパンジーのダーツ投げの精度」
完全にランダムに選択するという例えとして有名な言葉ですが、英語圏の人はこの例えをよく使うなぁと思います。FACTFULNESSの作者も使っていました。日本人で使う人をあまり見たことがないです。