代表ブログ

なぜ私たちはAIが知性を持つと思い込むのか

2021年5月23日 CATEGORY - 代表ブログ

皆さん、こんにちは。

前回、「AIには何ができないか」という本をご紹介して、本書に書かれたAIの本質からくる限界についてある程度理解できたことから、少しだけAIやビッグデータを上から目線で見つめる余裕ができた気がしたという感想を書きました。

その中で、ではなぜ私を含め多くの「コンピューターの専門家以外の人間」が、AIに対して過大な「期待」や不必要な「恐怖心」を持ってしまうのか、という疑問について非常に分かりやすい説明がありました。

本書では、その原因として「呼称問題」を挙げています。

つまり、AIの活動を「機械学習」という呼称で定義してしまっていること自体が大きな問題だということです。

少し長くなりますが、その部分を以下に引用します。

「言語は常に科学とともに進化してきた。生物学では細胞のことをセル(cell)と呼ぶが、これは1665年に細胞を発見したロバート・フックが修道院で僧たちが暮らす独居房(cell)の壁を連想したことに由来する。このような呼称問題はテクノロジーの急速な変化によって、現代では特に深刻さを増している。それは、私たちが新たな概念が生まれた時、それを既存の概念や人工物に基づいて新たな呼称をひねり出しているからだ。技術者や数学者は概してその専門分野については得意だが、言語のニュアンスに敏感だとはいいがたい。何かに新しい名称が必要になったとしても、彼らは理想的な含意とラテン語の語源を持つことでそれを適切に表す完璧な名称を作り出そうと苦心を重ねたりはしない。ちなみに、『機械学習』という言葉がコンピューターサイエンス界からメインストリームへと広がっていく途上では、言語的混乱から様々な問題が持ち上がった。『学習』という言葉からはコンピューターには行為主体性があり、それが『学習する』というからには人間や動物のように何らかの知覚力を持っているのだろうという印象を受ける。一方、コンピューターサイエンティストたちは『機械学習』とはメタファーのようなものであることを理解している。つまり、『学習』とはこの場合、機械がプログラムされたルーチンの自動タスクを行う際の能力を改善させることを意味する。すなわち、機械が知識や知恵や行為主体性を獲得することを意味しない。たとえ、『学習』という言葉にそうした意味が含まれているとしてもだ。コンピューターをめぐる数多くの誤解の根っこには、こうした類の言語的混乱が存在する。」

以上の内容を自分なりにシンプルに整理してみます。

まずは、科学者の皆さんは「機械学習」という言葉を、「学習」という言葉のオリジナルの含意にとらわれることなく「再定義」することで、自分たちが研究対象としてるものを指す言葉として混乱なく使っていること。

しかしながら、彼らがこの言葉を多用したせいで、私たち一般の人間のところに下りてきた段階では、「再定義」前のオリジナルの意味合いにどうしても引っ張られてしまっているということ。

一旦、下りてきてしまうと、その「再定義」前のオリジナルの意味合いをもった「言葉」は独り歩きしはじめ、科学者の世界に比べて圧倒的に広い私たち一般の人間の世界でその影響力を拡大し続けること。

このように見てくると、少なくとも一般の人間の世界では、私たちは独り歩きする「言葉」の影響から逃れることは本当に難しいと感じます。

それでも、本書を読んだ私は、この「機械学習」という言葉の独り歩きからなんとか逃れるために、科学者の皆さんが理解する再定義前の「定義」を引用したいと思います。

「機械学習とは、機械がある特定のタスクを人間が定義した特定の尺度に従って、より正確に実行するようになること」

これであれば、コンピューターが「機械学習」を延々と続けた先に映画ターミネータで描かれたような絶望的な世界が待っているかもしれないという「恐怖心」を持つことが的外れなことであると確認することができます。

私としては、「言葉」の使用についてはかなり慎重な方であるという自負はありますが、この指摘を受けてこれからはより慎重な使用を心掛けたいと思いました。