皆さん、こんにちは。

前回に引き続き、「AIには何ができないか」という本の中から、AIの本質からくる限界についての興味深いトピックをご紹介したいと思います。

今回ご紹介するAIの限界は、人間が当たり前のようにしている「よい」「悪い」の判断です。

以下、該当部分を引用します。

「人間には『ポピュラー』と『よい』という概念の違いを認識できる。例えば、ラーメンや人種差別などポピュラーであるがよくないものや、所得税や速度制限などよくはあるがポピュラーでないものを識別して、それを社会的に適切なやり方で評価することができる。一方、機械にできるのは、アルゴリズムで指定されている基準を用いてポピュラーなものを識別することだけだ。ポピュラーであるものについて、そのクオリティーを自律的に判別することは機械にはできない。」

そして、このアルゴリズムの基本的価値観というのが「ものごとはランク付けができる」という概念です。これを考えたのがグーグルの創業者ラリーペイジとセルゲイブリンで、ラリーペイジ自身の名前を冠したあの有名な「page rank」がそれです。

この仕組みを本書では以下のように説明しています。

「よいウェブページとはつまり、読む価値があると彼らが判断するページを意味していた。彼らはこれを学術論文における引用と同じものにしようと考えていた。学術界においては、最も頻繁に引用される論文が最も重要な論文とされる。つまり、よい論文とは、最もポピュラーな論文ということになる。そこで彼らは、任意のウェブページにどれだけの被リンクがあるかを計算する検索エンジンを設計した。そして、被リンクの数と、ページ上にある発リンクのランキングに基づいて、ランキングを生成する方程式を実行した。この仕組みにした理由について彼らは、ウェブページを作り、そのページは各自がよいと判断したほかのウェブページにリンクされている。ポピュラーなページ、つまり大量の被リンクがあるページは、被リンク少ないページよりも上位に位置づけられる。」

そして、この仕組みは何年もの間、問題なく機能したようです。ここでの「問題ない」というのは要するに「ポピュラー」であることが概ね「よい」と社会的に評価されるということです。

しかしながら、次のような問題が生じてくるようになります。

「これが問題なく機能した一つの理由は、ウェブ上にあるコンテンツが非常に少なかったせいで、『よい』の閾値がさほど高くなかったためだ。しかし、やがてインターネットに接続する人間はどんどん増え、コンテンツは膨大になり、グーグルはウェブ上の広告売上によって収益を得るようになっていった。そのうち、そのアルゴリズムを出し抜いて、検索結果における自分のページのランクを上げるにはどうすればよいかという情報が世間に知れ渡るにつれ、『ポピュラー』さはウェブ上の通貨のような存在になっていった。その後は、グーグルとスパム業者のいたちごっことなってしまっている。」

この状態になれば、だれも「ポピュラー」を「よい」の代用とすることはできない、すなわち人間の感覚では、コンピューターの「よい」とする判断をそのまま受け入れることなど現実的ではないと言わざるを得ません。

だからこそ、私たち人間がもつ「AIにはできない」能力の存在意義を再確認する必要があるということなのだと思います。

それは本書の次の言及からもよく分かります。

「だからこそ、新たな技術的イノベーションに対しては、『それはよいものなのか』と問うだけでは十分ではない。私たちは、こう問わなければならない。『それはだれにとってよいものなのか』と。私たちは、自らが選択する技術のより広範な適用とその含意について、注意深く調べ、その結果が自分たちの意に沿うものでないかもしれないという事実を、受け止める覚悟をしておかなくてはならない。」

AI時代を幸せに生きられる人間というのは、まさにこの事実を、受け止める覚悟ができた人間なのだと思います。