皆さん、こんにちは。

本日（2023年11月26日）の読売新聞朝刊の「編集手帳」の記事に非常に興味深くも何とも言えない寂しさも感じさせられる記事がありました。

そのアンビバレントな感情を正確にお伝えできるようすべてを引用します。

「人工知能（AI）が感情を持ったり、夢を見たりするのは、SFの話。そんな考えがぐらついた。幻覚を見ることがあるという。第一人者の岡野原大輔氏が著書で実体験を紹介している。ある予想が載った論文を探すようシステムに指示したところ、有名な論文名が挙げられ、『引用部分』も示された。だが、実際の論文には、そんな個所は存在しなかった。AIが実在しないものを見てきたかのように回答する現象は『ハルシネーショ（幻覚）』と呼ばれる。人間の記憶違いと似た事象と考えられるが、解決策はまだ見つかっていない。画面上にたちまち現れる文章は、理路整然としていて偽物に見えないから厄介だ。ブラジルでは、判例を探させた裁判官が、架空のものだとは気づかずに判決文に引用し、問題となった。AIのリスクを重く見るEUは厳しい法規制を議論している。対照的なのが日本で、政府は開発を優先し、規制に慎重だ。便利だが危険な新しい技術と、同向き合うか。虚構が蔓延した世界は、SFよりホラーだ。」

世の中がAIに対して抱く恐怖というのは、人間の能力をはるかにしのぐその「正確性」からくるものだと思います。

しかし、この記事ではその「正確性」は人間同様に怪しい部分があるというその恐怖をやわらげ、「AIよお前もそうなのか」という親近感さえ感じさせられるもののように私は感じてしまいました。

この記事では、「裁判官が架空のものだとは気づかずに判決文に引用し」とあり、そのことが問題となったと言っていますが、この裁判官はその判例を誰に探させようとも、その結果の正確性に関する最終的な責任を負うのが仕事であって、その探す仕事を人間がやろうがAIがやろうが幻覚によって惑わされる可能性があるのはどちらも同じであることから、この記事は問題のポイントを外しているような気がするのです。（天下の読売新聞にケチをつけて申し訳ございません。）

いやむしろ、AIは幻覚に惑わされることはあっても、惑わすことを目的に正解ではない答えを意図的に出すところまでまだ行っていないだけ、人間よりもずっとましです。

それよりも問題の本質はむしろ、タイトルに書いたように、その親近感はやはり人間特有（だと信じ切っていた）の「不完全性」をすらAIが内蔵しているという事実から生じているのであり、私たちの「人間性」が唯一無二の特徴なのではなく、それを司っているのが人間の場合は「（脳神経）細胞」で、AIの場合が「ビット」であるという違いだけという認識をせざるを得ないことにあるような気がするのです。

そのことから、「親近感」と「自己喪失感」の両方が入り混じるアンビバレントな感情と表現しました。

そうだとすると、今後どれだけAIが進化したとしても、「最終的な責任を負う」という仕事は最後の最後まで人間に残すことができるという希望も同時に見いだせたような気がします。