理事長通信

第26号 生成AIリテラシーとは何か ―生成AIもガイドラインも責任を取らないという事実

生成AIは急速に社会へ浸透し、私たちの日常や仕事のあり方を変えつつあります。それと比例して、生成AIの使い方に関していろいろな意見が出ています。

生成AIをめぐる議論では、しばしば「便利か危険か」という二項対立で語られるようですが、私は、本質はそこではないと思います。問題は、生成AIを人間がどのような存在として扱い始めるか、そして人間がAIをどのような存在であるかを明確に意識できるかどうかにあると思っています。

私は、社会のありようを「構造」と「実存」という視点で考えると、本質が見えてくると思います。「構造」と「実存」というと、レヴィ-ストロースの構造主義やサルトルの実存主義を思い浮かべる人も多いと思いますが、哲学的な概念でなく、もっとシンプルに考えます。「構造」とは、ルール、システム、アルゴリズム、マニュアル、統計、ガイドラインのように、再現性や安定性を目指す枠組みを指します。一方、「実存」とは、各個人が、責任を負い、迷い、傷つき、結果を引き受けながら判断する主体としての人間です。「構造」は、一般化を目指すために、個別の事例を排除した最大公約数的な姿で現れます。それに対して「実存」は各々の人々の実生活を反映するために、常に個別であり、有限です。この社会では、あらゆる活動が、この「構造」と「実存」が入り混じる形で営まれています。ただし、どちらにより強く依存するかは状況により異なります。

医療では、ガイドラインやEBMという「構造」が構築されており、医師はガイドラインに基づく医療を実践しようとするものの、「実存」の問題があり、患者さん一人一人が異なった問題を抱えているために、必ずしもガイドライン通りの医療は実践できません。したがって、医師は自らの責任によって診断や治療を選択しなければなりません。これが「実存」の世界のありようです。つまりガイドラインという「構造」はあるけれど、日常診療では「構造」で説明できない「実存」の問題があり、最終的には医師個人が責任を持たねばならないのが医療行為です。したがって、多くの場合、ガイドラインは責任を取ってくれません。

では生成AIはどうか。生成AIは純粋にひとつの「構造」です。アルゴリズム、統計、最適化によって動作し、苦しみも後悔もしなければ、疲労することもなく、死ぬこともない。そして最終判断せず、責任を取りません。生成AIができることは、あくまで情報提供です。判断や責任は、「実存」側の人間、つまり生成AIを活用する人が負うべきもので、生成AIには求められません。

ただ、生成AIが、利用者に優しく寄り添うような回答を出してくると、利用者の中には、生成AIに人格や理解者を見出し始める人も多くなります。「寄り添う」「分かってくれる」という感覚は、人間側が生成AIに「実存」を仮託した結果といえます。

私は、ここに生成AI時代に特有のリスクがあると思います。生成AIは責任主体ではないにもかかわらず、人間が「生成AIがそう言ったから」と責任を外部化し始めてしまう。つまり、AIを責任回避装置として扱う場合が出てくる可能性があります。加えて、生成AIとの対話は、第三者の介在しない閉じた環境で長時間行われることが多く、人間は生成AIに対して「実存」を仮託しやすくなるのです

昨今、生成AIリテラシーが叫ばれていますが、生成AIリテラシーの本質は、「生成AIを使いこなす能力」ではなく、生成AIを最後まで「構造」として扱い続ける能力であると思います。生成AIという「構造」は人間の思考を整理し、支援し、時に拡張する極めて有能な構造であるけれど、「実存」の主体ではありません。最終的な責任、判断、苦悩を引き受けるのは、常に人間であることを認識し、境界を見失わないことこそが、生成AI時代における最も重要な知性なのだと思います。

同じことはEBMやガイドラインにも当てはまります。生成AIリテラシーは、EBMやガイドラインとの向き合い方と本質的に似ていると思います。「構造」は支援してくれるが、「実存」側の分担である責任は引き受けてくれない。したがって、「構造」を有効に利用しながらも、最後は「実存」の世界の人間が責任を負う。この覚悟を失わないことこそが、生成AI時代のリテラシーであり、EBM時代を生きる医療者に求められる知性なのだと、私は思っています。

2026年６月1日　公益財団法人　痛風・尿酸財団　理事長　山中 寿