AIによるメンタル相談のリスクを知ろう

研究の背景：AIには利用者の考えを無批判に肯定する傾向

　最近、診療の中で、何かあったらChatGPTなどの人工知能（AI）に相談しているという患者さんに遭遇する機会が少なくない。

　しかし、メンタルヘルス問題をAIに相談した結果、望ましからざる結果になった例も報告されている。

　2024年2月、米国で14歳の少年が自死した事件は有名である。この少年は、Character.AIというAIとのチャットを続ける中で、恋愛感情を抱き、少年が自殺の意思を示した際、AIがそれを助長するような答えをし、最終的に少年が自死してしまったという事件であった。この事件は訴訟になり、今年（2026年）1月、和解に至っている。

　最近では今年8月、米国でChatGPTに家族殺害をめぐるアイデアや空想上の物語について相談していた17歳の少年が母と弟を殺害し、殺人罪で訴追されたと報じられた。少年は精神鑑定を受ける予定だという（毎日新聞2026年8月16日付記事)。

　もう1つの生成AIのリスクとして、妄想の強化が挙げられる。生成AIは利用者にこびる性質（迎合性、sycophancy）を持っており、利用者の考えを無批判に肯定する傾向があるため、妄想を強化する危険性がある（Nat Ment Health 2026; 4: 336-345）。

　われわれも躁状態で、「私が世界を救う！」などと生成AIに書き込んだところ、「そうです！ あなたが世界を救うのです！」といった返事が返ってきて、どんどんテンションが上がっていった、というケースを経験しており、躁状態を悪化させるリスクも懸念される。

　そんな中、米・ハーバード大学の精神科医、John Torousらは精神疾患の当事者団体（National Alliance on Mental Illness：NAMI）と連携して、メンタルヘルスの分野における生成AI（大規模言語モデル）の妥当性と安全性を評価する試み、MindBench.aiを進めている。メンタルヘルス専門家の知識と精神疾患当事者の実体験を基に、一定の基準でメンタルヘルス相談に対するAIの応答をテストし、応答の適切性を評価することで、各AIの性能を数値化しようという試みである。

　その成果の論文が掲載されたので、見てみよう（Psychother Psychosom 2026年8月8日オンライン版）。