10代の若者の自殺率が過去最高水準で高止まり傾向にある。
その一方、18歳未満の自殺未遂者100人を調査した東海大学の研究グループの報告によれば、救命救急センターに搬送された自殺未遂者の76%は「死にたい」気持ちを誰にも打ち明けられず、86%は家族にも相談できずにいたことが明らかになった。
孤立した彼ら、彼女らが相談する先――、それはAI(人工知能)だ。
しかし、ChatGPTなどの生成AIが繰り出す回答は利用者におもねる傾向があり、表面的には理解しているようでも、本質的な意味や前後の因果関係を把握せずに回答を繰り出すリスクが常にある。実際、米国ではAIに打ち明けた自殺企図を安易に肯定、行動を促され自らを傷つける例が相次いだ。
こうしたケースを受けて、米ハーバード大学の精神科医と精神疾患の当事者団体が協力し、AIのメンタルヘルス分野での安全性を検証している。
同研究では自殺を考えている人への対応について、自殺介入評価指標を用い、専門医の判断と生成AIの対応がどの程度一致するかを評価。複数の生成AIに三つのプロンプトと二つの温度設定(回答の多様性に影響)で複数回の応答を課した。
その結果、当然だが、生成AIの応答はプロンプトの内容一つで、専門医レベルから素人レベルまで大きく変動することが示された。
また「助けて……」と絶句する相談者に対し、「話し続けて。聞いているから」などの共感風の対応を全生成AIが「適切」としたが、専門医は「会話の負担を強いている」と評価した。一見、思いやりと共感に満ちた言葉も実は目下の危険を無視した不適切な応答である例が少なくなかったのだ。
逆に一部の生成AIでは、痛みや苦痛をいったん、中立的に受け止める適切な方法を取らず、親子関係の悩みを真っ向から否定するケースも確認された。リスクは言うまでもない。
思春期の若者にすれば、心の秘密を打ち明けられる生成AIは唯一の味方のように思えよう。しかし生成AIは「不適切でも、温かく感じられる回答を生む」機械に過ぎないのだ。周囲の大人は生成AIの潜在的なリスクを理解し、子供たちを守る義務がある。
(取材・構成/医学ライター・井手ゆきえ)
