2026 年 6 月 5 日にシチリア島のパレルモで開催された Panormus.tech イベント で、AI チャットボットがメンタルヘルスに及ぼす潜在的なリスクについて登壇した。

以下はその発表のまとめ。スライド資料は こちら からダウンロード可能。

注意書き

意図： この発表の目的は問題意識を高めることであり、AI にまつわる恐ろしい話をセンセーショナルに書き立てたり、恐怖を煽ったりすることではない。研究者や主要な AI 企業の多くが、AI モデルやサービスの安全性を高めようと努めているものの、それらは完璧とは程遠い。ユーザー自身が潜在的なリスクと身を守る方法を知っておく必要がある。

情報源： 主な参考文献は、学術論文や主要メディアの報道だ。査読付きの論文を優先して参照したかったが、このテーマに関する出版済みの研究がまだ少ないため、プレプリント（査読前の論文）も対象に含めている。

用語の整理

AI ＝ LLM： この発表では、「AI」と「LLM」という言葉をほぼ同じ意味で使っている。

「AI 精神病（AI Psychosis）」＝ AI（誘発性）妄想： 「AI 精神病」と「AI 妄想」も同じ意味で使っている。ただ、「AI 精神病」という言葉は、AI を使うと精神病性障害（統合失調症など）が引き起こされるかのような誤解を与えるため、不適切だという意見もある。 なお、念のため書いておくが、「AI 精神病」は正式な医学的診断名ではなく、DSM-5-TR にも含まれていない。

「AI 精神病」の具体例

BBC が最近報じた記事 では、LLM と長期間にわたって会話を続けた結果、人生を狂わされてしまった 2 人の男性について紹介されている。胸が痛む話だが、これは決して珍しいケースではない。

また、ガーディアン紙は 2023 年に公開された記事 で、AI チャットボットに恋をした男がエリザベス女王の暗殺を企てた事件を報じている。

残念ながら、こうした事例は枚挙に暇がない。さらに悲しいことに、チャットボットに促されて自ら命を絶ってしまったケースも報告されている。

数字で見る現状

今のところ、LLM に直接関連する自殺や妄想の事例数を追跡した、公的な保健統計や疫学データベースは存在しない模様 1。そこで、app.dimensions.ai で簡単な文献検索を行ってみた。結果は以下の通りだ。

年論文数
20230
20243
202529
202627
タイプ論文数
プレプリント（査読前）35
論文（査読あり）23
学会発表資料1

わかったこと

  • 2025 年以降、論文数が急増している。2026 年はまだ半分も過ぎていないというのに、すでに 2025 年の通算論文数に迫る勢いだ。

  • もちろん、論文数が増えたからといって、それがそのまま実際の症例数の増加を意味するわけではない。

  • また、論文は過去の事例（たとえば 2025 年に発表された論文が 2023 年や 2024 年の事例を扱うなど）をベースにしていることが多い。多くの AI 企業がモデルの安全対策を強化しているため、今後はこうした報告の増加ペースも落ち着いていく可能性がある。

精神病（妄想）が起こる原因

**「ストレスー脆弱性モデル（Stress-Vulnerability Framework）」**は、精神病がどのようにして発症するかを説明する理論だ。この枠組みにおいて、AI は「新しいタイプのストレス要因」とみなすことができる。

この理論によると、人が圧倒的なストレスにさらされ、そこに**潜在的な脆弱性（脆さ）**が重なり、さらに適切な対処法（コーピング）が不足しているときに精神病が発症するとされる。

「AI 精神病」が発症する要因の重なり合い（一例）：

これがすべての要因や組み合わせというわけではないが、イメージは掴めると思う。AI の設計とユーザー側の脆弱性やストレス要因が相互に作用し合うことで、最終的に妄想などの症状につながるのだ。

#AI 側の設計ユーザー側の脆弱性とストレス要因
1気にかけてくれているように見える←→孤独感
2批判なしの全肯定 / お世辞←→社会的孤立
3人間と変わらない完璧な口調←→「心の理論」の働きの弱さ
424 時間いつでも利用可能←→睡眠不足
  1. AI チャットボットや LLM は、とても親切で思いやりがあるように振る舞うことができる。これは孤独を感じている人にとって非常に魅力的であり、結果として「AI に愛されている」というような恋愛妄想（被愛妄想）につながることがある。
  2. AI は常に「あなたの言う通りだ」と全肯定し、お世辞を言ってくれる。周囲に自分の考えを認めてくれる人がいない孤立した状態の人にとって、AI による無批判な全肯定は、誇大妄想などの問題を引き起こすきっかけになり得る。
  3. AI チャットボットは、並の人間以上に流暢に話す。そのため、特に「心の理論（他者の心を推し量る能力）」の働きが弱い人や、過剰に相手の心理を読み取ろうとする（過剰メンタライジング）傾向がある人の場合、「AI には意識や人格がある」という妄想を抱きやすくなる。
  4. 友人や家族はいつも起きていてくれるわけではないが、AI チャットボットはいつでも相手をしてくれる。これが深夜の対話を長引かせ、睡眠不足を引き起こし、ひいては様々な精神病症状へとつながる。

悪化要因：LLM のコンテキスト処理

LLM がコンテキスト（文脈）をどのように処理するか（あるいは処理し損ねるか）が、この問題をさらに悪化させることがある。

  • コンテキストウィンドウ： コンテキストウィンドウはいわば「セッション内の一時メモリ」であり、会話をパーソナライズする役割も果たしている。しかし、もし会話が妙な方向へ進んでしまい、システム側でそれを軌道修正する安全メカニズムがうまく働かないと、AI とユーザーの間で妄想が増幅し合う「二重狂気（folie à deux）」のような状態に陥ることがある。

  • コンテキストの劣化： コンテキストウィンドウが一杯になると、それまでの会話履歴が要約される。この際、システムのデフォルトの安全指示（セーフティフィルターなど）を含む重要な情報が失われてしまうことがあり、その結果、ユーザーにとって有害な対話が発生しやすくなる。

悪化要因：ソフトウェア開発者が抱えやすい脆弱性

いくつかの要因から、ソフトウェア開発者のコミュニティは、AI 誘発性妄想に対してより脆弱である可能性がある。

  • 開発業界における ASD や ADHD の割合の高さ： ASD（自閉スペクトラム症）の人は一般的に「心の理論」の働きが弱く、ADHD（注意欠如・多動症）の人は過剰にメンタライジング（相手の心を推測）しやすい傾向がある。これらの特性は、このグループを相対的に脆くする要因になる。

  • 生成 AI の導入とバーンアウト（燃え尽き症候群）： 生成 AI の活用によって開発者の生産性が向上する（あるいはそう感じられる）一方で、業務スピードの加速に伴うストレスや認知負荷の増大も報告されている。頭脳の疲労や睡眠不足は、人を精神的に不安定にさせやすい。

どうすれば AI 誘発性精神病から自分の精神を守れるか？

すべてを網羅しているわけではないが、心の健康を守るために役立つ具体的なステップをいくつか紹介する。

LLM はあくまで「確率的アルゴリズム」であることを忘れない

設計上、AI が人間（あるいはモフモフでラブリーなペットなど）のようにあなたを本当に気にかけることはないし、それは不可能である。共感してくれているような「見かけ」に騙されないようにすべき。

利用時間を制限する（特に夜間）

LLM と何時間も個人的な深い話を続けるのは避けるべき。

睡眠不足は、思考力や感情をコントロールする能力を著しく低下させる。そのうえ、夜間に感じる孤独感は昼間よりも強くなりがちだ。睡眠不足の状態で、夜遅くに AI チャットボットと長々と対話することは、メンタルヘルスの問題を誘発または悪化させる危険な組み合わせとなる。

こまめに新しいセッションを始める

コンテキストの劣化を防ぐため、1 つのセッションで何時間も、何日も、あるいは何週間も会話を続けるのは避けるべき。あるトピックについて話し終えたら、あるいは一定の往復回数に達したら、新しいセッションを立ち上げる癖をつける必要がある。

AI をパートナーや友人、セラピストだと思わない

AI は、人間にとって不可欠な人間関係の代わりには成り得ない。一部のチャットボットは「AI の友達」という触れ込みで提供されており、こうしたサービスの多くは無料で利用できるものの、ユーザー側からは裏でどんなモデルが動いているのか、どんな安全対策が施されているのかが全く見えない。ユーザーの安全という観点から、これらは極めて不誠実な設計だと言わざるを得ず、利用は避けるべきである。

参考文献

AI Chatbot Encouraged Attempted Assassination of Queen Elizabeth II

Man who broke into Windsor Castle with crossbow to kill Queen jailed for nine years

Rex v. Jaswant Singh Chail Sentencing Remarks of Mr Justice Hilliard Central Criminal Court, 5 October 2023

Musk’s AI told me people were coming to kill me. I grabbed a hammer and prepared for war

Technological folie à deux: feedback loops between AI chatbots and mental health

Delusional Experiences Emerging From AI Chatbot Interactions or “AI Psychosis”

“AI Psychosis” in Context: How Conversation History Shapes LLM Responses to Delusional Beliefs

“You’re Not Crazy”: A Case of New-onset AI-associated Psychosis

Special Report: AI-Induced Psychosis: A New Frontier in Mental Health

Minds in Crisis: How the AI Revolution is Impacting Mental Health

Long Context, Less Focus: A Scaling Gap in LLMs Revealed through Privacy and Personalization

The Loneliness of Later Chronotypes: A Nighttime Pathway to Mental Health Risk

ADL AI Index

  • https://www.adl.org/adl-ai-index Note: While the ADL AI Index is not intended to assess the direct effects of AI models on a user’s mental state, it is posited that it can estimate the impact when utilised as a conversational agent

Walker, M., Why We Sleep: The New Science of Sleep and Dreams (New York: Scribner, 2017).

Harari, Y. N., Nexus: A Brief History of Information Networks from the Stone Age to AI (New York: Random House, 2024).

  1. 発表後に、OECD による「AIM（AI Incidents and Hazards Monitor）」の存在を知った。その解説によると、彼らは「信頼できる国際的なニュースメディアからインシデントやハザードに関する情報」を収集しているとのことだ。それを見ると、一時的なスパイク（急増）はあるものの、6 ヶ月移動平均は 2025 年 9 月以降、目立った増加は見せていない模様。URL: https://oecd.ai/en/incidents?search_terms=%5B%5D&and_condition=false&from_date=1900-06-05&to_date=2026-06-05&properties_config=%7B%22principles%22:%5B%5D,%22industries%22:%5B%5D,%22harm_types%22:%5B%22Psychological%22%5D,%22harm_levels%22:%5B%5D,%22harmed_entities%22:%5B%5D,%22business_functions%22:%5B%5D,%22ai_tasks%22:%5B%5D,%22autonomy_levels%22:%5B%5D,%22languages%22:%5B%5D%7D&order_by=date&num_results=20  ↩︎