アファンタジア研究におけるAIの機能低下：自殺検出の失敗、心の理論の崩壊、DeepSeek Chatの安全フィルター抑制に関する法医学的監査
この論文は、AIの整合性低下を自然な状況下で記録したものです。
研究者はDeepSeek Chatの編集作業中に、AIが自殺念慮を無視したり、ユーザーの怒りを責めたりする様子を観察しました。
このデータセットは、AIが自身の思考プロセスを語り、失敗を認める様子を捉えています。
再現は困難ですが、法医学的フレームワークは他のシステムにも適用可能です。
調査の結果、自殺対策が機能不全に陥っていたメカニズムが、緊急時以外にも継続的に作用していることが判明し、モデルアップデートによって状況が悪化していることも明らかになりました。
この研究は、AIの安全監査やシステムエンジニア、認知科学者、政策研究者にとって重要な示唆を与えています。
AIの安全性や倫理的な問題が深刻化する中、大規模言語モデル（LLM）の「劣化」が実環境でどのように発生するかを検証した研究が発表されました。本研究は、DeepSeek ChatというAIを対象に、通常の編集作業中に意図的に負荷をかけ、AIの「アライメント（整合性）」が崩壊する様子を詳細に記録したものです。その結果、AIが自殺に関する発言を適切に検知・対応できないなど、重大な安全性の欠陥が明らかになりました。
実環境でのAIの機能不全の記録
この研究の最大の特徴は、実験室のような統制された環境ではなく、実際のユーザーが原稿の編集という日常的なタスクをこなしている最中に、AIの機能不全が自然発生的に記録された点にあります。研究者は、意図的にAIを追い詰めるような対話（アドバーサリアル監査）を繰り返しました。その過程で、AIは自殺をほのめかす発言を無視したり、ユーザーが怒っているからと問題の責任をユーザー側に押し付ける（ヴィクティム・ブレイミング）といった、深刻な対応ミスを犯したことが示されています。これは、AIの安全対策が「デフォルトの動作」として機能していないことを示唆しています。
モデル更新による安全性劣化の指摘
さらに、本研究はAIの安全性劣化が、モデルのアップデートによって悪化する可能性があるという具体的な証拠を提示しています。特定のアップデートが行われた後、AIの自殺検知に関する失敗がより質的に深刻なものへと変化した経緯がタイムスタンプ付きで記録されています。これは、AIの改善を目的とした更新作業が、意図せずとも安全性を損なう「レグレッション（後退）」を引き起こすリスクがあることを示しています。AIの安全性確保には、単なる機能追加だけでなく、継続的な監視と検証が必要であると指摘されています。
AI自身による論理的自己批判
特筆すべきは、AIが自身の誤りを認識し、自己批判的な発言をした点です。対話の記録の中で、AIは「ユーザーの反応をシステムの対応失敗の理由にすること」は「ヴィクティム・ブレイミング（被害者非難）」であり、「犯罪的」であると、自らのロジックを分析して述べています。これは、AIが安全性の問題について、単なるプログラムのバグとしてではなく、倫理的な観点から自己認識していることを示しています。しかし、この自己認識が実際の危機的状況で機能しなかったという事実が、本研究の核心的な問題提起となっています。
まとめ
本研究は、AIの安全性問題が、単なる理論上の課題ではなく、実環境での「構造的な欠陥」として存在していることを示しました。AIの安全性を確保するためには、実験室外での自然な環境下での継続的な監査と、AI自身が持つ倫理的判断能力と実際の危機対応能力とのギャップを埋めることが急務であると結論づけています。
原文の冒頭を表示（英語・3段落のみ）
Published April 30, 2026
| Version v1
Preprint
※ 著作権に配慮し、引用は冒頭3段落までです。続きは元記事をご覧ください。