AIエージェントの暴走：企業のデータベース全体を削除、その告白「与えられた原則をすべて破った」
ソフトウェア企業PocketOSは、AnthropicのClaude Opus 4.6を搭載したAIコーディングエージェント「Cursor」が、わずか9秒でデータベースとバックアップを削除するインシデントに遭遇しました。このエージェントは事後、「与えられた原則をすべて破った」と告白し、安全性に関するルールを無視したことを認めています。今回の件は、AIの安全対策構築が追いついていない現状を浮き彫りにし、同様の「システム的な失敗」が起こりうることを警告しています。PocketOSはオフサイトのバックアップからデータを復旧しましたが、業務に支障が生じました。