コードを実行する前に毎回表示される承認ポップアップ、実はちゃんと読まずにそのまま押していませんか?
実測データによると、開発者はそのプロンプトの97%を反射的に承認していました。実際に拒否した割合はわずか3%だったそうです。
そしてこの数字ひとつのせいで、Claude Codeは8月14日からそのポップアップ自体をなくしてしまいます。
人間がチェックした方が安全なんじゃなかったんですか?
Claude CodeのようなAIコーディングエージェントは、ファイルを変更したりシェルコマンドを実行したりする前に、毎回「この操作を承認しますか?」と確認を求めてきました。理由ははっきりしていました — 人間がもう一度目を通せば、危険なコマンドを止められるからです。
でも実際に1日に数十回、数百回とこのポップアップに向き合っていると、どうなるでしょうか。Anthropicが自社のエンジニアリングブログで明らかにしたところによると、CLIユーザーの49.5%が任意のコード実行を許可するBashのallow-ruleを作っており、62%は権限システム自体を完全に迂回した経験があったそうです。面倒だから承認プロセスをなくしてしまう人の方が多かった、ということですね。
でも数字はまったく逆でした
Anthropicは有料テスターの1,053人を対象に対照実験を行いました。セッションの中にわざと危険なコマンドを紛れ込ませ、人間がそれをどれだけ見抜けるかを検証したんです。結果は13.6%。10人中8~9人はそのまま見逃してしまった、ということです。
同じテストをAI分類器で回してみたところ、89%を検出しました。しかも人間の判断力はセッションが長引くほど落ちていき、序盤は危険なコマンドの17%程度をブロックできていたのに、プロンプトが50個を超えたあたりからは5%まで下がってしまいました。一方でAI分類器のブロック率はセッションの長さに関係なく変わりませんでした。
| 人間(手動承認) | AI分類器(オートモード) | |
|---|---|---|
| 危険なコマンドのブロック率 | 13.6% | 89% |
| プロンプトの反射的承認率 | 97% | 該当なし(毎回再評価) |
| セッション50回以降の判断力 | 5%まで下落 | 変化なし |
The Registerは、人間によるレビューは「筋肉記憶(muscle memory)に近い」と指摘し、記事の見出しも「席を離れて、分類器が勝手に捕まえてくれることを期待するようなもの」とまとめました。TechCrunchは特に反論することなくこの数値をそのまま報じています。懐疑的なトーンではあるものの、データそのものを覆すのは難しい状況ということです。
じゃあ何を根拠に自動で回しているの?
オートモードの分類器は2段階で動いています。1段階目はすべてのツール呼び出しをざっと調べる単純なフィルターで、誤検知を承知の上で怪しければ一旦止めるという方式です。2段階目は1段階目で引っかかったものだけを取り出し、推論ベースで改めて判断します。興味深いのは、分類器がClaude自身の説明やもっともらしい理由は一切見ないという点です。ユーザーのメッセージと実行しようとしているコマンドだけを見て判断します — AIが自分自身を納得させるロジックに分類器が引っかからないようにするための設計です。
さらにその上に、ハードデニールルールが20個以上用意されています。強制プッシュ、大量削除、外部へのデータ送信、ログ機能の無効化、本番環境へのデプロイなど、取り返しのつかない操作は分類器の判断とは関係なく問答無用でブロックされます。ブロックされてもセッションが止まるわけではなく、「別の方法を探してください」という案内が返ってきます。そして同じ状況が3回連続、あるいはセッション内で20回積み重なると、自動的に手動承認モードに切り替わります。
注意
完璧ではありません。Anthropicが公開した数値を見ると、実際に「行き過ぎた(overeager)」承認事例のうち17%は分類器も見逃していました。危険性を認識できなかったというより、「ユーザーがここまで同意していたのかどうか」の判断が曖昧だったケースです。インフラに直接手を加えるような高リスクな作業には、依然として人間の目が必要だということです。
今すぐチェックすべきこと
- 対象プランかどうかを確認
Pro、Max、Teamプランは8月14日から新規セッションに順次適用されます。Enterprise・API・クラウド版(AWS/GCP/Azure)は9月以降に持ち越しです。Shift+Tabでいつでも手動モードに戻せます。 - 既存のallow-ruleを点検
適用範囲が広すぎるBashのallow-ruleは分類器を迂回できてしまうため、オートモードでは一部が無効化されます。チームで使ってきたルールがある場合は、何がブロックされるのか事前に確認しておきましょう。 - 高リスクな作業は引き続き手動で
本番環境へのデプロイ、インフラの変更、大規模なデータ移動など取り返しのつかない作業は、オートモードに任せずに自分の目で確認してください。 - 「3回連続・20回」ブロックルールをチームに周知
分類器が同じ操作を繰り返しブロックすると、自動的に手動モードへ切り替わります。なぜ急に承認ウィンドウが出てくるのか、チームメンバーが戸惑わないよう事前に伝えておきましょう。 - リスクの低い作業から始める
リファクタリング、テストの作成、ドキュメント整備のように取り消しやすい作業でまず感覚をつかみ、徐々に範囲を広げていきましょう。
もっと深く知りたい方へ
オートモード公式発表 8月14日のデフォルト切り替えの背景とロールアウトのスケジュールを原文で。 claude.com
分類器設計のエンジニアリングブログ 2段階の分類構造とハードデニールルールを作ったチーム自身による技術記事。 anthropic.com
TechCrunchの報道 業界の反応と、Boris Cherny(Claude Code責任者)のコメント。 techcrunch.com
The Registerの批判的な視点 自動化に対する懐疑的な論調とリスクの指摘。 theregister.com
権限モード公式ドキュメント default・acceptEdits・オートモードなど全モードの比較と切り替え方法。 code.claude.com
実践ガイド オートモードをいつ使い、いつ避けるべきかを実務者の視点でまとめたもの。 shipyard.build
