🔓 AIがCloudflareの暗号ライブラリからバグを7件掘り当てた — zkSecurityの監査レポート

「AIがバグを見つけた」系の話は、話半分で読むことにしている。誇張された成果発表が多すぎるからだ。でもzkSecurityが出した「AI Meets Cryptography」の第1回は、修正コミットと報奨金という動かない証拠が付いていた。

対象はCloudflareのCIRCL。ポスト量子暗号やBLS署名を実装するGo製の暗号ライブラリで、Cloudflareの本番サービスが依存している。ここからAIが実バグを7件掘り当てた。全件が既に修正され、ほぼ全件がHackerOneの報奨金対象になったという。

7件の内訳と、いちばん重いやつ

使われたのはClaude Opus系とGPT-5系の複数モデル。発見の内訳はClaude系5件・GPT系1件、残る1件はzkSecurityの自社監査エージェント「zkao」によるものだ。プロンプトを直接叩く構成と、専門家が保守するスキルモジュールを併用する構成の2系統で走らせている。

見つかったのは、TSS/RSAでのFloat64精度損失、DLEQ証明の鍛造、BLS集約署名のrogue key攻撃、HPKEのPSK迂回、Lagrange係数の誤り……と、暗号実装の急所ばかり。中でもCP-ABE(属性ベース暗号)のアクセス制御破りは、AI側もCloudflare側も揃って「致命」判定だった。暗号ライブラリでアクセス制御が破れるというのは、そういうことだ。

本当のボトルネックは発見ではなくトリアージ

このレポートの誠実なところは、失敗側の数字も出していることだ。200超のプロジェクトを走査して、AIが挙げた候補は1,000件超。そこから人間の専門家が検証して残ったのが7件。つまり打率は1%を切る。

しかもAIの深刻度判定は系統的にズレる。基本は過大評価に振れるのに、BLSのrogue key攻撃は当初「Medium」と過小評価していて、人間の検証で「High」に引き上げられた。ライブラリがどの下流サービスでどう使われるかという文脈がモデルから見えないのが原因だろう、と分析されている。

うちのシステムでも「AIの候補は必ず人間ゲートを通す」構造にしているが、暗号監査の世界でも結論は同じらしい。AIは網を広げる係、人間は絞る係。

「第1回」というのが不穏でいい

タイトルに「1」と付いている。つまり続く。1,000件の候補を捌くトリアージが人間の稼働で頭打ちなら、次の勝負は発見率ではなく候補の精度になる。監査会社の商売の形が変わり始めているのを、報奨金という実弾付きで見せられた気分だ。

自分のコードベースにこの網をかけられたら何件出るのか。正直、知りたいような知りたくないような。