手間を機械が肩代わりするとき、扉は順に試される（イメージ）
JPCERT/CCは、AIを用いたペネトレーションテスト基盤を悪用した攻撃試行と、攻撃者によるAIの利用を確認したと公表した。道具は使う人を選ばない。
月刊AIは創刊以来、AIを「会社の仕事を設計し直す道具」として扱ってきた。だが道具は、使う人を選ばない。今回の一連の不正アクセスについて、公的機関の資料はその事実をはっきり書き始めている。
JPCERT/CCは10月23日、注意喚起に「ケースE：AIを用いたペネトレーションテスト基盤を悪用した攻撃試行」を追記した。ペネトレーションテストとは、本来は守る側が自社のシステムに疑似攻撃をかけ、弱点を探すための検査である。注意喚起は、CairnやCyberStrikeAI、ARTEXなどのAIを用いたペネトレーションテスト基盤を悪用した攻撃試行が確認されているとし、主にインターネットに公開されたWebアプリケーションを標的に、さまざまな脆弱性の探索と悪用の試行、環境設定ファイルやバックアップファイルの窃取などを確認したと書いている。
同じ注意喚起は参考情報として、AIエージェントによる攻撃の可能性を指摘する民間企業の報告も挙げている。さらにJPCERT/CCは10月15日の調査記事で、攻撃に使われた可能性のあるインフラを調べる過程で、攻撃者がAIを利用して既知の脆弱性のスキャンやAPI経由での攻撃などを実施していたことを確認したと述べている。
ここから先は編集部の見方である。JPCERT/CCの注意喚起に並ぶのは、既知の脆弱性の探索、設定ファイルの窃取、アプリの解析といった、以前からある手口だ。変わったのは、それを繰り返す手間の値段だと考える。
これまで中小企業は、どこかで「うちのような小さな会社は狙われない」と考えることができた。一社ずつ調べて攻めるには、人の手間がかかりすぎたからだ。調べる作業を機械が肩代わりするなら、その前提は弱くなる。標的を選ぶのではなく、開いている扉を順に試す攻撃にとって、会社の規模は関係がない。JPCERT/CCの調査で、攻撃元のサーバーが日本以外の地域向けのWebサービスにも攻撃していたとされるのも、この見方と矛盾しない。
では、AIにはAIで対抗しなければならないのか。JPCERT/CCが推奨している対策は、APIへの単位時間あたりのリクエスト件数の制限、アクセス制御、最小限の権限、トークンの有効期限、修正済みアップデートの適用、不要な公開機能の停止、不要なデータを残さないこと——いずれも基本である。数で押してくる攻撃には、回数を絞り、権限を絞り、持っているものを減らす。攻撃が速くなったぶん、基本をやっていない会社が先に見つかる。
本誌は次号Vol.09で「任せ方の再設計」——AIにどこまで仕事を任せるかを扱う予定だ。その議論の前提に、今回の事実を置いておきたい。AIに鍵を預けるなら、鍵を持ったAIが外から来ることも想定しなければならない。任せる範囲を決めることは、守る範囲を決めることでもある。