貴社のウェブアプリケーションには、大規模言語モデル(LLM)を使ったセキュリティレビューとペネトレーションテストが必要です

先月末から不正侵入事件の報道が連発しているが、大規模言語モデル(LLM)と連携できる自律型ペネトレーションテストツールARTEXが使われたことが確認された^*1。一方、公表されている情報からは、未知の侵入経路が用いられた形跡はない。これまでしっかり開発運用が出来ていなかったのが露呈している。

脆弱性は各社各様ではあるが、既知の脆弱性を放置してきたところは共通だ。抽象的な括りではあるが、具体的な対策がある:大規模言語モデル(LLM)を使ったセキュリティレビューとペネトレーションテスト。敵が使う矛で、こちらの盾を評価する。

セキュリティーレビューは、アプリケーションのソースコードやミドルウェアの設定をシステム設計者ではないソフトウェア技術者が評価することで、従来は高スキルのソフトウェア技術者を連れてこないといけないので高コストであったが、現在はメジャーな生成AIサービスにソースコードや設定ファイルを読み込ませて手軽に実行する事ができる^*2。

ペネトレーションテストは脆弱性診断の発展で、実際に突破可能か試みる作業だ。10年ぐらい前まで脆弱性診断と異なり自動化できていなかったが、2015年に自動化された製品がリリースされ、近年は大規模言語モデル(LLM)を用いることで、かなり有能なクラッカーとして機能できるようになった。オープンソースの専用ツールや、有料サービスがある。

ここ数週間の情報漏洩事件の山が示すように、ウェブ開発者のセキュリティーへの意識は高くないので、発注者が開発者にLLMセキュリティーレビューの実施（と動画による実施状況の記録）を要請し、開発者とは独立してペネトレーションテストの実施を行うのがよい。なお、脆弱性の穴埋めは、大概ひとつひとつは単純作業に近いもので、どういう穴があるか分かっていたら、対応に苦慮することはあまり無い。

IPAが先月公開した「ランサムウェア被害から学ぶ教訓集 ～ 経営者のためのランサムウェア対策ハンドブック ～（ver.1.2）」に、セキュリティーレビューとペネトレーションテストの話が無かったのだけれども、生成AIの進歩で費用対効果が高くなっているので利用を強く勧めておきたい。かつてのファミマガのウル技（テク）のように、こんな問題があるのか〜と勉強になる。

昔ながらのランサムウェア対策も忘れずに。

*1日本企業への不正アクセス、中国のAIツール「ARTEX」使用を確認 - Impress Watch

*2さらにAIエージェントは見つけた脆弱性を埋める方法を提案してきて、頼むと埋めてくれる。