【第2回・AI TALK】GMOサイバーセキュリティ byイエラエ・三村聡志さんに聞く、AI時代の攻撃と防御のいま / 開発者向けブログ・イベント

AI活用の事例や取り組み、技術的な展望を深掘りする「AI TALK」。第2回のゲストは、GMOサイバーセキュリティ byイエラエで、「IoTデバイスペネトレーションテスト」や教育サービスを提供するエンジニアとして活躍する三村聡志さん。

仲間内からは「親方」と呼ばれるセキュリティの専門家であり、GMOインターネットグループのエキスパートとして技術発信を牽引されている三村さんに、サイバー攻撃とセキュリティの現在地やAIの活用法、人に残された価値などについて伺いました。

事業・公共・教育の3軸からセキュリティを追求

あんちぽ

今日は記念すべき第2回目のゲストとして、GMOサイバーセキュリティ byイエラエの三村さんにお越しいただいています。自己紹介をお願いします。

三村

GMOサイバーセキュリティ byイエラエの三村です。普段はハードウェアセキュリティを主戦場としていまして、皆さんがお使いのIoT機器をより安全にするための診断などをやっています。

エンジニアとしてのキャリアはソフトウェア開発ベンダーのアルバイトから始まりました。開発者が愛情を込めて作ったコンテンツが攻撃の足掛かりにされるのが許容できなくて、安全な環境を作る側に進んだという経緯です。

あんちぽ

もともとセキュリティが好きで…というタイプではなかったんですね。なぜソフトウェアからハードウェアの脆弱性を探る方向に進んだんですか？

三村

物事の仕組みを知ろうとすると、どんどん源流に向かって「レイヤーを下りていく」形になりますよね。私の場合はソフトウェアを深掘りしていって、ハードウェアに到達したのでこちらに進んだというのが大きな理由です。

またアプリケーションをいくら頑張って安全にしても、その下のOSのカーネルやドライバが侵害されてしまえば安全性は担保されません。ハードウェアという基礎部分から取り組まなければならない必要性を感じたことも、ハードウェアセキュリティにたどり着いたもう1つの大きな理由ですね。

あんちぽ

いくらアプリ側で守りを固めても、現場にデプロイしているハードウェアに触られ得るので難しいですよね。三村さんは最近は技術書を出されたり、自衛隊の研修を受け持ったりと精力的に活動されていますよね？

三村

2026年1月に「バイナリファイル解析ハンズオン」という本を出しました。ローレイヤーに興味がある方を増やしたい、読んだ方にはぜひとも沼にハマっていただきたいという思いで書いた本です(笑)。

他には陸上自衛隊のサイバー学校やセキュリティキャンプ、SECCONなどで講師をやっています。同じセキュリティでも、相手によって求められるものが全然違うと実感しますね。

仕事ならビジネス観点で「安全な製品をどう作るか」という話になりますし、陸上自衛隊なら海外からの攻撃にどう気づくかという国防の観点・質問が中心になります。セキュリティキャンプは学生さんが対象なので、エンジニアとして何を基礎として学べばいいのか、どう学んだらよいのかという、本当にベース部分の質問が多いですね。

聞かれる範囲が異なるため、伝える相手によって考えることを変えなければいけないのですが、これが刺激にもなっています。

あんちぽ

事業・公共・教育の3軸が親方の活動になってますよね。自分の会社や事業にとどまらず、広い枠組みでセキュリティを推進されているなと感じます。

「物理制約を超える攻撃」に備える時代へ

あんちぽ

直近で、三村さんがアツいと感じている技術領域はありますか？

三村

IoT機器に分類されるもののソフトウェアコードが現実世界に与える影響と、AIを用いた脆弱性発見の技術ですね。

前者については、ここ数年で「IoT機器」に分類されるものがかなり増えましたよね。一昔前はロボット掃除機くらいでしたが、いまは自律飛行型のドローンや、GMOインターネットグループでも取り組んでいるヒューマノイドロボットまで広がってきています。

こうした製品の安全性をどう高めていくかといったポイントはすごく重要だと思っていて、常日頃から調べています。

後者については、「AIの限界はどこか」「AIを提供する企業はその限界をどう乗り越えてきたか」といったところに強い興味がありますね。ただAIは仕組みやベンダーの方針からどうしてもブラックボックスになるので、ここは推測の域を出ないところでもあります。

あんちぽ

ドローンやフィジカルAIなどに適用領域が広がる中、セキュリティをどうするかという点ですよね。SF映画でも、ヒューマノイドが乗っ取られて大変なことになる…というシナリオは定番ですが、セキュリティの専門家は具体的に「こういうのが危ない」という攻撃シナリオを描きながら対策を考えているんですか？

三村

シナリオベースで考えるのが最もリアリティがありますし、知見や感覚も一番多いので、まずはそこからスタートすることが多いですね。

とはいえ、従来型の手法も十分有効です。最近では、脅威モデリングによって現状を可視化する取り組みをされる企業様が増えているように感じます。

たとえば会社の中にどんな情報があって、その価値はどれくらいで、どの機器・どの通信経路を通って伝播し得るか…といったポイントの棚卸しを行って、発生し得るリスクを明らかにする手法ですね。

機器が増えれば伝播範囲も広がるので、情報はどの範囲までに抑えておくべきか、どこに穴があるかといった点を可視化するんです。この2軸が起点になりますね。

あんちぽ

ドローンやヒューマノイドによって、新しく出てきた攻撃の手法ってあるんですか？

三村

現実味のあるところでいえば、まずドローンを起点とした横展開が考えられます。。2025年の大阪万博で、複数のドローンを同時制御して空に絵を作るというのをやっていましたよね。あれは各ドローンの中にフライトプランを持たせて、インターネット経由で同期している場合が多いです。。

ネット経由ということは、何らかの認証情報やサーバーとの通信経路があるわけです。仮にドローンが電池切れなどでどこかに落ちたとして、攻撃者がそれを持ち帰って解析すれば、通信経路や認証情報から内部に侵入できてしまう可能性が生じてしまうわけです。

もう1つはドローン自体を悪用するパターンです。たとえば10階のオフィスのWi-Fi環境に接続したい場合、普通ではそこまで上がらなければなりませんが、ドローンがあればそこまで外から登ることができるので、そこから通信できる可能性が出てくる。

このように、ドローンやヒューマノイドを用いてこうした物理的な制約を超える可能性が十分考えられます。

あんちぽ

物理的な接触を完璧に防ぐことも難しくなり、それまで越えられなかった物理的な壁も超えられるようになったということですよね。従来のセキュリティ対策で通用した「当たり前」がガラッと変わるわけですから、対策すべき前提も変わってくるんですね。

AIによるサイバーリスクはAIで対処

あんちぽ

IPAが毎年発表している情報セキュリティ10大脅威で、今年は「AIの利用を巡るサイバーリスク」が初めて入ってきました。「ネットのセキュリティもGMO」と掲げている我々としても気になっている部分ですが、三村さんの中で、最近感じている課題感はありますか？

三村

まず大きなところで言うと、Claude Mythosに代表されるAIを用いた脆弱性調査ですね。利用者がかなり限定されているので、具体的な部分はまだわからないところもあるんですが、既存のAIでもコードを読ませて「何か問題はないか」と指示すれば、意外と筋のいいものを出してくるケースがあります。

脆弱性の情報を受け付けて、良いものには報奨金を出すというバグバウンティも、今年に入って受付をやめるケースが増えていますね。

いいものが大量に押し寄せて運営側の資金がショートしたパターンもありますが、雑多な脆弱性を大量に投げて、その中にいいものがあったら報奨金をもらおうというユーザーが増えて事務局がパンクしたりといったケースも見受けられます。

潜在的なところで長く言われているのは、「AIにどんな情報を与えるか」の論点です。学習に使われたり、他のところへ情報が漏洩する可能性ですね。

また、会社内で学習をオフにしたAIシステムを入れて効率化を図るというのはよくある話なんですが、AIに与えた権限が高すぎて、本来は一般の社員が見られない人事情報などにAI経由でアクセスできてしまうこともあります。

「そのAIは正しく設定されているか？」というチェックが重要になってきているという話ですね。

あんちぽ

AIの場合は社員のように「どの部署にいるか」で権限を切れないので、ルール整備がまだ追いついていなくて、ある種の越権的な閲覧が起きてしまうということですよね。脆弱性については、今や攻撃者側もAIをどんどん使ってくるなかで、バグバウンティのような仕組みがなければ自分たちを守ることも難しくなってきますよね。最近はこうした問題が顕在化しつつあるところです。Claude Mythosも気になるところですが、三村さんは攻撃が質・量ともに増えてくる中で、防御側としてどうしていけばいいと考えていますか？

三村

防御側でも、AIの活用はどんどん進めていいと思っています。たとえばオンラインに情報を出したくなければ、ローカルLLMを使って書いているコードに抜け漏れがないかを壁打ちする、というのは1つの使い方だろうなと。

また「ここのAという部分に対して、A’という観点の脆弱性はないか」「これは攻撃可能かどうか検証してほしい」というように、ある程度方針が決まっている場合、AIは結構いい結果を出します。

専門性は要るんですが、人間は時代通りに勉強を進めつつ、AIに対してさまざまな観点で壁打ちしていくというサイクルを回せると、防御側でもAIをうまく使えるかなと考えています。

実際に、私も自分のウェブサーバでハニーポットを一部設置して、ファサードの総当たりやSQLインジェクションといった攻撃を誘引してログを取り、それをAIに読み込ませているんです。

すると、AIが「こういう攻撃が検知されました」「ここからこういうストーリーで攻撃が行われています」「次はこういう可能性があるかもしれません」と言った形で情報を出してくれるんですよ。

AI特有の粗削りな部分こそ残っているんですが、調査の初手として見るべきポイントを示してくれるという点では、結構いいアウトプットをくれるという感覚がありますね。通信システムの運用という観点でも、「気付きを探す」という面で使えるんじゃないかなという肌感があります。

あんちぽ

攻撃者の数や攻撃の苛烈さが増すのは避けられない部分だとは思いますが、それで困ったことはないですか？

三村

研究者としては嬉しいんですけど、攻撃者にはできればやってほしくないな…というのが、ソフトウェアのパッチの解析ですね。

たとえばWindowsを例にとると、Microsoftはいくつかのパッチを合わせた状態のパッケージをWindows Updateとして送ってきます。

これまでは攻撃者・研究者ともに、アップデート内容を必死に解析して修正内容から脆弱性を見出し、どう対策したのかを知るという学習サイクルを回してきました。

ところが最近は、AIでバイナリのdiffを瞬時に取って、コードの穴のところから「こういう可能性がありますよ」と出してくる。とくにオープンソースだとGitHubのdiffがすぐ取れるので、そこからネタを作って「こういう攻撃コードの可能性があります」という話を組み立ててくるんです。

「アップデートをいっぱいしましょう」というのは正しいんですが、そのアップデートが攻撃のネタの1つになっているんです。これまでは専門性のある人が根気よく解析してたどり着いていたものが、AIでものすごく簡単になってしまいました。

あんちぽ

今までうまく回っていた仕組みが、AIを悪用する人が出てきたことで違う形になりつつあるということですね。

人間に残された「結びつける力」

あんちぽ

AIは数を見たり、ずっと動き続けたりという点で強いわけですよね。その中で、三村さんのような熟練ハッカーとAIの差はどこにあるんですか？率直に聞くと、この先ホワイトハッカーは悪意ある攻撃者に勝てるんでしょうか？

三村

「こうすれば勝てます」という対AIの必勝法はないと思いますが、方針立てのフェーズは今までやってきた人たちの方がまだ強いといえるでしょう。一方で、「あとは仮説を実証するだけ」というフェーズに入ってしまうと、AIの独壇場になってしまいますね。

とはいえ、「あとは実証するだけ」の中から、次の仮説を作るときのヒントが転がっている可能性もあります。なので、この部分も時折は人がやらないといけないでしょうね。実際の局面では学習を重視するのか、実務として猛スピードでやるべきなのかを考え、その割合を決めていく感じになると思います。

ただ、AIの仮説推論もだんだん向上している感覚があります。どんどん頭がよくなっていますし、いずれはどこかで追いつかれるんだろうな、というのが率直な思いですね。

あんちぽ

危機感こそありますが、サイバーセキュリティは組織的な面や物理的な防御といった、デジタル空間以外も総合的に考えないといけないところはありますよね。いろんな経験と知見を持つ三村さんのような方の直感やロジックの組み立てと、処理が速いAIの組み合わせで守っていく、という形になりそうです。最後に、AIを前提に育っていく若い世代に向けてメッセージをお願いします。

三村

学生さんに聞かれたときによく言うのが、「本質を見誤らない」ことの大切さです。

たとえば「皆さんがIT管理者です、絶対にパソコンから情報漏洩を起こさないでください、どうしますか？」と聞くと、いろんなアイデアが出るんですけど、私はそこで「じゃあパソコン使うのやめればいいじゃない、そうすれば絶対に漏洩しないよ」と返すんです。学生さんは「え？」という顔をする。

実際はパソコンを使った上で守りたい別の要件があるはずで、それを捉えた上で「ここは絶対に守り切る」「ここは万一壊れても他でカバーできるから大丈夫」というリスク付けをしていくんです。守るべきものを守り通すために、「何がしたいのか」という本質を抑えてほしいですね。

もう1つは、一見まったく役に立たなさそうなものにいっぱい触れておくことです。私は落語が趣味なんですが、江戸時代の町民たちがこんなことやあんなことをやって失敗しちゃって…みたいな話を聞いていると、それを一般化すると目の前で起きているセキュリティ事象と近くないか、と気づくことがあるんですね。

こうした気づきは、ITだけに集中していると見つけられません。他の分野に触れているからこそ、ある日突然結びついて「これはこういうふうに対処したらいいんだろうな」とアイデアの幅が広がる。

さすがにAIも「セキュリティと落語を結びつけて」と指示しないとこうした思考はやらないと思うので、まったく関係なさそうなものと結びつける能力はまだ人間の方が高いんですよ。基礎と合わせて、関係なさそうなものをいっぱい学んでおくというのも1つ重要なところかなと思っています。

あんちぽ

何を目的にやってるんだっけ？というのは、自分自身も常々考え直さないとなと思います。AIと落語でいうと、「時そば」ってありますよね。蕎麦の勘定を数える途中でわざと時刻を尋ねて、そば屋の答えを勘定に紛れ込ませ、一文ごまかしてしまう話で。あれってまさにプロンプトインジェクションなんですよね。AIも、処理すべきデータとそこに紛れ込んだ入力を切り分けられないと、同じようにごまかされてしまう。落語にもAIやセキュリティに通じるところがあるんじゃないでしょうか。……と、うまくサゲが決まったところで、第2回はここまでとさせていただきます。三村さん、本日はありがとうございました。

三村

ありがとうございました。

まとめ

AIが攻撃と防御の両陣営に行き渡ったいま、バグバウンティの揺らぎやパッチの逆解析など、これまで前提だった仕組みが揺らぎつつある現状が示された三村さんとのセッション。技術や仕組みなど、これまでの「当たり前」がさまざまな角度から覆される時代だからこそ、「何のために守るのか」という本質がより重要になることが示されました。

そのなかで人間に残された価値は、方針立てや本質の見極めだけではありません。落語とAIのような「落語のような一見遠い領域から発想を引き寄せる広い視野」もまた、これからのホワイトハッカーやエンジニアに求められる価値だと言えるでしょう。

GMOインターネットグループでは、「ネットのセキュリティもGMO」を合言葉に、AIをはじめとした便利な技術と、それを安全に使い続けられる環境づくりを両輪で進めてまいります！