Project Ireは、マイクロソフトが発表したAIエージェントです。
このAIエージェントは、支援なしにソフトウェアを分析・分類できる自律型AIエージェントのプロトタイプです。
支援なしというのは、ソフトウェアファイルの出所や目的に関する手がかりを一切使用することなく動作するという意味合いです。
どんな流れで動作するのでしょうか。
- 自動化されたリバースエンジニアリングツールは、ファイルの種類、その構造、および潜在的な関心領域を識別する。
- システムはangrやGhidraなどのフレームワークを使用してソフトウェアの制御フローグラフを再構築する。
- LLMはAPIを通じて専門ツールを呼び出し、主要な機能を識別して要約する。
- システムは検証ツールを呼び出して、判定に至るために使用された証拠と照らし合わせて結果を検証し、アーティファクトを分類する。
要約の際には、システムがどのようにして結論に達したかを詳述する詳細なログが残されるため、このツールを使用するセキュリティチームは誤まった分類があった場合にプロセスを確認して改善することができます。
これまであったAIシステムの中には、AIがどうしてその結果に至ったかの理由を得ることができないものも多くありました。
その場合、結果の妥当性は検証することができず、結果をただただ信用するしかないというものでした。
しかし、Project IreのAIエージェントを利用する場合には判断の経緯を確認することができます。
これは強力なツールになりますし、フィードバックを入力することで、より良好な結果につなげることができるようにも思えます。
このProject Ireは現時点ではプロトタイプですが、現時点の動作確認でも、かなりよい成績で分類することに成功しています。
誤検出を恐れるのか、見逃しを悪とするのか、など今後どのように味付けをしていくかという点は非常に興味深いですが、このツールはこのジャンルの専門家の大きな助けとなる成果になりそうです。
いろいろな場所に活用されることになっていくのでしょうが、適用先にはMicrosoft Defenderも含まれているようです。
身の回りのツールがより良いものになっていく感じがします。
ともすると、いつも攻撃側が先行している感じがすることが多いですが、こういった良いニュースはうれしいものです。
Project Ire autonomously identifies malware at scale
https://www.microsoft.com/en-us/research/blog/project-ire-autonomously-identifies-malware-at-scale/
| この記事をシェア |
|
|---|
