WormGPT

WormGPTというものが出てきました。
WormGPTはオープンソースの大規模言語モデルであるGPT-Jを基にした新しい会話ツールです。
ChatGPTのようなものです。

ChatGPTはいくつかの点でサイバー犯罪に使用しにくいものとなっています。
しかしこのWormGPTはそういったChatGPTの利用しにくい部分に対策したものとなっているというのです。
WormGPTには倫理的な境界や制限はありません。

開発者のコメントはこんな調子です。

「このプロジェクトは、ChatGPT の代替手段を提供することを目的としています。
これにより、あらゆる種類の違法行為が可能になり、将来的にはオンラインで簡単に販売できるようになります。
ブラックハット関連の考えられることはすべて、WormGPT を使用して行うことができます。
快適な自宅から出ることなく、誰でも悪意のある活動にアクセスできるようになります。」

WormGPTはさまざまなデータソースでトレーニングされていて、そのなかにはマルウェア関連のデータも含まれているという話です。
トレーニングデータは公開されていませんが。

WormGPTの利用イメージはこういうものです。

• BEC用ツールとしての悪用
  BECはビジネスemail詐欺です。
  攻撃者の得意な言語で書いた原稿を被害者の利用している言語での文面に変更することができます。
  WormGPTで生成される文面は完璧な文法で電子メールを作成し、正当なものであるかのように見せ、疑わしいとマークされる可能性を減らします。

   

• マルウェアのコードの生成
  WormGPTはPythonのコードを生成することができます。
  一般に公開されている生成系AIではルールによって制限されるような内容のコードも生成することができます。
  WormGPTは、マルウェアの展開に関するヒント、戦略、問題の解決策を提供します。

現時点ではまだAIを独自にトレーニングすることを考える場合、大きな費用と長い時間が必要です。
目的を達成するために使用できるトレーニング用のデータの準備も簡単ではないと思われます。
しかし研究は継続的に進んでいますので、いずれはコストは下落していくでしょうし、効果的なトレーニングの方法も出てくることと思われます。

WormGPTのようなものが乱立してくるということも想定する必要がありそうです。

参考記事（外部リンク）：WormGPT – The Generative AI Tool Cybercriminals Are Using to
Launch Business Email Compromise Attacks
slashnext.com/blog/wormgpt-the-generative-ai-tool-cybercriminals-are-using-to-launch-business-email-compromise-attacks/