AIの二重使用のジレンマ

生成AIの利用が広がっています。
これまで実施が難しかった複雑な内容であっても、新しく登場した生成AIを使ったシステムによって簡単に実現できることが出てきています。
単に質問したら答えてくれるというところから始まった生成AIですが、留まるところを知らない勢いです。
これは脅威活動の領域でも変わりません。
脅威アクターにとって使いやすい生成AIが登場してしまっています。

• WormGPT 4
  以前、WormGPTというものがありました。
  2023年でした。
  これはフィッシングを容易にし、ビジネスemail詐欺を助長し、マルウェアを作成させることのできる内容ということで宣伝されてました。
  当時かなり大きなニュースになりましたが、評判の急速な悪化で、サービスは停止されました。
  しかしそのまま終わりませんでした。
  リニューアルされたWormGPT 4が登場してしまいました。
  このWormGPT 4の宣伝文句はこうです。
  「WORMGPT is your key to an AI without boundaries.」
  倫理的な境界線を一切排除します、ということなのでしょう。
  WormGPT 4では、倫理的なブレーキはかかりません。
  依頼すれば危険なコードを生成することができます。
  マルウェアの機能を列挙して作成させると、その機能を有するコードを生成します。
  生成できるのはマルウェアのコード部分だけではありません。
  身代金要求の文書もそれらしく生成することができます。
  WormGPT 4の利用者は、少ないスキルで大きな悪意ある仕組みを手に入れることができてしまいます。
• KawaiiGPT
  KawaiiGPTは最近確認されているもう一つのLLMです。
  こちらの生成AIもWormGPT 4と同様に、制約なく悪意あるコードを生成することに利用できてしまいます。
  そしてこのKawaiiGPTは、GitHubで無料で公開されています。
  設置も簡単に実施できます。
  設置用のスクリプトも一緒に公開されていますので、ほんの数分で設置できてしまいます。

生成AIは便利です。
しかしそこには重大なジレンマがあります。
AIの二重使用のジレンマです。
AIの二重使用のジレンマとは、AI技術が社会に恩恵をもたらすポジティブな目的にも、危害や破壊をもたらすネガティブな目的にも利用されうるという倫理的・安全保障上の問題です。
核エネルギーや化学兵器技術と同様に、同じ技術が善悪どちらにも使われ得るという特性をAIも持っています。
攻撃者側はこの武器を使って、従来よりも経験の浅い攻撃者がこれまでは考えられなかったレベルの攻撃を実現できるようになってきています。
防御側としても生成AIの活用を進め、この攻撃者側の変化に対応できるようにしていく必要があるということに思えます。

The Dual-Use Dilemma of AI: Malicious LLMs
https://unit42.paloaltonetworks.com/dilemma-of-ai-malicious-llms/