ジェイルブレイク済みの生成AI ｜ブログ(ほぼこもセキュリティニュース)

生成AIの利用は広がっています。
はじめはその名前だけは知っているというような認知状況だった人も多かったことと思いますが、現在では実際に利用を開始している人は少なくないと思います。
総務省の発表によると、日本では個人としての生成AIの利用はまだ9.1%にとどまっているということですが、企業としての利用は確実に広がってきています。

生成AIはその登場の初期のころから、安全性のための制限機能を搭載しています。
犯罪行為につながる情報の提供を抑止することを狙った機能で、これの搭載を持って「生成AIは安全ですよ」ということになっています。
しかし、実際にはプロンプト（AIに特定のタスクを指示するためのテキスト入力）を工夫することで、この安全機構を回避することはできてしまいます。
このため、一般での生成AIの利用だけでなく、脅威アクターの生成AIの利用も広がってしまっています。

安全機構の回避は基本的には可能です。
しかし、それなりに手間と時間がかかります。
ある説によると、攻撃者が安全機構を突破するために必要なのは、平均してわずか42秒と5回のインタラクションだそうです。
これがどのくらいの障壁になるのか即答はできませんが、何か新しい情報を引き出そうとするたびにこれが重なっていくと考えると、毎回自分で安全機構を回避することはたしかに億劫になりそうです。

ここで登場することになるのが、ジェイルブレイク済みの生成AIです。
ジェイルブレイク済みの生成AIの登場は以前から確認されていました。
WormGPT、WolfGPT、EscapeGPT、FraudGPT、DarkBard、Dark Geminiなどの名前を聞いたことがある方もいるでしょうか。
これらはいずれもオリジナルの生成AIに搭載された安全機構を回避して生成AIを利用できることをうたったものです。
この領域に新たに加えられたジェイルブレイク済みの生成AIが確認されています。
GhostGPTです。

GhostGPTの宣伝は次のものです。

高速処理
GhostGPTは応答時間が短いため、攻撃者は悪意のあるコンテンツを作成し、より効率的に情報を収集できます。
ログなしポリシー
GhostGPTの作成者はユーザーのアクティビティは記録されないと主張しており、違法行為を隠したい人にアピールしています。
簡単な利用
Telegramを通じて販売されるGhostGPTでは、購入者は脱獄プロンプトを使用したり、LLMを自分でダウンロードしたりすることなく、すぐに使用を開始できます。

たしかに魅力的に見える宣伝内容です。

生成AIは、使ったほうがよさそうなものといったような付加価値的なポジションから、一般的に利用が開始されている通常のツールのポジションに変化してきているのかもしれません。
防御側としても防御機構のチームの中に生成AIを組み込んで対処していくことが必要なのかもしれません。