広がる生成AI ｜ブログ(ほぼこもセキュリティニュース)｜(株)コンステラセキュリティジャパン

生成AIの利用は、いろいろな分野に広がってきています。
さまざまなコンテンツを生成できるAI、さまざまなコンテンツを生成する学習能力があるAI、というようなものですので、利用者の誘導によって、いろいろなものを生み出すことができます。
その利用者の気持ち次第では、なんでもできるということですね。

みなさんも何らかの形で生成AIを利用されていますか？
はじめは比較的簡単な内容での利用が多かったのではないでしょうか。
わたしは簡単な調べものに利用するというようなタスクから利用を開始しました。
いまでは、いろいろなことができるようになってきています。
ビジネス文書の生成、小説の生成、画像の生成、もちろん、プログラム言語を使ったコードの生成もできます。
コードの生成は以前はそのままではうまく動かないものが生成されることもありましたが、いまでは結構手直しすることなく、そのまま利用できるものを生成できるようになってきています。

生成AIを脅威アクターに悪意をもって利用されてしまうかもしれないという懸念は、かなり早い時期からありました。
このため、プロンプトの内容からその悪意の意図をくみ取ることができる場合には、生成AIはその指示には従わないようにするという機能も実装されています。
しかし、この抑止の機能は思ったほどは効果が発揮できていないかもしれません。

これまでも生成AIで作成されたものであると想定できそうな脅威アクターの使用するプログラムコードはいくつも発見されてきました。
しかし、生成AIで作成されたものであると決定的に判断することのできるものは、なかなか見られませんでした。
ですが、最近確認されたマルウェアを展開するコードに、明らかに生成AIで作成されたものであると考えられる兆候のあるものが見つかっています。

この例では、脅威アクターは生成AIを使ってローダーを作成しました。
普通なら処理内容を難読化してわからなくしたいところだと思いますが、そのコードにはわかりやすい関数名が利用されていて、コメントも丁寧にプログラム全体にわたって付与されていました。
このローダーは、最終的にはAsyncRATをダウンロードして実行するものとなっていました。
AsyncRATは、被害者のマシンでのキー入力を記録し、リモート監視と制御のために暗号化された接続を提供します。
そして、このマルウェアは、追加のペイロードを配信することもできます。
このAsyncRATはオープンソースで無料で入手できるマルウェアです。
つまり、攻撃の最初のあたりから最後のほうまで、深い知識を持っていなくてもサイバー攻撃を構成することができてしまっている例となっていたのです。

悪意を持った用途に利用させないというような後ろ向きの対策だけでは十分ではないのかもしれません。
なにか能動的に生成AIの機能を活かして対策とできるような使い方を防御側でも模索していくことが必要な時なのかもしれません。