マルウェアを書くAI

AIはArtificial Intelligenceです。
人工知能です。
過去のSF映画の中ではAIは夢の技術でした。
AIを搭載したロボットが歩き回り、人間と一緒に動いていろいろな役割を提供します。
これはだんだんと映画の中の話ではなくなってきています。

AIの出てきたころ、AIにできることはこういうものでした。

• 大量のデータ処理
• ルールに沿った作業
• 共通点を見つける作業
• 囲碁・将棋の対局
• 画像処理や画像認識

コンピュータがデータを分析し、推論（知識を基に、新しい結論を得ること）や判断、最適化提案、課題定義や解決、学習（情報から将来使えそうな知識を見つけること）などを行うことができます。
いろいろな研究が継続されていく中で、AIのできることは広がりを見せています。
そしてその追加されることが見えてきたことの中の一つに、プログラミングがあります。
コンピュータ言語のプログラミングです。

知識を基に実現したいものを作成することはAIの可能なことの範囲内になってきています。
そしてそのAIが実施するコンピュータ言語のプログラミングの範囲に、ソフトウェアの脆弱性を悪用してターゲットに侵入するスクリプトを作成することも加えられるかもしれません。

ChatGPTというものがリリースされました。
これは対話形式でプログラムコードの誤りについて相談できるような機能を提供することができるものになっています。

このChatGPTにある研究者が単純なプログラムの課題を解決するように依頼してみました。
そうするとChatGPTはコードにバッファオーバーフローの脆弱性が含まれていることを正しく認識し、その欠陥を悪用するコードを記述しました。
1回目の取り組みでは軽微な問題があり正しく動作するものになっていませんでした。
しかし、研究者がChatGPTに対してその間違いを指摘し再度答えを提示するように依頼したところ、今度は正しく動作するコードを作ったというのです。

いまはまだ単純なプログラムにしか対応できません。
しかしこういったAIのモデルの研究が進むことによって、遠くない将来、脆弱性に対して動作するコードを正しく記述できるようになってくることが予想されます。
人間であればいかに訓練しようが脆弱性を悪用するコードを作成するのにはそれなりの時間が必要です。
しかし訓練されたAIであればほんの短い時間でコードを作成できるようになってしまうことでしょう。

技術はどんどん進化していきます。
正しい未来はその技術をどのようにして活かしていくかにかかっているといえそうです。

参考記事（外部リンク）：ChatGPT shows promise of using AI to write malware
www.cyberscoop.com/chatgpt-ai-malware/

参考記事（外部リンク）：ChatGPT: Optimizing Language Models for Dialogue
openai.com/blog/chatgpt/