生成AIによるサイバーセキュリティ実践ガイド

※生成AIは、画像・音声・文章などのデータを生成する人工知能技術の総称です。一方で、LLMは生成AIのなかでもテキストデータを生成することに特化した技術のことです

このブログで幾度も書いていますが、LLM（大規模言語モデル）の進化はすごいものがあります。業務に利用し始めたのは2年前くらいかな、最初は「まだまだだな」「こいつ平然とウソをつきやがって」と思っていたのですが、最近はハルシネーションも減っており（LLMに「その情報のソースも提供してください」と念押しする必要がありますが）、Googleが汚染されていることもあってもはや検索よりまずAIに聞く、という時代になっています。なにより検索の王者であるGoogleがGeminiという高性能なLLMを無料で提供しています。まさにNo AI,No LIFEの時代になったと言えるでしょう。

この本はLLMの中でも代表的な存在であるChatGPTを用いて、サイバーセキュリティ活動を行う人がどのような助けを得られるかを紹介しています。最初はブラウザでのChatGPTの利用や、OpenAIのAPIを利用したプログラムやソフトウェアからLLMを利用する方法が紹介されています。自分の場合は既に業務でLLMを利用している（頼っている）こともあり目新しい内容ではなかったですが、今まさにLLMを仕事の中で使いたい、という人にとっては分かりやすい説明となっています。

次に、サイバーセキュリティの様々な活動にLLMが利用できることが紹介されています。LLMは私たち以上の知識を持っています。とはいえLLMは自分で手を動かすことはできないので、自分の知識を基にLLMに指示を出し、色々なこと業務のサポートに利用できます。

1.PCの構成管理を入力して、脆弱性の診断を行う
2.プログラムコードを入力してリスクのあるコードを洗い出す
3.会社のセキュリティ活動で何を行うべきかをリストアップし、読みやすいようmarkdown形式でドキュメントを作成
4.従業員の社員教育のためにeラーニング用の問題を作成
5.従業員のフィッシング詐欺メール対策のため、メール本文のサンプルを生成
6.セキュリティ担当のために、LLMと一緒にサイバーセキュリティのトレーニングをマンツーマン指導
7.セキュリティインシデントが発生した場合、状況を入力して、推奨される対応方法を返答

”もうやっているよ”という人もいるとは思いますが、まだLLMを使った人がない人は本書を手にすると「こんなこともできるとは！」という驚きがあると思います。

そしてこの本を読んでいて自分が目から鱗と思ったのが、Pythonを用いたプログラミング言語内でLLMを呼び出して利用すること。多くのLLMはAPIキーを提供しています。このAPIキーをプログラムやアプリケーションに設定することで、ブラウザ以外からもLLMを利用することができます。Visual Studio CodeのプラグインでAPIキーを設定することで、コーディングしながらLLMの支援を受けたりするなどが良い例です。しかし、自分でプログラムを書き、LLMをコードの中で呼び出して（呼び出す際にはAPIキーが必要になります）、もっと柔軟に、自分にやりたいことをLLMの支援を受けて実現できます。例えば、従業員が使っているPCの操作ログや、利用しているSaaS（Google Workspace）等のログをプログラムの入力として読み込ませ、LLMに「このログの内容から、不審な操作を探してください、結果をリストで出力してください」と指示すれば、IDSの代わりになります。勘の良い人でしたら、タスクスケジューラやcron等で定期的にログを取得＆プログラムを実行するよう仕込むことで、全従業員のPCにIDSを入れるような効果を得られます。LLMはブラウザを介して利用するケースが多いと思いますが、定常業務にLLMを活用する場合、プログラムからLLMを呼び出すのは友好です。そして多種多様なPythonのサンプルコードが掲載されています。そのまま利用できるコードなので、手を動かしたくなります。

ただし注意点が2つ。GoogleのGeminiやChatGPTなど、無料で利用できるLLMもありますが、APIキーを利用して使用するLLMは使用料に応じてお金が発生します。課金した金額分使い切ったら利用できなくなる、であれば安全ですが、無制限に使える場合LLM破産してしまうので気を付けてください。LM Studioなどを使ってローカルPCでLLMを利用することでAPI使用料を気にせず利用することもできます。もう一つ、ビジネスでLLMを使う場合、LLMを提供している企業の手に機密情報・個人情報が渡らないよう気を付けてください。LLMの利用規約に「入力されたデータはLLMの学習や私の会社の営業活動に活用させていただきます」と書かれていることがあります。例えば一般の人が使っているGoogle Geminiではなく、Google Workspaceを会社で契約して、ログインした後利用できるGeminiでは「入力されたデータはLLM内で利活用しません」と書かれています。有料プランを契約するからこそなのですが、このような方法で安全にLLMを利用しましょう。あるいは、ローカルPCで動作するLLMや、情報を外に漏らさないことを特徴としているLLMも本書では紹介されています。いずれにしてもこれだけの可能性を持ち、ビジネスを大きく効率化できるLLM、無料で使える、というのが無理な話です。