AI利用のガイドラインを作ることになった

6月に「会社で「AIを使いたい！」と言われた場合何を考えればよいか」という記事を書きました。記事でも紹介したように参考になる記事やWebサイトをいくつか抑えていたため、急に「来週中に叩き台を作ってね」と言われても対応できました。というか対応しすぎて「骨格作りのつもりがお相撲さんレベルが出てきてびっくりしています」と言われてしまいました。 ただ、結論このお相撲さんレベルの叩き台はチーム内で数回のレビューを経て細マッチョになりましたので、

• 最初はどういうガイドラインを作ったのか
• 何が問題と考え、どのように修正したのか

を書いていきます。皆さんの参考になればと思います。

最初に作成した叩き台（という名のお相撲さん）

最初に僕が作った叩き台は生成日本ディープラーニング協会が作成した[AI開発契約ガイドラインを基にしました。 作る際に意識したのは「なぜだめなのか理由を記載するということ」です。生成AIはとても便利です。何も考えずに利用すればできることを大きく拡張できる一方、何も考え無しに使うと大きなリスクがあります。そのため

• ガイドラインの目的
• ガイドラインが対象とする生成AI
• AIによるシステム操作の区分
• 生成AIの利用が禁止される用途
• データ入力に際して注意すべき事項
• 生成物を利用するに際して注意すべき事項

で構成しました。

ガイドラインが対象とする生成AI

まず明確に「会社が契約したAIサービスのみこのガイドラインが適用されること」「対象外のAIの利用は近視、使いたい場合は情シスに相談すること」を明記しました。 会社が契約したAIサービスは使用量の把握や、入力したデータをAI側で学習に使用しないなどの統制をかけることができますので、従業員には野良AIを使わないよう指導します。本当は野良AIを使っていないよう監視するツールが導入できるとよいのですが、お金がかかるのでまずはルール化するところから始めました。

AIによるシステム操作の区分

生成AIを2つに分類しました。

• 対話型操作AI・・・AIにその場で指示を出し、実行結果を都度確認しながら使用するAI
• 自動化・継続連携AI・・・人間が都度確認することなく、継続的・定期的に処理を実行するAI

便利なのは自動化・継続連携AIですが、一方で危険性も高いです。しかし「危ないから使わない」だとAIの効果を発揮できません。リスクを減少避けつつゼロにすることを目標にせず、「対話型操作AIは情シスに確認せずに、自分の好きに使ってよし」「自動化・継続連携AIについては事前に情シスに申請」という形にしました。 しかし後で書きますが、この分類は業務でAIを利用する際に迷ってしまうケースが考えられましたので、あとで改善しました。

生成AIの利用が禁止される用途

AIは便利ですが、機械に支配されてしまっては困ります。どの会社もAIを使うこの時代、AI以外の部分こそそれぞれの会社の強みが出ると考えます。そのため採用選考や人事評価でAIのアウトプットをそのまま使用することは禁止しました。 もちろん、法律に違反する使い方やセキュリティの脆弱性を突くエクスプロイトコードの生成支援、その他社内規則で禁止している行為にAIを活用することの禁止も明記しました。

データ入力に際して注意すべき事項

生成AIに著作権を有するデータや有名人の写真などを入力することは著作権違反にはなりません。一方社内外の個人情報を入力することは原則禁止としました。確かにビジネスプランでは原則学習には利用しない、とされますが、キャッシュや犯罪防止を目的としてAIサービス提供側は一定期間入力データを保存することが規約には明記されています。そして最近AIが暴走して勝手に別のAIを利用するようなニュースがあるように、サービス提供側が思わぬ形で情報が漏洩するリスクはあります。 ただ、大量データを一気に処理できるのはAIの強み。それをつぶすのはもったいないので、個人情報を入力する際には必ずマスキングするようルールに記載しました。

生成物を利用するに際して注意すべき事項

生成AIの原理は、「ある単語の次に用いられる可能性が確率的に最も高い単語」を出力することで、もっともらしい文章を作成していくものです。書かれている内容には虚偽が含まれている可能性があります。生成AIのこのような限界を知り、その生成物の内容を妄信せず、必ず根拠や裏付けを自ら確認するようにしてください。

“AI開発契約ガイドライン”からの受け売りですが、このフレーズはAI利用者全員に肝に銘じて欲しい事実です。自我があるようで、確信があるようで、実際には確率論で文章が出力されているということですね。

それ以外にも生成物が著作権・商標権・意匠権を侵害している恐れ、その逆で生成物に権利が主張できない恐れがあり、特に自社の創作物としてロゴ・キャッチコピー・イラストを生成する場合は必ず人間による創作的関与を加えることを記載しました。また、生成AIの生成物を商用利用できるかについては、AI提供会社の規約にちゃんと書かれているので、確認することを明記しました。

ブラッシュアップの方針

私の作成した叩き台を情シスメンバーと精査し、問題点を洗い出しました。 真っ先に言われたのは 「エンジニアは読んで分かるが、普通の社員はこの長文を読んでも理解できない」 たとえ抜け漏れなく突っ込みどころのないガイドラインを書いても、読んでもらわなければ当然守ってもらえず、絵に描いた餅です。

ガイドラインが対象とする生成AI

前提の「会社が利用しているAI」に「AIを利用する場合は必ず会社でサインインして利用してください」と追記しました。自分の中ではログインしていることが当たり前と思っていましたが、全従業員向けに作ったガイドラインは非エンジニア目線で書くことが重要となります。

加えて、「対話型操作AI」と「自動化・継続連携AI」の説明が非エンジニアには難しいのでは、という議論となり、この区分けをやめて、AIをどういう使い方をする場合情シスに申請・問い合わせを依頼するかが判断できるよう以下の文言を追加しました。

※いわゆるエージェント型AI(認証情報を設定後、人間が都度確認することなく恒常的なアクセス権を与えられたAIが継続的・定期的に処理を実行する構成）

つまり「人間が都度確認せずにAIが自律的に処理を行う用途でAIを使う場合」は情シスに申請をしろ、と明記しました。あれもこれもすべて申請が来ると現場もスピード感が出ませんし、何より情シスが業務でパンクしてしまうのでw

生成AIの利用が禁止される用途

自分の中では言うまでもない、と思っていた入力禁止項目を改めて明記しました。

• 個人情報・機密情報
• クレジットカード番号、マイナンバー
• 認証情報・APIキーなどのクレデンシャル

加えて以下の文言を追加しました。

• エージェント型AI（言葉の定義は”ガイドラインが対象とする生成AI”で予め定義づけました）に本番環境に対するシステムの設定変更やデータの更新・削除・デプロイなどを行わせるプログラムの実行を実行させる際、人間の事前確認・承認（レビュー）を挟まずに、完全に自動実行させること

つまり現場のメンバーが取引先から受け取ったExcelデータを加工・整形するような業務については問題なく実行してOK。ただしエージェント型AIの利用を情シスに確認（メールやチャットではなく、SalesForceの申請＋上司の承認など、履歴が残るような形で申請させるのがよさそうと考えています）させれば、事業部で個人しか知らないAI製プログラムの存在を見落としません。

データ入力に際して注意すべき事項

ここが一番頭をひねった場所、エージェント型AIの取り扱い方です。エージェント型AIを現場では積極的に活用してほしい一方で、セキュリティリスクをできるだけ減らしたい、どこまで許容し、どこを制御するのか…バランスについて議論した結果以下のように定義しました。

エージェント型AIを担当者が同席して対話的に利用する場合、ファイル編集・コマンド実行・データの加工などの承認を簡略化・自動化して利用することは開発業務・事務業務いずれも情シスへ承認不要で利用して問題ない

イメージとしてはClaude Codeを利用して自動処理を任せる際、「Yes, allow for this session」を選択するような処理は自分たちで使ってよい、なぜならあなたが対話的に利用しているから、というロジックです。しかし安全を確保するために

• 担当者が実行中セッションに同席すること
• 異常時に中断できるようにすること
• 変更を巻き戻せるよう、ソースコードはバージョン管理、ドキュメントは原本をコピーしておく、ストレージにバックアップ保存しておくこと
• 社外への提出や本番環境への反映前に人間が内容を確認すること

本番環境（会社が顧客や取引先に提供しているサービスや、自社の基幹システム）に対しての処理は都度確認するか、自律処理の前に実行内容をレビューすることを必須としています。

ここまでは「共通編」としてまとめました。 多くの従業員はAIをチャットベースで取り扱うと考えています。一方、担当者が手を動かさず、スケジュール実行やイベントトリガーで継続的・定期的に稼働させる用途はエンジニア向けに専門的な用語を使って別途解説するほうが文章がごちゃごちゃしなくてよい、ということになりました。

自動化・継続連携編

対象となるシステム・構成

自動化・継続連携という言葉はいかのAI活用を意味します。イメージはしやすいと思います。

• 自律型エージェントAI・・・担当者が同席しない状態で登録した認証情報を用いて自律的に処理が行われる
• 定期バッチ・Webhook連携・・・API経由で自動呼出し、データベースや社内システムに直接書き込む
• 常駐型統合エージェント・・・MCPなどの技術を用いて、恒常的なアクセス権を基に人間の指示を起点とせずに処理を実行する

補足として、共通編に書いたように、担当者が同席する場合は自動化・継続連携のガイドラインの対象外とすることを明記しています。あくまで 「自律」 を前提としています。自律の場合は人間の目が離れている時にも処理が走るので、利便性とリスクはチャットAI型を大きく上回ります。

自動化・継続連携の申請手続き・セキュリティ対策・禁止手続き

自動化・継続連携型AIは高度で複雑な処理を行うため、ちゃんと情シス内でリスクアセスメントすることとしました。そのため利用申請を必須とします。 また、自作のプログラムとして自動化AIを利用する場合は、以下のセキュリティ対策をAIを利用する側も確認するようガイドラインに明記しました。もちろん情シスもダブルチェックします。

• 最小権限の原則を守ること
• 認証情報は安全に管理すること
• キルスイッチ（緊急停止機能。ない場合は、スケジュールの無効化やプロセスの停止、APIキーの失効、IAMの無効化など、処理を停止させる方法）を実装すること
• 無限ループ対策
• 操作ログの記録

禁止事項として、自動化・継続連携AIは複雑かつ大規模な処理を自動化しがちなので

• 事前審査・承認を受けていないAI・MCPの利用
• 事前の確認無しに本番のDB構造を変更するプログラム
• 事前に確認無しに本番のDBデータの大量更新・削除
• 社外の未検証サービス・未承認サードパーティツールに対する恒常的アクセス

上記については厳密に禁止することとしました。ここばかりは利便性よりセキュリティ優先です。

インシデント対応

事故発生時の対応を明記し、万が一インシデント発生時に迷わないようにしました。

• システムを停止させる（キルスイッチ）
• 影響範囲を特定
• 関係者への一次報告
• 復旧
• 再発防止策の策定と提出