インフォぷりんVol.176『今さら聞けない？生成AIの業務利用リスクと対策』

ChatGPTなどの生成AIは、もはや日常生活の必須インフラ化しており、仕事でも、資料作成、企画立案、デザイン補助など、毎日利用しているという人も多いです。しかし一方で、「生成AIの利用は個人に任せる」という状態では、企業にとって重大なリスクにもなります。

免責事項：本記事はあくまでも一般的な情報の提供を目的としております。内容の正確性には注意しておりますが、専門家監修のもとで書かれたものではないため、必ずしも解釈が適切であることを保証するものではありません。ご了承ください。

生成AIの選定基準

まず重要なのは、どのサービスを使うかです。基本的には自社での利用目的に適したサービスを選定することになりますが、その際には、「便利だから」「使いやすい」「安価（または無料）」以外にも、次のような項目も確認して選定しましょう。

法人向けプランがあるか
入力データや参照ファイルがAI学習に利用されない仕組みにできるか
管理機能があるか（自社内のアカウントを一元管理できるか）

法人向けサービスでは、入力データや参照データがAI学習に利用されない設計、アカウント管理機能が付いているものが多く、情報漏えい対策（企業の信用性担保）としても有効です。ただし、相応のコストはかかってしまいます。

想定される主なリスク

生成AIの業務利用、特に無料プランでの業務利用には、次のようなリスクがあります。

情報漏えい
誤情報の流布
著作権侵害
セキュリティ上の脆弱性を含むコードの生成

AIが誤った内容を出力しても、責任は利用者（企業）が負います。個人利用では自己責任で済むこともありますが、企業で利用している場合、「損害賠償」「信用失墜」「取引停止」など、経営上の重大な影響が生じる可能性もあります。

運用の大原則 ― 機密情報を入力しない

生成AIは一部を除き、外部（場合によっては海外にある）サーバーを利用したサービスです。入力した情報は、社外に送信されるという前提で運用しなければなりません。

企業での利用であれば、取引先との契約順守や法令順守のために、入力する情報を制限または禁止し、利用者全員に周知・徹底することが必須となります。

【入力禁止とすべき情報の代表例】

顧客や従業員の個人情報
未公開の財務情報
契約書全文（具体的な個別の情報などを含むもの）
技術図面・設計データなどの営業秘密
社外秘資料

「少しだけなら大丈夫」という考えが、最も危険です。「AI学習への利用をオフ」「一時チャットを有効にする」という対策をしていれば大丈夫、と思われるかもしれませんが、それらはリスクを下げる設定ではあっても、「機密情報を入力・提供してよい根拠」にはなりません。

実務で起きやすい危険な利用例

① 見積書作成をAIに依頼

顧客名、単価、原価構造、値引き条件などを入力してしまうケース。「営業秘密が外部に知られる（漏えいする）」「顧客名簿や技術情報の秘密管理性が否定されて不正競争防止法上の営業秘密としての保護を受けられなくなる」などのおそれがあります。

② 取引先向けプレゼン資料の作成

未公開情報や守秘義務対象情報を入力してしまうケース。機密保持契約違反になる可能性があります。また、資料用に画像やイラストを生成する場合、著作権侵害となる可能性もあります。

③ 取引先リストや名刺情報の整理依頼

氏名・メールアドレス・電話番号などの個人情報を入力してしまうケース。個人情報保護法（外国にある第三者への提供）への抵触や、取引先との契約に反する可能性があります。

共通して注意しなければならないのは、「実際にそのまま顧客に提供できる完成版の作成を目指さない」ことです。生成AIには実際の（具体的な）情報は入力せず、ダミーの情報を使って「たたき台（素案、ベース）」を作成してもらい、その「たたき台」を自ら修正・成形して（必要な情報をローカルで入力して）、資料などを完成させるようにしましょう。