生成AIのリスク
生成AIのリスクと対策。情報漏洩・誤った出力・権利侵害を業務で防ぐ
生成AIを業務で使うときのリスクを、情報漏洩、誤った出力（ハルシネーション）、権利侵害、悪用、管理の外での利用の5つに分け、それぞれの起こり方と対策を整理します。会議の文字起こしをチャットAIに貼り付ける前の判断の流れも紹介します。
更新日：執筆・運営：Klang AI AB
生成AIの5つのリスク
リスクの種類ごとに、対策を担う人が違います。全部を情報システム部門に任せず、誰が何を見るかを分けておきます。
| リスク | 起こること | 主な対策 | 主な担当 |
|---|---|---|---|
| 情報漏洩 | 入力した情報が意図しない形で保存・利用・共有される | ツールの承認、入力ルール、設定の確認 | 情報システム・管理部門 |
| 誤った出力 | 事実と異なる内容がもっともらしく出力される | 元資料との照合、確認の手順 | 利用者と上長 |
| 権利侵害 | 他者の著作物や商標に似た生成物を使ってしまう | 公開前の確認、利用範囲の制限 | 法務・広報 |
| 悪用・攻撃 | 不正な指示の埋め込み（プロンプトインジェクション）などで意図しない動作をする | 権限の制限、外部への送信に承認を挟む | 情報システム |
| 管理の外での利用 | 承認されていないツールで業務データが扱われる | 承認済みツールの提供、利用状況の確認 | 管理部門 |
情報漏洩が起きる5つの経路
「AIに入力すると情報が漏れる」とひとまとめにせず、経路ごとに分けると、どの対策が効くかが分かります。
個人情報保護委員会は、個人情報を取り扱う事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合について、特定された利用目的を達成するために必要な範囲内であることを十分に確認するよう求めています。あわせて、本人の同意なく個人データを含むプロンプトを入力する場合には、サービスの提供事業者がその個人データを機械学習に利用しないこと等を十分に確認するよう注意を呼びかけています（2023年6月2日の注意喚起）。個人情報を含む会議の記録を扱う場合は、社内の個人情報取扱規程とあわせて確認してください。
学習への利用
サービスの設定や契約によっては、入力内容がAIモデルの改善に使われます。業務利用では、学習に使わない設定・契約を前提にします。
共有リンク
会話やファイルを共有するリンクが、意図せず社外の人に見える状態になることがあります。共有の既定値を確認します。
連携と拡張機能
外部のアプリや拡張機能に、メールやドライブへのアクセスを許可すると、その先でデータが扱われます。
保存期間
入力した内容や生成物がいつまで保存されるか。削除したつもりでも残っている期間があります。
個人のアカウント
個人契約のアカウントで業務データを扱うと、退職後もデータが残り、会社から消せません。
会議の文字起こしを、チャットAIに貼ってよいか
会議ツールの文字起こしをコピーして、汎用のチャットAIで議事録に整えるのは、よくある使い方です。貼り付ける前に、次の4つの質問を順に確かめます。
会議の記録には、自分以外の人の発言が含まれます。社内の会議でも、取引先の情報や人事に関わる話題が混ざることがあります。迷う場合は、貼り付けるのではなく、会議の記録を会社として管理するために承認したツールの中で要約や質問を行うほうが安全です。
Q1. その文字起こしに、社外の人の発言や個人情報が含まれていますか。
いいえ → 次へ
はい → 承認済みで、個人情報の入力が認められたツール以外には貼らない
Q2. 貼り付け先は、会社が承認したツールですか。
はい → 次へ
いいえ → 貼らない。承認済みのツールを使う
Q3. 入力内容が学習に使われない設定・契約になっていますか。
はい → 次へ
いいえ・不明 → 貼らない。設定を管理部門に確認する
Q4. 会社のアカウントでログインしていますか。
はい → 貼ってよい
いいえ → 個人アカウントでは貼らない
誤った出力（ハルシネーション）への対策
生成AIは、根拠がなくてももっともらしい文章を作ります。「間違えない設定」はないため、確認の手順を業務に組み込みます。
- 出力を下書きとして扱い、数字・固有名詞・日付は元の資料や録音で確かめる。
- 根拠を示させる。会議の要約なら、どの発言にもとづくかを一緒に出させる。
- 社外に出す文書は、作成者とは別の人が確認する。
- 分からないときは「分からない」と答えるよう指示する。それでも作り話は起こり得ると理解しておく。
- 確認にかかる時間を、業務の計画に含めておく。
組織として用意する対策
個人の注意だけに頼らず、仕組みで防ぐ部分を作っておきます。
- 01
ツールを承認制にする
業務で使ってよい生成AIを一覧にし、審査を通ったものだけを認めます。
- 02
入力してよい情報を区分する
公開情報、社内情報、機密情報、個人情報の区分ごとに、入力してよいツールと条件を決めます。
- 03
会社のアカウントで管理する
SSOで会社のアカウントに統一し、退職者のアクセスを止められるようにします。
- 04
記録を残す
誰がいつ何をしたか（監査ログ）を確認できるツールを選びます。
- 05
保存場所を選ぶ
機密性の高い会議やインタビューは、保存場所や鍵の管理を選べる導入形態も検討します。
会議の記録を、管理できる場所で扱う
Klangは、会議の録音・文字起こし・要約・質問を1つのワークスペースで扱えるため、文字起こしを汎用のチャットAIへ貼り付ける必要がありません。チームプランでは、SSO、監査ログ、データ保持期間の設定、プライベートクラウドやオンプレミスでの導入に対応します。
- お客様の会話データをAIモデルの学習に利用しません。プランを問わず同じです。
- 通信はTLS 1.2以上、保存データはワークスペースごとの固有の鍵で暗号化します。
- ISO/IEC 27001:2022（ISMS）の認証を取得しています。
よくある質問
生成AIの主なリスクは何ですか。
情報漏洩、誤った出力（ハルシネーション）、権利侵害、悪用・攻撃、管理の外での利用（シャドーAI）の5つに分けると整理しやすくなります。リスクごとに対策の担当が異なります。
生成AIに入力した情報は漏洩しますか。
入力しただけで公開されるわけではありませんが、サービスの設定や契約によっては学習に使われる、共有リンクで見える、保存期間が長いといった経路があります。業務では、学習に使わない設定・契約のツールを会社として承認して使うのが基本です。
会議の文字起こしをChatGPTなどに貼っても大丈夫ですか。
会社が承認したツールで、入力内容が学習に使われない設定・契約になっており、会社のアカウントで使っている場合に限るのが安全です。社外の人の発言や個人情報が含まれる場合は、さらに慎重な判断が必要です。
ハルシネーションは設定で防げますか。
完全には防げません。出力を下書きとして扱い、数字や固有名詞を元の資料で確かめ、根拠を示させるといった確認の手順を業務に組み込むことが対策になります。
AI導入ガイド：いまの段階から読む
社内でAIツールを使い始めるまでの流れを、目的の整理、ルールづくり、ツールの審査、承認と定着の4段階に分けています。会議の録音・文字起こしを例にしていますが、ほかのAIツールにも使える手順です。
1. 目的を決める
2. ルールとリスク
- AIガバナンスの体制づくり
- 生成AIの社内ガイドライン（ひな形）
- 生成AIのリスクと情報漏洩対策（このページ）
- シャドーAIの見つけ方と対策
3. ツールを審査する
4. 承認と定着