「便利」の裏に潜む罠。生成AI利用で絶対に入力してはいけない情報とは

オフィスエム会員のみなさま、こんにちは。

近年、生成AIの利用を前提とした業務も増えてきました。
生成AIは便利な一方で、使い方を誤ると、自身の信用を失うだけでなく
取引先に多大な損害を与えるおそれがあります。

今回のメルマガでは、生成AIを業務で利用するうえで知っておきたいリスクや、
入力してはいけない情報、使用時の注意点をご紹介します。

この機会に、業務だけでなく、プライベートでも誤った使い方をしていないか、振り返ってみましょう。

++ ++ ++ ++ ++ ++ CONTENTS ++ ++ ++ ++ ++ ++

1. 「便利」の裏に潜む罠。生成AI利用で絶対に入力してはいけない情報と
2. メンバーへのお知らせ
   (1) オフィスエムサイト 便利リンク
   (2) オフィスエムのSNSアカウント

++ ++ ++ ++ ++ ++ ++ ++ ++ ++ ++ ++ ++ ++ ++ ++

生成AIは便利なことから、日頃から利用している人も多いでしょう。
しかし、便利だからといって、どのような情報でも入力してよいわけではありません。
使い方によっては、情報漏えいや権利侵害などの問題につながる可能性があります。
この機会に、生成AIの安全な使い方を振り返ってみましょう。

◆生成AIを使用するリスク
まずは、生成AIにはどのようなリスクがあるのかを知っておきましょう。

◇情報漏えい

取引先の機密情報や顧客の個人情報などを生成AIに入力すると、サービスの設定や利用条件によっては、入力内容がAIの学習やサービス改善に利用される可能性があります。

例えば、生成AIを使って議事録を清書したり、提案書をブラッシュアップしたりする際、原文をプロンプトにそのまま貼り付けると、機密情報や個人情報を外部サービスに送信することになります。

また、入力した情報が生成AIサービス事業者のサーバーに一定期間保存される場合もあります。
不正アクセスやシステム上の事故などによって情報が漏えいする恐れもあります。

◇誤った情報の利用

生成AIは、事実とは異なる内容を、もっともらしい文章で回答することがあります。
これはハルシネーションと呼ばれており、事実確認をせずに利用すると、業務上の判断を誤ったり、顧客や取引先からの信用を失ったりする可能性があります。

生成AIは、学習した膨大なデータをもとに、次に続く確率がもっとも高い言葉を予測して文章を生成しています。

アメリカでは、弁護士がChatGPTを使用して作成した裁判書類に、存在しない架空の判例が記載されていた事例があります。
裁判所や相手方から指摘を受けた後も押し通し、連邦民事訴訟規則に反したとして、制裁金の支払いなどを命じられています。

特に、次のような情報は誤りが含まれる可能性があるため、注意が必要です。

・固有名詞：人物名、日付、製品名などの誤り
・数値・統計：数字の間違いや根拠のないデータの提示
・引用・出典：実在しないURLや文献の提示

◇権利侵害

生成AIが作ったイラストや文章をそのまま取引先に納品すると、他人の著作権や肖像権、商標権などを侵害してしまう恐れがあります。

権利侵害に当たるかどうかを判断する際は、既存の著作物をもとに作成したと認められる「依拠性」と、表現上の本質的な特徴が似ている「類似性」が重要になります。

例えば画像の場合、既存作品の構図や表現に酷似していたり、既存のキャラクターやロゴ、商標などが含まれていたりすると、問題になる可能性があります。

また、成果物に差別的な表現や偏った見方、不適切な内容が含まれていないかについても注意が必要です。

◆生成AIに入力してはいけない情報
生成AIにプロンプトを入力する際、取扱いに特に注意しなければならない情報があります。
ここからは、原則として生成AIに入力してはいけない情報をご紹介します。

◇個人情報

生成AIを利用する際、特に慎重に扱わなければならないのが個人情報です。

具体的には、次のような情報が挙げられます。

・氏名
・メールアドレス
・電話番号
・住所
・生年月日
・経歴
・顔写真など

例えば、顧客からの問い合わせ内容を生成AIに貼り付けて返信文を作成する場合、氏名や連絡先などが含まれていることがあります。
これらをそのまま入力すると、本人が想定していない外部サービスへ個人情報を送信することになり、会社の規定や顧客との契約、個人情報保護法上の取扱いに問題が生じる可能性があります。

業務上どうしても生成AIを使用する場合は、氏名や連絡先などを削除・置換し、個人を特定できない状態にしましょう。

◇機密情報

個人情報と同様、企業の機密情報も、許可なく生成AIへ入力してはいけません。

例えば、次のような情報が該当します。

・開発中のプログラムやソースコード
・未発表の商品やサービスの企画
・社内会議の議事録
・売上や財務に関するデータ

秘密保持契約を結んでいる取引先の情報を生成AIに入力すると、契約違反や情報管理上の問題につながる恐れがあります。

入力した情報が学習やサービス改善に利用されたり、不正アクセスなどによって漏えいしたりすれば、競合他社に情報を知られる、会社の信用を失う、損害賠償を求められるといった事態にもつながりかねません。

◇認証情報

ログインIDやパスワード、APIキー、暗証番号などの認証情報も、
生成AIに入力してはいけません。

具体的には、次のような情報が挙げられます。

・ログインID、パスワード
・AIPキー
・クレジットカード番号
・銀行口座の暗証番号
・二段階認証用のコード
・システムへの接続情報
・秘密の質問と回答

これらの情報が漏えいすると、アカウントの乗っ取りやクラウドサービスの不正利用、金銭的な被害などに直結する可能性があります。

誤って入力してしまった場合は、会話を削除するだけでなく、速やかにパスワードやAPIキーなどを変更・再発行しましょう。

◆生成AIを業務で使用する際の注意点
ここまで、生成AIを使用するリスクや、入力を避けるべき情報について見てきました。

ここからは、業務で生成AIを使用する際に、具体的にどのような点に注意すればよいのかを見ていきましょう。

◇成果物が権利関係に問題がないかを確認する

生成AIが出力した文章やイラストなどの成果物を、そのままクライアントへ納品してはいけません。
成果物には、他人の著作権や肖像権、商標権などを意図せず侵害する内容が含まれている可能性があります。

業務で利用する際は、必ず人の目で次の点を確認しましょう。

・既存の文章や画像と酷似していないか
・第三者のキャラクターやロゴなどが含まれていないか
・実在する人物の顔や特徴が無断で使用されていないか
・差別的または不適切な表現が含まれていないか
・利用する生成AIサービスで商用利用が認められているか

必要に応じて、Web検索や画像検索、剽窃チェックツールなどを利用することも有効です。

◇ファクトチェックを行う

生成AIが出力した数字や統計、歴史的事実、法律、URLなどをそのまま鵜呑みにしてはいけません。
生成AIはもっともらしい文章を作成できますが、その内容が「真実かどうか」を常に正しく判断できるわけではありません。
必ず自分自身でファクトチェックを行うことが重要です。

回答に記載された情報は、必ず信頼できる情報源を使って確認しましょう。
複数の情報源を照合すると、より正確性を高められます。
特に、経営判断に関わるような重要な意思決定やSNSなどの情報発信に利用する際は、より厳しいチェックが必要です。

◇オプトアウト（学習拒否）機能を活用する

オプトアウトとは、生成AIに入力した文章や画像を、AIの学習やサービス改善に利用しないよう設定することです。
生成AIを利用する際には、設定画面を確認し、オプトアウトが有効になっているかを確認しましょう。

ただし、オプトアウトを設定しても、入力データがサービスの提供や不正利用の監視などの目的で一定期間保存される場合があります。
そのため、オプトアウトを設定していれば、機密情報を入力しても問題ないというわけではありません。

また、すべての生成AIサービス事業者がオプトアウト機能を提供しているわけではありません。
利用できる場合でも、一定の条件を満たさなければならない場合もあるため、利用規約をよく読んでから利用しましょう。

◇利用規約やプライバシーポリシーを確認する

生成AIを利用する前には、利用規約やプライバシーポリシーを確認しましょう。
これらには、入力データの取扱いや成果物の利用条件など、重要な事項が記載されています。
内容を精査せずに利用を始めると、意図せず規約や契約に違反してしまう可能性があります。

特に次の点を確認しましょう。

・商用利用の可否
・知的財産権の帰属・利用条件
・生成AI利用の表示義務
・データ学習のポリシー

◇提供元や配布元を確認する

生成AIサービスを利用する際は、提供元や運営会社、利用規約、問い合わせ窓口などを確認し、信頼性を見極めることが大切です。
知名度の高いサービスを装った偽サイトや偽アプリ、非公式のブラウザー拡張機能なども存在します。
偽のサービスを利用すると、入力した情報やアカウントの認証情報を盗み取られたり、悪意のあるソフトウェアをインストールされたりする危険があります。

アプリをインストールする場合は、公式サイトから案内されているリンクを利用し、アプリストアに表示されている開発元も確認しましょう。
また、有名企業が提供しているサービスであっても、すべての情報を安全に入力できるわけではありません。
サービスの信頼性だけでなく、自社の利用ルールや契約プラン、データの取り扱いも確認する必要があります。

生成AIは、正しく使えば業務を支えてくれる強力なパートナーになります。
一方で、入力する情報や出力された内容の扱い方を誤ると、情報漏えいや誤情報の拡散、権利侵害などにつながる可能性があります。

便利さの裏にあるリスクを理解し、入力を避けるべき情報を見極めるとともに、
ファクトチェックや権利関係の確認を徹底しましょう。
まずは現在利用されている生成AIサービスの設定画面を開き、オプトアウト機能が有効になっているかを確認することから始めてみてください。

[参考］
＜生成AIを使用するリスク＞
NRIセキュア ブログ「生成AIのリスクを整理する｜３つの観点でリスクと対策を解説」
https://www.nri-secure.co.jp/blog/generative-ai-risks

株式会社日立ソリューションズ東日本「生成AIのセキュリティリスクと対策｜禁止ではなく「適切な管理」が安全性の鍵となる理由を解説」
https://www.hitachi-solutions-east.co.jp/products/watsonx_ai/column_top/column03/

LegalAgent「Mata v. Avianca事件｜ChatGPTの架空判例提出で制裁された理由」
https://legalagent.co.jp/legal-lab/ai-news/mata-v-avianca-ai-fake-citations/

＜生成AIに入力してはいけない情報＞
BoostX「AIに入力してはいけない情報｜社員が防ぐ危険情報5件と漏洩回避策」
https://boostx-inc.com/blog/generative-ai-input-ng-checklist/

eltes「便利だからこそ要注意。生成AIに入力してはいけない情報とは？」
https://eltes-solution.jp/column/ainotice-4/

＜生成AIを業務で使用する際の注意点＞
経済産業省「コンテンツ制作のための生成AI利活用ガイドブック」
https://www.meti.go.jp/policy/mono_info_service/contents/ai_guidebook_set.pdf

wiz LANSCOPE「生成AIのセキュリティリスクとは？具体的な対策方法をわかりやすく解説」
https://www.lanscope.jp/blogs/it_asset_management_emcloud_blog/20250625_27928/

NRIセキュア ブログ「生成AIのリスクを整理する｜３つの観点でリスクと対策を解説」
https://www.nri-secure.co.jp/blog/generative-ai-risks

INTERNET Watch「生成AI「ChatGPT」「Midjourney」などを装う偽の広告やアプリが出回る、Googleの検索結果から詐欺サイトに誘導する手口も」
https://internet.watch.impress.co.jp/docs/column/dlis/1517527.html

◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆◇◆

株式会社田中紙工様と株式会社オフィスエムの共同開発プロジェクトです。
フリーランス支援で３０周年の弊社で、はじめて紙用品ツールの商品をつくりました！

━━━━━━━━━━━━━━━━━━
【新しい紙の可能性】
『ひとり会議カード』プロジェクト始動
━━━━━━━━━━━━━━━━━━

「答えは、自分の中にある。」

キャリアや働き方に迷ったとき、自分自身と対話しながら考えを整理できる、
セルフコーチングツール「ひとり会議カード -キャリア編-」を開発しました。

このカードは、個人での自己理解だけでなく、企業研修、キャリア支援、コーチング、ワークショップ、人材育成など、さまざまな場面で活用できることを目指しています。

カードを販売するだけではなく、このカードを活用した新しい研修・教育・コンサルティングサービスを一緒に創っていただけるパートナーも募集しています。

▼モヤモヤ言語化カードｰキャリア編ｰ
https://www.officem.jp/moyacard/

商品は、株式会社田中紙工のオンラインショップ（BASE）で販売中です！
https://odt.base.shop/items/151604694

オフィスエムのLINE公式アカウントができました♪
オフィスエムやキャリア支援（「モヤモヤ言語化カード」など）の
最新情報を配信していく予定です！

よろしければ友だち登録をお願いします♪
https://lin.ee/U1om1So

┏━━┓
┃ 2. メンバーへのお知らせ
┗━━┛

┏━━━━━━━━━━━━━━━━━━━━
(1)オフィスエムサイト 便利リンク集
┗━━━━━━━━━━━━━━━━━━━━

オフィスエム公式サイト

◎登録している住所やメールアドレス、スキルなどの情報を変更したい
https://www.officem.jp/member/login.php?func=update

◎オフィスエムの仕組みや仕事についてのFAQ
https://www.officem.jp/user/qa/

┏━━━━━━━━━━━━━━━━━━━━
(2)オフィスエムのSNSアカウント
┗━━━━━━━━━━━━━━━━━━━━

オフィスエムでは、X（旧ツイッター）やフェイスブックのアカウントを運用して
います。それぞれ、お仕事情報や気になるIT関連情報、SOHOの毎日で
ちょっと知りたいことなどを、担当者が比較的自由にポストしています。
ツイッターやフェイスブックをお使いの方は、ぜひフォロー、または「いいね！」をお
願いします。

▼X（旧ツイッター）
https://twitter.com/OfficeM_M

▼フェイスブック（株式会社オフィスエム）
https://www.facebook.com/officem.jp

▼インスタグラム
オフィスエム直営女性専用シェアハウス「ステイセーフ西片」
https://www.instagram.com/stay_safe_nishikata/

＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿＿

◇3万人のナレッジワーカーによる信頼と実績のアウトソーシング企業
株式会社オフィスエムがメンバーのコミュニケーションツールとして発信
しています。仕事情報と本メルマガはワンセット配信となっております。
ので、どうぞご了承下さい。

◇このメールマガジンのご感想、取り上げてほしい内容などがありましたら
お寄せください。
business@officem.jp