ChatGPT学習データ:自分の会話は使われるか

「ChatGPT 学習データ」には、実は二つの違う疑問が混ざっています。一つは「ChatGPTはそもそも何を学習して作られたか」、もう一つは「自分が今入力している会話が、次のモデルの学習に使われるか」です。前者は外からは検証しづらい話ですが、後者は自分のアカウント設定を開けば今すぐ確認できます。実務で意味があるのは後者なので、この記事ではそちらを扱います。

確認すべき3つのこと

• —個人向けの無料・Plusプラン:会話を学習に使うかどうかは、設定の「データコントロール」で切り替えられます。初期設定がどちらになっているかはプランや地域で変わるため、思い込まずに自分の画面で確認します。OpenAIのデータ管理設定に手順があります。
• —APIを経由する場合:OpenAIの説明によると、APIのデータは既定で学習に使われず、保持期間は30日です。日本国内でのデータ保管にも対応しています。ただしこれはAPI経由の話で、ChatGPTの画面から直接使う場合とは別の設定です。
• —会社で契約している場合:個人の判断だけで決めず、契約しているプランの既定設定を確認します。顧客の非公開情報を入力する前に確認すべき点は、シャドーAIとはでも扱っています。

具体的な確認の手順

弱い確認:有料プランだから自動的に安全だろうと思い込み、設定を開かずに機密情報を入力する。実際には、有料プランでも学習に使うかどうかは別の設定項目であり、プランの契約だけでは決まりません。

確実な確認:設定画面を開き、データコントロールの項目で「モデルの改善に会話を使う」に類する設定が今どうなっているかを実際に見る。オフにしたい場合は切り替え、切り替えた日時をメモしておく。チーム内で複数人が使っている場合は、全員が同じ設定になっているかも合わせて確認する。

設定を今オフにすることと、過去に送った内容がすでに学習に使われていないことは別の問題です。設定を変える前の分まで遡って取り消せるとは限りません。

ツールの制約

• —設定を変更しても、変更前にすでに送信した内容の扱いは変わらない場合があります。本当に機密性が高い情報は、設定に関わらず最初から入力しないのが確実です。
• —無料プランと有料プラン、個人向けと法人向けで既定設定が異なります。他の人の記事やSNSの体験談ではなく、自分が使っているプランの公式ページを確認します。
• —ChatGPTの画面とAPI経由は別の設定です。片方を確認しても、もう片方の設定が変わるわけではありません。

なぜ確認が必要か

個人情報保護委員会は生成AIの利用について、事業者・一般利用者向けの注意喚起を出しており、入力するデータの扱いを確認する重要性を指摘しています。生成された内容だけでなく、入力する側のデータについても人が確認する責任があるという考え方は、OECDのAI原則にも通じます。

こうしたAIサービスの利用実態は、総務省の情報通信白書が国際比較つきで毎年公表しています。設定を正しく確認して使う力は、PwC AI Jobs Barometerが測定する賃金プレミアムの一部でもあります。

今週試すこと

1. 01今使っているプランの設定画面を開き、データコントロールの項目を実際に見る。
2. 02その項目が自分の想定通りの設定になっているかを確認し、必要なら切り替える。
3. 03ChatGPTの画面とAPIを両方使っている場合は、両方の設定を別々に確認する。
4. 04本当に機密性が高い情報は、設定に関わらず入力しないという社内ルールを決める。

そもそもChatGPTが確信ありげに間違える仕組みは、ChatGPTの仕組みで説明しています。出力をクライアントへの納品物や自社サービスに使う場合に確認すべき規約やデータの扱いは、ChatGPT商用利用で扱っています。ChatGPTの画面だけでなく、自分の作業に組み込みたい場合の入り口はオープンAIの使い方で整理しています。具体的な頼み方の基本はAIの使い方にまとめています。

こうした「具体的に頼む」「出力とデータの扱いを正しく確認する」という力は、Coursiumがスマホの短いレッスンで練習できるようにしています。AIの一歩先へ、実際の仕事に近い練習から始めてみてください。詳しくはCoursiumについて。