AIのメリットとデメリット:同じ作業のどこで出るか

「AIのメリットとデメリット」を一般論のリストで読んでも、自分の仕事のどこに当てはまるかは分かりません。「効率化できる」「間違えることがある」と並べても、それが自分の作業のどの瞬間に起きるかが見えないからです。この記事では、顧客アンケートの自由記述を集計する作業を一つ例にして、メリットが出る場面とデメリットが出る場面を、同じ作業の中で対応させます。

メリットが出る場面

毎月100件届く自由記述の回答を、担当者が手作業で「良い意見」「改善要望」「その他」に分けているとします。弱い頼み方は「このアンケートを分類して」だけです。AIは何を基準に分ければいいか分からないので、当たり障りのない分類になります。

効果が出るのは、基準と回答の両方を渡したときです。「以下は今月の自由記述回答100件です:[回答を貼る]。それぞれを『機能への要望』『価格への不満』『対応への感謝』『その他』の4つに分類し、件数を集計してください。」これなら、手作業で1時間以上かかっていた一次分類が数分で終わります。速さそのものがメリットで、これは疑う余地がありません。

デメリットが出る場面

同じ作業に、二つのデメリットが隠れています。一つ目は分類の精度です。皮肉や複数の意見が混ざった回答は、AIが一つのカテゴリに寄せて処理してしまうことがあり、件数の集計だけを見ると実態とずれます。二つ目はもっと重大です。回答に顧客の氏名やメールアドレスが含まれたまま外部のAIサービスに貼り付けると、それは情報漏洩そのものです。個人情報保護委員会は生成AIサービスの利用にあたって、入力する情報に個人情報が含まれていないか確認するよう、具体的な注意喚起を出しています。

速いことはメリットです。速いまま個人情報を貼り付けてしまうことは、デメリットではなく事故です。この二つは常にセットで考える必要があります。

判断のルール

ルールは単純です。個人が特定できる情報は、貼り付ける前に必ず匿名化するか除外する。分類結果は件数だけを鵜呑みにせず、少なくとも各カテゴリから数件を実際に読んで、分類が妥当か確認する。この二つを守れば、メリットだけを受け取り、デメリットは事前に防げます。モデルが自信満々に間違えるという性質そのものは、AI Indexが毎年測定しているとおり、簡単には消えません。

OECDのAI原則は、こうした確認を人が担い続けることを、責任あるAI利用の前提として位置づけています。確認を省略しないことこそが、PwC AI Jobs Barometerが測定する、AIスキルを持つ人材への賃金プレミアムの正体でもあります。AIを使えること自体ではなく、何を任せて何を任せないかを判断できることに価値があります。

日本企業でのAI活用の広がりは、総務省の情報通信白書とIPAのDX白書が毎年、実際の導入率とともに公表しています。メリットの大きさは業種や作業によって差があり、一律の数字では測れません。

月曜日に試すこと

1. 01手作業で分類や集計をしている作業を一つ選ぶ。すでに元データが手元にあるものが向いている。
2. 02元データに個人が特定できる情報がないか確認し、あれば貼り付ける前に匿名化する。
3. 03分類の基準を具体的に指定してAIに渡す。基準があいまいだと結果もあいまいになる。
4. 04出てきた分類のうち、各カテゴリから2〜3件を実際に読み、基準どおりに分かれているか確認する。

アンケートではなく議事録を例にした基本の頼み方と確認の手順はAIの使い方で扱っています。ハルシネーションや情報漏洩といった問題点が実際にどこで起きるかを、議事録要約を例にさらに詳しく整理した記事が生成AIの問題点とはです。会社が把握していない無料ツールに顧客情報を貼り付けてしまう手前の判断基準はシャドーAIとはにまとめました。コールセンターでの要約・下書きという別の作業に同じ確認の考え方を当てはめた例はAIコールセンター活用にあります。どのツールを選ぶか自体で迷う場合は、AI比較で判断の軸を整理しています。エージェントが引用する内容が実在するかを確認する同じ考え方を、ツイート分析を例に扱った記事がAIエージェントでツイート分析です。

メリットを引き出しつつデメリットを事前に防ぐこの判断力を、Coursiumはスマホの短いレッスンで練習できるようにしています。AIの一歩先へ、実際の仕事に近い練習から始めてみてください。詳しくはCoursiumについて。