対話型AI（人工知能）「チャットGPT」に、人生の悩みを打ち明ける若者が増えている。だが、開発元の米オープンAIのトップは、相談内容が必ずしも守秘されるとは限らないと警鐘を鳴らしている。AIへの過度な依存には、大きなリスクが潜んでいる。

◆チャットGPTをセラピストとして使う若者
　サム・アルトマン最高経営責任者（CEO）は人気ポッドキャスト番組に出演し、「人々はチャットGPTに、セラピストのように極めて個人的な話をしている。これは慎重に扱うべき問題だ」と懸念を示した。特に若年層の間でAIが心の支えとなっている現状を指摘した。

　しかし、AIには医師や弁護士のような法的な守秘義務が存在しない。アメリカでは、医療や法律相談におけるプライバシーは法律で保護されているが、チャットGPTに語った内容はその対象外だ。アルトマン氏は、「医師や弁護士とは異なり、チャットGPTには守秘義務がない。法的請求があれば会話内容が開示され得る」と明言し、「これは非常にまずい事態だ」と強調した。

　さらに、AIの返す回答が常に適切とは限らない点にも注意が必要だ。米ITメディア『CNET』は、チャットGPTをセラピストの代わりに使うのは非常にリスクが高いと警告している。たとえ一時的に役立つ情報を提供できる場面があっても、「チャットGPTには人生経験もなければ、本当の共感能力もなく、声のトーンや身体言語を読み取る力もない」と述べている。あくまで「それらしく見える」だけで、実際の共感とは程遠いという。

　また、ライセンスを持つセラピストとは異なり、チャットGPTには法的・倫理的な義務がなく、責任も問えない。そのため、深刻なサインを見逃したり、偏見を含んだ誤った助言をするリスクがあると指摘する。

　スタンフォード大学が行った研究でも、AIチャットボットがセラピーの役割を果たす際に、精神疾患に対して偏見を含む発言や、不適切なアドバイスを返すことがあると報告されている。

◆10万人の個人情報が流出した「5月の悪夢」
　チャットGPTに入力した内容が外部に開示されるケースは稀かもしれない。だが、より深刻で広範な影響を及ぼすのが「情報流出」のリスクだ。2023年5月には、実際に大規模なデータ漏洩事件が発生している。

　米テック誌『PCワールド』によれば、チャットGPTの内部で使用されていた「Redis」ライブラリの脆弱性をハッカーが突き、約10万1000人分の個人情報が盗まれたという。流出したのは、氏名や社会保障番号、職種、メールアドレス、電話番号、SNSプロフィールなど、きわめてセンシティブな内容だった。

　さらに同月、韓国のサムスンでは、エンジニアが機密性の高いソースコードをチャットGPTに入力していた事実が発覚。これを受けて、同社は業務上でのチャットGPTの使用を全面的に禁止した。AIがソースコードを生成・修正してくれる能力は有用だが、そのために機密の社内データを送信してしまう点は見逃されがちだ。

　その後、バンク・オブ・アメリカ、シティグループ、JPモルガンなどの大手金融機関も、同様のリスクを懸念し、チャットGPTの業務利用を禁止したと、PCワールドは伝えている。

　また、オープンAIの利用規約には、「ユーザーが提供したデータをモデルの改善に使用する場合がある」と明記されている。ユーザーの設定次第ではオプトアウト（拒否）も可能だが、初期設定のままでは、入力した内容がそのままAIの訓練データとして活用される恐れがある。

◆健康から財務まで──チャットGPTに頼ってはいけない分野
　チャットGPTは日々の調べものや文章作成に便利なツールだが、使うべきでない分野も少なくない。CNETは、「チャットGPTに絶対に使ってはいけない11のこと」と題した記事の中で、危険性の高い利用例をまとめている。たとえば健康に関する相談では、「最悪のシナリオを提示する傾向がある」と指摘する。実際に記者が「胸にしこりがある」と尋ねたところ、チャットGPTは「がんの可能性がある」と回答。しかし、実際には良性の脂肪腫だったという。

　また、財務や税務に関する相談もリスクが高い。チャットGPTは個人の資産状況を把握しておらず、最新の税制変更に対応していないこともあるため、誤った情報をもとに判断してしまう可能性がある。

　このほか、機密情報の取り扱い、緊急時の安全判断、法的文書の作成、さらには学業での不正使用といった場面も、利用を避けるべきとしている。特に教育現場ではAI検出ツールが毎学期のように進化しており、不正が発覚すれば停学や退学の処分を受けるリスクがあると警告している。

　チャットGPTは強力な補助ツールである一方で、万能ではない。人生の重要な判断を任せるには不向きだ。利便性と危うさのバランスを見極め、冷静な距離感を保つことが、現代に求められるデジタル・リテラシーといえるだろう。