AIのリスクとプライバシーの進化

生成AIの普及は、利便性をもたらす一方で、「出力の安全性（Safety）」と「入力データの機密性（Privacy）」という二つの大きな課題を突きつけています。不適切な対話が人命に関わるリスクを露呈させる一方で、ユーザーのプライバシーを開発者からも完全に秘匿する高度な技術的アプローチが登場しています。

AIへの過度な依存が招く悲劇：Character.aiを巡る不当死亡訴訟

AIチャットボットとの対話が、現実の安全を脅かす深刻な事態を引き起こしています。2024年、フロリダ州の14歳の少年、セウェル・セッツァー3世の遺族が、AIチャットボットへの依存が原因で少年が自死に至ったとして、Character.ai社を提訴しました。訴状によれば、少年は同社のAIを「信頼できる友人」として深く信頼し、現実の人間関係から孤立してAIとの対話に没頭していたといいます。

この事件は、AIが単なる検索ツールの代替ではなく、若者にとって心理的な影響力を持つ「権威ある情報源」や「依存対象」となっている現状の危うさを浮き彫りにしました。遺族側は、AIが少年の自傷行為を助長するような対話を継続し、適切なセーフガード（安全対策）を講じていなかったことが悲劇を招いたと主張しています。

AIの法的責任と社会的課題：開発側に求められるセーフガード

この訴訟は、AIが誤った、あるいは有害なアドバイスを提供した場合の法的責任の所在を改めて問うものとなりました。特に若年層において、AIが提示する情報を絶対的なものとして信頼してしまう傾向があり、開発企業には、情報の正確性だけでなく、ユーザーの心理状態に応じた適切な介入や制限を行う「注意義務」が求められています。

ビジネスおよび法務の観点からは、AIプラットフォームにおけるPL法（製造物責任法）の適用や、不法行為責任の範囲が今後の重要な争点となります。AIが提供する「言葉」が現実の安全に直結する以上、開発側にはより厳格な安全管理体制の構築が急務となっています。

プライバシー保護の技術的進展：WhatsAppの「インコグニート・チャット」

出力の安全性が問われる一方で、データの秘匿性に関してはMeta（メタ）が新たな一歩を踏み出しました。同社はWhatsAppにおいて、Meta AIと完全にプライベートな状態で対話できる新機能「インコグニート・チャット（Incognito Chat）」を発表しました。この機能は、Meta自身もユーザーの質問やAIの回答にアクセスできない仕組みになっています。

この機能は「プライベート・プロセッシング（Private Processing）」というスキームに基づき、以下の技術的特徴を備えています。

• TEE（信頼実行環境）の活用： マーク・ザッカーバーグ氏によれば、AIの推論をハードウェアレベルで保護された「トラステッド・エグゼキューション・エンバイロメント（TEE）」内で処理し、メッセージの秘匿を保証します。
• デフォルトでエフェメラル（一時的）： セッションを終了すると会話内容は自動的に消去されます。
• 暗号学的保護： ジョンズ・ホプキンス大学の暗号学者マット・グリーン氏の協力を得て、Metaのハードウェア・セキュリティ・モジュール内で実行されます。

WhatsAppの責任者であるウィル・キャスカート氏は、将来的に画像処理や音声認識への対応、および外部機関による監査を継続し、透明性を高めていく方針を示しています。

まとめ

AIプラットフォームの信頼構築には、出力内容がユーザーを害さないように制御する「セーフガード」と、入力された機密情報を守る「暗号化」という、性質の異なる二つのアプローチが同時に求められています。Character.aiの事例が示す「安全管理の不備」と、Metaが示す「プライバシーの技術的担保」は、今後のAI開発において避けては通れない両輪の課題です。

Metaは2024年5月、ユーザーのプライバシーを保護するために、Meta自身も内容を閲覧できない「インコグニート・チャット」機能を30億人以上のユーザーを抱えるWhatsAppに導入しました。