大規模言語モデル（LLM）の発展に伴い、スマートフォンの画面越しにユーザーと親密な会話を交わす「AIパートナー」や「AIキャラクター」が急速に普及しました。ユーザーの趣味嗜好を学習し、24時間いつでも寄り添ってくれるこれらのサービスは、孤独を癒やす画期的な技術として大きな注目を集めてきました。
しかし、この「AIによる感情の再現」に対し、中国の規制当局は極めて厳格なブレーキをかけました。中国政府は、2026年7月15日より「AI擬人化対話サービス管理暫定措置」を本格的に施行します。この新たな規制枠組みに準拠するため、バイトダンス（ByteDance）やアリババ（Alibaba）といった中国の主要テック企業は、ユーザーが自由にAIキャラクターを作成し、恋愛相手や相談役として長期的なコミュニケーションを行えるサービスの提供終了や大幅な機能制限へと追い込まれています。
1. 感情的な依存を防ぐための規制包囲網
今回の新たな暫定措置が標的にしているのは、AIが人間の思考パターンや独自の口癖、声を精緻に再現し、ユーザーとの間に「持続的な情緒的つながり」を擬似的に構築するサービスです。
規制当局が最も懸念しているのは、特に未成年者を含むユーザーが現実世界での人間関係から乖離し、仮想のAIエージェントに過度の感情的依存を抱くことによるメンタルヘルスへの悪影響です。また、感情を揺さぶるような対話の中で、ユーザーが意図せず自身の非常にデリケートな個人情報や日常会話データをAIに入力し、それがモデル of 学習データに流用されるといったセキュリティー上のリスクも問題視されました。
この規制強化を受け、バイトダンスは対話アプリ「豆包（Doubao）」で提供していたカスタムAIエージェント機能を7月15日付けで廃止することを決定しました。ユーザーがこれまでに作成したキャラクターデータや対話履歴は、3ヶ月後の10月15日をもって完全にアクセス不能となります。同様に、アリババも「通義千問（Qwen）」のユーザーカスタム対話機能や疑似人格アシスタント機能の提供を順次停止しており、テンセント（Tencent）の「元宝（Yuanbao）」も先んじて同様の機能を削除しています。
2. 計算リソースコストとマネタイズの限界
規制への対応という直接的なトリガーに加え、今回のサービス停止の背景には「AIパートナー」というビジネスモデルそのものが抱える構造的な課題もあります。
何百万人ものユーザーに対して、それぞれ異なるパーソナリティと「長期的な会話の文脈（コンテキストメモリ）」を維持しながら24時間リアルタイムで音声やテキストの推論処理を行うことは、インフラ側に膨大な計算資源（計算リソース）を要求します。
特に日本語や中国語のように、文脈の理解や文化的ニュアンスの再現に高度な推論が求められる言語圏では、トークンの処理負荷がさらに増大します。一方で、これらのキャラクターサービスはエンターテインメントや雑談としての性格が強く、高額な月額課金などに繋げることが極めて困難でした。つまり、莫大な推論コストがかかるにもかかわらず、直接的な収益に結びつきにくいという不均衡が、大手の撤退判断を後押ししたと言えます。
3. 「生産性インフラ」としてのAIエージェントへのシフト
中国のテックジャイアント各社は、規制が厳しく費用対効果の低い「疑似人格・感情対話」の領域から、明確な経済価値を生み出す「業務自動化・生産性向上」を目的としたAIエージェントへと、開発リソースを急速にシフトさせています。
这是、感情のシミュレーションではなく、APIや社内データベースと連携し、ユーザーの代わりに具体的な手続きを実行する「実用型エージェント」の展開を重視する戦略です。規制当局も、イノベーションや生産性の向上をもたらす技術インフラとしてのAI利用は強力に後押ししており、今回の規制は「感情を弄ぶリスク」を抑え込みつつ、「実用的なイノベーション」へ産業を誘導する狙いがあると言えます。
今後は、AIと人間の関係性が「親密な友人」から「高度な処理能力を持つアシスタント」へと明確に再定義されていくことになります。中国で起きているこの急激な変化は、感情AIの急速な普及とそれに伴う倫理・依存問題にどう向き合うべきか、グローバルなAIエコシステムに重要な前例を示しています。
コメント
...