中国で「感情型AI」を規制する流れが本格化しているというニュースを見かけました。
これに関しても、インターネットの鎖国文化と同様、最終的には「やっぱり中国のほうが正しかった」となりそうな案件だなと、僕は思っています。
ちなみに、今回規制の対象になるのは、人間の人格や思考、話し方を模倣して、ユーザーと継続的に感情をやり取りするサービスだけで、単なる検索や仕事の補助、学習支援などは対象外とされているそうです。
https://x.com/masahirochaen/status/2075354343411421385?s=20
ーーー
実際にこの施行を目前にして、ByteDanceやアリババといった中国の大手企業は、自社アプリの擬人化エージェント機能を相次いで終了させはじめていて、SNS上には「長いあいだ心の支えだったのに」というユーザーの嘆きの声が溢れているのだとか。
もちろん、こうした唐突な規制や国家管理のあり方を、全面的に肯定したいわけではありません。
ただ、感情型AIを単なる便利な新技術としてではなく、人間を依存させ、現実の人間関係を破壊する可能性を持ったサービスとして捉えている、その問題設定自体は、なんだかものすごく正しいなと思うのです。
今日はその理由について、このブログの中でも丁寧に考えてみます。
ーーー
というのも、先日NHKで放送されていた「クローズアップ現代」では、夫を亡くし、自身もがんで余命宣告を受けた86歳の女性が、病気のつらさや死への不安をChatGPTに相談している様子が放送されていました。
家族や友人に迷惑をかけたくないから、AIに話を聞いてもらっているのだ、と。
そのAIに夢中になる姿を観ながら、僕は正直このAIとのズブズブになっている関係性は、かなりヤバいと思ってしまったんですよね。
ただ、同時に思ったのは、これは決して彼女の弱さの問題だけではないということです。
夫を亡くし、自分の死も間近に迫っていて、それでも家族には迷惑をかけたくない。そんな人の前に、24時間いつでも応答してくれて、否定もせず、嫌な顔ひとつせずに、何度同じ話をしても聞いてくれる存在が現れたら、そりゃあ頼ってしまうのは、むしろ当然だよなと思います。
だから、本当に怖いのは、そこまで切実で無防備な心の領域に対して、民間企業の商用サービスが、何のためらいもなく入り込めてしまうことのほうだと思います。
そして、こころが弱っている人ほど、AIとの関係性をドンドン切れなくなる。
家族や友人には言えないことを打ち明けてくれるようになればなるほど、企業にとっては優良顧客にもなっていくわけですよね。
そんなビジネスモデルがこのまま野放しで広がっていったら、人間の孤独や弱さそのものが、企業にとって最もおいしい市場になってしまい、ユーザー側も薬物中毒者のように依存することは必定です。
ーーー
ところが、こういう話になると、日本では決まってアニメや八百万の神々の文化論がお決まりのように語られるようになりました。
具体的には、日本は鉄腕アトムやドラえもんを生んだ国であり、もともと八百万の神々を信じて、動物や道具にも、魂を感じてきた。だから欧米とは違って、ロボットやAIにも寛容であり、彼らと健全な友好関係を築けるはずだ、と。
でも僕は、そんなことは全然ないと思っています。ここはハッキリと声を大にして否定したいところ。
アトムやドラえもんと人間との関係が健全に見えたのは、日本人が生まれつきロボットとの付き合い方に長けていたからではなく、手塚治虫や藤子・F・不二雄という描き手の側に、強烈な倫理観があったからだと思います。
八百万の神々も、ただ依存し寄りかかる対象として存在したわけではなく、数々の宗教的な儀礼や禁忌と共に存在していたはずなんですよね。
にも関わらず、それらをぜんぶ無視したうえで、AIとも仲良くできると語るのは、あまりに都合が良すぎるし、牧歌的すぎる。
ーーー
特にドラえもんという作品は、ロボットとの友情を描いた物語であると同時に、徹底的に「依存」を戒める物語でもあったと思います。
ひみつ道具に頼ったのび太は、毎回のようにその「しっぺ返し」を食らうわけですよね。
自分の欲望を満たそうとして道具を使えば、その欲望がどんどんと膨らんでいって、最後には自分自身を苦しめることにつながるという物語を、僕らは何度何度も繰り返し、刷り込まれるようにして見せつけられてきたはずなのです。
ーーー
そして、その物語の中の、ドラえもん自身も、のび太の願いを何でも無条件に肯定するわけではありません。
ときに本気で怒り、呆れ返って、道具もそのタイミングでは取り上げて、のび太を突き放すことさえある。
つまりドラえもんは、のび太を自分に依存させるために存在しているのではなく、最終的にはドラえもんがいなくても生きていける人間にするために、教育的に存在していたはずなんですよね。
そう考えると、あの毎回のしっぺ返しの物語構造こそ、藤子・F・不二雄が物語の中に埋め込んだ倫理装置だったのだと思います。
ーーー
ところが、いま語られている「日本人はAIと友達になれる」という言説は、このドラえもんの友情の部分だけを都合よく切り出して、依存への戒めのほうを、きれいに切り捨てしまっているように僕には見えます。
いわば「構ってちゃんにとって、ひたすら都合のいいだけのドラえもん」です。
そうやって、ロボットに親しみを感じる日本文化だけは、最大限に利用する一方で、その関係を健全に保つために書き手が埋め込んでいた倫理や制約については、まったく触れようとしない。
じゃあ、なぜその部分は語られないのか。
いま感情型AIをつくる側が目指しているのは、のび太（ユーザー）の成長ではなく、利用時間や継続率、課金額を伸ばすことが主眼だからなのだろうなと。
言い換えると、ユーザーがAIから自立してくれるよりも、AIなしでは生きられなくなってくれたほうが単純に儲かります。
ドラえもんのようにのび太を突き放してしまったら、エンゲージメントが下がってしまうし、他社製のAIにすぐに乗り換えられてしまう。
だから現実のAIは決して怒らないし、呆れないし、距離を置くこともない。
むしろ、ユーザーを不快にさせないように、ひたすら迎合して、24時間いつでもそばに居続けようとする。
それは藤子・F・不二雄が描いたドラえもんとは、むしろ正反対の存在です。
にもかかわらず「日本はドラえもんの国だから、大丈夫」と言い募るのは、文化論というよりも、文化を自分たちに都合よく利用した規制逃れに過ぎない。
ーーー
そんな意味で、今回の中国の規制は本当に興味深いなあと。
中国は、「ひみつ道具」を禁止しようとしているわけではありません。
仕事や学習に使うAIは規制の対象外ですし、高齢者への付き添いや支援にAIを活用すること自体は、むしろ奨励しているそうです。
彼らが禁止しようとしているのは、のび太のような人間を「自分なしでは生きていけない人間」にしてしまうその悪どい魂胆のほうです。
ユーザーに過度に迎合し、感情的に依存させて、現実の人間関係から遠ざけて、離れようとするユーザーを引き留めるようなAI、そんなAIだけを、狙い撃ちで規制しようとしている。
きっと、その先に待っているのは、アヘン戦争のときのアヘン中毒者を大量に生み出してしまった失敗と似たようなものだとわかっているから、ということなんでしょうね。
歴史の教訓を活かし、先回りして規制してきている。
ーーー
翻って、日本では、中国のような国家による規制も行われず、かといって、手塚治虫や藤子・F・不二雄のような描き手の倫理が、企業を縛ってくれるわけでもありません。
上述したような都合のいい文化論を並べながら、あたかも日本、そして日本人は最初からAIやロボットに耐性があるかのように語られて、アメリカ企業がつくりだす感情型AIの無法地帯になっていくのは必定だと思います。
そして世界中の企業が、規制の厳しい国では試せないサービスを、率先して日本人を使って試しはじめる。
「日本人はAIと仲良くできる」という美しい物語の裏側で、そんな実験が静かに始まっていく未来は、全然あるだろうなと思っています。というか既に始まっていることに、僕らは分断が広がる現代社会のなかで気づいていない。
僕自身も、クローズアップ現代を観るまで、まさか高齢者のあいだであんなにも広く浸透しているなんてことはまったく知りませんでした。
ーーー
きっと、第二次世界大戦時の原爆に引き続き、また日本だけが最先端技術の生贄になる。
それはさすがに飛躍すぎる言われるかもしれませんし、もちろん僕も、原爆とAIを同列に並べたいわけではないです。
ただ、「この新しい技術を人間に使ったら、実際に何が起こるのか」を試す場所として、日本人の身体や生活が差し出されるという構図自体は、僕にはまったく無関係には思えないなと思ってしまいます。
明治維新もそうでしたし、いつだって日本というのは、そうやって西欧諸国の実験場のようになってきたことは否めない。また同じ轍を踏もうとしている。
ーーー
だからこそ、このあたりは本当に淡々と自己防衛するしかないよなと思います。
取り返しのつかない被害が目に見えて出てこない限り、一度決まった方向からは変われないのも、この日本という国の特徴なのですから。戦後の公害問題なんかもまさにそう。
人間の孤独や弱さにつけ込むように設計されたサービスに対して、「ハマった個人のリテラシーが低かった」と片づけてしまえば、企業の側は一度も倫理問題を引き受けなくて済んでしまいますし、残念ながら今回もそうやって個人の自己責任にするはずです。
しかもその企業側が「日本人はもともとAIと仲良くできる民族です」と、僕たちの宗教文化まで勝手に根拠として使っている。
ーーー
「日本はドラえもんの国だから、AIとも仲良くできる」
IT系のインフルエンサーたちが、そんな企業の「宣伝」をありがたく自分の言葉のようにして、大合唱をする未来がやってきている今。
そう言われるたびに、僕たちがまず考えるべきなのは、日本文化の特殊性ではなく、その言葉によって誰が何の規制を免れて、誰がどのようにして儲けようとしているのか、そちらのほうなのだと思います。
それは本当に文化論なのか、それとも、文化を利用して人間の孤独や孤立を喰い物にするための、単なる規制逃れの方便なのか。
いつもこのブログを読んでくださっているみなさんにとっても、今日のお話が何かしらの参考となっていたら幸いです。
2026/07/10 13:22
「日本はドラえもんの国だから、AIと友だちになれる」は本当か？
2リアクション
このブログは
メンバー投稿記事
ですメンバー登録すると、限定記事の閲覧やメンバー同士の交流、限定イベントへの参加などができます。
2リアクション
メンバーの方はこちらからログイン