昨日、以下のような内容をXでつぶやいてみました。
もしいまXで本名アカウントを伸ばそうと思ったら、AIを使って、自分に粘着してくる匿名アカウントを複数運用すればいい。その匿名アカに揚げ足取りのような過剰な批判をさせて、小さな炎上を起こす。そうすれば、インプレッションが一気に伸びる。
さらに本名アカと匿名アカでレスバを演じれば、自作自演でありながら、自分を「理不尽に攻撃されている被害者」のポジションに置いて、周囲を味方につけながら、もっと伸ばすこともできてしまう、と。
書いている途中で、自分でも少し嫌な気持ちになりましたし、そして、もっと嫌だったのが、これは逆向きにも見事に使えてしまう、という事実です。
ーーー
たとえば、もし狂おしいほど愛している推しがいるばいなら、AIを使って、あえてその推しに粘着する匿名アカウントを複数運用し、理不尽に揚げ足取りのような形で燃やしてあげればいい。
すると、推しのお友達インフルエンサーたちが擁護に駆けつけてくれて、意見が二分する形で炎上し、本人が注目を浴びることは間違いなし。
つまり、いちばん深い愛情の示し方が、いちばんたちの悪い手口と、きれいに地続きになってしまうわけですよね。
推しのために、せっせと匿名アカウントから石を投げる、そんな倒錯した献身すらも、SNSの構造上は「あり」になってしまうわけです。
これはホントにすごい時代の変化だな、と思います。
もちろん、今日の話は「こうすれば伸びる」というSNSハック術を書きたいわけではなく、むしろ、その逆です。
こんなことが構造上できてしまうのだとしたら、僕らはいま、かなり奇妙な場所に立っているのではないか。今日はそんな話をこのブログの中でも丁寧に考えてみたいと思います。
ーーー
この点、いまハックされているのは、Xのアルゴリズムだけではない気がします。
もっと根っこのところで、僕ら人間側の当たり前や思い込みのほうが、見事にハックされてしまっているわけですよね。
一般的に、僕らは、オンラインで何かが起きているとき、投稿単体だけを見て判断をしているわけではないはずです。
むしろ、その周囲にある引用ポストやコメント欄を含めた、文脈のほうを一生懸命に読み取ろうとしている。
具体的には投稿者本人は加害者なのか、被害者なのか。周りの人たちは、その様子をどう見ているのか。そういうコメント欄も含めた全体の空気を読みながら、僕らは「これは本当に問題なんだろうか」とか「この人が逆にかわいそうだ」とか「この批判はさすがに行き過ぎだ」と、ほとんど瞬時に空気を判断しているわけです。
ところが今、AIによって複数の人格や立場やアカウントが簡単に生成できるようになると、その引用ポストやコメント欄から生まれる文脈そのものが、一個人でいくらでもカンタンに演出することができてしまう。
ここが、AI時代に本当に怖いところだなと思うんですよね。
ーーー
たとえば、ちょうど最近X上では、文芸評論家・三宅香帆さんの「ゲラ投稿」をめぐる炎上が話題になっていました。
発売前のゲラの一部を投稿したことに対して、批判が集まり、その後、三宅さんご本人が謝罪し、投稿を削除されたという一連の流れです。
この件について、ここで何か是非を論じたいわけではありません。
また、くれぐれも誤解してほしくないのですが、今回の三宅さんの件が、自作自演だったとか、誰かによって意図的に仕組まれた炎上だったとか、そういうことを言いたいわけでは一切ありません。
そこは本当に、まったく別の話です。
むしろ僕がこの例を出していまここで考えてみたいのは、今回の件の真偽や是非ではなく、僕らが「自然発生的な炎上」だと受け取っているものの「見え方」そのものの話です。
今回の出来事の構図そのものは、これから先、技術的にはひとりで再現可能になってしまう。
ここが本当に怖いところだなと思ったんです。
ーーー
もちろん、捏造できるのは批判だけではない。擁護側の意見もまた、カンタンに捏造できてしまう。
過剰に批判する匿名アカウントだけでなく、「さすがにこれは叩きすぎではないか」と擁護し、強い対立構造を生み出すことも容易になりました。
そして、Xのアルゴリズムは、そのような対立構造、決着がつかないがゆえに人間の耳目を無限に集めるレスバトルほど、待ってましたと言わんばかりに喜んでブーストさせていく。
ーーー
で、これまで僕らのネットリテラシーは、どちらかといえば「フェイクニュース」を見抜くことだけに重心が置かれていたように思います。
でも、これからやってくるのは、たぶんそれだけではないわけです。
嘘のニュースや嘘の画像の次にやってくるのは、嘘の文脈、つまり「フェイクコンテキスト」。
誰かが怒っているように見えたり、誰かが理不尽に攻撃されているように見えたりして、意見が二分して、社会的な論点になっているように見えるとき、でもそれが本当に自然発生したものなのか否かは、もう誰にもわからない。
複数人が反応しているように見えても、実は一人がAIで複数の人格を演じているだけかもしれないし、批判と擁護がぶつかっているように見えて、その対立そのものが誰かが意図的に用意した舞台装置であり、シナリオなのかもしれない。
ーーー
そして、ここで思い出したいのが、以前から何度もこのブログでご紹介してきた養老孟司さんの「嘘から出たマコト」の話です。
今回のSNSとAIの話を考えていると、この言葉が、ものすごく効果的な補助線になるように思えてきました。
たとえば、AIによって作られた粘着アカウントがあったとする。それは本当の人間ではないかもしれないし、本当の怒りから生まれた批判でもないかもしれません。
本人が自作自演で用意したものかもしれなくて、その意味では、まぎれもなく「嘘」なわけですよね。
でも、それを見た周囲の人が感じる怒りや同情は、完全に「本物」なわけです。
「さすがにこれはひどい」「この人を守ってあげたい」という気持ち自体は本物だし、その結果として起きる炎上も、インプレッションの増加も、評判の変化なんかも、すべて現実のものとして作用してしまう。
つまり、ウソの文脈から、人々のマコトの感情が生まれてしまう。
そして、その本物の感情が、本物の社会的な結果を生んでしまう。ここが、フェイクコンテキストのいちばん厄介なところだなあと思います。
ーーー
言い換えると、フェイクニュースが「嘘を信じさせる技術」だったとすれば、フェイクコンテキストは「嘘からマコトを発生させる演出」と言えそう。
ここには、かなり大きな違いがあるように思います。
嘘のニュースであれば、まだコミュニティノートなどで「それは事実ではありません」と否定する道が残されています。
簡単ではないにせよ、問いの中心は「その情報は本当か、嘘か」にある。
でも、フェイクコンテキストの場合は、そう簡単にはいかないわけです。文脈そのものが嘘だったとしても、そこから生まれた人々の感情のつながり、そのコンテキストのほうは、もはや本物だからです。
すでに怒っている人に対して「その怒りは偽物ですよ」と言っても意味がないし、同情した人に「その同情は間違っています」と言っても、あまり届かない。
お化け屋敷の中で本気で怖がっている人に「これは作り物だから怖がる必要はありません」と言っても、その恐怖がすぐに消えるわけではないのとまったく同じです。
恐怖も、怒りも、同情も、正義感も、ぜんぶ本物。
でも、その感情を生んだ文脈だけが完全にウソ。ここを丁寧に腑分けして考えなければいけない時代になってきているなと感じます。
ーーー
そして、ここでもうひとつ厄介な点は、一方で、ネット上にはほんとうに理不尽に攻撃されている人もいるということですよね。
本当に守られるべき人もいるし、本当に社会が見過ごしてはいけない出来事もあるということです。
だから「オンラインで起きていることなんて、どうせ全部ウソだ」と言ってしまうのも、またかなり危うい。
それを言い始めると、今度は本当に傷ついている人や、本当に声を上げている人まで、「どうせあれは演出でしょ」とすべて切り捨てられてしまうわけですから。
これからは、本物の被害者に対しても「どうせ自作自演で、フェイクコンテキストを捏造したんじゃないの？」という疑いが、いとも簡単に向けられるようになっていくと思います。
少なくとも、匿名の粘着アカウントとレスバしている人間は、かなり高い確率でそう疑われるようになる。
これもまた、フェイクコンテキストの時代の怖さです。
つまり問題は、「信じるか、疑うか」という単純な話ではないんですよね。全部を信じることもできないし、かといって全部を疑えばいいわけでもない。
そのあいだで、僕らはどうやってオンライン上の出来事と付き合っていくのか。たぶん、そこが今いちばん問われているはずです。
ーーー
じゃあ、一体どうすればいいのか。もちろん、すっきりした答えがあるわけではないと思います。
それでも少なくとも、これからは「その情報は本当か」だけを精査するだけではもう足りないのだろうなと感じます。
それと同じくらい、「自分はいま、どんな文脈の中に置かれてしまっているのか」を自らに問う必要がある。
具体的には、なぜ自分は、この人をかわいそうだと思ったのか、なぜこの批判に腹が立ったのか、その感情を起動させた舞台装置やシナリオのほうは、本当に自然発生したものだったのか、そこで一度、立ち止まってみる必要があるわけです。
そして、残酷だけれど、それは絶対に判別不可能。
ーーー
最後に今日の話をまとめてみると、これからのSNSリテラシーとは、フェイク画像を見抜くことでも、AIっぽい文章を見抜くことでもない。
むしろ、自分の中に、自然発生したと思い込んでいる怒りや同情や正義感が、いったいどんな文脈によって呼び起こされたものなのか、そちらをいちいち点検していくことにある。
そちらのほうが、ずっと大事になっていく気がします。
そして僕らは、投稿単体よりも、その周囲にある空気や構図のほうに動かされているということに対して、自ら強く自覚的であること。
これまで無意識に抱いてきた前提のひとつひとつが、見事に揺らいでいく。そして、その揺らぎに気づくたびに、僕自身も毎回、自分自身の当たり前や思い込みのほうに、ハッとさせられます。
ーーー
フェイクニュースから、フェイクコンテキストの時代へ。
そして、これからはフェイクコンテキストを意図的にハックしようとする人たちが、きっと無数にあらわれてくる。
しかも、それは明確に「利己的な目的で悪意あるユーザー」だけではないのだと思います。
自分が心から愛する推しを伸ばしたいという純粋な善意の動機や、仲間を守りたいという愛情など、自分は正しいことをしているという正義感さえも、気づけば「フェイクコンテキスト」を生み出す側に回ってしまう可能性がある。
だからこそ、僕らは毎回、自分の感情の反応のほうに立ち止まる必要があるし、そこにこそ常に自覚的でありたいなと思います。
いつもこのブログを読んでくださっている皆さんにとっても、今日のお話が何かしらの参考となっていたら幸いです。
2026/06/30 14:09
フェイクニュースから、フェイクコンテキストの時代へ。
3リアクション
このブログは
メンバー投稿記事
ですメンバー登録すると、限定記事の閲覧やメンバー同士の交流、限定イベントへの参加などができます。
3リアクション
メンバーの方はこちらからログイン