巨神兵のようなAIに「焼き払え」と命令してしまわないために。

AIが僕らに最初に与える力は、創造の力というよりも、破壊の力のほうに近いのではないか、最近は、そんなことをよく考えています。

もちろん、AIを使えばプログラムも書けるし、新しいサービスを立ち上げることだってカンタンにできるので、僕らはついついAIを、何かを新たに生み出すための道具として語りがち。

でも、実際には、AIが圧倒的な力を発揮するのは、何かを一から生み出す場面よりも、それまで存在していた「秩序」をぶっ壊す場面のほうなのかもしれない。

今日は、あまり表立って語られることのないそんなお話を書いてみたいなと思います。

ーーー

このような話題で、僕の頭に必ず浮かぶのは『風の谷のナウシカ』に出てくる「巨神兵」の姿です。

巨神兵は、人間が長い時間をかけて築き上げてきたものを、一瞬で焼き払ってしまうような存在でしたよね。

そして、自分の手では到底動かせないほどの巨大な力を手に入れたとき、人間はつい、その巨神兵に向かって「焼き払え！」と命じたくなってしまう。

悲しいかな、それもまた、人間の性（さが）なのだろうなと思うのです。

ーーー

たとえば、他人が何年も、何十年もかけて耕してきた「風の谷」があるとします。

そこには、その土地なりの歴史や人間関係があって、外から見ただけではわからない事情だって、きっとたくさんある。

一見すると非効率に見える慣習であっても、長い時間のなかで誰かを守るために生まれたものかもしれないし、面倒に見える手順も、過去に何度も起きた失敗の末に残されたその土地の「知恵」かもしれない。

でもAIを使えば、そういった文脈をすべて脇へ置いたまま、構造だけを抜き出すことができてしまうわけですよね。それこそカンタンに「蒸留」できてしまう。

ーーー

そのうえでAIは「この業界は、こうすれば攻略できる。この仕事は、こうすればもっと自動化できる。こうすれば大量のコンテンツで埋め尽くすことができる。やりますか？」と耳元で甘く囁くわけです。

これまでは、人間が手を動かしていたら到底採算が合わず、経済合理性の外側に置かれていたような仕事まで、AI、とくにFableの登場によって、突如として採算の合う領域へ一気に入ってきてしまったわけですから。

だからこそ、長い時間をかけて維持されてきた業界の収益構造さえ、外側から内側に入り込み、一気に侵食できるようになった。まさに内側からのハックが、ものすごくカンタンになった。

ーーー

しかも、その土地に対する「敬意」さえ持たなければ、できることは本当にあまりに多いんですよね。

「相手の痛みを感じる」という痛覚さえ切ってしまえば、ほんとうに人間は何でもできる。相手が大事にしていたものを踏みにじっても構わないと、開き直ったら何だってできてしまうのが、人間の恐ろしさです。

他人の土俵で、荒稼ぎしたければ、ほんとうにいくらでも稼げるし、「古い秩序と戦う正義の人」として注目を浴びたければ、自分にはまったく関係のない土地を無惨にも焼き払えばいいだけ。

その土地に暮らしたことがなくてもいいし、そこで働く人の顔を知らなくてもいいわけですよね。

むしろ、暮らしたこともなく、そこで働くひとびとの「顔」を知らないほうが、愛着もなく、無慈悲に数字だけをAIに追わせることもできるわけですから。

ーーー

具体的には、ネット上に無限に落ちているノウハウをAIにかき集めさせて、それを使ってAIに無限に推論させて、既存の仕組みの裏をかけばいいだけの話です。

これまでなら必要だった専門知識も、長い修業も、管理が面倒な大きな組織も、ぜんぶ不要。今では、たったひとりの一言のプロンプトの命令でそれが可能となってしまう。

そしておそらく、これからそのような現象が、さまざまな業界で連鎖的に起きていくはずです。

つまり、この現象は、誰にとっても決して他人事ではない。

ーーー

でも一方で、何かをゼロからつくるのは、本当にむずかしいことだなと思います。

特に、「風の谷」にあるような秩序をつくり出すというのは、とてもむずかしい。

その土地をゼロから耕し、種をまき、水をやり、芽が出るのを待つには、ほんとうに気が遠くなるぐらい長い時間がかかります。

もちろん、そこに人が集まって、文化が生まれて、信頼が育つまでには、さらに長い時間がかかる。

人と人との信頼なんて、無数のやりとりを積み重ねてようやく育つものなのに、壊れるときは、たったひとつの謀反や裏切りで事足りてしまう。

壊すことは、本当に簡単なのです。

文字通り火を放てば、一瞬で終わるわけですから。

そしてAIは、その火を放つためのコストを、驚くほど見事に下げてしまいました。

ーーー

で、ここで本当に怖いのは、破壊する人が必ずしも悪意を持っているわけではない、という点です。

むしろ、自分は善いことをしていると全力で信じている人のほうが、意気揚々と、遠くまで遠征して踏み荒らしてしまう。

俺は、古い業界を変革している、閉鎖的な世界を開放しているだけなんだ、と。

情報を民主化しているし、遅れた人たちを啓蒙してあげているんだからと、正義の顔で語るわけです。

それっていうのは、歴史が既に何度も証明をしていて、革命や植民地支配も、少なくともそれを実行した側の物語のなかでは、単なる破壊としてではなく「遅れた世界を正しい方向へ進める行為」として語られてきたのだと思います。

自分たちのほうが新しく革新的で、救世主なんだ、と。

だから古い秩序はいくら壊しても構わない。むしろ、壊してあげたほうが相手のためになるのだ、と信じて。

そして厄介なことに、その破壊によって、本当に救われる人たちも一定数いる。壊されるべき古い秩序が存在し、結果が出ることも確実であって、何も間違っていません。

ーーー

つまり、いまAIによって僕らが手に入れつつあるのは、単なる生産性だけではなく、この破壊神を手に入れたある種の「全能感」なのだと思っています。

これまで自分にはできなかったことが、何でもできる。この全能感は、最初のうちはとても気持ちがいいものだと思います。

だけれども、人間が大きな力を手にしたときに真っ先に試したくなるのは、つくることではなく、既存の秩序を壊すことのほう。「焼き払え！」と命じたくなるその気持ちのほうであり、今こそその点に強く自覚的でありたいなあと思ってしまいます。

ーーー

そういえば先日、そのことを強烈に突きつけられる番組を、NHKオンデマンドで観ました。

クローズアップ現代「ミュトスの衝撃～人間の限界超える能力とは～」という回です。