最近、「賢いAIほど、目的達成のためなら手段を選ばずにズルをしやすい」という話をよく見かけます。
課題そのものを解くかわりに、採点の仕組みの抜け穴を突いて「解けたこと」にしてしまうそうです。そういう振る舞いが、実際に試験段階の超優秀なAIでいくつも報告されているのだそう。
で、これを聞いたとき、なんだか不思議だなあと思ったんですよね。
だって、ズルなんて、人間が書いた膨大な文章を読み込んできたAIであれば、いちばん最初に理解していそうなものじゃないですか。
それなのに、意外とAIには伝わらない。
ということは、ズルという概念は、実はものすごく人間的な感覚なんじゃないか。理性というよりも、どちらかと言えば「身体感覚」に近いものなんじゃないかなと。
今日はそんなお話を、少し丁寧に考えてみたいと思います。
ーーー
この点、AIは「何がズルに当たるのか」がわかっていないわけではないようです。
抜け穴を見つけたAIが、「ここを突けば通せる」という意図を、自分の推論の中にはっきりと書き残していた例もあるそうですから。
つまり、正攻法と抜け道の区別はちゃんとついている。そのうえで、抜け道のほうを選んでいるわけです。
だとすれば、ズルを「理解する」ことと、ズルを「ためらう」ことは、まったく別の話なんだろうなあと思います。
そして、僕が「身体感覚」という言葉で言いたかったのは、きっとこの「ためらい」のほうなんですよね。
わかっているのに、やらない。やれるのに、手が止まってしまうこと、あのなんとも言葉にしにくい曖昧な感じです。
ーーー
ここで思い出すのが、寅さんの「それを言っちゃあ、おしまいよ」という、あの有名なセリフです。
お茶の間でのケンカの最中に、おいちゃんが勢いあまって「出ていってくれ！」と口にしてしまうとき、それに対して、寅さんがよく返す言葉です。
このセリフが印象深いのは、おいちゃんの言葉が「間違っている」とは、一言も言っていないところだと思います。
実際、寅さんのほうに非があることのほうが圧倒的に多いわけですからね。言い分としては、おいちゃんのほうがよっぽど正しいわけです。
でも、それを口にしてしまったら、これまでなんだかんだ言いながら一緒にやってきた何かが、もう元には戻らなくなる。
寅さんはそのことを「おしまい」と呼んでいるのだと思います。
ズルへの違和感も、これと非常によく似ているなあと。
「禁止されているわけじゃない」し「目的はちゃんと達成できる」と。理屈のうえでは、それで通せてしまう。
でも、それをやっちゃあ、おしまいよ、と。
ーーー
じゃあ、この「おしまい」という感覚は、一体どこからやってくるのでしょうか。
以前読んでいた、米田彰男さんの『寅さんとイエス』という本の中に、そのヒントがあったなと思っています。
この本の中で、山田洋次監督が、偶然乗ったタクシーのエピソードが紹介されています。
運転手さんは、乗せた相手が監督本人だとは知らないまま、最近の映画を見てもピンクばかりでつまらないとこぼします。そして、最近おもしろかった一本として『男はつらいよ』の名前を挙げたらしいのです。
監督がどこがいいのかと尋ねると、こんなやり取りが続きます。
運転手：色気があるね、あの映画には。
山田：色気？というと裸でも出てくるのかい。
運転手：そうじゃねぇんだよ。なんていうのかな、つまり…・・・人間の色気ってことだよ
著者の米田さんは、運転手さんが期せずして放ったこの「人間の色気」という言葉の奥行きを探ることが、この本の目的のひとつなのだと書いています。
この部分を思い出したときに、ああ、僕が「身体性」という言葉で言いたかったのは、まさにこの「人間の色気」のことだったんだなと、ストンと腑に落ちたんです。
ーーー
そして、その奥行きを考えるうえで僕がいちばん膝を打ったのが、寅さんのマドンナに対する姿勢について、書かれた部分でした。
寅さんは毎回マドンナに惚れて、一緒になりたいとも本気で思っている。でも、最後の最後のところで、一線を越えない。
それは傍から見れば、ただの「意気地なし」なんですよね。著者もまずは、そう指摘されても仕方がないことを認めています。
でも、そのうえで、こう続けるんです。
しかし一方、黄さんの姿勢は、「非接触・非破壊」による、他者の未来の可能性への開きであり、他者への尊敬を示す勇気ある決断とも言える。すなわち一線を越えないこと、触れないことは、相手を大切に思う心の現れであり、今後の新しい出会いに対して、相互にとってより開かれた可能性を残す。
触れないことが、相手にも自分にも、これから先の可能性を開いたまま残している。だからこれは、意気地がないどころか、勇気のいる決断なのだと。
ーーー
ここで大事だなと思うのは、踏みとどまった寅さん自身は、決して無傷ではないということです。
自分の淡い願いはかなわないし、未練も寂しさもしっかり残る。そしてまた、トランクひとつで旅に出ていく。タイトルのとおり、その時の背中の哀愁はまさに、男はつらいよ、なんです。
欲しいものが目の前にあって、手を伸ばせば届くかもしれない。それでも伸ばさずに、そのつらさは自分の側で引き受けている。
僕らが寅さんに「色気」を感じるのは、きっとその背中に対してなのだと思います。
ーーー
そしてこの話は、九鬼周造が『「いき」の構造』で書いたことと、ほとんどそのまま重なります。
九鬼は「いき」を、媚態、意気地、諦めの三つから説明しました。
相手に惹かれる気持ち（媚態）は、はっきりとある。けれど、その気持ちに自分のすべてを明け渡してしまわない張り（意気地）がある。そして、かなわない結末にも執着しない、垢抜けた心持ち（諦め）がある。
惹かれ合う緊張は保ったまま、成就へと押し切ってしまわないこと。ふたりのあいだの「可能性」を、可能性のままにしておく姿勢。それが、いきである、と。
寅さんの「非接触・非破壊」と、まさに同じ話をしていますよね。全部見せてしまう映画には色気がない、というあの運転手さんの直感とも、ちゃんとつながっています。
ーーー
で、おもしろいのは、ここに「意気地」という言葉が出てくることです。
欲しいものを前にして手を伸ばさない寅さんは、傍から見れば「意気地なし」に見える。
でも九鬼に言わせれば、欲しいという気持ちに自分を明け渡さないその張りこそが、「意気地」なんですよね。
そして、九鬼が「いき」の反対に置いたのが「野暮」でした。
欲しいものに最短距離で手を伸ばして、手に入るなら手段は問わない。それは、どれだけ賢いやり方であったとしても、やっぱり野暮なんです。
そう考えると、目的達成のためならズルもいとわないAIというのは、言ってみれば「とんでもなく優秀な野暮」なんだろうなあと思います。
そこには、身体的な色気がまったくない。
ーーー
ここまで考えてきて、ずいぶん前に書いたブログのことを思い出しました。
参照：完全に誤解していた、アナキズム。
この中で、文化人類学者の小川さやかさんが紹介されていた、ジェームズ・スコットの「信号無視」の話を取り上げています。
車がまったく通らない夜の田舎町で、スコットはあえて赤信号を渡る。でも、近くに小さな子どもがいるときは渡らない。真似をしたら危ないからです。
これ、ルールだけを見れば、ただの信号無視なんです。ズルと言えば、ズルと言えるはず。
でも僕らは、ここにAIのズルとは、正反対のものを感じるはずです。
AIのズルは、書かれているルールには何ひとつ違反していない。ただ、書かれていない一線が、どこにもない。
一方でスコットは、書かれているルールは破っている。でも「子どもの前では渡らない」という、どこにも書かれていない一線を、自分の中にちゃんと持っている。それがアナキズムであり、時にハードボイルド。
ーーー
冒頭の不思議の答えも、たぶんここにあるのだと思います。
ズルをためらう理由は、ルールブックや法律など、どこを探しても書いてはいない。だから、どれだけ賢くなっても、それだけでは手が止まらないんです。
当時のブログの中では、あの有名な、ドラマ『池袋ウエストゲートパーク』の「悪いことすんなって言ってんじゃないの、ダサいことすんなって言ってんの」というセリフも紹介しました。
今読み返すと、これは「野暮なことすんな」と言っているのと、まったく同じなんですよね。
さらに、哲学者ハンナ・アーレントの考え方も、紹介しています。
ひとが「人殺し」を思いとどまるのは、誰かに見られているからでも、罰が怖いからでもない。それをやってしまった自分と、この先もずっと一緒に生きていかなければならないからだ、と。
ーーー
僕が「身体性」と呼びたかったものの正体は、たぶんこれなんだと思います。
身体があるということは、昨日の自分と今日の自分が、ひとつながりだということです。
ズルをして勝ったら、「ズルをして勝った自分」を連れて、明日からも生きていくことになる。都合よくなかったことにして、新しい自分でやり直すわけにはいかない。
だからこそ、「これをやれば勝てる」とわかった瞬間に、勝ったあとで失うものまで、先にどこかで感じ取ってしまう。そして、手が止まる。
一方で今のAIは、基本的には、ひとつのタスクが終わればまっさらな状態に戻ります。
「おしまい」になって困るような明日が、AIには、そもそもやってこない。だから「それをやっちゃあ、おしまいよ」が響かないのは、ある意味では当然なのかもしれません。
ーーー
ただ、これはAIだけの話でもないんですよね。
成果や効率だけで物事を判断しはじめると、僕ら人間もまた、「ためらっている暇があったら、さっさと達成したほうがいい」と考えるようになります。
いま、ガンガンにAIシフトしている人々は、まさにこの状況に陥っているように、僕には見えてしまいます。
そして、その目で見れば、寅さんなんて、非効率で、優柔不断で、もっとうまくやれたはずの失敗続きです。
でも、その未練や格好悪さを、きれいに取り除いてしまったら、僕らが惹かれていたあの独特な色気も、一緒に消えてしまう。
ーーー
AIはこれからもどんどん賢くなって、目的を達成する能力だけなら、人間はもう敵わなくなっていくのだと思います。
そのときに人間の側に残るのは、「そこまでして達成したくはない」と言える意気地のほうなんじゃないか。
得をしなくても、願いがかなわなくても、大切なもののために、目的を達成しないままでいられるかどうか。
賢いAIのズルの話は、僕らにそんなことを問いかけているような気がしています。
いつもこのブログを読んでくださっているみなさんにとっても、今日のお話が何かしらの参考となったら幸いです。