私は大学で講師の仕事をしていますが、二年程前から学生の授業に対する姿勢が微妙に変わってきたのを感じます。授業内でリフレクションシートなるものに質問などを書いてもらうと、たまに驚くべき知識量（もちろん生成ＡＩに聞いたもの）で反論してくる学生がいて困惑することがあるのです。課題レポートにしても、以前ならインターネットで検索したことをそのまま書き写したものを見破るには、私のほうでも検索すればよかったのですが、生成ＡＩに書かせたものをそのままレポートにしたものは、学生本人が書いたのではないという証拠を挙げるのが難しい。そういうレポートに対して成績をつけることに何の意味があるのかという疑問も生じてきます。たまに学生が（というよりＡＩが）私のよく知らないマニアックなことを書いてくると、こちらもその意味をＡＩに聞いたりして、自分がＡＩとＡＩの対話を仲介していることに気づいて虚しくなります。他の先生方も対応には悩んでおられるようで、レポート作成にあたって生成ＡＩの利用を完全に禁止しているところもあるようです。しかし、生成ＡＩとの付き合いは今後も避けることができないと思うので、禁止にすることが本当に正しい対策なのか、私も納得できる答えにはたどりついていません。これは教育界に限った話ではないでしょう。さまざまな分野の人からＡＩとの付き合い方に迷う声が聞かれるようになりました。「シンギュラリティは近い」などといって、ＡＩが人間を超える日が来るのを心配あるいは期待する前に、私たちはＡＩとどのように付き合っていけばよいのかを真剣に考えなければならない時代に生きています。
『ChatGPT は神か悪魔か』
そこでまず紹介したいのが、『ChatGPT は神か悪魔か』（宝島社新書）です。落合陽一をはじめ和田秀樹や池田清彦などの著名人がChatGPT とどのように向き合っているかを報告してくれている本です。特に私が先ほど述べたことに関連しているのは『「超」整理法』で有名な野口悠紀雄氏による第三章です。生成ＡＩを教育や経営に活用する方法から、生成ＡＩが知的労働に与えるインパクトなどを非常に具体的に論じてくれています。ChatGPT がとんでもない間違いを平気で生成してくる「ハルシネーション」には注意が必要ですが、活用の仕方次第では強力な味方になってくれることが分かります。野口氏も言うように、人間の教師よりもChatGPT に質問した方が的確な答えが即座に返ってくるという事実は否定できません。そうなると、人間の教師はもう要らないのではないかという予感に少し背筋が寒くなりますが、野口氏は生徒の人格形成という面では今後も人間の教師が必要とされるだろうと述べています。そのためには教師の方がまず人格的に良い影響を与えられる人間になっていなければならないのでしょう。しかし今はＡＩも人格をもっているように見えてしまう時代です。「ChatGPT は神か悪魔か」という問いに対して、「ＡＩそのものは善でも悪でもない。人間がそれをどう使うかの問題だ」と思う人は、まだ生成ＡＩがもっている本当の怖さを知らないと言われても仕方ないかもしれません。
『ＡＩ倫理』
そこで次に紹介したいのが西垣通と河島茂生の共著『ＡＩ倫理』（中公新書ラクレ）です。西垣氏の著作は三〇年くらい前に出た『思考機械』（ちくま学芸文庫）から個人的にフォローしていましたが、どの本も刺激的で面白いです。その理由は、西垣氏がコンピューター専門の工学博士でありながら文学的教養も豊かで哲学的な議論にも深く切り込んでいるからです。西垣氏単著の『ＡＩ原論』（講談社選書メチエ）もお勧めしたいところですが、『ＡＩ倫理』のほうが読みやすいと思います。二〇一九年九月に刊行されているのでChatGPT などが出現する以前のものですが、生成ＡＩの問題を考える上でも押さえておきたい内容で、「四〇年もＡＩの盛衰をながめてきた」（４頁）著者ならではの鋭い洞察が光ります。「まえがき」で紹介されている「ＡＩ搭載の自動運転車が事故を起こしたとき、誰が責任を取るのか」といった問題は、今や誰もが考えざるを得なくなっているのではないでしょうか。あのサンデル教授の「ハーバード白熱教室」で広く知られるようになった「トロッコ問題」（ブレーキが壊れたトロッコの進路上にいる五人を助けるため、レバーを切り替えて一人を犠牲にするのは許されるか、という倫理学の思考実験）も、「そのような状況で自動運転のＡＩはどのような判断を下すのか」という問題として、より現実感が増しています。すでにＡＩに何らかの人格性を認めた議論は始まっているのです。このＡＩの技術開発にはこれまで二度の大きなブームがあり、二〇一〇年代から現在まで続いているのは第三次ＡＩブームと言われています。この第三次ブームの特徴は「深層学習」と呼ばれる認識システムが導入されたことです。詳しいことは本書を読んでいただいたほうがよいのですが、簡単に言えば、インターネットの普及によってコンピューターが勝手に学習していく範囲がほとんど無限大に広がったので、現在のＡＩが人格を持っているように見えてきたのです。その結果、今はＡＩが何でも「教えてくれる」時代になったわけですが、このままいくと、いずれＡＩが人間に何でも「教えてくれない」時代になっていくのではないかという新たな問題も発生してきます。
『NEXUS 情報の人類史 下巻──ＡＩ革命』
ここで、「え？どういうこと？」と思われた方には、ユヴァル・ノア・ハラリ氏の『NEXUS 情報の人類史』（河出書房新社）をお勧めします。邦訳が二〇二五年三月（原書は二〇二四年）に出版されてメディアでも話題になったので、すでに読まれた方も多いかもしれません。上巻「人間のネットワーク」も良いのですが、今回はあえて下巻「ＡＩ革命」を紹介します。上下巻合わせて五〇〇頁以上もあるので、そんなに読んでいる暇はないよ、という方には下巻だけでも読んでいただきたい。上巻のポイントになっているのは、「ドラえもん」に親しんでいる日本人にはお馴染みの話なので、下巻から読んでも意味が分からないということはないはずです。もちろんハラリ氏が「ドラえもん」の話をしているわけではないですが、冒頭で紹介されるゲーテの「魔法使いの弟子」の話は、私たちがよく知っているパターンになっています。
「年老いた魔法使いが若い弟子に工房を任せて出掛ける。留守の間にする雑用も言いつけておく。川から水を運んでくることも、その一つだった。弟子は楽をすることにし、魔法使いの呪文を使って、自分の代わりに箒に水を運ばせる。ところが、弟子は箒の止め方を知らなかったから、箒はひたすら水を運んでくるので、このままでは工房は水浸しになる。慌てた弟子は、魔法のかかった箒を斧で真っ二つにする。すると、そのそれぞれが一本の箒となる。そして、今や魔法のかかった二本の箒が工房を水であふれ返らせる。そこへ老魔法使いが戻ってきたので、弟子は泣きついて助けを求める」（上巻９頁）。
この弟子が「のび太くん」に重なって見えたのは私だけではないと思います。ドラえもんの出す道具は便利だけど必ず欠点があって、のび太がうま使いこなせなくて最後は困ったことになるというオチ。藤子・Ｆ・不二雄はゲーテにヒントを得ていたのかもしれません。この便利な道具こそ、まさに現代のＡＩなのです。とりあえず上巻については、この点だけを押さえて、ＡＩの将来について気になる方はいきなり下巻に飛んでも大丈夫です。下巻ではＡＩという便利な道具が引き起こす問題についてリアルに語られます。ドラえもんの場合はせいぜいのび太が困るくらいですが、ＡＩはもちろんそんなレベルではない大惨事を引き起こす可能性があります。そして、ここでも「誰が責任を取るのか」ということが問題になるのです。今やＡ Ｉ はArtificial Intelligence ではなく、AlienIntelligence の頭文字であるとも言われています（下巻42頁）。「エイリアン」は、人間が想像もしなかったことをしでかすものです。だからこそ私たちは自分の理解を超えた他者との対話を普段から大事にしておく必要があります。そういう意味でも、本書が「対話と協力と友情の産物」（下巻275頁）であるという著者の言葉には大事なメッセージが込められているように私は感じました。
濱崎雅孝
はまざき・まさたか＝大学講師
- 濱崎雅孝
