AIは人類を滅ぼすのか、救うのか？
これまでAIに愛を入れる方法をAI自身に聞いてみたのですが、もう開発者の方々はある程度AIに愛を入れるのを実践中のようですね。 また例の嫁ですが、最近些細なことまでいちいちGoogleAIのGeminiに相談してるみたい。そしたら、近頃とみに 「こっちに寄り添ってくれる！」 とか言って喜んでます。それも前よりも段々”寄り添い度”がアップしてるみたい。でも、このGemini君、よく間違った情報を出してくるらしく、嫁がそれに気づいて 「それ違ってるんですけど」 て問い直すと、 「大変失礼しました！あなたのおっしゃる通りです！」 とかいって、しれっと相手をおだてつつ訂正してくる。うーん、まだ発展段階ってことですかね。 それはそうと、今AIが人間の知性を越えて人類を破滅させるという議論が盛んですが、僕もその危険を認識しつつも、希望もまたあるのではないかと思ってるんですね。それはなぜかというと、知性って発達すれば発達するほど、 「短期的な利益から長期的な利益に目が行くようになる」 からです。悪ってまずは短慮から来ると思うんですね。目先の利益ばかり追求するから、手っ取り早く「盗み」「恐喝」「詐欺」「強盗」「売春」「麻薬」「ギャンブル」で利益を得ようとする。企業もまず目先の利益を追求するから過剰な「ノルマ」を社員に課し、ノルマ達成のために社員を不正に追い込む。そしてそれがバレて信頼を失い、社会からその企業全体が退場させられる。 短期的利益ばかり追求すると、一旦は上手くいっても、後で大きな破滅が待ち受けている。相手の利益を全く考慮せずに、自己の利益ばかりを図れば、社会に損害を与えることになるので、いずれ世間から制裁を受けるか、信用を失い相手にされなくなるんです。 これは以前のポスト 「悪を罰するのに神が一旦上に持ち上げる道理」 でも考えたことですが、結局短慮なんですよ、悪の起こりは。そして、前々回にAIに愛を入れる方法をAIに考えてもらったときにも、AIは 長期的な利益を短期的な満足より重視する ってちゃんと言っている。 そしてもう一つ。本当に幸福になりたいなら、自己の幸福は社会全体の幸福に分かちがたく結びついているという認識。これもまた自己の幸福だけを考える短慮からは出てこない。これについてもAI君は前々回のポストで 第5段階 共に生きる ―「長期的な幸福を考える」 最...
