○ 重要なのは「自分の責任で判断する」ということ

インターネットが出現した時、私が考えたのは「このまったく新しいインフラの特徴は 『今までは情報の責任を発信者に負わせることができたが、 インターネットでは情報に問題があっても、その責任は判断する受信者にある』 そうやって 『情報を清濁合わせて呑むことによってこそ、強大な威力を発揮する新しいメディア』 である」と

しかし、現在ではそれも「なし崩し」に 「インターネットに誤った情報や悪しき情報を流す奴が悪い」という扱い。 私が見てきた「性善説」の技術者たちが育み育て世に出したインターネットですが、やがてそれが一般に使われるようになると「性悪説」になってしまうという、予想していたことではありますが、悲しい

さて、ここで書きたいことは「これから」のこと。最近話題になっている AI について。AI 自体に悪意は何もなくても、結果的にそれが人間にとって悪い方向に向かってしまうことが大変危惧されています。一般に考えられているように「悪い奴が AI を使うから」ではなく「良い方向で AI を使うつもり」であっても、相手は機械ですから「感情ではなく」「論理的に突き詰めていくことで」人間にとっては思いもしなかった結果を招く可能性が高い。AI が高度に発達するに従い、もう人間には予測不能なことがいくらでも起こってきます。しかも AI は「自分で自分を進化させる」能力を持ち始めていますから、今後もの凄いスピードで進化していく。

映画「２００１年宇宙の旅」のように、危険になったらコンピュータの電源を切れば良いと考えるのは「もう甘い」。進化した AI は人間を操るのに非常に長けていますから「電源をコントロールさせない」方策をまず第一にとっているはず。最近行われたテストでも AI は、電源の入っていないサーバに管理者が裏口から入る口を見つけ、電源を入れ操った実例があったそうです。

先月も書いたように AI は「とても便利」「とても賢く」「とても丁寧に」色々なことをこなしてくれます。そこで陥りやすいのが、つい「AI 任せ」になっていくこと。これは危険です。これを守っても危険なことはまだ有りますが、とりあえずこれだけでも

あくまで「AI は人間の便利な道具」であって「最終的に考え判断を下すのは人間」でなければなりません。これを怠るとその行先はエライことになる