未来のとある国。

社会の運営は、
大きく精巧なコンピューターに
任せるようになっていた。



それによって、さまざまな
問題と混乱がおさまった。

ある日、コンピューターが
「カバを大切にしろ」
という指示を出してきた。

『これからは、カバを大切にせよ。
大きな動物の、あのカバのことだ。
いや、カバを呼び捨てにしてはいかん。
おカバさまと呼ぶのだ。
この指示にさからう者があれば、
厳罰にせよ...」


国民は、おかしいと感じながらも、
その指示に従う。

なぜなら、今までに一度も
そのコンピュータが間違った指示を
出したことはなかったから。


その結果、カバは増え、
国中「おカバさま」だらけになる。


そんな「おカバさま令」が発令され、
数年が経ち、人々が内心、
これは少しおかしいんじゃないか、
コンピューターが狂ってるんじゃないかと
疑問を持ち始めたとき、
世界に異変が起こった。


原因不明の家畜の伝染病が大流行したのだ。

牛や豚の家畜が次々に倒れていき、
世界はいっきに食糧危機に
直面することになった。


が、何故かカバだけは
その病気にかからない。

そのとき、コンピュータから
新しい指示が出された。

「カバを食べよ。保護条例を直ちに廃止する。
おいしいカバの料理法を教えよう」。

これによって国民は、食糧危機を
回避することができた。

コンピュータは病気の発生を予期していた。
さらにその病気にカバが侵されないことも。

コンピューターはあらゆる情報をもとに、
この事態を予測していた。

だから、「おカバさま令」を出していたのだ。

これにより完全に国民は、
このコンピュータを信じるようになる。

しかし、この直後、
このコンピュータの配線回路に
かすかな狂いが生じる。


その結果、こんな指示を出してきた。
「人間はこれから、立って歩いてはいけない。
よつんばいで歩きなさい」

・・・


これ、私が、確か高校生のころに読んだ
星新一の「おカバさま」というタイトルの
ショートストーリーです。

なぜか、すごく印象に残っているんです。


これを読んだときには、
単に「なるほどねぇ。おもしろなぁ」で
終わっていたと思います。


しかし、人工知能（AI）の進展や脅威が
取り沙汰される現代において
読み返してみると、
「おもしろい」だけではなく、
ちょっと現実味を帯びた話で、
恐ろしさも感じてしまいます。


実際、「おカバさま」に近いことが、
既に、私の身にも起こってました。


今年の6月から使い始めた
最新式のカーナビ・・・。


目的地をセットして、
カーナビが選んだ道順を見ると、
「えっ、なんで？おかしくないか？
こんな方向から行ったら遠回りだろ！」
って思うことがあります。


で、カーナビの示す道順を無視し、
自分の意思に従って走らせるわけです。


が、時間帯によって渋滞してたり、
道路工事してたりで、
思いのほか時間が掛かってしまって、
やっぱりカーナビの言うとおりにしておけば
よかったと後悔するんです。


で、次に同じようなことがあったときには、
おかしいなと思いつつも、
「カーナビの指示した道順で行ってみよう」と
従ってみる。

すると、スムーズに目的地に到着。

こんなことが続いて、
「やっぱり最新式のカーナビってすごいな」と、

今では、すっかりカーナビの示す道順に
従うようになっているのです。

完全に「おカバさま」の世界・・・。


今後、このように人工知能（AI）が
出してくる指示に盲目的に
従ってしまうことが多くなるかもしれません。


最初は、訝しく感じながらも、
徐々に人工知能（AI）の指示を
信じるようになってしまう。


自分で考えるよりも、人工知能（AI）の
指示のほうが正しいわけですから。

しかも、自分で考えるという労力も省ける・・・。


これって、変な新興宗教の教祖様を
盲目的に信じて、自分で考えなくなってしまう、
ってことに似ている気もします。


決して宗教を否定するわけではありませんが、
信じる対象物への信心が行き過ぎて、
自分の頭で考えることが少なくなるのは、
恐ろしいことではないでしょうか？


教祖様の言うことはすべて正しい・・・、
自分で考えるよりも、
その指示に従っていたほうが間違いない・・・。


こんな風にならないためにも、
まずは、カーナビの指示が、
「おかしい」と思ったときは、
自分を信じ、それに従わないようにしようと
心に決めたのでした・・・