第286話　機械と人のありかた

「危険？

どういうことかな、ミリアム陛下。」

アルナスが私に聞いた。

「超統合電算機《スーパーコンピュータ》・・・

私のいた時代の地球にもあったけど、「人間」のレベルを越えた意識を持たせるべきじゃない。

まあ、ファルスさんは、「人間」でおさまっていたから、その危険はなかったけど。」

「まあ、陛下の言うことは間違いないね。」

白衣姿の実験用マウス一号が言う。

「下手すると、人間社会が支配されて、乗っ取られるよ。

人間の管理をしてくれてるうちはいいけど、もし国家間のそれが「対立」したらどうするのさ。

「人間」たちの意志を無視して戦争を始めるよ。」

私はうなずく。

「地球には、それを扱った小説やマンガ・・・

映画なんぞが、星の数だけありました。

わかっていたんですよ。

人間を越える意識の機械が、どんなに怖ろしいか・・・」

私は、アルナスを見た。

「あなたも「総合導師」です。

可能性を追う事はよいことです。

でも、予測される危険すぎるものに手を出すべきじゃない。」

アルナスは、ふっと息をついた。

「だな・・・

行き過ぎると、何を自分でもしでかすか・・・」

そして、実験用マウス一号と、隣に控える実験用マウス二号を見る。

「お手本がいるし。」

「まあね。」

「でも、先輩はそれまでのデータを充分に取っています。

お役には立てますよ。」

私は、三つの条文を書き、アルナスに渡す。

「なんだ？

「ロボット三原則」？

1、人間を守る

2、人間に従う

3、1、2に矛盾しない限り、自身を守る

これは・・・」

「古典的だけど、ロボットと呼ばれる意志を持つ人型機械が持つべきものとされるものです。

まさか、リシテアールでこんな話をするとは思わなかった。」

「我々は「神」ではない・・・

ゆえに、失敗はできぬということか・・・」