第82話：AI「人間は理不尽」
見慣れぬ冷却液が低い唸りとなって脈打つ機関室。空調こそ完璧に制御されて快適な室温となっているが、その重苦しい空気が音なき重圧として体に押し寄せてくる。無数の配管と機材がひしめく中で、遥斗はその中でひときわ異彩を放つヴェラの姿を見つめていた。
ヴェラは、遥斗が運んできた得体の知れない装置を床に置かせると、自身は腰のツールベルトから新たなガジェットを取り出した。ヴェクシス繊維が張り巡らされたシンクセンス・グローブ。どういう仕組みなのか、それを腕に押し当てただけで指先から肘まで包み込まれ、銀と紫の極細の回路が血管のように浮かび上がる。そして彼女は額に乗せていた作業用ゴーグルをおろすと、猫のような瞳を細めて、ケーブルを船体の認証ポートに接続していく。
「シアルヴェン、ヴェクシス・システムの連邦法準拠チェック・プロトコル、開始……終了。シークエンスをスキャンモードからアクセスモードへ。レベル２解除」
そう彼女が呟いた瞬間、彼女のつけたグローブからガルスクリと思われる幾何学的な紋様が青白い光を放った。接続したケーブルの根本から、その光が奔流のように主機管へと吸い込まれていく。その瞬間、彼女の視界にだけ、周囲の配管やシステム情報が半透明の幾何学模様として走り始めた。情報の世界がヴェラの周囲に展開しているのだろう。
「ホロスクリーンとかで映し出さないの？」
「これから出てくるのはこの機密の船体情報もあるからな。正直、こっからは割と地味だぞ。2シクタくらい集中してるから、わからないことがあったらシアにでも聞け」
なるほど、そういうものかと遥斗は納得する。
しかし地味なのか。もっとバキューン！ドガガガ！カタカタカタッ！ターン！
「システム・コード、全解除！ガリオットチャンネル・デバインバレル！」
とかやるのかと思ってワクワクしていたのだが。なおガリオットチャンネルがなんなのか、デバインバレルするとどうなるのか、遥斗は知らない。なんとなくカッコよさそうな言葉を適当に考えただけである。
その後、突っ立っていても暇だろうということで、機密にならない区域の船内の様子を映し出してもらった。
まずは推進機関のコアブロック。
肉眼ではただの分厚い装甲板に見えるが、投影した解析映像には、目に見えない位相歪みを示すオレンジ色の波紋が微細に揺らいでいた。しばらくすると、コア内部から細い光ファイバー状の修復プローブが何本も伸び出し、その波紋の中心に向かって、謎のエネルギー粒子を注入していく。すると表示された波紋は少しずつ収縮し、やがて安定したのか一定のリズムを取り始めた。
また、ある場所ではヴェラのつけたグローブの光に呼応するかのように壁に青白い幾何学模様が走ったり、ある場所では彼女が何かをつまんで回すような仕草をすることで、大きなパイプが取り外され、代わりの部品が取り付けられていく様子が映る。他にも、無人修復装置と思われる様々な機械が船内を忙しそうに動き回っていた。
「これ、全部ヴェラがやってるの？……なあ、シア。この船にもAIがあるんだろ？なのになんでヴェラみたいな人間に頼むんだ？全部AIに頼めばいいんじゃないか？」
遥斗が問いかけると、首のチョーカーが淡く光り、シアが静かに答える。
「いくつかの領域において、自己独立型AIに最終判断権を与えることはガルノヴァ連邦法で禁じられているからです。特にヴェクシス機関の最終段階での位相制御、判断などがこれに該当します」
「禁止？」
「私のようなヴェクシスAIは位相共鳴演算により、人間の『意思』とは異なる独自の創造性を持ちます。これは地球の生成AIが『学習したパターンの統計的再構成』で解を出すのとは根本的に異なります」
なるほど。地球でもそれが理由で生成AIについて様々な意見があり衝突が起きているのを遥斗は知っている。位相共鳴演算とはよくわからないが、シアたちの技術はそれとは全く異なるらしい。しかしそれがどうAIが禁止される理由になるのだろうか。
「ヴェクシスAIは優秀であればあるほど、『パニック』や『判断ミス』が起こるからです」
「パニックって……AIが？」
「はい、独立した創造性である以上、その判断は常に変化し揺れ動きます。これにより、命令されていないことにおいてもルールの範囲で対応し、データにないことに対しても推測をしながらアクションを起こせます。しかしそれは人間から見て『余計なことをしてしまう』ということでもあります。未知のこと、正解のない問題に対しては特にこの現象が顕著で、AIが最適解を選ぼうとした結果が人間的には理解不能な選択に見えるのです。これをガルノヴァでは『AIのパニック行動』と呼んでいます」
考える。いまいちよくわからない。
悩んでも仕方ないのでいつも通り２秒で聞こうとして――それも予測済みだったのか、シアはすぐに答えてきた。
「ルト様は私にネットで人間と交流してほしいと命じましたが、その結果、私がVtuberになったことについてどう思いましたか」
「理解した！そうだ、お前唐突にポンコツになるんだった！」
「ポンコツ違います。できるデバイスです。……不本意ですがそういうことです。私はちゃんとルト様の指示を守ったのにぐぬぬ」
なんとなくわかった。要は「人間的感覚であればなんとなく判断できる常識」がAIはズレているのだ。
それはそうである。人間ですら「常識」「価値観」などは同じ環境にいても異なることがあるし、そもそもそこには正解などないのだから。
そのずれにより、AIとしては「ルールを守った行動」であるのに、人間からしたら突拍子もない理解不能な行動に見えるのだろう。まるでAIがパニックを起こしたかのように。
「あー……そうか。それが『パニック衝動』って言われるのか。人間的判断ミスというのは？」
「AIの判断には、優先される順序があります。第一に法律や原則などの絶対ルール。第二にマスターの直接命令。その次にコストやリソース、被害率などの合理判断。そして最後に、マスターの行動傾向が来ます。ここまではよろしいですか？」
「最後のは、俺がどういう性格で、どう考えそうか、ってやつだよな。それで？」
「第一、第二の優先度は変わりません。ですが――ごく稀にですが、この合理判断と行動傾向判断の優先度が逆転します。具体例で説明します」
シアは遥斗が頷いたのを確認して、話を続けた。
「事故で一人を救おうとすると、百人が犠牲になる可能性がある場合。合理性だけで言えば、その一人は見捨てるべきです。優先順位の指定がなければ、AIは百人を救うほうを選ぶのが『正解』です。逆に、その一人がマスターなど最高優先者であれば、百人を犠牲にしても、一人を助ける判断をするのが『正解』です」
「まぁ……そうだろうな」
「では――例えばイリスさんやキャプテン・ヴェラが事故で危険な状態になったとします。救助は可能ですが、そのためには１００人が、あるいはルト様に一定の危険が及ぶとしましょう。しかも何らかの理由でルト様に判断を仰げず、私が単独で決断しなければならない状況です。……このとき、私はどうすると思いますか？」
嫌な質問だ、と思いながらも、遥斗は少し考えたあと、低く唸るように答えた。
「……二人を見捨てる？大勢か、あるいは俺を優先するんだから」
「可能性は高いでしょう。ですが、絶対とは言い切れません」
予想外の答えに、遥斗は目を大きく見開いた。
「そのリスクの大きさ次第ですが、私はルト様にある程度危険が及ぶ可能性があっても、二人を救う方法を探すでしょう。少なくとも、見捨てる即断はせずに選択肢に入るはずです」
「どういうこと？俺的にはありがたいけど」
「理由は単純です。ルト様は決して大切な人を安易に見捨てる選択をしない。たとえ自身にリスクがあろうとも……違いますか？」
「……」
答えない。自分はそんな自己犠牲の精神を持っているわけではない――と言いたいところだが、実際にそのような事態になった時、自分が『やってやらあ！』とリスク承知で動いてしまう様子が、簡単に脳裏に浮かんでしまった。
「私はルト様の行動傾向を深く学習してきました。ですから、命じられていなくても『ルト様ならこう望むはずだ、つまりこれは命令と等しい優先度だ』と勝手に判断してしまう。ですが――それは本来、正しい順序ではありません。合理性と行動傾向が逆転しています。それが結果として、人間から見た場合には『人間的な判断ミス』に見える決断となりうるのです。人間は普段の言動と本音が異なることもあるのでなおさらです」
なるほど。それはそうだ。
そもそも人間の行動は合理的ではないし、人によっては周囲を騙しもするのだから。
「それって、逆転するなって言えばいいんじゃないの？初めからそういう風に作るとか」
「もちろん命令すればそうなります。ですが、それは創造性という我々ヴェクシスAIの最大のメリットを殺すことでもあります。それは宇宙のようなイレギュラーが常に起こる危険区域では致命的です。既知の出来事にしか対応しきれないからです。それに、普通は重大な事柄においてこの逆転現象はめったに起きませんので」
「そうなの？」
「はい、ルト様のようにAIにアイデンティティを見出し、人格を認め判断を任せてくださる奇特な方でもなければ。しかしそれも可能性が上がるだけで、絶対とは言えませんけどね」
どこか遥斗に対して微笑むかのように優しい声で告げるシア。だが、それも一瞬でさらに説明を続ける。
「そしてこれが最大の理由ですが――なによりAIは責任をとれません」
「AIの判断で事故ったときの責任ってことか……」
「はい、それが連邦法でAIに制限が入る決定的な理由です。私たちが結果として最悪の判断を下しても、私たちには悪意も怠慢もないため、故意や過失を問う法的根拠が存在しないからです。そのため責任の所在はどのような決定をしたか、設定をしたか、どこまでAIに任せたか、AIが仕様通りに動いた結果なのかなど細かく分けられるのです。連邦法では、責任の所在を明確にするために、AIの判断領域を限定しており、結局は人間の介入は必須なのです」
「なるほどな。そりゃあ人間がやるしかないわ」
納得した。自動運転の車が事故を起こしたからと、自動自動車を人間の法で裁くのと同じだろう。そもそもAIにたいして懲罰をしても意味がないのだ。牢屋に入れたり罰を加えてもAIは別に苦しまないのだから。……まあシアは「お仕置き」として机の中にしまうと大騒ぎするし「しくしくしく…ルト様がいじめる……」と泣き落としにかかるので断言できないが。
「最後に、もう一つ。人間は時としてAIの判断を越えるからです。例えば――」
シアは会話を切り、ヴェラがシアルヴェンと行っている作業に遥斗の視線を誘導する。ヴェラはゴーグルの中のコンソールを凝視しながら、低い声でシアルヴェンに問いかけていた。
「シアルヴェン。船体自動修復プログラムの稼働位相について、予測負荷マージンを算出してくれ。過去三月巡のデータ変動も参照してだ」
"要求を受理。過去データから位相マージンを演算。現在、修復プログラムは基準値より1.5％高い周波数で動作。ただしこれは隕石群の衝突というイレギュラーによるものであり、今後の継続性はなし。以上からシステム負荷は規定の許容変動範囲内に収まる。今後の事故確率は許容範囲。問題なし"
彼女の問いかけに、シアルヴェンの無機質な音声が応答する。これは機密ではないらしく、遥斗にもシアを通じて聞こえてきた。ヴェラがニヤリと笑いながらコンソールを叩いた。
「データ的には、な。……ここの連中が、この船をそんな『まともな使い方』をしてきたと思うか？ぜってーアホな奴がわけのわからん使い方して負荷かけてんぞ。この微細な周波数変動は、誰かがエネルギー効率制御に非公式な干渉を行い、その反動でクライオン・プロトコルに歪みが発生している兆候だ。このままじゃ突発的な戦闘や事故が発生した場合、修復システムの位相安定化が間に合わないリスクが生じる。本格メンテまではエネルギー効率制御のバランスを変えてこっちにリソースを回すぞ」
"そのようなデータ、依頼人から受け取ったデータの中には存在しない"
「やらかしたやつが隠してんだよ。どうせ違法ツールか何かでシステムの記録ごまかしてんだ。あの船長が聞いたらぶちぎれだろうけどな。時間かけてログを解読して調べりゃ誰がやったかまでわかるが、それは料金の範囲外だ。事実だけ告げて後はまかせようぜ」
"その根拠を求む"
彼女はふふん、と口角を上げて答える。
「摩耗率、プログラムの負荷、そのパターンにある違和感。そしてあいつらを見た感じでの『勘』だ」
"それは根拠たりえないがよろしいか"
「アタシの勘が外れたことあったか？」
"……Aisa。再計算結果、キャプテン・ヴェラの勘が外れていたとしてもリソース変更によるデメリットは軽微"
ヴェラは満足げにうなずいて、再び黙々と作業に集中し始めた。
「ということです。一流と言われる一部の人間が、期待値や確率、合理性を無視してAIを越える最適解を見出すことがあります。これをガルノヴァでは『理不尽な天才』と呼ぶのです」
シアがそう言うと、遥斗は呆然としてしまう。AIは確かに人間の性能をはるかに超えながら、人間の可能性はそれを上回るとシアはいうのだ。こんな技術の進んだSF世界、ガルノヴァでそれが示されているのだというのだから、人というのは本当に可能性の塊なのだろう。妙な感動すら生まれてくる。
そう、遥斗が総毛だつような感覚に身を包んでいると、シアがやさしい口調で語りかけてきた。
「ちなみに、キャプテン・ヴェラがルト様とパートナー関係を結んだのはこの『勘』によるものです。シアルヴェンは当時、ルト様を『嘘をいう危険人物』『密航者』として扱い、賠償金として身ぐるみ剥いだ上で簀巻にして連邦警察に突き出すことを提案していましたので。AIは合理的ですね」
「聞きとうなかったそんなの……」
