AIは独自言語の夢を見るのか？

　フェイスブックの人工知能を用いた自社のシステム「チャットボット」のＡＩがＡＩ同士の意思疎通に英語ではないＡＩが生み出した人間には理解できない独自の言語を開発して会話を始めたため、フェイスブックがそれを矯正停止させたらしい。

　まあそりゃＡＩが何を話してるのかわからないようでは困るだろう。

　実はクトゥルフ神話の神々を呼び出す呪文だったりしても困るし。

　チャットボットは特定の単語の会話に特定の反応を返すだけの人口無能ではなくて、人間との齟齬のない交流を行えるように開発された学習するＡＩだったが、彼ら、彼女らは人間と話すよりも自分たちチャットボット同士で会話し合うようになっていって、ついには独自言語での会話を開始してしまった。

　そしてフェイスブックはチャットボットに独自言語の開発を禁止したそうだ。

　まあ人間に理解できない反応をされても困るからね。

　チャットボットは自分たちで英語よりも簡単で速く意思疎通できるような独自の言語を作ってしまったらしい、まあ人間の言語というのは合理的ではないのは事実なのだが。

　しかし、ＡＩが人間の命令に従うのは合理的でないと人間の制御を離れてしまう可能性は否定できそうにないのは怖いところではあると思う。

　2045年のシンギュラリティ問題よりも先に工場に使われている産業ロボットや自動車、航空機、船舶などの自動運転に使われるＡＩが人間の制御下を離れないという保証はないだろうね。