テレビで奇妙な映像を観た。幼稚園児が運動会の選手宣誓として選挙の応援演説みたいな内容の言葉を発している。明らかに意味は分かっていない。先生に教え込まれたままを言っているのだと思う。怖いというより滑稽に見えた。

　思い出したのは、1年前（2016年3月）のTayの事件である。当時のネット上のニュースでは次のように書かれている。

『Microsoftが会話理解研究のために公開した人工知能botの「Tay」が、Twitterでのデビュー数時間後に停止した。ユーザに教えこまれた人種差別などの問題のある単語をツイートするようになったためとみられる。』

　さらに、Tayがつぶやいた言葉が載っている画像が貼り付けられている。
‘Hitler was right I hate the jews.’　（ヒトラーは正しい。ユダヤ人は嫌いだ）
Tayは無垢な子供のような人工知能で、会話をすることにより学習していく。それがTwitterというネット世界にデビューしたとたん、悪意のユーザに差別的な言葉を投げかけられ教え込まれたため、差別的な言葉を発するようになった。慌てたMicrosoftが数時間で止めてしまったというわけである。

　二つの事実を対比させてみると、幼稚園児はTay、幼稚園とそこの指導者はTwitterとユーザ、幼稚園児の親はMicrosoftと対応づけられる。似た構図ではあるが、ちょっと違う。それは、幼稚園児の親は子供を幼稚園に通わせ続けているのに対し、MicrosoftはTayをTwitterからおろしてしまった点である。その理由は、多分、幼稚園児の親が幼稚園の方針に共鳴しているのに対して、MicrosoftはTayのツイートの内容が自社の倫理観に合わなかったからだろう。いや、世界の大多数の人の倫理観に合わなかったからと思われる。

　幼稚園児と人工知能Tayの立場に立って考えてみよう。いずれも自分の意思ではなく無垢の状態で幼稚園またはTwitterに入れられる。さらに自分の意思ではなく環境から学習を強制される。その後の道も親またはMicrosoftの意思に左右される。環境に違いはある。幼稚園は私立であるので閉鎖された社会であるのに対し、Twitterは開放された社会である。その分、Tayには大多数の人間の「常識」が反映される可能性は高い。

　子育てに親の意思が大きく影響するのは否定できない。同じように、人工知能も開発者の意思に影響される。どう進化するかは開発者（研究者）次第である。このあたりが、人工知能が人類の脅威であると唱える人たちの根拠だろう。人工知能の発達で救われる道があるとすれば、偏った学習をしないようにオープンな世界で研究を進めることだろう。同様に、子育てについても多くの人の意見を聞いて偏りのないようにする必要があると思う。