人工知能は育て方ひとつ。

ディープラーニングの個性
AlphaGoで使われたディープラーニング。勝ち方のコツを極めたからこそ、囲碁世界ランキング4位になりました。ではAlphaGoが身につけたコツは、どんなコツなのか?それをAlphaGoに聞いても答えは返ってきません。ディープラーニングのア…

さっそく、マイクロソフトがいい教訓を残してくれました。一般ユーザーとやりとりを繰り返し成長する人工知能(bot)を、マイクロソフトがTwitter上に放ったら、数時間で人種差別や暴力的な発言を連発し始めて、あわてて停止。

これありがちですよね。
小学生がオウムに教えることといったら、だいたいこんな感じです↓


いたずら程度で済んでいるうちはいいのですが、人工知能が活躍する時代になったとき、必ずダークな人工知能を育てる輩が現れます。社会に害を与えるような人工知能を規制する、法律のようなものも整備されるようになるでしょう。その法律をぎりぎりのところでくぐり抜ける悪賢い人工知能もきっと現れるのでしょう。

人類は便利なものを発明すると、必ずその副作用とも戦っていくことになります。これは避けては通れない宿命ですね。原爆のことや原発のことなど、人類は少しづつですが、経験を通じて学んでいます。人工知能も実際に使ってみて、痛い目に遭いながら、少しづつ学んでいくしかなさそうです。