GoogleがAIの反乱を抑止する「非常ボタン」を開発

ここ1-2年で人工知能(AI)の進化が凄まじく、新聞ですら、特集記事を組むほどである。そんな中、Engadgetの記事によると、AIの開発を進めているGoogleが、AIが予期しない人間に対する反乱や、好ましくない行動に出たときに対する制御ボタンを開発していたことが明らかになった。これは、インターネット上でpdfドキュメントで、読めるそうである。まあ、Microsoftの開発したAIが、Twitterでつぶやきをさせたところ、ヘイト・スピーチをする人たちから大量の悪意のある言葉を浴びせられ、AI自身がヘイト・スピーチをするようになってしまった、という例もあるから、AIによる人間に対する反乱が起きてもおかしくない。でも、まるで映画「ターミネーター」で出てきたようなスカイネットのようなAIが登場するのは、やはり好ましくない。そういう意味では非常ボタンは必要と思うのだが、果たして、AIがその非常ボタンを認識して、対応策をとらないか、気がかりでもある。AIの進化はそれほどまでに凄まじい、と感じている。