【驚愕】フェイスブックが人類破滅させるAIを開発

フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開
発中のAIチャットボット、”会話エージェント”に機械学習を用いて交渉のやり方を教えて
いたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得な
かったという。

なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだ。

この実験では、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の戦略を反復させていた。その結果、独自の非ヒト言語によるコミュニケーションが発生したので
ある。

機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれる。

ホーキング博士は常々AIの危険性を力説しているけれど、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案なのかもしれない。

http://karapaia.com/archives/52242274.html