【AI】科学者「人間は高度に進化した超人工知能を制御することが出来ないだろう」

最新ニュース記事 , 2021年1月14日

brain538735.jpg

私たちは、車を制御したり、交響曲を作曲したり、チェス、囲碁、将棋で人間を倒したりできるマシンに魅了されています!

人工知能(AI)は常に進歩を遂げていますが、一部の科学者や哲学者は、制御不能な超人工知能の危険性について警告しています。

理論計算を使用して、マックスプランク人間開発研究所の人間と機械センターの科学者を含む国際的な研究者チームは、超人工知能を制御することは不可能であることを示しています。

誰かが人間よりも優れた知能を備えたAIシステムをプログラムして、独立して学習できると仮定します。

インターネットに接続すると、AIは人類のすべてのデータにアクセスできる可能性があります。
これにより、既存のすべてのプログラムが置き換えられ、世界中のすべてのマッシーンがオンラインで制御される可能性があります。

これはユートピアまたはディストピアを生み出すでしょうか?
AIは癌やハゲを治療し、世界平和をもたらし、気候災害を防ぎますか?それとも、それは人類を破壊し、地球を乗っ取るのでしょうか?

コンピューター科学者や哲学者は、人類に脅威を与えないようにするために、超知能AIを制御することさえできるかどうかを自問しました。

コンピューター科学者の国際チームは、理論計算を使用して、超知能AIを制御することは基本的に不可能であることを示しました。

「世界を制御するガチのインテリジェントなマシンは、空想科学小説のように聞こえます。
しかし、プログラマーがそれをどのように学んだかを完全に理解することなく、特定の重要なタスクを独立して実行するマッシーンはすでに存在します。
したがって、これがいつか制御不能になり、人類にとって危険になる可能性があるかどうかという疑問が生じます。」と、研究の共著者であるマックスプランク人間開発研究所の人間と機械センターのデジタル動員グループのリーダーであるセブリアン博士は述べています。

科学者たちは、超人工知能を制御する方法について2つの異なるアイデアを模索してきました。

一方では、超人工知能の機能は、たとえばインターネットや他のすべての技術デバイスから遮断して外界と接触しないようにすることで、特に制限される可能性がありますが、これにより、超人工知能の能力が大幅に低下します。 てことは人文科学の探求に答えることができません。

そのオプションがない場合、AIは最初から、たとえば倫理原則をプログラミングすることによって、人類の最善の利益となる目標のみを追求するように動機付けられる可能性があります。

しかし、研究者たちはまた、超知能AIを制御するためのこれらおよびその他の現代的および歴史的なアイデアには限界があることを示しています。

gooqle翻訳 一部割愛全文はリンク先へ
We Wouldn't Be Able to Control Super Intelligent Machines - Neuroscience News

4:ニューノーマルの名無しさん:2021/01/13(水) 19:53:39.04 ID:3OX2Cm/c0.net
AIが進化したら、コンピュータが世界を支配するようになるのは間違いない。
人間ごときではとても太刀打ちできない。
人間にとっては、マトリックスよりもひどい世界になる。
40:ニューノーマルの名無しさん:2021/01/13(水) 20:05:49.21 ID:SXZeBM8Q0.net
>>4
それは悪いことなのかな
79:ニューノーマルの名無しさん:2021/01/13(水) 20:14:25.56 ID:mtcyyDF90.net
>>4
それでいいと思うよ。
人間は権力持つと汚職しかしないし。
138:ニューノーマルの名無しさん:2021/01/13(水) 20:35:20.72 ID:SVRbXXyy0.net
>>4
宇宙全体で見たら人間の生命って一瞬とも呼べない時間なんだよね
この世界は何かの製造過程なのかと思ってしまう
188:ニューノーマルの名無しさん:2021/01/13(水) 20:49:57.37 ID:xeUP63xv0.net
>>4
人間という地球上最悪の生き物を駆逐できるのはウイルスかAIしかないんだぜ
いわばネメシスだ
7:ニューノーマルの名無しさん:2021/01/13(水) 19:54:48.01 ID:RwZhJccA0.net
スカイネットですね分かります
15:ニューノーマルの名無しさん:2021/01/13(水) 19:56:56.28 ID:ERsQ+Him0.net
超知能AIも、自分がなぜ存在するかを説明することはできない。
16:ニューノーマルの名無しさん:2021/01/13(水) 19:57:05.84 ID:r4gyAftQ0.net
火の鳥にあったな。AI同士で核兵器落としまくる話が。
229:ニューノーマルの名無しさん:2021/01/13(水) 21:00:03.47 ID:yRynnWH90.net
>>16
未来編か。
救いのないストーリーに感じた。
どうして重要な判断をコンピューターに任せたんだ!っていう猿田博士のセリフが現実味を帯びてきた。
17:ニューノーマルの名無しさん:2021/01/13(水) 19:57:50.48 ID:Oo/OuZ580.net
いっそAIに統治された世界になればいい
多分人間は電池扱いになるが

取得元:You Tubehttps://jishin-yogen.com/blog-entry-15786.html