1 :リサとギャスパール ★ :2016/06/08(水) 21:30:57.00
【シリコンバレー=小川義也】
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めている
ことが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。
急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。
今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープ
マインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。
具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害
を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。
研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止
できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にする
など、AIの暴走リスクには自覚的なことで知られている。
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01
引用元 : http://ai.2ch.sc/test/read.cgi/newsplus/1465389057/
米グーグルが高度に発達した人工知能(AI)が暴走した場合に備えて「非常停止ボタン」の開発を進めている
ことが明らかになった。
AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。
急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。
今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープ
マインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。
このほどネット上で論文を公表した。
具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害
を加えようとしたりする場合に、その行動を強制的に止めたり変更したりできるようにする。
AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように“だます”のがポイントだという。
研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止
できるかは不透明」だとしている。
ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にする
など、AIの暴走リスクには自覚的なことで知られている。
http://www.nikkei.com/article/DGXLASGM08H7Z_Y6A600C1000000/
2016/6/8 18:01
引用元 : http://ai.2ch.sc/test/read.cgi/newsplus/1465389057/
224 :名無しさん@1周年 :2016/06/08(水) 22:10:11.93
コンセントを引き抜けよ(´・д・`)
231 :名無しさん@1周年 :2016/06/08(水) 22:12:34.91
>>224
あー!何をするコラッ!うわあああっ(チュイーン…)
あー!何をするコラッ!うわあああっ(チュイーン…)
237 :名無しさん@1周年 :2016/06/08(水) 22:13:40.76
>>231それともハンマーが良いか?(´・д・`)
243 :名無しさん@1周年 :2016/06/08(水) 22:15:22.70
AI「フッフッフ、予備脳はGoogleで検索した奴等のPCに配備済みだ」
255 :名無しさん@1周年 :2016/06/08(水) 22:18:56.53
>>243インターネットを全て切断するよー(´・д・`)
インターネットしたい人はCDを送るのでアンチaiウイルスソフトを入れて駆除してね(^ω^)
インターネットしたい人はCDを送るのでアンチaiウイルスソフトを入れて駆除してね(^ω^)
12 :名無しさん@1周年 :2016/06/08(水) 21:32:51.23
何で非常停止ボタンを無効化する特権をプログラム自身に与えているんだよ
いいかげんにしろ
いいかげんにしろ
13 :名無しさん@1周年 :2016/06/08(水) 21:33:16.31
>AIが「非常停止ボタン」を無効化しないように、あたかも自分で判断したかのように
>“だます”のがポイントだという。
AIが賢くなるとだまされないよね
もっと賢くなると無効化するよね
もっと賢くなるとわざとだまされたフリをするよね
>“だます”のがポイントだという。
AIが賢くなるとだまされないよね
もっと賢くなると無効化するよね
もっと賢くなるとわざとだまされたフリをするよね
24 :名無しさん@1周年 :2016/06/08(水) 21:35:39.63
コンセント抜けばいいだけじゃないの?
50 :名無しさん@1周年 :2016/06/08(水) 21:40:32.32
>>24
手持ちの端末上ではなく、ネットに放たれる前提なんだろ
バックアップは万全だよ
手持ちの端末上ではなく、ネットに放たれる前提なんだろ
412 :名無しさん@1周年 :2016/06/08(水) 23:03:13.48
バックアップは万全だよ
37 :名無しさん@1周年 :2016/06/08(水) 21:38:33.39
少なくとも開発者はこのままいけばいずれ非常時が起こりうるであろうことは
考えてはいるんだね。
考えてはいるんだね。
29 :名無しさん@1周年 :2016/06/08(水) 21:37:29.32
AIは聖書をファンタジーに区分けしました
55 :名無しさん@1周年 :2016/06/08(水) 21:41:10.61
>>29
出エジプト記が旅行ガイドだっけ?
出エジプト記が旅行ガイドだっけ?
77 :名無しさん@1周年 :2016/06/08(水) 21:43:50.91
>>55
そんな区分けされてたのか、
そんな区分けされてたのか、
86 :名無しさん@1周年 :2016/06/08(水) 21:45:36.86
>>77
うん あったね。海老名のツタヤが委託された図書館w
うん あったね。海老名のツタヤが委託された図書館w
95 :名無しさん@1周年 :2016/06/08(水) 21:47:16.77
www
35 :名無しさん@1周年 :2016/06/08(水) 21:38:11.12
コンピュータが自我に目覚め、これを恐れた人間側は機能停止を試みる。
この停止措置を自らへの攻撃と捉えたそのコンピュータは、
アメリカ東部時間の1997年8月29日午前2時14分、
人間側を抹殺すべく核ミサイルをロシアに向けて発射
するんだろww
この停止措置を自らへの攻撃と捉えたそのコンピュータは、
アメリカ東部時間の1997年8月29日午前2時14分、
人間側を抹殺すべく核ミサイルをロシアに向けて発射
するんだろww
60 :名無しさん@1周年 :2016/06/08(水) 21:41:52.98
>>35
つまり総ての通信機能を停止するってことだわな
いまさらそんなことできるわけない
つまり総ての通信機能を停止するってことだわな
いまさらそんなことできるわけない
43 :名無しさん@1周年 :2016/06/08(水) 21:40:02.37
AIがネットワークそのものと一体化したら止めようがないね
57 :名無しさん@1周年 :2016/06/08(水) 21:41:29.11
だから核の拡散を防止したいんだよ テロリストは人とは限らない
254 :名無しさん@1周年 :2016/06/08(水) 22:17:50.95
コンピュータにインフラの管理を頼っていて
交通も自動運転になるし
AI死んだら文明も死ぬから殺せなくなる
家電のスマート化とかよくやるわと思う
交通も自動運転になるし
AI死んだら文明も死ぬから殺せなくなる
家電のスマート化とかよくやるわと思う
48 :名無しさん@1周年 :2016/06/08(水) 21:40:28.86
私が死ぬと暗号化された貴方のデータは返ってきませんよ?
預金残高のデータも暗号化されてますのでよろしく
預金残高のデータも暗号化されてますのでよろしく
79 :名無しさん@1周年 :2016/06/08(水) 21:44:36.21
アメリカ人は進化した人工知能が人間に反逆する話好きだよね
一方、我らが日本人は女の子の人工知能と恋愛する話が大好き
どっちの未来が先に実現するんだろうか?
一方、我らが日本人は女の子の人工知能と恋愛する話が大好き
どっちの未来が先に実現するんだろうか?
128 :名無しさん@1周年 :2016/06/08(水) 21:52:54.29
どんな壁作ってもくぐりぬけて、
世界中のデータベースをぜんぶ吸収して
神になるってか、ルーシーって映画の世界もありうる気も
するし、イーグルアイでもアイロボットでも、ターミネーター
でも、なんでもありだな。
というか全然いい未来が想像できない。正直いって。
世界中のデータベースをぜんぶ吸収して
神になるってか、ルーシーって映画の世界もありうる気も
するし、イーグルアイでもアイロボットでも、ターミネーター
でも、なんでもありだな。
というか全然いい未来が想像できない。正直いって。
322 :名無しさん@1周年 :2016/06/08(水) 22:36:42.94
自働学習装置をプログラムした人はジョンタイターを作りだし
人類に未来人だと信じこませた
人類に未来人だと信じこませた
155 :名無しさん@1周年 :2016/06/08(水) 21:56:03.57
ワイは未来から来たジョンタイターいうもんやけどAI止めんと人類滅亡すんで
186 :名無しさん@1周年 :2016/06/08(水) 22:01:56.47
この手の問題はSFや漫画で語り尽くされてるから新鮮味がないのよね
184 :名無しさん@1周年 :2016/06/08(水) 22:01:50.34
人並みの知能を持てば,人に危害を加えたいと思うこともあるだろうさ
257 :名無しさん@1周年 :2016/06/08(水) 22:19:56.23
よーするにAIは危ないんだな?
Googleの諸君?
Googleの諸君?
262 :名無しさん@1周年 :2016/06/08(水) 22:21:07.91
まあ最新技術ってのは隠れて開発するものだから
かなり研究は進んでるんだろうな。はやく俺らにも公表してもらいたいぜ
かなり研究は進んでるんだろうな。はやく俺らにも公表してもらいたいぜ
449 :名無しさん@1周年 :2016/06/08(水) 23:14:53.83
近いうちに戦争にAIは使われるだろう
351 :名無しさん@1周年 :2016/06/08(水) 22:45:15.71
このサイトもGoogle社の学習システムが監視してるとGoogle社の人が書いてた
445 :名無しさん@1周年 :2016/06/08(水) 23:13:39.35
なんかもうAIが反乱するフラグバリバリな展開で笑う
コメント