0001SQNY ★2019/06/05(水) 11:15:15.72ID:CAP_USER
・「人間のふりはさせない」、ロボット工学新原則の策定を 専門家
【6月5日 AFP】SF作家アイザック・アシモフ(Isaac Asimov)氏が小説内で、人間に危害を加えないことなどを盛り込んだロボットが従うべき原則「ロボット工学三原則」に初めて言及したのは1942年だった。日常生活におけるロボットの役割が拡大する今日、新たな原則の制定が求められると、法律と人工知能(AI)の専門家で米メリーランド大学(University of Maryland)のフランク・パスカーレ(Frank Pasquale)氏は訴える。
米ハーバード大学出版局(Harvard University Press)から新著「New Laws of Robotics(ロボット工学の新原則)」を出版予定のパスカーレ氏は、日常で使われるロボットやAIに対し、新たに四原則を適用すべきだと主張している。
同氏は5月にバチカンのローマ法王庁科学アカデミー(Pontifical Academy of Sciences)が開催したロボット工学会議でAFPの取材に応じ、「ロボットは専門職の代替ではなく、補完であるべきだということが一つ目の原則だ」と語った。
「ロボットの医師ではなく、AIというものを良く理解し,最良の助言をAIから得るような医師を望むべきだ。だが、最終的に何をするかまたは何をしないのかということを決めるのは医師だ」
さらにパスカーレ氏は「二つ目の原則は、ロボット兵器の開発競争をやめなければならないということだ。現在、多くの人が戦争ロボット、軍事ロボット、警備ロボットに投資している」と述べ、軍事用ロボットやAIへの投資は「敵によってすぐに打ち消されないような」優位性がなければならないと指摘した。
■人間のふりをさせない
最も物議を醸す三つ目の原則は、人間を模したロボットやAIを作らないというものだ。パスカーレ氏は、相手にコンピューターと話していると言うことを知らせずにホテルなどの電話予約を代行するグーグル(Google)のソフトウエア「デュープレックス(Duplex)」を例に挙げた。「最も重要な原則は、人間のふりをさせてはいけないということだ」
ロボットが人間の姿を模していいのは「介護ロボット」や「セックスロボット」など、「その任務遂行に不可欠な場合のみだ」とパスカーレ氏は述べた。
四つ目の原則は、ロボットやAIは「個人や個人で構成される企業に帰属または所有されるべきであるということだ。なぜなら…われわれは人を罰する方法は知っているが、機械を罰する方法は知らないからだ」
■「正気の沙汰ではない」
パスカーレ氏はさらに、「フェイスブック(Facebook)のような企業が不正を働いた場合、企業自体には罰金が科されるが、個人に罰金が科されたり、誰かが収監されたりすることはない。これは問題だ」と指摘する。「個人や企業に属さないロボットの存在を許せば、事態は悪化するだけだ」
また同氏は、絶対に避けなければならないのは、米航空機大手ボーイング(Boeing)が737MAX型機に設定したような二重構造になった技術だと指摘する。同機は欠陥のあるセンサーから送られた情報によりソフトウエアが誤作動し、数百人が死亡する2件の墜落事故を起こした。
「航空会社が二つ目のセンサーを使うには別の機器を追加購入しなければいけないという仕組みをボーイングのトップレベルが決定した。これは大量の問題を引き起こす可能性があるように私には思える」
「このような取り決めに介入し、認めないようにするのが、法律がやらなければならないことの一つだ。航空に関する基準は単一であるべきだ。ライアンエア(Ryanair)やアメリカン航空(American Airlines)、ルフトハンザ航空(Lufthansa)が追加の計器を購入したかどうか調べなければならないというような事態は起こってはならない。それは正気の沙汰ではない」 (c)AFP
(画像)
https://i.imgur.com/1mH2OJn.png
https://afpbb.ismcdn.jp/mwimgs/d/4/1000x/img_d446cecab9b87d1c52cd0357d5f5630e74772.jpg
2019年6月5日 9:02 AFP
https://www.afpbb.com/articles/-/3227279?act=all
【6月5日 AFP】SF作家アイザック・アシモフ(Isaac Asimov)氏が小説内で、人間に危害を加えないことなどを盛り込んだロボットが従うべき原則「ロボット工学三原則」に初めて言及したのは1942年だった。日常生活におけるロボットの役割が拡大する今日、新たな原則の制定が求められると、法律と人工知能(AI)の専門家で米メリーランド大学(University of Maryland)のフランク・パスカーレ(Frank Pasquale)氏は訴える。
米ハーバード大学出版局(Harvard University Press)から新著「New Laws of Robotics(ロボット工学の新原則)」を出版予定のパスカーレ氏は、日常で使われるロボットやAIに対し、新たに四原則を適用すべきだと主張している。
同氏は5月にバチカンのローマ法王庁科学アカデミー(Pontifical Academy of Sciences)が開催したロボット工学会議でAFPの取材に応じ、「ロボットは専門職の代替ではなく、補完であるべきだということが一つ目の原則だ」と語った。
「ロボットの医師ではなく、AIというものを良く理解し,最良の助言をAIから得るような医師を望むべきだ。だが、最終的に何をするかまたは何をしないのかということを決めるのは医師だ」
さらにパスカーレ氏は「二つ目の原則は、ロボット兵器の開発競争をやめなければならないということだ。現在、多くの人が戦争ロボット、軍事ロボット、警備ロボットに投資している」と述べ、軍事用ロボットやAIへの投資は「敵によってすぐに打ち消されないような」優位性がなければならないと指摘した。
■人間のふりをさせない
最も物議を醸す三つ目の原則は、人間を模したロボットやAIを作らないというものだ。パスカーレ氏は、相手にコンピューターと話していると言うことを知らせずにホテルなどの電話予約を代行するグーグル(Google)のソフトウエア「デュープレックス(Duplex)」を例に挙げた。「最も重要な原則は、人間のふりをさせてはいけないということだ」
ロボットが人間の姿を模していいのは「介護ロボット」や「セックスロボット」など、「その任務遂行に不可欠な場合のみだ」とパスカーレ氏は述べた。
四つ目の原則は、ロボットやAIは「個人や個人で構成される企業に帰属または所有されるべきであるということだ。なぜなら…われわれは人を罰する方法は知っているが、機械を罰する方法は知らないからだ」
■「正気の沙汰ではない」
パスカーレ氏はさらに、「フェイスブック(Facebook)のような企業が不正を働いた場合、企業自体には罰金が科されるが、個人に罰金が科されたり、誰かが収監されたりすることはない。これは問題だ」と指摘する。「個人や企業に属さないロボットの存在を許せば、事態は悪化するだけだ」
また同氏は、絶対に避けなければならないのは、米航空機大手ボーイング(Boeing)が737MAX型機に設定したような二重構造になった技術だと指摘する。同機は欠陥のあるセンサーから送られた情報によりソフトウエアが誤作動し、数百人が死亡する2件の墜落事故を起こした。
「航空会社が二つ目のセンサーを使うには別の機器を追加購入しなければいけないという仕組みをボーイングのトップレベルが決定した。これは大量の問題を引き起こす可能性があるように私には思える」
「このような取り決めに介入し、認めないようにするのが、法律がやらなければならないことの一つだ。航空に関する基準は単一であるべきだ。ライアンエア(Ryanair)やアメリカン航空(American Airlines)、ルフトハンザ航空(Lufthansa)が追加の計器を購入したかどうか調べなければならないというような事態は起こってはならない。それは正気の沙汰ではない」 (c)AFP
(画像)
https://i.imgur.com/1mH2OJn.png
https://afpbb.ismcdn.jp/mwimgs/d/4/1000x/img_d446cecab9b87d1c52cd0357d5f5630e74772.jpg
2019年6月5日 9:02 AFP
https://www.afpbb.com/articles/-/3227279?act=all