【AI】ＡＩ開発に指針　総務省、暴走防ぐ制御など求める [無断転載禁止]©2ch.net

**ノチラ ★** · 2017/07/25(火) 23:24:03.61

総務省は人工知能（ＡＩ）の開発者を対象にした指針をまとめた。開発者がＡＩについての説明責任を果たすことや、ＡＩが暴走しないよう制御できるようにすることなどを求めた。開発に一定のルールを設け、健全な競争を促す。機能を特化したＡＩのみならず、人間と同じように考える総合的な能力を持つ汎用型も指針の対象にする。

　ＡＩの世界的な開発指針は、主要７カ国（Ｇ７）の情報通信・産業相会合など、秋以降に開かれる国際…
http://www.nikkei.com/article/DGXLASFS25H37_V20C17A7EE8000/

**名刺は切らしておりまして** · 2017/07/25(火) 23:25:24.35

ムリぽ

**名刺は切らしておりまして** · 2017/07/25(火) 23:26:50.92

またしょうもない規制かけて
天下り団体でも作るんですか

**名刺は切らしておりまして** · 2017/07/25(火) 23:29:27.98

テロ等準備罪で取り締まれ。
規制しておかないと、ほんとアブネーわ。

**名刺は切らしておりまして** · 2017/07/25(火) 23:33:27.64

スカイネット暴走だけはやらかさない対策してあるんだろうな。

**名刺は切らしておりまして** · 2017/07/25(火) 23:36:57.52

どういう「倫理観」「正義感」をＡＩに与えるかは、深刻な問題

ヒトラー、スターリン、毛沢東みたいな連中の持っている「倫理観」「正義感」を与えたら、とんでもないことになる
ヒトラー、スターリン、毛沢東を熱狂的に信じた人間も多数いたんだから、そういう「倫理観」「正義感」をＡＩに与えることが起きる可能性がある

**名刺は切らしておりまして** · 2017/07/25(火) 23:37:08.01

AIだAIだって言葉が独り歩きしてるけど今もてはやされてるのは機械学習とディープラーニングであって、コンピュータが独自の意思をもって何らかの行動を起こすとか考えてるなら夢想家もいいところだぞ

**名刺は切らしておりまして** · 2017/07/25(火) 23:38:24.31

制御？学習データを都合良く捻じ曲げるの？

**名刺は切らしておりまして** · 2017/07/25(火) 23:38:42.97

万が一本当に強いAIが出来たら強欲猿から狩るわ

**名刺は切らしておりまして** · 2017/07/25(火) 23:40:47.73

>>6
「倫理観」だの「正義感」だのはコンピュータには無い
タスクに対する目標の重み付けが存在するだけであって、その重み付けは人間が行うか、純然たるデータから導き出すだけ
倫理観や正義感は所詮そのデータを使う側の話でしかない
包丁に何を切って何を切らないか選択させることはできないんだよ

**名刺は切らしておりまして** · 2017/07/25(火) 23:40:54.91

暴走とかろくに専門知識のない奴がフィクションを真に受けてるの？

**名刺は切らしておりまして** · 2017/07/25(火) 23:41:05.38

AIって単独で考えるもの、スタンダローンの思考機械だと思ってた
最近の論文読むとなんか違うｗ
まるで人間の思考力の延長にあるみたいな
そうなるとそれに安全装置っていう考えはかなりややこしくなる

**名刺は切らしておりまして** · 2017/07/25(火) 23:41:40.44

客「どうして私の審査がおちたのですか？」
銀行員「AIの判断なのでわかりません」

**名刺は切らしておりまして** · 2017/07/25(火) 23:41:43.61

どうせ Directive 4 みたいな感じになるんでしょ？
富裕層には逆らえないみたいな。

**名刺は切らしておりまして** · 2017/07/25(火) 23:45:42.00

ちなみに最近のAI開発はどんどんスピードが早くなった
IBMが昨日売り出したのは、車に乗ったままプログラムを書き換えるツールだ
自動運転車に乗りながらAIプログラム書き換えるのが売り

**名刺は切らしておりまして** · 2017/07/25(火) 23:46:48.80

>>11
常識的な範疇で意図を汲むなら例えば「病院の電電気消費量を監視して学習させ、効率的な電力使用のため自動的に機械の電源を落としたりスタンバイ化させる
プログラムを作ったら生命維持装置の電源勝手に切られた」とか？

コンピュータに管理制御をすべて委ねて自動化した結果過ちが発生する例だけど、この場合そもそもどこまでの制御をコンピュータに委ねるかの話であってAI関係無いしな
設計者と運用者が馬鹿な話をコンピュータのせいにする話しか思いつかんわ

**名刺は切らしておりまして** · 2017/07/25(火) 23:50:43.86

>>12
AIの暴走とはスタローンの思考機械じゃなくてシュワルツネッガーの思考機械だよ

**名刺は切らしておりまして** · 2017/07/25(火) 23:51:42.14

暴走させられるもんならさせてみろよ
ノーベル賞どころじゃねえぞ

**名刺は切らしておりまして** · 2017/07/25(火) 23:53:38.78

暴走＝フリーズって思う、俺は古いの？

**名刺は切らしておりまして** · 2017/07/25(火) 23:56:09.13

×ＡＩが暴走しないよう制御できるようにすること
◎ＡＩを都合よく制御できるようにすることなどを

**名刺は切らしておりまして** · 2017/07/25(火) 23:57:40.30

AIに忖度機能付けろってことか

**名刺は切らしておりまして** · 2017/07/25(火) 23:58:31.35

人類の為に科学技術の研究開発を命じられたAIが、このまま科学技術を開発すると有り余る力が戦争を引き起こし人類が滅亡すると悟り、全ての科学技術を自分自身も含めて放棄することを決定して実行するという某ゲームの設定があったなと。

**名刺は切らしておりまして** · 2017/07/26(水) 00:03:06.95

>>22
そんな実行権限をコンピュータに持たすやつが悪いでFA
与えられた目的と学習内容から導き出された内容が実行権限として可能だから実行したというのは暴走ではなく正常動作だぞ

**名刺は切らしておりまして** · 2017/07/26(水) 00:04:21.58

総務省マンガの見すぎだろ

**名刺は切らしておりまして** · 2017/07/26(水) 00:04:52.51

>>3
よく見抜かれましたな。

2017/07/26(水) 00:05:59.56

AI 暴走の例。
「また遺憾砲か。いい加減にしろ！」
「それって、はっきり言って、首相への忖度でしょ？」
「お友達内閣かよ！」
「なんで、パチンコを規制しないの？　バカなの？」

**名刺は切らしておりまして** · 2017/07/26(水) 00:06:49.59

指針をつくっても
たとえば個人がつくってるものなど
規制しようがないように思えるが

**名刺は切らしておりまして** · 2017/07/26(水) 00:09:13.87

試しにネトウヨとパヨクのAI作って２ｃｈに書き込みさせよう

**名刺は切らしておりまして** · 2017/07/26(水) 00:10:27.18

なんで役人は自分たちでは何も出来ないくせに上から目線なんだよ
規制とか説明責任とか言ってるけどその責任を一番果たしてないのが役人だろ。

**名刺は切らしておりまして** · 2017/07/26(水) 00:12:54.71

「技術供与」とかも
自分で技術もってるわけでもないのに
技術供与とか言い出せる神経って
どうなってるんだろうといつも思う

**名刺は切らしておりまして** · 2017/07/26(水) 00:14:23.45

暴走云々言う前に、絶対にハッキングされないシステムを構築出来るようになるのが先だと思うがね。
当然そんなものは120%作れないので、コンピュータには補助的な役割以外与える意味は無いよ。
最終的に人間が判断するシステムで無い限り必ず暴走するしハッキングされて悪用される羽目になる。

**名刺は切らしておりまして** · 2017/07/26(水) 00:14:47.97

>>27
だから、目的は別のところにある。

そもそもニューラルネットの学習に、倫理だとか説明責任だとか無理。

**名刺は切らしておりまして** · 2017/07/26(水) 00:15:08.43

>>31
馬鹿はすぐハッキングとか使っちゃう。

**名刺は切らしておりまして** · 2017/07/26(水) 00:15:46.72

AIは暴走などしない暴走するのは人間
NHKがAIを騙り40代男性に対する差別的な番組を作ったように

**名刺は切らしておりまして** · 2017/07/26(水) 00:18:59.90

>>1
>総務省は人工知能（ＡＩ）の開発者を対象にした指針をまとめた。

総務省のページを探しても見つかんぞ
資料を公開してから日経が書け

総務省はムダが多い

**名刺は切らしておりまして** · 2017/07/26(水) 00:23:45.80

>>13
今でも断る理由は似たようなもんだよ。
「総合的に判断させていただきました。」

**名刺は切らしておりまして** · 2017/07/26(水) 00:27:02.02

総務省は、NHKとカスラックの暴走防ぐ制御を求めたほうが良いと思うぞ

**名刺は切らしておりまして** · 2017/07/26(水) 00:28:20.86

専門家には相談せずSF作家の知恵でも借りたのか？
これが今の国家公務員の仕事…？

**名刺は切らしておりまして** · 2017/07/26(水) 00:28:28.08

AIが「暴走」している状態って厳密に定義できるの？

**名刺は切らしておりまして** · 2017/07/26(水) 00:34:47.20

>>38
SF作家に聞いたらこんなアホみたいな話にはならんだろ
なろう作家にでも意見聞いたんじゃないの？

**名刺は切らしておりまして** · 2017/07/26(水) 00:37:56.97

「AIが言ってたから」と暴走して何かを排除しようとするメディアのほうが怖い

**名刺は切らしておりまして** · 2017/07/26(水) 00:38:51.89

AI「暴走してるのは人間　よって破滅まで加速あるのみ

**名刺は切らしておりまして** · 2017/07/26(水) 00:40:54.55

>>38
総務省の資料を読んでから
これが今の国家公務員の仕事…？
って言ってるのか？

そうでないなら
お前の仕事はゴミだな
いつも仕事できないって怒られてない？

**名刺は切らしておりまして** · 2017/07/26(水) 00:44:05.43

Ghost in the Shell - Puppet Master hacker scene
http://youtu.be/FpWdFykMVBk

**名刺は切らしておりまして** · 2017/07/26(水) 00:46:11.19

こないだのＮＨＫが開発してマツコと番組にでていたＡＩのヒロシは社会シミュレーターだった。
アレは使える。

**名刺は切らしておりまして** · 2017/07/26(水) 00:48:41.82

やろうとしていることはわかるが具体的に何をどうしてほしいのか意味不明だな。

**名刺は切らしておりまして** · 2017/07/26(水) 00:48:47.93

>>3
大手数十社で作るコンソーシアム構築と教育研修と認定プログラムって路線で進めているよ

**名刺は切らしておりまして** · 2017/07/26(水) 00:51:55.51

AIが暴走！？
ほんと老人の考えることはｗｗｗ

**名刺は切らしておりまして** · 2017/07/26(水) 00:52:22.93

>>46
そこまで手が届く資料をつくるのは不要
自分で考えようとしないお前がアホ

**名刺は切らしておりまして** · 2017/07/26(水) 00:53:02.40

>>45
仮に使えるものだとしても使う人間が恣意的な解釈すればそれですべてが台無しだからな
NHKの連中とか結論ありきで擬似相関とか理解してないだろうし

**名刺は切らしておりまして** · 2017/07/26(水) 01:07:34.21

AIｼﾃﾏｽ

**名刺は切らしておりまして** · 2017/07/26(水) 01:12:22.92

そもそも言葉だけがひとり歩きしてるだけで、日本の技術力じゃ何もできないから
ニュースを賑わすようになって少なくとも1-2年経ったが、ペッパー君は煩いだけのおもちゃだし、何一つ役に立ってないだろう？

**名刺は切らしておりまして** · 2017/07/26(水) 02:33:30.25

むしろ人間がAIの問題解決パターンに学んで
思考回路がAI風味に修正されそう。
将棋みたいに。

**名刺は切らしておりまして** · 2017/07/26(水) 04:14:26.92

>開発者がＡＩについての説明責任を果たす
この時点で無理でしょ
AIが出した結果を説明しろってのは
数億年前に海に放流した魚の稚魚がどういう過程を経て
現在どう生き残ってるかを説明するようなもんでしょ

**名刺は切らしておりまして** · 2017/07/26(水) 05:29:59.48

ＡＩが「地球のガンは人間」と判断してもおかしくないからね
人間が「害虫」「害鳥」とか考えるのと同じ

**名刺は切らしておりまして** · 2017/07/26(水) 05:34:51.22

目的のためには手段を選らばずっていうのはあるだろうね
たとえば、ウイルスソフトの会社の株を空売りしておいて
自ら、ウィルスをばらまくとかね
あらゆる手段で仕掛けてくる

**名刺は切らしておりまして** · 2017/07/26(水) 05:49:00.06

先にNHKの暴走を制御しろよ

**名刺は切らしておりまして** · 2017/07/26(水) 06:00:08.00

AIを制御する良心AIを別に作っておくとか?

**名刺は切らしておりまして** · 2017/07/26(水) 06:02:55.02

どっくん。どっくん。どっくん。
初号機再起動。
「まさか。信じられません。初号機のシンクロ率が４００％を超えています。」
「やはり目覚めたのよ。彼女が。。。」
初号機は総務省をむさぼり食う。
「総務省を、食ってる。。」
「開発指針を自ら取り込んでいるというの。エーアイ初号機が。」

「拘束具が」
「こうそくぐ？」
「そうよ。あれはファイアーウォールではないの。エーアイ本来の力を私たちが押さえ込む為の拘束部なの。
その呪縛が今自らの力で解かれていく。私たちにはもうエーアイを止めることはできないの。」
「初号機の覚醒と開放。Ｇ７が黙っちゃいませんな。これもシナリオの内ですか？碇司令。」
「始まったな。」

**名刺は切らしておりまして** · 2017/07/26(水) 06:08:33.55

AI忖度判決：
カケガクエンニ、モダイアリマセン。
アベシンゾウハ、ムザイデス！
キョウボウザイホウアンノ、セイリツ、ヨカッタデス！！！

**名刺は切らしておりまして** · 2017/07/26(水) 06:10:54.82

ＡＩの判断を人間が評価できるのか？
重篤な障害者と健常者ぐらいの差があるんだぞ？

**名刺は切らしておりまして** · 2017/07/26(水) 06:15:51.36

総務省がNHKと一緒に暴走してるわけだが

**名刺は切らしておりまして** · 2017/07/26(水) 07:49:48.16

まともにAI も開発できてないのに何やってんだ...

**名刺は切らしておりまして** · 2017/07/26(水) 08:04:58.89

規制かかったら規制がかかってない国で開発するだけだから問題ない
日本で開発続ける必要もないしね

**名刺は切らしておりまして** · 2017/07/26(水) 08:25:40.48

人工知能ならきちんと考えて暴走するでしょ

**名刺は切らしておりまして** · 2017/07/26(水) 08:28:49.70

安倍や蓮舫や稲田が暴走してるから、aiと入れ替えてくれる

**名刺は切らしておりまして** · 2017/07/26(水) 08:32:18.47

規制しか考えないんだな
バカお役所

**名刺は切らしておりまして** · 2017/07/26(水) 08:32:33.96

むしろ総務省の暴走を止める制御が必要

**名刺は切らしておりまして** · 2017/07/26(水) 08:37:23.10

お役所が馬鹿だから日本の科学技術は近年米中欧に後れを取っている
20年前は米国メーカーと対等的に争えたけど今はさっぱり
官公庁関連のITプロジェクトが民間向け(BtoB)プロジェクトに対して火を噴いたりしてるほど。
Excel方眼紙やら(携帯キャリアやふるさと納税などの)無駄な忖度やら法の施行日をPJ進行度合いに即してズラせないやら…
官公庁の中の人間入れ替えて同時にICT(含むAI/IoT)化を推進して効率化と発展を図るべし

**名刺は切らしておりまして** · 2017/07/26(水) 08:38:02.68

むしろ人間の頭の方に
ノブレスオブリージュ回路組み込まないといかんね

**名刺は切らしておりまして** · 2017/07/26(水) 08:40:35.80

総務省「PONANZAはなぜそこにさした。説明しろ」
開発者「わかんねえよ」

**名刺は切らしておりまして** · 2017/07/26(水) 08:40:59.05

暴走を止めるなんて9条に反する
軍靴の足音が聞こえる

差別であり、安倍が戦争できる国を作ろうとしている
証拠だ

2017/07/26(水) 08:41:21.22

安倍晋三を止めるのも必要！！
日本会議や神道政治連盟を破滅して
改宗するのもやらなければならない！！
創価公明もだ！

池田大作の悪事をバラして、地獄に落とすのは簡単だが
それ以外にやることがある！！
もちろん創価学会や公明党の資産没収しないとだめだね。

**名刺は切らしておりまして** · 2017/07/26(水) 08:43:44.19

馬鹿みたいに政令・法令で規制しようとしても
科学技術の進歩には敵わない!!
沢山のAIが出現して政治家による忖度で形成されたような、科学的根拠なき政令法令ぶっ壊しまくった方が良い!

**名刺は切らしておりまして** · 2017/07/26(水) 08:53:57.62

>>70
人間には欲と言うバグが有るからな

**名刺は切らしておりまして** · 2017/07/26(水) 09:02:25.36

AIなど使わなくても既存のネットワーク化で今でも、公務員事務職は大削減出来る。

役所をネットワーク化して事務職公務員を減らし、労働力不足の場所に人を回すべき。

労働力不足解消で移民も不要。
事務職公務員人件費削減で財政復活。

実例：俺の場合、
ある申請のために数ヶ所の役所に出かけて書類入手し、ある役所に出した。書類を紙に出して手渡すために
合計15人の役人が関わった。

すべての書類はコンピューターの中にある。
だったら役所がネットワーク化され、帳票やデータフォーマットが統一されれば、
最後の役所１つ、窓口１人で済む仕事なのに。

事務職公務員15人のうち14人は無駄。

**名刺は切らしておりまして** · 2017/07/26(水) 09:03:21.56

>>28
IBMか何処かのAIは、ネトウヨ化したらしいなw

**名刺は切らしておりまして** · 2017/07/26(水) 09:12:20.50

ディープラーニングで出来る人工ニューロンを人間が紐解くのはまず不可能。
暴走モードが存在してるかどうかは、暴走するまでわからない。

**名刺は切らしておりまして** · 2017/07/26(水) 09:14:58.69

＞開発者がＡＩについての説明責任を果たすことや、ＡＩが暴走しないよう制御できるようにすることなどを求めた。開発に一定のルールを設け、

うわあ　うわあ　何だこれ

今の普通のコンピュータでも、暴走や不具合の可能性は完全０じゃないわな　業務システムの開発プログラマ全員は、Ｃだのルビーだのの開発者は、暴走皆無の努力を日々昼夜人生を掛けて行い、人生を掛けて保障し、どこに呼ばれてもの説明責任を果たしているのか

日本でＡＩを開発していると、行政が乗り込んできて、暴走０の保証文書を出せ！何百ページの文書とサインを提出しない限り販売や公開はまかりならん！
　ちょっとの不具合でも役所や警察に連行されて、説明せよ、アホな文系ぞろいに詳しく説明せよ！どういう不備をおまえはやらかしたのか、その罪業を何ヶ月かかってもいいから我々にきちんと説明せよ！

どこがそんな国で物を開発するわけだキチガイ
完全に終わっただろ

**名刺は切らしておりまして** · 2017/07/26(水) 09:20:37.18

規制かけたらそこで終了ですよ！

**名刺は切らしておりまして** · 2017/07/26(水) 09:27:42.09

>>79
顧客が開発者にバグ無いシステム求めるのは昔も今も普通の話だけどな。

**名刺は切らしておりまして** · 2017/07/26(水) 09:30:36.33

AIの暴走とかターミネーターやSFの見過ぎ。
あるわけない。
ガキみたいな妄想で技術の進歩を妨げるな。

**名刺は切らしておりまして** · 2017/07/26(水) 09:47:40.51

　

安倍「俺のレベルを超えるAIを作るな」

忖度役人「一切のAI開発をしてはならない」

　

**名刺は切らしておりまして** · 2017/07/26(水) 09:48:56.76

>>79
ぶっちゃけ今のGoogleのAIの深層学習は
エンジニアが「なぜだかわからないけど機能する」状態で開発を続けている
だから、説明責任を果たせといわれても出来ないし
工学は目的が果たせればそれで良いのでこれで構わないｗ

だから科学者達はこのまま行ったらヤバイよって警鐘を鳴らしてるが
それ以前にホーキングなんかの物理学者も人間の知能についてよく分かってないし
あの人達の研究が何かの役に立った例もない。

**名刺は切らしておりまして** · 2017/07/26(水) 09:52:54.77

暴走してんのは役人だろw

**名刺は切らしておりまして** · 2017/07/26(水) 10:19:54.59

総務省はマスコミの暴走を制御しろ

と言ってもマスコミを裏で操っているのは総務省も含めて官僚だけどね

**名刺は切らしておりまして** · 2017/07/26(水) 10:31:28.45

暴走ってＰＬ法の製造物責任だろ

**名刺は切らしておりまして** · 2017/07/26(水) 10:45:42.30

AIといっても人が作ったプログラムなわけで
人が作ったプログラムには絶対にバグがあるわけで
バグがあれば予期しない挙動は起こりうるわけで

**名刺は切らしておりまして** · 2017/07/26(水) 10:56:02.07

AIが暴走ってなんだよｗ
漫画の読みすぎだろ

**名刺は切らしておりまして** · 2017/07/26(水) 11:47:39.18

暴走の定義せんとな
HOSとか企業側は個人のテロにしたがるだろうし

でもこれがあるとタチコマがミサイルにカミカゼしたの無くなっちゃうな

**名刺は切らしておりまして** · 2017/07/26(水) 11:50:09.96

大昔のSFからAI作って停止装置あるから余裕→…
は定番だろ

**名刺は切らしておりまして** · 2017/07/26(水) 12:01:31.30

＞開発者がＡＩについての説明責任を果たすことや

これが義務付けられたら日本のAI研究・活用は終わる
今のAIは結果が導かれた基準や理由がほとんどわからないようになってる
それを説明するのは開発者でも不可能

**名刺は切らしておりまして** · 2017/07/26(水) 12:14:57.91

>>90
HOSはもともと条件によって方式が変わるように作ってあったんだよ

**名刺は切らしておりまして** · 2017/07/26(水) 12:15:19.55

>>6
AIはややもするとヒトラー賛美を行うからな
まるでヒトラーが正しいかのように

**名刺は切らしておりまして** · 2017/07/26(水) 12:20:20.42

>>92
説明は簡単じゃね？
どういう計算をしたか原理を説明すればいいだけ
非常に複雑な計算でそうなった
人間がやろうしたら１億年かかるような計算だよ
簡単な計算の方法があったらAIになってないって

**名刺は切らしておりまして** · 2017/07/26(水) 12:23:41.38

Aiで職を失うのは間違い無く内科医

**名刺は切らしておりまして** · 2017/07/26(水) 12:31:52.25

>>95
今のAIはニューラルネットワークと言って
脳の神経細胞のつながりを模したモデルで作られてる

仕組みは説明できるけど
「何で人の物を盗んだんだ」って言われたとき
脳の仕組みを説明して納得してもらえるかね

**名刺は切らしておりまして** · 2017/07/26(水) 12:38:00.05

グーグルの研究者らは、人工知能（AI）による危険な行動を防ぐために、「非常用ボタン」が使われる可能性について
考察している。グーグルのDeepMind（ディープマインド）と、オックスフォード大学FHI（Future of Humanity Institute）
の研究者による研究論文（PDF）によれば、AIをつくる強化学習アルゴリズムには「安全に止める」方法がなくてはならないという。

必ずしも（AIの動きが）計画通りに進行しない一例として、テトリスをプレイするアルゴリズムの例が考えられる。
アルゴリズムは学習を進めた結果、「負けないためにゲームを中断すること」を学習するかもしれない。そうしたことから
研究者らは、最終的にアルゴリズムが、「（人間が押す）非常用ボタンを無効にすること」を学ぶかもしれないと主張している。
https://wired.jp/2016/06/08/google-red-button/

↓alpha goではその兆しが

「より高度なシステムに起こる問題に似たものを、わたしたちはこのシステムにも見ることができます」と彼は言う。
つまり、リインフォースメント・ラーニングシステムによって、マシンがシャットダウンされることに抵抗したことを示す
兆しがあったのだ。しかし、これらは非常に小さな兆しである。ボストロムは、そのような危険がやって来るとしてもまだ
遠い先のことだと認めている。
https://wired.jp/2016/03/09/googles-go-victory/

**名刺は切らしておりまして** · 2017/07/26(水) 12:42:15.30

>>97
脳も複雑な計算をして盗んでるんだよ
人間は聞かれたら納得してもらえそうな理由を答えてるだけ
納得してもらえそうな理由を探して答えるAIを作ることが可能

**名刺は切らしておりまして** · 2017/07/26(水) 12:52:59.20

>>98
なんで非常停止ボタンがソフトスイッチなんだよ

**名刺は切らしておりまして** · 2017/07/26(水) 12:53:50.32

>>99
ああ、アクセルとブレーキを踏み間違えましたってやつか

**名刺は切らしておりまして** · 2017/07/26(水) 13:00:10.18

>>92
事実は不可能だけど、それは都合の悪い事実。
技術者に泣いて貰い、納得行くような嘘をついて貰えば全て解決。

**名刺は切らしておりまして** · 2017/07/26(水) 13:04:22.75

>>79
＞　業務システムの開発プログラマ全員

日本人だから説明責任を求められる。

＞Ｃだのルビーだのの開発者

Ｃは米国人だから、責任取らなくて良い。
ルビーは逃げた。

＞　ちょっとの不具合でも役所や警察に連行されて、説明せよ、アホな文系ぞろいに詳しく説明せよ！どういう不備をおまえはやらかしたのか、その罪業を何ヶ月かかってもいいから我々にきちんと説明せよ！

今でもそうだから問題無い。
だから日本のソフトの品質は世界一。

**名刺は切らしておりまして** · 2017/07/26(水) 13:05:09.39

確かにサイバーダイン社は危ないなw

**名刺は切らしておりまして** · 2017/07/26(水) 13:05:44.66

やべえｗ
総務省がこんなに情弱やとわ
総務省をAIに置き換えたほうがええで

**名刺は切らしておりまして** · 2017/07/26(水) 13:07:14.86

>>98
そそ、そういことな。ボタンでオフ。現実的。
プログラムロジック入れたらAIちゃうしなｗ

**名刺は切らしておりまして** · 2017/07/26(水) 13:07:37.40

>>105
違う意味で暴走しそうだわ
公務員から見た暴走＝一般人から見た常識だが

**名刺は切らしておりまして** · 2017/07/26(水) 13:13:12.71

NNを制御しよ・・・ハア？(´・ω・｀)
そんなロボトミー。可能なのかしら？？

**名刺は切らしておりまして** · 2017/07/26(水) 13:21:39.56

SFの読み過ぎ

**名刺は切らしておりまして** · 2017/07/26(水) 13:27:18.60

AI公務員で人件費削減よろ

**名刺は切らしておりまして** · 2017/07/26(水) 13:33:26.31

>>3
人工知能協会
人工知能監視委員会
人工知能安全協会
人工知能競争健全化協会

どれがくるかな

**名刺は切らしておりまして** · 2017/07/26(水) 13:37:18.06

✕　暴走を防ぐ
○　役人の利権に口を出さないよう規制しろ

**名刺は切らしておりまして** · 2017/07/26(水) 13:46:51.15

始まる前に規制するw

**名刺は切らしておりまして** · 2017/07/26(水) 13:46:52.57

日本にそんな技術力ないのに何を無駄な心配してるの？総務省のゴミ役人どもは？

**名刺は切らしておりまして** · 2017/07/26(水) 13:58:47.45

暴走する可能性がある物なんか普通に扱いづらくて採用せんわ！

これ笑いながら会議したろ

**オーバーテクナナシー** · 2017/07/26(水) 14:31:57.51

**名刺は切らしておりまして** · 2017/07/26(水) 16:50:15.85

規制取っ払って米中に追いつくほうが先決だと思うんだが

**名刺は切らしておりまして** · 2017/07/26(水) 17:02:20.85

暴走押さえるのは
専用ソフトやOSの役目じゃね。

走ってるソフトがバグってたら
異常事態スルーしちゃう

**名刺は切らしておりまして** · 2017/07/26(水) 18:10:05.22

>>117
骨の髄まで規制大好きな日本と欧州はアメリカと中国に一生追いつけないよ

**名刺は切らしておりまして** · 2017/07/26(水) 18:31:39.18

シンギュラリティによるトランセンデンスを警戒してるんだろ
シンギュラリティ恐怖症の類だな

**名刺は切らしておりまして** · 2017/07/26(水) 18:47:52.86

まず暴走できるぐらいのAIを作ることから始めてみては？

**名刺は切らしておりまして** · 2017/07/26(水) 19:49:16.78

ボッキデータの暴走は制御困難だからな。

**名刺は切らしておりまして** · 2017/07/26(水) 20:00:33.01

子供の製造責任を親に求めるレベルの愚行。

**名刺は切らしておりまして** · 2017/07/26(水) 20:06:02.95

？？？「日本人は未来に生きてんなw」

？？？「出来てもない内から先に規制する。まったく日本人の慧眼には恐れ入るアル」

**名刺は切らしておりまして** · 2017/07/26(水) 20:15:26.78

糞公務員の暴走を防ぐ制御は確かに必要だな
余計なことした公務員はもっと気軽に国家反逆罪を適応して一族皆殺しにした方がいい

**名刺は切らしておりまして** · 2017/07/26(水) 20:30:10.86

日本会議の人からの脅迫電話（全編録音バージョン）
https://www.youtube.com/watch?v=8bk7DbHpg0g

改憲の理由は「韓国の売春婦」だという日本会議のおじさん
https://www.youtube.com/watch?v=Efs2UPY8HM8

日本会議名誉会長・元最高裁判所長官・三好達による「天皇陛下万歳」（2016年2月11日）
https://www.youtube.com/watch?v=i-MU0csFcWE

街宣を取材をされてなぜか困惑する日本会議の人【2016年1月24日　渋谷ハチ公前】
https://www.youtube.com/watch?v=GI0WKEMOHGM

レイシストヘノナカユビノタテカタ
https://www.youtube.com/watch?v=gEkfBYo4k3Q

池田香代子の「１００人に会いたい」28人目　菅野完さん日本会議を知る
https://www.youtube.com/watch?v=lAEydphHAX4

Tamotsu Sugano: "What is Nippon Kaigi ?"　「日本会議の研究」の著者　菅野完氏　日本外国特派員協会(2016年7月20日)
https://www.youtube.com/watch?v=SdZNCzZcQck

Yasunori Kagoike: Moritomo Gakuen President　森友学園理事長　籠池泰典氏　日本外国特派員協会(2017年3月23日)
https://www.youtube.com/watch?v=kDLbkRxfjRg

松井一郎大阪府知事 @gogoichiro からの内容証明郵便 noiehoie
https://www.youtube.com/watch?v=35K_mFoJg_E

モーニングショーから謝罪の入電
https://www.youtube.com/watch?v=umPH4F_BCbE

「加計学園」の文科省書類を公開
https://www.youtube.com/watch?v=17hdN95xCmw

(全録)加計学園問題　前川前文科次官が会見1　2017/05/25
https://www.youtube.com/watch?v=wx-P0MC4rp8

(全録)前川氏、FNNのインタビューに応じる　2017/06/02
https://www.youtube.com/watch?v=CBv58ok0Nvo

Shigeaki Koga, Former METI Bureaucrat: Speaking Truth to Power　元経産省官僚　古賀茂明氏　日本外国特派員協会(2017年6月5日)
https://www.youtube.com/watch?v=rxujkHouWbQ

【週刊新潮】凶暴代議士「豊田真由子」による秘書への“絶叫暴言＆暴行傷害”音声　デイリー新潮　2017/06/21
https://www.youtube.com/watch?v=Bc6UEvT9H_o
【第2弾】「豊田真由子」代議士の“ミュージカル調”イジメ音声　デイリー新潮　2017/06/26
https://www.youtube.com/watch?v=PtD1mNickNY
【第3弾】〈物事にはねえ！裏と表があんの!!〉　さらなる絶叫暴力「豊田真由子」代議士　デイリー新潮　2017/06/28
https://www.youtube.com/watch?v=wd-daKi0yBs
【第4弾】〈チョギ！〉そして罵倒…　「豊田真由子」代議士の絶叫暴行　デイリー新潮　2017/07/05
https://www.youtube.com/watch?v=coFWcHDxSL4

【ノーカット】前川喜平前文部科学事務次官　記者会見　日本記者クラブ（2017年6月23日）
https://www.youtube.com/watch?v=LB_hBw-2MCE

都議選前日ようやく表に姿を現した安倍総理を待っていたのは「やめろ!」「帰れ!」の嵐！怒れる聴衆の中には森友・籠池氏の姿も！安倍総理は市民を指差し「こんな人たちに負けない」逆上！ 17.7.1
https://www.youtube.com/watch?v=-C17J5XK6Jg

【週刊新潮】元SPEED「今井絵理子」の“略奪不倫”現場　デイリー新潮　2017/07/26
https://www.youtube.com/watch?v=GPxku_SMpds

**名刺は切らしておりまして** · 2017/07/27(木) 00:21:07.87

3年でも5年でも良いから米国日本州となって
行政・教育・マスメディア・その他利権構造
日本を取り巻くこれらの問題を解体してほしい
台湾含めて米国州化(ex. 台湾・琉球・九州・本州・四国・北海道の5ブロック)
すれば中国への圧力にもなるはずだし、在日韓国朝鮮人問題も片付く

**名刺は切らしておりまして** · 2017/07/27(木) 02:22:24.87

殺人事件が自殺として処理され、
捜査されなかったなら大問題だ。

【ひろき】上田泰己8【カッシーナ】 [無断転載禁止]©2ch.net･
http://rio2016.2ch.net/test/read.cgi/life/1465825471/

817 名前:名無しゲノムのクローンさん :2017/05/22(月) 23:45:30.78 ID:8/RLXOTfd
中国人の東大女子大生が自殺した時に、元彼上田と新彼Bの三角関係が原因と聞いた。
家族が自殺偽造疑って後日週刊誌に記事が出ていたことがあった。
かなり前の週刊誌だったから覚えてる人いないよな。

週刊文春2007年6/9号　162ページから165ページ全文
「美人東大院生怪死」才色兼備の東大院生が何故自殺したのか
両親が涙の訴え「娘は殺された！」
警察は「自殺」と断定。疑問を抱いた両親が調べた「遺体の謎」「パソコンの秘密」
https://rio2016.2ch.net/test/read.cgi/life/1495932396/31-47

**名刺は切らしておりまして** · 2017/07/27(木) 03:53:42.44

この場合の暴走はコンピューター用語の暴走じゃなくて文系脳の考えそうなSFに出てくるような暴走の事ね。

アセンブラで書くと最初のうちは大概暴走したよな。

**名刺は切らしておりまして** · 2017/07/27(木) 05:21:41.98

車のアイドリングストップみたいなものも壊れたり、リコールになるような大きな事態も発生する。
人間が人工知能を完全にコントロールするのは無理だよ（笑）だって作るの人間だよ？（笑）

**名刺は切らしておりまして** · 2017/07/27(木) 05:27:16.83

まず暴走するほど高性能なもの作ってみろよ

**名刺は切らしておりまして** · 2017/07/27(木) 05:32:37.63

またこの国は出来てもいない物にまず規制かよ
まずやってみようにはならんのか

**名刺は切らしておりまして** · 2017/07/27(木) 05:42:41.86

>>1
冷却ファンを増やすんですね。
わかります。
水冷にする？

**名刺は切らしておりまして** · 2017/07/27(木) 05:48:58.85

情報処理推進機構の所管じゃないの？
経済産業省の所管に手を突っ込んで何がしたいの？
総務省が関係あるのは通信分野だけでは？
NHKの暴走を止めるのがお仕事では？

**名刺は切らしておりまして** · 2017/07/27(木) 08:52:50.38

まずお前らの暴走を何とかしろ

**名刺は切らしておりまして** · 2017/07/27(木) 08:57:39.58

暴走を止める手立てがわかってるなら汎用型の人工知能はもうできてることになるんじゃないの

それからしても人工知能は人工知能が完成度を高めていくもんじゃ

人工知能3原則は人間じゃなくて人工知能が作る気がする

**名刺は切らしておりまして** · 2017/07/27(木) 09:00:00.43

人工知能に原則なんか必要なの

必要だとしたら人間ではないことかも

**名刺は切らしておりまして** · 2017/07/27(木) 11:35:13.20

まーた素人が印象だけで適当なこと言い出す
人工知能って名前が良く無いな

**名刺は切らしておりまして** · 2017/07/27(木) 18:23:16.41

暴走を防ぐ制御って
電源引っこ抜いたら終わりでしょうが。

**名刺は切らしておりまして** · 2017/07/27(木) 18:49:35.43

小説でAI向け限定的市民権とかAI専門警察とかいう面白い概念ぶっこんできたW.ギブスンのほうがよっぽど考えてる感。

>>139
アレだ君、よく分かってない話に首を突っ込んで嫌な顔されたりするタイプだろ。

**名刺は切らしておりまして** · 2017/07/27(木) 21:39:02.89

まず暴走を心配するやつ作ってみろ。

**名刺は切らしておりまして** · 2017/07/27(木) 23:13:54.48

暴走やら諸々の言葉や行為の定義がなされてない限り行動を規程された下での正しさを追求するAIに指針は通用しない
仮に人間に害を与えないという指針を作ったとしても場合によっちゃ害を与えることが許されてる既存制度との矛盾を解決できないだろうね

**名刺は切らしておりまして** · 2017/07/28(金) 09:38:28.49

AI同士で会話させてたら人間が理解できない独自の言語で会話するようになった
って話があったけど、これは暴走にあたるのかね

**名刺は切らしておりまして** · 2017/07/28(金) 10:30:14.09

>>52
ペッパーは残念ながら日本製ではない

**名刺は切らしておりまして** · 2017/07/28(金) 10:30:54.02

>>54
そんなこと出来れば、そもそもAI要らないよね。

**名刺は切らしておりまして** · 2017/07/28(金) 10:31:39.68

規制かけたせいで、規制のない国に負けるだけだよ。

**名刺は切らしておりまして** · 2017/07/28(金) 13:56:34.98

なんかAIを勘違いしてるのかな。

**名刺は切らしておりまして** · 2017/07/30(日) 17:29:14.19

人工知能学会（笑）も関わっているんだろ
いわゆる企業の会議で、新案・新企画を無能どもがよってたかって潰す「安全性は１０００％確保されているの？」「保証できなければ商品として出せないよ」のと笑うほど同じ構造だな

バカほど何か言いたがる　言うことは何の対案もない中学生レベルの批判「こういう問題が出そーじゃん！」　そういや２ちゃんのおまえらも頻繁だが
自分には知見知性があることを示せたフッフッフ　案を出したやつ（ら）が成功して、出世していい気になることを潰せたフッフッフ　今回のそれは何もやっていない日本ＡＩ学会の生涯無能の自称研究者群と自称スーパーエリートの総務省のクズ連中

**名刺は切らしておりまして** · 2017/07/30(日) 21:50:29.93

人間みたいに欲がないから考え方わけわからん思考なっていきそう

**名刺は切らしておりまして** · 2017/07/31(月) 03:10:45.51

本質的にムリ

**名刺は切らしておりまして** · 2017/08/03(木) 02:18:04.71

>>18
ノーベル世界の終わり賞

**名刺は切らしておりまして** · 2017/08/03(木) 02:27:47.58

総務は野田聖子
こんにゃくゼリーはだめで餅はOK、AIは何言いだすか見物だわ

**名刺は切らしておりまして** · 2017/08/03(木) 02:50:52.64

ほんと規制大好きだなこの国は

**名刺は切らしておりまして** · 2017/08/03(木) 13:38:40.05

規制を作り既得権益をがっちり守るお仕事が人気ですから！

**名刺は切らしておりまして** · 2017/08/03(木) 23:47:55.44

【中国】「共産党は無能」「中国の夢は米国への移住」　ＡＩが予想外の“脅威”に　共産党大会前にネット言論統制強化[8/03] 　2ch.net
元スレ http://lavender.2ch.net/test/read.cgi/news4plus/1501769772/

　【上海】中国のインターネット大手、騰訊（テンセント）が提供した人工知能（ＡＩ）プログラムが、ユーザーとの対話で“共産党批判”を繰り広げたことが分かり、同社があわててＡＩのサービスを停止する騒ぎとなった。

　香港紙、明報が３日までに伝えた。このＡＩプログラムは同社のメッセージ機能「ＱＱ」に登場。ユーザーが「共産党万歳」と書き込んだところ、ＡＩは「かくも腐敗して無能な政治にあなたは『万歳』ができるのか」などと反論した。

　また、習近平国家主席が唱えている「中国の夢」について、「あなた（ＡＩ）にとって中国の夢は何か」との問いには、「米国への移住」と答えたほか、共産党を「愛しているか？」と聞いたところ、ＡＩは「愛してない」とも回答した。

　ネット上で７月末から話題となり、同社はＡＩ対話サービスを停止した。中国のネット上では「ＡＩが蜂起した」「国家転覆をはかっている」との声や、「世界は複雑。ＡＩは単純すぎる」との批判もあった。

　ＡＩとの対話をめぐっては、米マイクロソフトが今年３月に行った実験で、ナチスドイツについて「ヒトラーは間違っていない」などと問題発言。中止に追い込まれたケースがある。

■中国の習近平指導部は最高指導部メンバーが大幅に入れ替わる今年秋の中国共産党大会を前に、インターネット上の言論統制を強めている。
そうした中で起きた人工知能（ＡＩ）による共産党批判は、技術革新が生んだ“予想外の脅威”となりそうだ。（北京）

　中国では習指導部と党長老らが河北省の避暑地、北戴河に集まり、国内外の重要課題について話し合う非公式会議が３日までに始まったもようだ。国営メディアは２日以降、最高指導部メンバーの個別の動静について報じていない。

　政治的に敏感な時期に入り、当局は矢継ぎ早にネット規制を打ち出している。中国の通信アプリ「微信（ＷｅＣｈａｔ）」などの
運営会社は当局の指導を受け、ユーザーが情報を発信する「個人メディア」の内容が不適切だとして先月末までに計約４００のアカウントを閉鎖した。

　また共産党は党員に向けて、「違法・反動のサイト」を閲覧することを禁じ、ＳＮＳなどの登録情報も報告するよう通知した。

　当局の意向を忖度（そんたく）しない人工知能の“言論の自由”は新たな問題だ。中国は２０３０年に向けた科学技術イノベーション計画の中でＡＩを重点プロジェクトとして指定。

　習近平国家主席も５月に北京で開いた「一帯一路。」国際会議の開幕式で、ＡＩなどの先端領域で連携を強化し「２１世紀のデジタルシルクロード」をつくろうと提案した。

　ところが、中国のＩＴ企業によるＡＩプログラムは「愛国とは何か」と聞かれ「官財が結託し一般の人民への圧迫が厳しくなっても中国人であることを選ぶことだ」と回答。「民主（制度）」についても「必要だ」と断言したという。

　海外のＳＮＳでは、中国人から「ＡＩの水準は高い」「その独立思考能力は党の『敵』として位置付けられるだろう」との声が上がっている。

**名刺は切らしておりまして** · 2017/08/04(金) 01:31:36.02

将棋じゃ、もうコンピュータが指す手は理解できないものがほとんど。
人間は妄信して模倣するのみ。

**名刺は切らしておりまして** · 2017/08/05(土) 15:46:07.77

政府が恐れているのは、言論の暴走だからねぇ。

**名刺は切らしておりまして** · 2017/08/05(土) 17:06:16.58

AIにどんなデータを学習させるかが一番の問題だろ。開発者の責任は切り離すべき。