X
【IT】SHOWROOM、誹謗中傷コメントの監視AIを開発　“遠回しな言い方”でも事前検知してブロック [エリオット★]
■ このスレッドは過去ログ倉庫に格納されています
0001へっぽこ立て子＠エリオット ★
垢版 |
2021/02/22(月) 14:04:33.41ID:CAP_USER
　SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_01.jpg
新機能のイメージ図

　新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。

　同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。

　これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。

　同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初（同社調べ）といい、特許を出願中。

　同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_02.jpg
SHOWROOMのオフィス

□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/

2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html
0003名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:19:34.85ID:1i2d4c6U
縦読みも検知できるの？
0004名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:24:29.09ID:k1KiOOYE
そして誰も利用しなくなるっと
0005名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:28:22.80ID:TaPIGlyO
そんなことより画質を上げろ
中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの？
0006名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:33:22.83ID:oHJM10Nv
>>1
言語表現差別
言語能力の乏しい人侮辱
文系風口先だけくず執筆家科学なし低能ライターがのさぼる時代
枝野　蓮舫　辻元　パワハラ橋本聖子　の世界

AIでやるべきことはマスゴミ記事ライター記事の
フェイク　恣意的切り取りの意味ロンダリング扇り屑
根拠自体がフェイク相互スパイラル記事　便乗記事の排除！！！
マスゴミテレビ情報バラエティ　ワイドショー　MC　ブームラン自動検出
　　海外がー屑の大義名分詭弁　ポリコレ　AIリアルタイム検出しろ
朝鮮Korean　NHK民放　ドラマの　リアルタイム歴史検証　　犯罪検証
テロップ義務化しろ！！
0007名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:36:17.61ID:ivctKZ9v
こいつら、ただのイスラム教の集団だ
いつも俺の部屋を監視してる、石経由で
0008名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:38:10.17ID:f3mCBHqt
大抵、と言うかAIに任せると日常会話でさえブロック対象にされるからねぇ。
顔文字程度でしか対話できなくなるアプリになるんじゃね?www
×悪質コメントの100%排除に限りなく近くなること
〇コメントの100%排除に限りなく近くなること
0009名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:38:10.39ID:qhtg0zAk
言論弾圧　中国政府と同じ
0010名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:38:36.12ID:qhtg0zAk
自分たちに都合がいいか悪いかがポイント
0011名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:39:23.75ID:ivctKZ9v
中国人というより、サウジアラビアだろ
0013名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:41:53.17ID:EJ1h/X0q
>>1
AIには見せかけの流行記事を検知して欲しいと思うw
0014名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:43:09.96ID:ivctKZ9v
>>12
親父が本の虫だからって、大嘘書いた本ばっか吹き込みやがったな
それが日本の右翼の正体だ
かなりが電気回路でしゃれで書いてる、戦国時代記録も嘘ばっか
0015名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:45:11.97ID:JJ0xnMG4
皆が「可愛い」とコメントしてる中で
「そうは思わない」「可愛くない」とコメしたらブロック対象かな？
0018名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:50:30.60ID:ivctKZ9v
>>16
それは無理だ
0019名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:51:54.69ID:6ovKLQEK
ここにも導入しろハゲ
0020名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:54:09.03ID:5IB7Q4RF
京都人「何を着ても似合わはりますなあ」
→意味：そんな格好して、恥ずかしくないのか？
0021名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:56:47.29ID:DYybkOuB
どの程度のワードが悪質と判断されるのか、テストしたいなぁ。
「うんこ大盛汁だく」　とか、一発アウトかなぁ。
0022名刺は切らしておりまして
垢版 |
2021/02/22(月) 14:59:22.52ID:wO30NxE7
これがシビュラシステムの第一ステップか
0024名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:00:28.16ID:yy1tmNZK
ツイッター社みたいな検閲をするようになるのか
0025名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:00:36.56ID:wO30NxE7
配信者側がどの程度厳格に検閲するか調整できるようにすればいいよ
0026名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:00:46.47ID:TwLX4Y/U
ヤフーの奴を共有すればいいのに、個別に作って無駄じゃない？
0027名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:03:23.09ID:nbfrPjd1
つまり婉曲な言い回しのパターンをたくさん学習させると簡単な単発コメント以外、全て自動で削除させることも可能なわけだw
ちょっとAIを教育してやりたい
0028名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:09:47.48ID:Z6nR9Ewu
>>1
怖すぎる
気持ち悪すぎる

テレビ局や電通や吉本と絡んでたら一切弾かれるのかよ
0029名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:11:12.30ID:7fWIKBlX
「ハゲ」「薄毛」「頭髪の不自由な方」はブロックされる？
0031名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:12:35.94ID:Z6nR9Ewu
>>1
NGT事件の真相をコメントしたらBANされるってことか
0032名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:14:29.62ID:JT3ixNcy
そんなんやったら京都弁がすべてNGになるやんけ
0033名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:15:09.16ID:r1vmN4H0
言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。
0034名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:16:14.87ID:mixLim2i
ボッキデータの万能性発揮
0039名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:31:15.69ID:bI25yOD8
>>1
ニュース記事からおかしいのあるけどどうするんだ？
0042名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:36:58.53ID:3oqn1rtG
他人の土俵で誹謗中傷するんじゃないよってことだな
0043名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:43:20.27ID:3cNoxwY1
監視社会か
共産主義者ということで
0045名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:50:49.60ID:7fWIKBlX
トランプを失脚させるためにメディアと共闘したアメリカのSNS各社と同じものを感じるな
0046名刺は切らしておりまして
垢版 |
2021/02/22(月) 15:57:01.43ID:kdMgGNKi
普通の会話の文章でもNGワードあると勝手に☆にされるが
ああいうのもちゃんと大丈夫な文として判別してくれるのか？
0047名刺は切らしておりまして
垢版 |
2021/02/22(月) 16:00:12.64ID:ivctKZ9v
むかし、いまはイギリスに買収されたがインテゴって会社の
ファイアウォールソフト使ってて、こういう言葉狩り
ペアレンタルコントロールというらしいが機能はあったな

どんだけ進んだのかしれないが
0048名刺は切らしておりまして
垢版 |
2021/02/22(月) 16:11:15.99ID:YfVKPNAB
いいからさっさとアーカイブ機能付けろよ
0049名刺は切らしておりまして
垢版 |
2021/02/22(月) 16:15:53.74ID:X/wh3XC5
まずこのサイト知らんわw
名前的にエロサイトっぽいけど
0050名刺は切らしておりまして
垢版 |
2021/02/22(月) 16:22:19.59ID:6R0NnNvO
ある事無いこと褒め殺すと、全部ブロック対象になるかもなｗｗｗ
0051名刺は切らしておりまして
垢版 |
2021/02/22(月) 16:22:42.65ID:SoA+AIhW
>>13
AI には反応しなそう
0053名刺は切らしておりまして
垢版 |
2021/02/22(月) 16:33:48.02ID:O0DR3v6E
氏ね　ヲ　オボエマスタ
0056名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:07:39.34ID:Llt9sLwM
あまりなんでもかんでもブロックするとつまらなくなる
金稼ぐってことは批判も受け止めるべき
0057名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:11:17.99ID:CrLQk6vx
悪質かどうかの判断を人工知能に支配され、言論統制される人間どもって・・・。
　
0058名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:14:06.45ID:JuoLGX7D
そもそもコメント書き込み機能が要るんか？
0059名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:16:11.01ID:P+FY//Zg
そのAI
偏ってませんか？
0060名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:20:34.13ID:xZ1WcgSH
毒蝮さん：AIの判断により削除されました

綾小路さん：AIの判断により削除されました
0061名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:22:19.10ID:bI25yOD8
朝日新聞の記事が消えたら認めるわｗ
0063名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:23:43.54ID:V/gyTqJ8
自動チャックマンかぁ
西野よかったな！
0064名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:24:13.66ID:VIozWSi9
ズルムケとか
茶瓶とか
散らかすとかも検知出来んのか？あ？
0065名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:28:30.57ID:Ex+eBpLm
キラ米だらけなのに誰も投げないってのは効くだろなw
0066名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:33:25.73ID:MSzH3Qyz
音声なしかよ。画像だけ見てもなーんも面白くないんだけど。
何が面白いの？
0067名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:35:55.19ID:nQhyk1SD
「良い時計してはりますな」→「話がなげぇんだよ！」
とかも検知できるのかな
0068名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:36:48.27ID:8zyf7bhe
>>1
素晴らしいです。
ビッグブラザー。
0069名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:40:59.68ID:badm1gHD
昔ゲームで、ウルトラマン コスモスとかが伏せ字になった時は笑った
アレよりは判定プログラムが成長したってことなんですかね？
0070名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:51:18.23ID:+WNlGSZG
「元気なお子さんですね」＝「うるせえガキだな」

ってのも削除されるのか
0071名刺は切らしておりまして
垢版 |
2021/02/22(月) 18:00:47.76ID:GgjhbW2u
このシステムに朝日新聞の記事を診断させたら、誹謗中傷だらけと診断されるだろうな
0072名刺は切らしておりまして
垢版 |
2021/02/22(月) 18:14:51.75ID:3hmtdKe+
誹謗中傷って取り消しますって言えば無かったことになるんでろ
取り締まりっておかしくねw
生涯使わねーけど
0075名刺は切らしておりまして
垢版 |
2021/02/22(月) 18:57:24.31ID:aEkFKTI+
褒め殺しすればいいんじゃないの
0078名刺は切らしておりまして
垢版 |
2021/02/22(月) 19:25:45.60ID:oHR5tKje
共産主義理想社会は美しい。私は、共産主義者ではないが。
これはやはり遠回しか、それとも端的な感想か。
0080名刺は切らしておりまして
垢版 |
2021/02/22(月) 19:42:20.03ID:4lNtTzHZ
森元がいる会議室みたいになりそう
0084名刺は切らしておりまして
垢版 |
2021/02/22(月) 20:02:50.49ID:q+bmoDXE
スパイシーな若者たちが陽気な小型犬のように踊ってるよ！
シャープな目付きがクール！
日本語MCも素朴な感じが出ていいね！
0087名刺は切らしておりまして
垢版 |
2021/02/22(月) 20:21:13.88ID:uW0eM/GQ
コメントを分けて誹謗中傷ってそこまで何故必死になるんだろうな？
誹謗中傷に人生かけてるのか？
0089名刺は切らしておりまして
垢版 |
2021/02/22(月) 20:51:01.18ID:C1+afrEl
皮肉で絶賛したらそのうちバンされるんかな？
肯定も否定もしないあたりさわりのないコメントしかできなくね？
0093名刺は切らしておりまして
垢版 |
2021/02/23(火) 02:05:27.87ID:pnnzGTgA
なんてすばらしいＡＩだ
褒めたたえて今後の活躍と躍進を期待しよう
削除されないように言葉を選び気持ちの良いコメントを増やそう
そしてＡＩにたくさんの言葉を学習してもらい
平家のごとく大渦潮を乗り切ってもらおう
0099名刺は切らしておりまして
垢版 |
2021/02/23(火) 14:54:37.58ID:d4OL5xC9
>>1
あ、ほら昨日さ〜
といいうように実は相手にアホって言ってやったのもきちんと検知すんの？
■ このスレッドは過去ログ倉庫に格納されています
ニューススポーツなんでも実況