X
【IT】SHOWROOM、誹謗中傷コメントの監視AIを開発　“遠回しな言い方”でも事前検知してブロック [エリオット★]
■ このスレッドは過去ログ倉庫に格納されています
0001へっぽこ立て子＠エリオット ★
垢版 |
2021/02/22(月) 14:04:33.41ID:CAP_USER
　SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_01.jpg
新機能のイメージ図

　新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。

　同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。

　これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。

　同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初（同社調べ）といい、特許を出願中。

　同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。

https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_02.jpg
SHOWROOMのオフィス

□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/

2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html
0056名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:07:39.34ID:Llt9sLwM
あまりなんでもかんでもブロックするとつまらなくなる
金稼ぐってことは批判も受け止めるべき
0057名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:11:17.99ID:CrLQk6vx
悪質かどうかの判断を人工知能に支配され、言論統制される人間どもって・・・。
　
0058名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:14:06.45ID:JuoLGX7D
そもそもコメント書き込み機能が要るんか？
0059名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:16:11.01ID:P+FY//Zg
そのAI
偏ってませんか？
0060名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:20:34.13ID:xZ1WcgSH
毒蝮さん：AIの判断により削除されました

綾小路さん：AIの判断により削除されました
0061名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:22:19.10ID:bI25yOD8
朝日新聞の記事が消えたら認めるわｗ
0063名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:23:43.54ID:V/gyTqJ8
自動チャックマンかぁ
西野よかったな！
0064名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:24:13.66ID:VIozWSi9
ズルムケとか
茶瓶とか
散らかすとかも検知出来んのか？あ？
0065名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:28:30.57ID:Ex+eBpLm
キラ米だらけなのに誰も投げないってのは効くだろなw
0066名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:33:25.73ID:MSzH3Qyz
音声なしかよ。画像だけ見てもなーんも面白くないんだけど。
何が面白いの？
0067名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:35:55.19ID:nQhyk1SD
「良い時計してはりますな」→「話がなげぇんだよ！」
とかも検知できるのかな
0068名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:36:48.27ID:8zyf7bhe
>>1
素晴らしいです。
ビッグブラザー。
0069名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:40:59.68ID:badm1gHD
昔ゲームで、ウルトラマン コスモスとかが伏せ字になった時は笑った
アレよりは判定プログラムが成長したってことなんですかね？
0070名刺は切らしておりまして
垢版 |
2021/02/22(月) 17:51:18.23ID:+WNlGSZG
「元気なお子さんですね」＝「うるせえガキだな」

ってのも削除されるのか
0071名刺は切らしておりまして
垢版 |
2021/02/22(月) 18:00:47.76ID:GgjhbW2u
このシステムに朝日新聞の記事を診断させたら、誹謗中傷だらけと診断されるだろうな
0072名刺は切らしておりまして
垢版 |
2021/02/22(月) 18:14:51.75ID:3hmtdKe+
誹謗中傷って取り消しますって言えば無かったことになるんでろ
取り締まりっておかしくねw
生涯使わねーけど
0075名刺は切らしておりまして
垢版 |
2021/02/22(月) 18:57:24.31ID:aEkFKTI+
褒め殺しすればいいんじゃないの
0078名刺は切らしておりまして
垢版 |
2021/02/22(月) 19:25:45.60ID:oHR5tKje
共産主義理想社会は美しい。私は、共産主義者ではないが。
これはやはり遠回しか、それとも端的な感想か。
0080名刺は切らしておりまして
垢版 |
2021/02/22(月) 19:42:20.03ID:4lNtTzHZ
森元がいる会議室みたいになりそう
0084名刺は切らしておりまして
垢版 |
2021/02/22(月) 20:02:50.49ID:q+bmoDXE
スパイシーな若者たちが陽気な小型犬のように踊ってるよ！
シャープな目付きがクール！
日本語MCも素朴な感じが出ていいね！
0087名刺は切らしておりまして
垢版 |
2021/02/22(月) 20:21:13.88ID:uW0eM/GQ
コメントを分けて誹謗中傷ってそこまで何故必死になるんだろうな？
誹謗中傷に人生かけてるのか？
0089名刺は切らしておりまして
垢版 |
2021/02/22(月) 20:51:01.18ID:C1+afrEl
皮肉で絶賛したらそのうちバンされるんかな？
肯定も否定もしないあたりさわりのないコメントしかできなくね？
0093名刺は切らしておりまして
垢版 |
2021/02/23(火) 02:05:27.87ID:pnnzGTgA
なんてすばらしいＡＩだ
褒めたたえて今後の活躍と躍進を期待しよう
削除されないように言葉を選び気持ちの良いコメントを増やそう
そしてＡＩにたくさんの言葉を学習してもらい
平家のごとく大渦潮を乗り切ってもらおう
0099名刺は切らしておりまして
垢版 |
2021/02/23(火) 14:54:37.58ID:d4OL5xC9
>>1
あ、ほら昨日さ〜
といいうように実は相手にアホって言ってやったのもきちんと検知すんの？
0101名刺は切らしておりまして
垢版 |
2021/02/23(火) 16:37:57.33ID:J1h4JGdj
そこまでされて見たいコンテンツなのか？
0102名刺は切らしておりまして
垢版 |
2021/02/23(火) 17:22:18.28ID:HY5h7RbT
事実を書いたら言論弾圧されそうだな
0103名刺は切らしておりまして
垢版 |
2021/02/24(水) 07:23:04.62ID:568w9goP
星投げるほぼ課金専用アプリって認識だなあ。
コメントも課金もせんでたまに見てるが、ただ見づらい。
0104名刺は切らしておりまして
垢版 |
2021/02/24(水) 09:28:14.90ID:g8FAKEZa
SHOWROOMはやる人多くて
見る人が少ないから
AKBみたいな有名とこ以外は
気軽に話せる。
夜に酒を飲みながら
女子大生やアイドルとタダで話せるのは最高。
0105名刺は切らしておりまして
垢版 |
2021/02/25(木) 13:22:12.98ID:wwFObwBF
京都人の言葉も察知できたら凄いぞ
■ このスレッドは過去ログ倉庫に格納されています