【IT】SHOWROOM、誹謗中傷コメントの監視AIを開発 “遠回しな言い方”でも事前検知してブロック [エリオット★]
■ このスレッドは過去ログ倉庫に格納されています
SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。
https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_01.jpg
新機能のイメージ図
新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。
同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。
これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。
同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初(同社調べ)といい、特許を出願中。
同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。
https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_02.jpg
SHOWROOMのオフィス
□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/
2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html そんなことより画質を上げろ
中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの? >>1
言語表現差別
言語能力の乏しい人侮辱
文系風口先だけくず執筆家科学なし低能ライターがのさぼる時代
枝野 蓮舫 辻元 パワハラ橋本聖子 の世界
AIでやるべきことはマスゴミ記事ライター記事の
フェイク 恣意的切り取りの意味ロンダリング扇り屑
根拠自体がフェイク相互スパイラル記事 便乗記事の排除!!!
マスゴミテレビ情報バラエティ ワイドショー MC ブームラン自動検出
海外がー屑の大義名分詭弁 ポリコレ AIリアルタイム検出しろ
朝鮮Korean NHK民放 ドラマの リアルタイム歴史検証 犯罪検証
テロップ義務化しろ!! こいつら、ただのイスラム教の集団だ
いつも俺の部屋を監視してる、石経由で 大抵、と言うかAIに任せると日常会話でさえブロック対象にされるからねぇ。
顔文字程度でしか対話できなくなるアプリになるんじゃね?www
×悪質コメントの100%排除に限りなく近くなること
〇コメントの100%排除に限りなく近くなること >>1
AIには見せかけの流行記事を検知して欲しいと思うw >>12
親父が本の虫だからって、大嘘書いた本ばっか吹き込みやがったな
それが日本の右翼の正体だ
かなりが電気回路でしゃれで書いてる、戦国時代記録も嘘ばっか 皆が「可愛い」とコメントしてる中で
「そうは思わない」「可愛くない」とコメしたらブロック対象かな? 京都人「何を着ても似合わはりますなあ」
→意味:そんな格好して、恥ずかしくないのか? どの程度のワードが悪質と判断されるのか、テストしたいなぁ。
「うんこ大盛汁だく」 とか、一発アウトかなぁ。 配信者側がどの程度厳格に検閲するか調整できるようにすればいいよ ヤフーの奴を共有すればいいのに、個別に作って無駄じゃない? つまり婉曲な言い回しのパターンをたくさん学習させると簡単な単発コメント以外、全て自動で削除させることも可能なわけだw
ちょっとAIを教育してやりたい >>1
怖すぎる
気持ち悪すぎる
テレビ局や電通や吉本と絡んでたら一切弾かれるのかよ 「ハゲ」「薄毛」「頭髪の不自由な方」はブロックされる? >>1
NGT事件の真相をコメントしたらBANされるってことか 言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。 >>33
公的な場ではないから検閲にはあたらないでしよ。 >>1
そして書き込みがなくなった
ってことになるんだろうなぁ msとかが開発した口の悪いAIがこれでバンされたら笑えるんだが >>1
ニュース記事からおかしいのあるけどどうするんだ? 遠回しって、褒め殺しもブロックされたら、感情的な表現は全て無くなるな トランプを失脚させるためにメディアと共闘したアメリカのSNS各社と同じものを感じるな 普通の会話の文章でもNGワードあると勝手に☆にされるが
ああいうのもちゃんと大丈夫な文として判別してくれるのか? むかし、いまはイギリスに買収されたがインテゴって会社の
ファイアウォールソフト使ってて、こういう言葉狩り
ペアレンタルコントロールというらしいが機能はあったな
どんだけ進んだのかしれないが まずこのサイト知らんわw
名前的にエロサイトっぽいけど ある事無いこと褒め殺すと、全部ブロック対象になるかもなwww 「AIをいかに巧妙に欺いて誹謗中傷を書き込むか」
って新しい遊びの場になるかも ■ このスレッドは過去ログ倉庫に格納されています