X



生成AIで声複製「ボイスクローニング」急速発達 犯罪防止研究、急務に 声入り動画の安易なネット投稿を控えるなど注意を [すらいむ★]

0001すらいむ ★
垢版 |
2024/03/31(日) 22:25:55.37ID:87CMye5T
生成AIで声複製「ボイスクローニング」急速発達 犯罪防止研究、急務に 声入り動画の安易なネット投稿を控えるなど注意を

 生成AI(人工知能)で声を複製する「ボイスクローニング」の技術が急速に発達している。
 かつては複製に数十秒分の声のデータが必要だったが、現在は数秒分で可能になったとされる。
 医療分野などで活用が期待できる一方、詐欺などの犯罪に悪用される懸念も。
 警戒が高まる中、被害を防止しようとボイスクローニングを検知する研究も進んでいる。

(以下略、続きはソースでご確認ください)

zakzak 2024.3/31 10:00
https://www.zakzak.co.jp/article/20240331-GT5FVJMNDFPXXG5LG6DFBRJ6XM/
0004名無しのひみつ
垢版 |
2024/04/01(月) 01:55:23.20ID:Nafnjr+n
対面以外信用するな
0005名無しのひみつ
垢版 |
2024/04/01(月) 02:12:55.72ID:jqOqSlLI
>>声入り動画の安易なネット投稿を控えるなど注意を
安易じゃない動画の投稿って何よ?全てAIボカロにしろよってこと?一般人は投稿するなと?テレビラジオ等の芸能人アナウンサー政治家スポーツ選手等々はどう注意すればいいんだよ?
具体的な対抗策も提示せずに注意喚起で済ませてんじゃねーよ
0006名無しのひみつ
垢版 |
2024/04/01(月) 05:45:15.66ID:RJ8gGUcf
これは対策できない
コールセンターはチンピラ経営のところが結構ある
携帯代理店と同じようなもんだ
そういうところは個人情報とセットで録音してるからまた名簿屋に流れて悪用されるよ
アウトソースだらけになった時点で個人情報はどんどん漏れる

戦争になれば総力戦になりそういうデータも活用される
通話音声から議員や兵士を特定されたり偽造音声でなりすましコールが着たりするだろうね
米国企業の日本向けコールセンターは中国にありますなんて普通にあるだろ
そういう米国企業は個人情報も全部中国に預けてる
この点にバイデンも何も対処する気がないだろ?
今すぐにでも大統領令出すんならまだわかる
それでもちょっと対応が遅すぎるね
0007名無しのひみつ
垢版 |
2024/04/01(月) 07:40:29.31ID:WD+tD36Y
2021年9月の最後の月曜議から
ボイス・トォ・スカルですでに知人そっくりな声で話してきていましたけれど・・・

脳内音声データなのか
チョウシコウセ委スピーカーで行ってきたかは不明
0008名無しのひみつ
垢版 |
2024/04/01(月) 07:41:47.69ID:WD+tD36Y
>>7

チョウシコウセ委→超指向性
0009名無しのひみつ
垢版 |
2024/04/01(月) 07:44:38.96ID:WD+tD36Y
スマフォで盗聴されることは考えられていない

社会に出て会社で蹴落とすようにしよされる

上司にあることないこと対象者の声で逆なでさせて解雇されるように使用される
0010名無しのひみつ
垢版 |
2024/04/01(月) 07:48:20.14ID:WD+tD36Y
大勢のいるところでの会話まづい

教室 クラブ 等の集会

陥れられるようにも使用される

誰が録音しているか不明
盗聴盗撮機もセットされている可能性あり
0011名無しのひみつ
垢版 |
2024/04/01(月) 07:52:46.07ID:WD+tD36Y
三六協定を勝手に作成される
会社側ユリ

口頭同意を勝手に作成で法的効力を持たされる

など
0012名無しのひみつ
垢版 |
2024/04/01(月) 07:57:09.58ID:WD+tD36Y
対策方法を見る限り

その方法のソフトを入手出来たらその対策をした音声合成エンジンが出て切るので

泥沼にしか見えない
0013名無しのひみつ
垢版 |
2024/04/01(月) 08:12:50.08ID:shpIbhkT
フォークト・カンプフテストのようなAI判定装置が必要だ
0015名無しのひみつ
垢版 |
2024/04/01(月) 08:19:06.30ID:WD+tD36Y
モナリザが喋った!?どんな顔写真も音声に併せた口パク動画にできるAIを開発!
2024.03.04 MON
https://nazology.net/archives/146532

これらのAIと組み合されて陥れられる
口頭同意をその場で撮影していたとね

集団いじめも多発


全員他人ごとではない

ボイス・トォ・スカルは2021年3月ごろにはてシステム鵜を構築できていた
0017名無しのひみつ
垢版 |
2024/04/01(月) 08:28:50.63ID:neBiwk3A
声コピーするの違法にしないとまずいんじゃねえの
0018名無しのひみつ
垢版 |
2024/04/01(月) 08:45:11.77ID:WD+tD36Y
携帯電話とスマフォの音声変換方式を知っていれば

班員の声が対象者の声になる

録音もしくは津和地の音声プログラムを解析して
そのプログラムの温室内で収まるように知る

それをさらにスピーカーと接続すれば他人の声になる
0019名無しのひみつ
垢版 |
2024/04/01(月) 08:51:18.50ID:WD+tD36Y
>>24

津和地→通話時

スマフォを2台使用すれば完成
0022名無しのひみつ
垢版 |
2024/04/01(月) 11:14:11.77ID:M3qxNsor
作り話のネタに使えそう
0023名無しのひみつ
垢版 |
2024/04/01(月) 11:29:49.20ID:SRdYv+45
声優の仕事も変わってくるのかね
サンプリングのデータだけ提供して後はAI任せとか
本人が引退あるいは亡くなっても代役は必要なくなるとか
0024名無しのひみつ
垢版 |
2024/04/01(月) 13:03:09.11ID:SOVYreh3
塩沢さんをAIで復活させてくれないかな
あの声は他の人で代用できんわ
0025名無しのひみつ
垢版 |
2024/04/01(月) 13:39:26.79ID:GEdAGYzU
野沢雅子さんは代役不可だろうから 
AIでコピーさせてくれる許可を土下座しても今からお願いしとくべき
0026名無しのひみつ
垢版 |
2024/04/01(月) 14:16:42.88ID:mCvMbsS9
これでかわいいJKに淫語とか喘ぎ声をしゃべらせた
自分用エロ音声作成すればいいであってる?
0028名無しのひみつ
垢版 |
2024/04/01(月) 14:30:11.93ID:grOBnohB
えっちな声を生成するAIはまだですか?!
欧米な喘ぎ声ならあるっぽいけど、アニメ的なヤツが欲しいw

>>26
AIに学習させるために、かわいいJKに音素材を提供してもらわないといかんだろ、それだと
0029名無しのひみつ
垢版 |
2024/04/01(月) 14:47:08.06ID:bahSokFG
声優引退してもAIが稼ぎ続けてくれるのかな
0030名無しのひみつ
垢版 |
2024/04/01(月) 14:59:03.08ID:5kHvjolh
声優を首にしてAIでやらせれば儲かる!
0031名無しのひみつ
垢版 |
2024/04/01(月) 15:15:55.60ID:4IEyPMyZ
ついにメカ声優爆誕か
これでサザエさんも安心
0032名無しのひみつ
垢版 |
2024/04/01(月) 15:30:47.59ID:5kHvjolh
日本人がいなくなっても
サザエさん新作が作り続けられる
デストピアSFはよ
0033名無しのひみつ
垢版 |
2024/04/01(月) 15:51:42.89ID:grOBnohB
喘ぎ声はともかく、声優の「声の演技」はまだまだ無理だと思うよ
声の演技を経験したことがないとサッパリ分からないと思うけど、通常の発話とはぜんぜん違うんだ
5年後10年後には分からないけど
0036名無しのひみつ
垢版 |
2024/04/01(月) 16:08:57.66ID:8jw6Z9x4
名探偵コナンか
0037名無しのひみつ
垢版 |
2024/04/01(月) 16:28:21.79ID:OdnC1qoj
>>33
そんなのすぐだよ
なんせAIにとっては普通もアニメ用も区別ない
アニメばっか覚えさせればそれが普通になる
0038名無しのひみつ
垢版 |
2024/04/01(月) 16:54:11.79ID:uc7FE6Ez
ケーズデンキのCMが流れてて
まる子は変わらないと思った
0039名無しのひみつ
垢版 |
2024/04/01(月) 17:35:17.64ID:grOBnohB
>>37
「やだ……」と「ヤダッ!」と「やぁだ〜♡」は、台本だと「やだ」としか書いてないんだけど、
どうやって指定すればいいんだろう?
感情記号的なものを付ければ良いのかな
それとも、感情の揺れ的なものも合わせて学習させれば良いのかな
0040名無しのひみつ
垢版 |
2024/04/01(月) 17:51:51.37ID:OdnC1qoj
>>39
台本が「やだ」としか書いてないわけではない
お前自身が声を文字にして書いてあるじゃんか
それだけで充分アニメ声はやれるし、台本に音符つければ大抵のことは伝わる
それに加えて前後の文脈から読み取れる
その読解力はAIなら屁でもない
0041名無しのひみつ
垢版 |
2024/04/01(月) 18:03:08.96ID:gxOLo75y
>>39
人間が手本となる抑揚で話せば
性別とかが違っていても
AIが自動的に真似してくれるのでは?
0042名無しのひみつ
垢版 |
2024/04/01(月) 18:09:15.63ID:UXqQxwY0
声の民主化!
0043名無しのひみつ
垢版 |
2024/04/01(月) 18:09:55.25ID:grOBnohB
>>40
「……」も「ッ!」も「〜♡」も、ある種の感情記号というつもりで書いたんだけど、
やっぱりそういうのは必要だよねえ
0044名無しのひみつ
垢版 |
2024/04/01(月) 18:12:46.74ID:grOBnohB
>>41
なるほど、山寺宏一さんが1人居れば、声優全員要らなくなるのかw
0045名無しのひみつ
垢版 |
2024/04/01(月) 18:24:08.16ID:rWPW8tYs
録音も証拠にならなくなるのか
0046名無しのひみつ
垢版 |
2024/04/01(月) 19:05:40.40ID:gq6EtdBw
ま~この~
0047名無しのひみつ
垢版 |
2024/04/01(月) 19:21:59.04ID:fQYdafyj
オレオレ詐欺が捗るなぁ

もう犯罪を防ぐんじゃなく事後対応で死刑にしろよ
捕まっても刑罰軽いからやる
一発死刑ならやるやつ減るだろうに
0048名無しのひみつ
垢版 |
2024/04/01(月) 21:50:54.80ID:MqJA8zsa
もしもし警察です今からあなたを逮捕しに行きます
0050名無しのひみつ
垢版 |
2024/04/01(月) 23:10:44.96ID:CovnF7sE
>>39
おまえが監督になってAIにダメ出しすればいい
AIの演技が下手ならお前が悪いってAIがキレるかもしれない
0052名無しのひみつ
垢版 |
2024/04/01(月) 23:57:23.79ID:/r/hXd85
俳優や声優の声の学習なんて
まっさきにやられるに決まってるじゃん
犯罪者にとっては儲かるのだから。
モノマネなんですと開き直られたら、今の法律では防げない
0053名無しのひみつ
垢版 |
2024/04/02(火) 00:20:56.20ID:8qLgkPN4
耐え難きを耐え、忍び難きを忍び、
0054名無しのひみつ
垢版 |
2024/04/02(火) 07:20:20.03ID:Gydf7Zan
ボイス・トォ・スカルを使用している者もこれを使用して追いつめられる!

言い逃れを使用とも録音ありますけれど?
0058名無しのひみつ
垢版 |
2024/04/03(水) 15:59:59.77ID:AbIFWxsD
AIの問題は神は仕事をする必要があるのか?という問題と同じ
我々が動物を続けるかどうかにかかってるんだよな
0059名無しのひみつ
垢版 |
2024/04/03(水) 16:22:45.70ID:f0SGY6hl
むかしCIAがイラクのフセイン大統領にそっくりな
男優を出演させたホモビデオを作ろうと計画したらしい
AIの発達した今なら簡単に作れるだろうし
政治的な利用価値は小さくないはず
0060名無しのひみつ
垢版 |
2024/04/03(水) 21:35:04.52ID:IQKiXJ9X
玉音放送をリメークしてみたらどうだろうか。
0061名無しのひみつ
垢版 |
2024/04/03(水) 22:15:02.64ID:2LYngnzP
yOUTUBEって声少しでも入れないとAIにはじかれて収益化できなくなるんじゃなかったっけ
0063名無しのひみつ
垢版 |
2024/04/22(月) 08:31:40.48ID:yRcRlRnA
太田淑子さん、白石冬美さん、清水マリさん、。。。
レスを投稿する


ニューススポーツなんでも実況