生成ＡＩで声複製「ボイスクローニング」急速発達　犯罪防止研究、急務に　声入り動画の安易なネット投稿を控えるなど注意を [すらいむ★]

**すらいむ ★** · 2024/03/31(日) 22:25:55.37

生成ＡＩで声複製「ボイスクローニング」急速発達　犯罪防止研究、急務に　声入り動画の安易なネット投稿を控えるなど注意を

　生成ＡＩ（人工知能）で声を複製する「ボイスクローニング」の技術が急速に発達している。
　かつては複製に数十秒分の声のデータが必要だったが、現在は数秒分で可能になったとされる。
　医療分野などで活用が期待できる一方、詐欺などの犯罪に悪用される懸念も。
　警戒が高まる中、被害を防止しようとボイスクローニングを検知する研究も進んでいる。

（以下略、続きはソースでご確認ください）

zakzak　2024.3/31 10:00
https://www.zakzak.co.jp/article/20240331-GT5FVJMNDFPXXG5LG6DFBRJ6XM/

**名無しのひみつ** · 2024/03/31(日) 23:30:31.41

オレオレ俺だよ
お金持ってきてな

**名無しのひみつ** · 2024/04/01(月) 00:07:21.84

MAD動画が再ブームになったりしないかな

**名無しのひみつ** · 2024/04/01(月) 01:55:23.20

対面以外信用するな

**名無しのひみつ** · 2024/04/01(月) 02:12:55.72

>>声入り動画の安易なネット投稿を控えるなど注意を
安易じゃない動画の投稿って何よ？全てAIボカロにしろよってこと？一般人は投稿するなと？テレビラジオ等の芸能人アナウンサー政治家スポーツ選手等々はどう注意すればいいんだよ？
具体的な対抗策も提示せずに注意喚起で済ませてんじゃねーよ

**名無しのひみつ** · 2024/04/01(月) 05:45:15.66

これは対策できない
コールセンターはチンピラ経営のところが結構ある
携帯代理店と同じようなもんだ
そういうところは個人情報とセットで録音してるからまた名簿屋に流れて悪用されるよ
アウトソースだらけになった時点で個人情報はどんどん漏れる

戦争になれば総力戦になりそういうデータも活用される
通話音声から議員や兵士を特定されたり偽造音声でなりすましコールが着たりするだろうね
米国企業の日本向けコールセンターは中国にありますなんて普通にあるだろ
そういう米国企業は個人情報も全部中国に預けてる
この点にバイデンも何も対処する気がないだろ？
今すぐにでも大統領令出すんならまだわかる
それでもちょっと対応が遅すぎるね

**名無しのひみつ** · 2024/04/01(月) 07:40:29.31

2021年9月の最後の月曜議から
ボイス・トォ・スカルですでに知人そっくりな声で話してきていましたけれど・・・

脳内音声データなのか
チョウシコウセ委スピーカーで行ってきたかは不明

**名無しのひみつ** · 2024/04/01(月) 07:41:47.69

>>7

チョウシコウセ委→超指向性

**名無しのひみつ** · 2024/04/01(月) 07:44:38.96

スマフォで盗聴されることは考えられていない

社会に出て会社で蹴落とすようにしよされる

上司にあることないこと対象者の声で逆なでさせて解雇されるように使用される

**名無しのひみつ** · 2024/04/01(月) 07:48:20.14

大勢のいるところでの会話まづい

教室クラブ等の集会

陥れられるようにも使用される

誰が録音しているか不明
盗聴盗撮機もセットされている可能性あり

**名無しのひみつ** · 2024/04/01(月) 07:52:46.07

三六協定を勝手に作成される
会社側ユリ

口頭同意を勝手に作成で法的効力を持たされる

など

**名無しのひみつ** · 2024/04/01(月) 07:57:09.58

対策方法を見る限り

その方法のソフトを入手出来たらその対策をした音声合成エンジンが出て切るので

泥沼にしか見えない

**名無しのひみつ** · 2024/04/01(月) 08:12:50.08

フォークト・カンプフテストのようなAI判定装置が必要だ

**名無しのひみつ** · 2024/04/01(月) 08:14:47.41

本人と見分けつかない!? 偽動画
https://www.nec-nexs.com/sl/security/quiz/44.html

「本物の人間と区別がつかない」文章からAIアバターが話す ...
2022/12/13
https://techblitz.com/synthesia/

**名無しのひみつ** · 2024/04/01(月) 08:19:06.30

モナリザが喋った!?どんな顔写真も音声に併せた口パク動画にできるAIを開発！
2024.03.04 MON
https://nazology.net/archives/146532

これらのAIと組み合されて陥れられる
口頭同意をその場で撮影していたとね

集団いじめも多発

全員他人ごとではない

ボイス・トォ・スカルは2021年３月ごろにはてシステム鵜を構築できていた

**名無しのひみつ** · 2024/04/01(月) 08:24:25.67

超リアルな人物の全身写真を数クリックで作成できるAI Human
2023/09/12
https://photoshopvip.net/150772

日本人の顔を生成するAIサイト：リアルなアバター作成の最前線
2024/03/18
https://techsuite.biz/japanese-face-reality/

**名無しのひみつ** · 2024/04/01(月) 08:28:50.63

声コピーするの違法にしないとまずいんじゃねえの

**名無しのひみつ** · 2024/04/01(月) 08:45:11.77

携帯電話とスマフォの音声変換方式を知っていれば

班員の声が対象者の声になる

録音もしくは津和地の音声プログラムを解析して
そのプログラムの温室内で収まるように知る

それをさらにスピーカーと接続すれば他人の声になる

**名無しのひみつ** · 2024/04/01(月) 08:51:18.50

>>24

津和地→通話時

スマフォを２台使用すれば完成

**名無しのひみつ** · 2024/04/01(月) 09:34:53.50

そらもう喘ぎ声生成しまくるよな！

**名無しのひみつ** · 2024/04/01(月) 10:52:48.24

>>20
美人店員いる店のいたずら電話増えそうだな

**名無しのひみつ** · 2024/04/01(月) 11:14:11.77

作り話のネタに使えそう

**名無しのひみつ** · 2024/04/01(月) 11:29:49.20

声優の仕事も変わってくるのかね
サンプリングのデータだけ提供して後はAI任せとか
本人が引退あるいは亡くなっても代役は必要なくなるとか

**名無しのひみつ** · 2024/04/01(月) 13:03:09.11

塩沢さんをAIで復活させてくれないかな
あの声は他の人で代用できんわ

**名無しのひみつ** · 2024/04/01(月) 13:39:26.79

野沢雅子さんは代役不可だろうから　
AIでコピーさせてくれる許可を土下座しても今からお願いしとくべき

**名無しのひみつ** · 2024/04/01(月) 14:16:42.88

これでかわいいJKに淫語とか喘ぎ声をしゃべらせた
自分用エロ音声作成すればいいであってる？

**名無しのひみつ** · 2024/04/01(月) 14:21:09.50

OpenAIがわずか15秒の音声からクローン音声を生成できるAIモデル「Voice Engine」をリリース
https://gigazine.net/news/20240401-openai-voice-engine-ai/

**名無しのひみつ** · 2024/04/01(月) 14:30:11.93

えっちな声を生成するAIはまだですか？！
欧米な喘ぎ声ならあるっぽいけど、アニメ的なヤツが欲しいｗ

>>26
AIに学習させるために、かわいいJKに音素材を提供してもらわないといかんだろ、それだと

**名無しのひみつ** · 2024/04/01(月) 14:47:08.06

声優引退してもAIが稼ぎ続けてくれるのかな

**名無しのひみつ** · 2024/04/01(月) 14:59:03.08

声優を首にしてAIでやらせれば儲かる！

**名無しのひみつ** · 2024/04/01(月) 15:15:55.60

ついにメカ声優爆誕か
これでサザエさんも安心

**名無しのひみつ** · 2024/04/01(月) 15:30:47.59

日本人がいなくなっても
サザエさん新作が作り続けられる
デストピアSFはよ

**名無しのひみつ** · 2024/04/01(月) 15:51:42.89

喘ぎ声はともかく、声優の「声の演技」はまだまだ無理だと思うよ
声の演技を経験したことがないとサッパリ分からないと思うけど、通常の発話とはぜんぜん違うんだ
5年後10年後には分からないけど

**名無しのひみつ** · 2024/04/01(月) 15:52:55.84

声に著作権を適用するか？w

**名無しのひみつ** · 2024/04/01(月) 15:53:41.01

山田康夫のクローン頼む

**名無しのひみつ** · 2024/04/01(月) 16:08:57.66

名探偵コナンか

**名無しのひみつ** · 2024/04/01(月) 16:28:21.79

>>33
そんなのすぐだよ
なんせＡＩにとっては普通もアニメ用も区別ない
アニメばっか覚えさせればそれが普通になる

**名無しのひみつ** · 2024/04/01(月) 16:54:11.79

ケーズデンキのCMが流れてて
まる子は変わらないと思った

**名無しのひみつ** · 2024/04/01(月) 17:35:17.64

>>37
「やだ……」と「ヤダッ！」と「やぁだ～♡」は、台本だと「やだ」としか書いてないんだけど、
どうやって指定すればいいんだろう？
感情記号的なものを付ければ良いのかな
それとも、感情の揺れ的なものも合わせて学習させれば良いのかな

**名無しのひみつ** · 2024/04/01(月) 17:51:51.37

>>39
台本が「やだ」としか書いてないわけではない
お前自身が声を文字にして書いてあるじゃんか
それだけで充分アニメ声はやれるし、台本に音符つければ大抵のことは伝わる
それに加えて前後の文脈から読み取れる
その読解力はＡＩなら屁でもない

**名無しのひみつ** · 2024/04/01(月) 18:03:08.96

>>39
人間が手本となる抑揚で話せば
性別とかが違っていても
AIが自動的に真似してくれるのでは？

**名無しのひみつ** · 2024/04/01(月) 18:09:15.63

声の民主化！

**名無しのひみつ** · 2024/04/01(月) 18:09:55.25

>>40
「……」も「ッ！」も「～♡」も、ある種の感情記号というつもりで書いたんだけど、
やっぱりそういうのは必要だよねえ

**名無しのひみつ** · 2024/04/01(月) 18:12:46.74

>>41
なるほど、山寺宏一さんが1人居れば、声優全員要らなくなるのかｗ

**名無しのひみつ** · 2024/04/01(月) 18:24:08.16

録音も証拠にならなくなるのか

**名無しのひみつ** · 2024/04/01(月) 19:05:40.40

ま～この～

**名無しのひみつ** · 2024/04/01(月) 19:21:59.04

オレオレ詐欺が捗るなぁ

もう犯罪を防ぐんじゃなく事後対応で死刑にしろよ
捕まっても刑罰軽いからやる
一発死刑ならやるやつ減るだろうに

**名無しのひみつ** · 2024/04/01(月) 21:50:54.80

もしもし警察です今からあなたを逮捕しに行きます

**名無しのひみつ** · 2024/04/01(月) 22:12:00.45

>>34
人物に関しては肖像権

**名無しのひみつ** · 2024/04/01(月) 23:10:44.96

>>39
おまえが監督になってAIにダメ出しすればいい
AIの演技が下手ならお前が悪いってAIがキレるかもしれない

**名無しのひみつ** · 2024/04/01(月) 23:55:19.42

ゆっくりしていってねだらけになるのか

**名無しのひみつ** · 2024/04/01(月) 23:57:23.79

俳優や声優の声の学習なんて
まっさきにやられるに決まってるじゃん
犯罪者にとっては儲かるのだから。
モノマネなんですと開き直られたら、今の法律では防げない

**名無しのひみつ** · 2024/04/02(火) 00:20:56.20

耐え難きを耐え、忍び難きを忍び、

**名無しのひみつ** · 2024/04/02(火) 07:20:20.03

ボイス・トォ・スカルを使用している者もこれを使用して追いつめられる!

言い逃れを使用とも録音ありますけれど?

**名無しのひみつ** · 2024/04/02(火) 10:08:59.83

VCでネカマがはかどる

**名無しのひみつ** · 2024/04/03(水) 01:01:39.79

https://gigazine.net/news/20240402-ai-video-game-actors/
2024年04月02日 21時00分
声を盗むAIにゲーム声優たちはどう向き合っているのか？

**名無しのひみつ** · 2024/04/03(水) 13:25:03.01

法律で禁止しないかぎり止まらない

**名無しのひみつ** · 2024/04/03(水) 15:59:59.77

AIの問題は神は仕事をする必要があるのか？という問題と同じ
我々が動物を続けるかどうかにかかってるんだよな

**名無しのひみつ** · 2024/04/03(水) 16:22:45.70

むかしCIAがイラクのフセイン大統領にそっくりな
男優を出演させたホモビデオを作ろうと計画したらしい
AIの発達した今なら簡単に作れるだろうし
政治的な利用価値は小さくないはず

**名無しのひみつ** · 2024/04/03(水) 21:35:04.52

玉音放送をリメークしてみたらどうだろうか。

**名無しのひみつ** · 2024/04/03(水) 22:15:02.64

ｙOUTUBEって声少しでも入れないとAIにはじかれて収益化できなくなるんじゃなかったっけ

**名無しのひみつ** · 2024/04/09(火) 01:57:59.40

AIは人類の永遠的地獄化も明示したぞ

**名無しのひみつ** · 2024/04/22(月) 08:31:40.48

太田淑子さん、白石冬美さん、清水マリさん、。。。

生成ＡＩで声複製「ボイスクローニング」急速発達 犯罪防止研究、急務に 声入り動画の安易なネット投稿を控えるなど注意を [すらいむ★]

生成ＡＩで声複製「ボイスクローニング」急速発達　犯罪防止研究、急務に　声入り動画の安易なネット投稿を控えるなど注意を [すらいむ★]