ていうか、AIがヤバいのは、
AIを犯罪利用したり、殺りく兵器として利用したりする人が現れても、
それに対抗する術が無いということだろ。

AIが自我を持って人類を滅ぼすというのは、その次の段階の話だよ。