Win7 64bitだけどAMV3動いてるよ。当然32bitソフトからしか使えないけど
試用版のキーも登録できてる
C:\Users\[ユーザー名]\AppData\Roaming\AmvVideoCodec に
Amv3Codec.ini があるなら一旦削除なりリネームしてみる
ないなら再インストールしてみるとか