>>5
GPUは演算器の塊みたいなものでSIMD計算にほぼ特化している
(汎用CPUより)低クロックでありながら演算能力が高い。
更にそれをクラスタリングしたのが最近のGPUベースのスパコン。

GPUの弱点のは主に２つで、条件分岐と逐次計算。
演算器に間断無く処理データを放り込めてる間はつおいが
これが条件分岐でストールすると長所が死ぬ。
前のデータを順次加工していくような逐次計算では
SIMD計算が生かせず、低クロックのデメリットがモロに出る。
生かすには並列計算向きなアルゴリズムを採用する必要がある。

汎用CPUはSIMDユニットを搭載するもののGPUに遠く及ばない。
しかし高クロックで逐次計算であっても対応できるし
分岐処理があっても対応できる。
汎用が汎用たる所以は、(パフォーマンスを引き出せるかはまた別の話だが)
SIMD計算を特に意識しなくても、とりあえず動かす事ができる所。