時代が清から中華民国へ変わろうとする辛亥革命の時期、中国のある小さな村に、本名すらはっきりしない、村の半端仕事をしてはその日暮らしをする日雇いの阿Qという男がいた。

彼は、働き者との評判こそ持ってはいたが、家も金も女もなく、字も読めず容姿も不細工などと閑人たちに馬鹿にされる、村の最下層の立場にあった。
そして内面では、「精神勝利法」と自称する独自の思考法を頼りに、閑人たちに罵られたり、日雇い仲間との喧嘩に負けても、
結果を心の中で都合よく取り替えて自分の勝利と思い込むことで、人一倍高いプライドを守る日々を送っていた。

ある日、阿Qは村の金持ちである趙家の女中に劣情を催し、言い寄ろうとして逃げられた上に趙の旦那の怒りを買って村八分になり、仕事にもあぶれてしまう。
食うに困って盗みを働き、逃亡同然の生活を続けるうちに、革命党が近くの町にやってきた事を耳にした彼は、意味もわからぬまま「革命」に便乗して騒いだ結果、革命派の趙家略奪に関与した無実の容疑で逮捕される。
無知ゆえに筋道たてた弁明も出来ず、流されるままに刑場に引き出され、あっけなく銃殺されてしまった阿Qに、観客達は不満を述べ立てるのだった。

魯迅は本作で、無知蒙昧な愚民の典型である架空の一庶民を主人公にし、権威には無抵抗で弱者はいじめ、現実の惨めさを口先で糊塗し思考で逆転させる彼の滑稽な人物像を描き出し、中国社会の最大の病理であった、民衆の無知と無自覚を痛烈に告発した。
物語の最後で、まったくの無実の罪で処刑される阿Q、その死にざまの見栄えのなさに不平を述べる観衆たちの記述は、同胞の死刑に喝采する中国人同胞の姿にショックを受けた作者の体験を反映する。
この体験や心境の変化は、魯迅の小説『藤野先生』に描写されている。