Pingyao óvárosát az időszámításunk kezdete előtti 9. században kezdték építeni. A Ming-dinasztia idején, 1370-ben a földtéglákból rakott városfalat lebontva kőfalat emeltek. A városi fal hossza összesen 6,2 kilométer, magassága 10 méter, átlagos vastagsága pedig 5 méter volt. A falakat több mint három méter széles mesterséges folyó zárja körül.

Az óvárosnak mindössze hat kapuja van, keleti és nyugati irányban kettő-kettő, a déli és az északi oldalon egy-egy található. Az érkező ellenség megfigyelésére minden öt méteren bástyákat húztak fel. Az óváros környékén további 72 támadás-elleni építmény található.

Az óváros belsejében számtalan tradicionális lakóház maradt ránk jó állapotban. Ezek tipikus észak-kínai építészeti stílusúak, s még jól láthatók rajtuk az építészeti finomságok is. Átfogó építészeti stílusuk meglehetősen ódon, így lett a Ming-dinasztia Shanxi tartománybeli arculatának és folklórjának jelentős központja.