城墙是中国古代重要的军事防御工事，平遥城墙历史悠久、保存完整。相传始建于西周宣王姬静时期，据今已有2700多年的历史。当时是特别低矮的城垣，为了军事防御的需要，在明洪武三年（1370年）扩建，改筑为今日所见到的砖石城墙，而在明清两代500余年间，先后有26次修缮补建，所以至今保持着明清两代的城墙风貌。
现存的平遥城墙，是我国现存完整的三座县城城墙之一，而其规模之宏大，建筑之完整又雄踞三城之冠，全长12.8华里。墙高10米左右，环城六道城门，南北各一，东西各二，并且六座城门外均筑有瓮城，城墙外每隔40－60米建有一座突出于墙外的马面，也叫敌台窝铺，从建筑的角度讲，马面既加固了墙体，使整座古城坚固墩实，更重要的是出于军事防御的需要，敌人如果攻城的话，处于马面间的守兵可以从一个正面及两个侧面来攻击敌人，使之腹背受敌，这便是军事上所谓的左右夹攻，两台相应和旁敲侧击的兵法。每个马面上都筑有一座敌楼，敌楼在平日供士兵遮风避雨，战时则存放武器和军械，借助这些凌空的建筑，守城将士可“眼观六路，耳听八方”，有效地组织火力，以抗击敌人。
在平遥古城墙的每个城门外都有一座瓮城，瓮城是建在大城外的一座小城，用于增强城池的防御能力，它共设里外两道门，并且是呈90°，从科学角度讲，平遥古城位于山西中部，黄土高原地区，风沙比较大，这样修建可以防止风沙直直地侵袭城内街道；从军事角度讲，当敌人攻进了瓮城的第一道门，但他没有想到里面还有一道门，这样守城士兵便能居高临下，四面组成交叉射击网，给瓮城内敌人以致命的打击，成语“瓮中捉鳖，关门打狗”可以说是对瓮城功能最生动有趣的描述了。
另外，城墙上的垛口和眺望孔为射击和监视来犯之敌所用，环城有3000垛口，72敌楼，隐含了孔子3000弟子，72贤人的历史典故。在庞大的军事设施上体现了浓厚的儒家思想，隐含着古代人们厌恶战争，祈求和平，追求仁证的理想。其中72座敌楼也是观察敌情，组织火力的嘹望台，一字长蛇状的敌楼守将，把观察到的敌情飞马禀告角楼，再层层迎报给城楼上的主将，点线结合，整体配合，形成了城楼阻击攻门的敌人主力，角楼出辅助城楼出坚守，敌楼以攻为守三面火力击杀敌人的作战态势。
虽然平遥不是军事重镇，也不是天险关隘，但其精妙的设计和完备的功能就足以说明古人“居安思危，防患于未然”的意识和智慧了，历史上曾凭借这座坚固的城墙，抵御过金兵的南下，打退过蒙古兵的掠夺，更痛击过日寇的入侵，如今城墙外侧墙体上留存的累累弹痕都在讲述着以往的故事。
平遥城墙设计严谨，雄健壮观，据说是依“龟前戏水，山水朝阳”之法选址，“以险制塞”之理修筑，数百年来虽经风雨侵蚀，战火硝烟，仍然坚固如初，民间相传为长寿永固的“龟城”。南门为首，北门为尾，东西四门为四肢，加上城池内四大街、八小街、七十二条蚰蜒巷那纵横有序的八卦龟纹排列寓意平遥古城金汤永固、万代吉祥。
整个城区布局有序，设计精妙，严格按照汉民族的礼制和传统的城市规划思想及布局程式修建，是中国明清时期汉民族地区县城的活标本，城的中心为市楼，南大街为中轴线，形成“左城隍、右县衙、左文庙、右武庙、东道观、西寺院”的对称布局，颇有《周礼》“左祖右社，前朝后市”的礼序遗风。整座城池又是由城墙、街道、店铺、寺庙、民居组成的一个庞大的古文物建筑群。
平遥城墙如此完善独特的军事设施和设计精妙的防御功能，无疑是古代军事的鲜活教材，是当地影视拍摄的极佳基地，也是游客登城怀古的游览胜地。