1959年3月24日，“广东省西沙群岛、南沙群岛、中沙群岛办事处”于永兴岛成立，为广东省人民政府的派出办事机构（县级），由海南行政区行政公署直接领导。
1969年3月4日，改称“广东省西沙群岛、南沙群岛、中沙群岛革命委员会”。
1981年10月22日，经中华人民共和国国务院批准恢复设置为“广东省西沙群岛、南沙群岛、中沙群岛办事处”，恢复性质为广东省人民政府的派出办事机构，由海南行政区行政公署直接领导。
1988年4月，海南省成立，广东省西沙群岛、南沙群岛、中沙群岛办事处改由海南省管辖。
1988年9月19日，广东省西沙群岛、南沙群岛、中沙群岛办事处正式更名为“海南省西沙群岛、南沙群岛、中沙群岛办事处”（简称西南中沙群岛办事处），同时更名的中国共产党海南省西沙群岛、南沙群岛、中沙群岛工作委员会（简称西南中沙群岛工委）与其合署办公，实行“一套人马、两块牌子”的体制。西南中沙群岛工委、办事处为中共海南省委、海南省人民政府的县级派出机构，代表国家和中共海南省委、海南省人民政府对西沙群岛、南沙群岛、中沙群岛及其海域行使主权和管辖权 。
1992年到1996年期间，时任中共西南中沙群岛工作委员会第八届书记徐天仁数次到国务院和外交部汇报建立“三沙市”的设想。徐天仁最早提议建市的时候，不叫“三沙市”，叫“永兴市”，后来发现湖南省有同名的永兴县，就改成了“琼沙市”，最后又改成了“三沙市” 。
2007年11月，海南省文昌市的一次党内会议上传出消息，三沙市的成立获得国务院批准，是一个隶属文昌市的县级市。中国此举主要是针对半年前越南的侵犯主权而来，当时越南将南沙部分岛屿划作国会议员选区，并计划与英国公司合修南沙天然气输送管道。隔月，数百名越南年轻人到中国驻越南大使馆抗议。据《环球时报》英文版报道，越南当时的抗议令三沙建市又推后了 。
2008年，海南省机构编制委员会办公室下发《关于西南中沙行政体制调整方案的通知》，参照市县党政机关模式，设置纪委、组织部、宣传部、党群部、公安局等18个行政职能部门，并设置了图书馆、气象台等20多个部门和事业单位。在职员工达到330多人。 2012年6月21日，经国务院批准，撤销海南省西沙群岛、南沙群岛、中沙群岛办事处，设立地级三沙市，管辖西沙群岛、中沙群岛、南沙群岛的岛礁及其海域。三沙市人民政府驻西沙永兴岛。
2012年7月23日，三沙市第一届人民代表大会第一次会议在西沙永兴岛举行。会议依法选举产生了三沙市人民政府以及三沙市人民代表大会常务委员会、三沙市中级人民法院、三沙市人民检察院领导班子成员，肖杰当选首任三沙市人民政府市长，张耕、张军、冯文海当选三沙市人民政府副市长。
2012年7月24日，三沙市成立大会暨揭牌仪式举行，标志着三沙市人民政府正式成立 。
三沙市人民政府与中国共产党三沙市委员会、三沙市人民代表大会常务委员会、中国人民解放军海南省三沙警备区、三沙市中级人民法院、三沙市人民检察院合署办公。
