1915年5月5日生于河北省安平县。其父王桂山，字仙府，靠耕田和卖药为生，在村里免费行医；时常鼓励王湘浩读书，希望他将来做个教师。叔父早年毕业于天津北洋大学。在父亲和叔父的影响下，1931年王湘浩初中毕业后，考取了北洋工学院附属高中。当时北洋工学院的附属高中实际上是大学预科性质，毕业后可以不经考试升入本科。王湘浩自小喜欢数学，小学和中学数学成绩一直很突出。但是，图画、手工课成绩却很差。读北洋工学院附属高中需要学机械制图，王湘浩很难应付，逐渐失去了读工科的兴趣。1933年高中毕业时，他放弃直接升入北洋工学院本科的机会，考取了北京大学算学系（数学系）。
王湘浩在北京大学数学系学习，如鱼得水，才能得到充分发挥，成绩遥遥领先，受到老师们的称赞。在三四年级时他获得每年240元的最高奖学金。
1937年，王湘浩在北京大学数学系毕业时恰值抗日战争爆发，北京大学南迁。王湘浩先回到河北家乡，继而去西安，最后到长沙投奔由北京大学、清华大学、南开大学三校成立的临时大学。他在江泽涵教授的帮助下，留在临时大学数学系任助教，结束了流亡生活。1938年春，长沙临时大学迁往昆明，改名西南联合大学。王湘浩在该校当了两年助教后，1939年成为江泽涵教授的研究生，专攻拓扑学；1941年毕业，担任西南联合大学讲师。1946年夏，他到美国普林斯顿大学，在著名代数学家E．阿廷指导下攻读学位，1947年夏取得硕士学位，1949年春又取得博士学位，其博士论文的题目是《关于格伦瓦尔德定理》。1949年6月他启程回国，经香港、天津，8月到北京，被北京大学数学系聘为副教授，1950年晋升教授。他在1952年院系调整时，到东北人民大学（后改名为吉林大学）数学系任系主任。1955年他被选为中国科学院学部委员。1976年吉林大学计算机科学系成立后，王湘浩任该系系主任，后兼任吉林大学副校长。
王湘浩1954年加入中国民主同盟，曾任吉林省民盟副主任委员，长春市民盟主任委员，民盟中央委员和参议委员。并曾任长春市政治协商会议副主席，全国人民代表大会代表。
王湘浩还曾担任中国数学会理事，中国计算机学会副理事长，中国计算机学会人工智能专业委员会主任，全国高校人工智能研究会会长，吉林省及长春市计算机学会理事长，长春市数学会理事长和长春市桥牌协会主席。
王湘浩是中国第一批计算机学科博士导师之一，曾任国务院学位委员会计算机学科评议组组长 。
