1945年4月30日，乌布利希作为德共中央全权代表的小组领导人回到德国，同原来从事秘密活动或从法西斯集中营出来的共产党员和社会民主党员一起，在柏林着手建立反法西斯民主组织，并且一开始就注意到同过去的资产阶级政党中的反法西斯分子和党外人士的合作。
1945年6月初，乌布利希和德共中央委员安东·阿克曼等在威·皮克领导下，起草了德共中央呼吁书，要求德国一切反法西斯民主力量从过去历史中吸取教训，反对法西斯和垄断资本的统治，建立通向社会主义的民主政权。
6月19日，德国共产党和社会民主党中央代表在柏林举行第一次联席会议，建立了两个工人政党共同的工作委员会，签订了两党中央领导机构的第一个行动协议。乌布利希作为德共代表参加了该委员会。
乌布利希参加了在1945年底与1946年2月两党中央扩大的联席会议。通过了两党联合为德国统一社会党的决议。并成立制订德国统一社会党党章草案的研究委员会。德国共产党和社会民主党1946年4月21日在柏林举行了联合党代会，两党正式联合，建立德国统一社会党。乌布利希在会上指出：这次代表大会是德国工人运动史上的转折。德国是科学社会主义奠基人马克思和恩格斯的故乡，他们的伟大学说是党的指导思想。在中央全会上，他当选党中央两名副主席之一和中央书记处书记，同社会民主党方面的马克斯·费尔纳共同负责经济、财政、以及地方政策工作。
德国统一社会党建立后，乌布利希同党的其他领导人一起，为巩固反法西斯民主机构、克服战争给经济造成的损失做了许多工作。民主土改后，他积极主张剥夺垄断资本的权力。他在十几个城市的群众集会上指出，没收战争罪犯和纳粹积极分子的企业是完全必要的。1948年6月，他在党的一届十一中全会上对恢复和发展经济的第二个五年计划草案作了说明，强调为了人民的利益，应广泛动员群众，不断增加生产力，尽快完善正在发展成为社会主义生产关系的新的生产关系。不久乌布利希被选为德国人民委员会主席团成员和经济委员会主席。1949年，乌布利希根据党中央的决定，撰写了《国家和经济的民主建设》教科书,阐述了工农国家政权机关的性质和经济建设的基本原则。
1949年10月7日，德意志民主共和国成立。乌布利希担任部长会议副主席。1950年，他在关于新的国家机关的任务的报告中，强调为建立统一的德国，为缔结和约以及从占领区撤军而努力。同年7月在德国统一社会党三届一中全会上，乌布利希当选为中央委员会总书记。他担任这一职务直到1953年，此后改为第一书记。
