巴罗佐在其学生时代就开始从事政治，在1974年4月25日的丁香革命前他是一个比较哲学性的毛派左翼党派的首领，但他很快就退出了这个政治派别，1980年12月他加入葡萄牙社会民主党，这个党虽然名为社会民主党，但它实际上是一个比较保守的党派，今天在欧洲议会中它属于欧洲人民党。巴罗佐至今属于这个党派。
他在葡萄牙曾任以下职务：
从1985年到1987年内政部副国务秘书。 从1987年到1992年外交和国际合作国务秘书。 从1992年到1995年任外交部长。 1990年他促成安哥拉内战中解放安哥拉人民运动和若纳斯·萨文比领导的安哥拉彻底独立国家联盟之间的停火协议。巴罗佐还支持东帝汶从印度尼西亚的独立运动。
1995年葡萄牙社会民主党在大选中失败后巴罗佐未能如愿成为该党的主席。1999年在经过党内的激烈斗争后他才终于成为社会民主党的主席。当时许多人认为他缺乏政治上的强硬和顽强，不会在党内的激烈斗争中坚持到底。事实证明这个影像是错误的。在2002年的议会选举中社会民主党勉强胜过社会党，由于巴罗佐所执行的节省措施在2004年的欧洲议会选举中他的党勉强败给了社会党。
从2002年4月6日到2004年7月12日他任葡萄牙总理。在他任期内他的一些政策遭到国内的反对，比如2003年春他支持美伊战争，此外他促进葡萄牙国家企业的私有化和强烈节省公共财政。他本人认为出于恶劣的经济状态和前任的社会党遗留下来的财政缺陷这些步骤是必须的，此外为了实现“稳定和增长协定”这些措施也是无法避免的。此外他在任期间试图改善欧洲联盟与美国之间的关系。
巴罗佐的强处尤其在于外交，作为葡萄牙的外交部长甚至连反对党也不得不对他出色的工作表示赞赏。他对外交政策的兴趣从很早开始就已经形成了而且始终陪伴着他的政治生涯。 2004年6月29日，欧洲理事会提名巴罗佐为欧洲联盟委员会主席，同年7月22日欧洲议会选举赞同这个提名，413位议员投赞同票，251位反对，44位弃权，24位议员没有参加投票。此前德国和法国曾试图提名比利时首相居伊·费尔霍夫施塔特，保守派政府曾试图提名出任欧洲联盟外交事务专员的英国政治家彭定康，但都因无法获得多数而未成功。
巴罗佐一开始提名的欧洲委员会未能得到欧洲议会的支持，他不得不替换了两名委员，将一名委员的部门改变后才于2004年11月18日获得欧洲议会多数的支持。
2009年7月9日，欧洲理事会正式任命巴罗佐为欧盟委员会主席。
2009年9月16日，正在法国斯特拉斯堡举行的欧洲议会全会16日选举巴罗佐为新一届欧盟委员会主席，巴罗佐成功实现连任。
2014年10月1日，巴罗佐任期届满正式离职。10月31日是巴罗佐在欧盟委员会的最后一个工作日。
