北方舰队的前身是1933年6月因国际局势加剧和德国侵略苏联的威胁日益增长而组建的北方区舰队。为了组建北方区舰队，1933年5—9月从波罗的海抽调了2个舰艇支队。最初，区舰队以摩尔曼斯克为基地。1933年年底，其编成中有3艘驱逐舰，3艘护卫舰和3艘Ⅱ型潜艇。这些舰艇在建制上分别编为驱逐舰护卫舰独立大队和潜艇独立大队。此外，还有3艘扫雷舰、一些辅助船只、摩尔曼斯克要塞区岸防部队、科拉湾沿岸各观通站、海道测量勤务部门和后勤部门。设在极地村的主要基地建筑工程基本完成后，区舰队的水面舰艇(1934年10月)、潜艇(1935年10月)以及区舰队的司令部，政治部和其他机关陆续从摩尔曼斯克迁往该地。1935年9月，区舰队的第一个航空兵分队——MBP-2型飞机独立中队转场到科拉湾。根据国防人民委员1937年5月11日命令，北方区舰队改编为北方舰队。采取了一些进一步加强舰艇兵力，改进舰员战斗训练和政治训练的措施。1939—1940年苏芬战争期间，北方舰队圆满完成一系列支援和保障陆军部队战斗行动的重要任务。北方舰队的官兵树立了英勇顽强和坚忍不拔的榜样，其中许多人荣获勋章。
苏德战争爆发时，北方舰队拥有15艘潜艇，8艘驱逐舰，7艘护卫舰，15艘护卫艇，2艘扫雷舰和1艘布雷舰。舰队航空兵有116架飞机。战争期间，又从波罗的海舰队，太平洋舰队和里海区舰队调来一些水面舰艇、潜艇和飞机补充北方舰队。海岸防御有14个100—180毫米固定炮兵连和数个45毫米炮兵连。为保卫白海的沿岸地带和沿岸各港口，以及执行其他任务，1940年8月在北方舰队编成内组建了白海海军基地(设在阿尔汉格尔斯克)，1941年8月该基地改编为白海区舰队。
战争期间，北方舰队执行了保卫滨海地带，支援陆军，保护己方海上交通和破坏敌海上交通线等任务。战争初期，北方舰队各编队协同第14集团军部队，粉碎了德军统帅部妄图在短期内攻占摩尔曼斯克和科拉半岛海军驻泊点的计划。由北方舰队的官兵组成了1个海军陆战队独立旅，数个团和营，共计约1万人。他们在陆地战场上树立了英勇顽强和英雄气概的榜样。由于防守斯列德尼半岛和雷巴奇半岛的部队脱离了第14集团军主力，最高统帅部大本营把这一地域的防御任务交给北方舰队。1942年7月，建立了隶属北方舰队的北方防区，辖3个海军步兵旅，数个海军陆战队独立营，海岸炮兵连和其他部队。1944年10月，北方舰队与卡累利阿方面军协同行动，参加了佩特萨莫—希尔克内斯战役。
北方舰队的舰艇为保护盟国的护航运输队，共出海838次。为完成这项任务，还使用了舰队航空兵的大部分飞机。保护近海交通线是北方舰队的一项重要任务。整个战争期间，北方舰队共护送外国护航运输队的船只约1500艘，本国护航运输队的船只2500多艘。
北方舰队主要是以潜艇和航空兵进行破坏敌海上交通线的活动。战争头两年，潜艇在这项活动中起主要作用，但从1943年下半年起，北方舰队的航空兵起着主要作用。北方舰队广泛实施了舰队各兵种的合同作战。整个战争期间，北方舰队使敌人损失200多艘战斗舰艇和辅助船只，400多艘运输船(总排水量超过100万吨)，约1300架飞机。出色的党政工作是保障北方舰队在卫国战争中胜利作战的一个重要因素。共产党员在对敌作战中愈来愈明显地表现了先锋作用。战争快结束时，北方舰队有1000多个党组织，共5.5万多名共产党员。苏联政府高度评价北方舰队全体官兵在战争年代中的功绩。4.8万名舰艇官兵、飞行员和炮兵人员因作战英勇顽强而荣获勋章和奖章；85人被授予苏联英雄称号，萨福诺夫和沙巴林两次荣获“金星”奖章。列昂诺夫于1945年9月在太平洋舰队荣获第二枚“金星”奖章。北方舰队中有战斗舰艇、部队、编队等12个单位荣获近卫称号，47个单位荣获勋章(其中3个单位两次荣获勋章)，14个单位被授予荣誉称号。
在战后年代，北方舰队得到了第一流的水面舰艇和潜艇，新型飞机和现代化武器。北方舰队战斗威力的基干力量是核潜艇、导弹航空兵和反潜航空兵。在掌握新式军事技术装备和武器的过程中，在长时间远洋航行和远程飞行中，北方舰队全体官兵在苏联海军史册上写下了许多新的光辉篇章。1962年7月，北方舰队的“列宁共青团”号核潜艇在北冰洋进行了长时间冰下航行。1963年，瑟索耶夫海军中校指挥的一艘核潜艇圆满完成了冰下航行，并在北极点浮起，艇员在该处升起了苏联国旗和苏联海军旗。1966年2—3月，北方舰队的几艘核潜艇在索罗金海军少将率领下，进行有史以来第一次潜艇群水下环球航行。北方舰队还参加了“北方”演习和“海洋”大演习。在多次出国航行和对外国港口访问中，北方舰队的官兵表现出高度的组织纪律性，维护了苏联海军军人的荣誉和称号。
由于北方舰队在保卫苏联北极地区，抗击德国侵略者的斗争中，为祖国立下了不朽功绩，并表现了崇高的集体英雄主义、勇敢顽强和积极战斗精神，在庆祝苏联人民伟大卫国战争胜利二十周年之际，最高苏维埃主席团1965年5月7日颁发命令，授予北方舰队以红旗勋章。许多舰艇、部队、编队荣获苏联共产党中央委员会、苏联最高苏维埃主席团、苏联部长会议授予的奖旗、列宁诞辰纪念奖状和奖章，以及国防部长授予的“勇敢和军人英勇精神”奖旗。
