黑龙江的历史沿革可以追溯至古代的肃慎地，汉朝时称挹娄和夫余。唐朝时期，它隶属于忽汗州和瀚海都护府，后来辽金时期则划分为东京和上京二道。元朝时，黑龙江地区归属辽阳行中书省，清军在此驻扎，明时期属于女真奴儿干都司。1671年，清廷在黑龙江岸边建城，命名为黑龙江城，后改称黑龙江省，成为清朝东北地区的一部分。
清朝统一全国前，对东北地区尤其是“龙兴之地”加强了统治，划分了黑龙江将军和吉林将军两个军事与行政区域。1683年，清廷增设黑龙江将军，管辖黑龙江将军辖区，与宁古塔将军辖区（后改吉林将军）共同守卫东北。在清代，黑龙江流域部分属黑龙江将军，部分属吉林将军，直到1858年和1860年沙俄通过不平等条约侵占大片土地，导致行政区划大幅缩小。
1907年，清廷对东北行政体制进行改革，设巡抚治理，实行省、府、县三级体制。中华民国成立后，黑龙江省沿用清代体制，划分为多道和县。东北沦陷时期，日本占领时期实行省县二级体制，而战后东北行政委员会成立，恢复省（特别市）、县（市）二级制度。解放战争期间，黑龙江省境内曾设立多个民主政府，直到1949年，合江省与松江省合并，成立了新的黑龙江省，哈尔滨市改为省辖市。
中华人民共和国成立后，黑龙江省的行政区域基本稳定，1954年松江省与黑龙江省合并，哈尔滨市成为省辖市，白城地区划归吉林省，至今，黑龙江省的行政建置包括98个县级以上单位，包括5市、3专区、66县、旗，以及2个兼有行政职能的矿区和22个市辖区。
黑龙江省是中国最东北的省份，面积为45万多平方公里，约占全国总面积的4.7%。省会哈尔滨。位于东经121°11′-135°05′，北纬43°25′-53°33′。北部、东部以黑龙江、乌苏里江为界，与俄罗斯相望；西部与内蒙古自治区毗邻；南部与吉林省接壤。有长10公里以上的河流1700多条，多处平原海拔50－200米。西部属松嫩平原，东北部为三江平原，北部、东南部为山地。