哈尔滨工程大学机电工程学院的起源可以追溯到其前身——哈尔滨军事工程学院的舰炮专业，该专业旨在满足海军建设和国防需求，通过引进苏联专家和国内知名教师的教学，将最新的科技成果与前沿科学知识传授给学生，为学院的早期教学与科研工作打下了坚实的基础。
1975年，学院增设了机械制造及工艺专业，1981年又增加了机械设计及原理专业，到1999年，这两个专业合并为机械设计制造及自动化专业，展示了其专业领域的不断扩展。
1977年，金属材料及热处理专业成立，随后在1997年调整为材料科学与工程专业，1999年又新增了材料物理专业，这表明学院在材料科学领域的投入与深化。
1988年，工业设计专业开始设立，分为理工类和艺术类两个方向，进一步丰富了学院的学科多样性。
1996年，机电工程学院正式成立，由机电工程系、材料系、工业设计系、基础课部以及机械基础实验中心和机电实验中心等多个教学单位整合而成，显示出学院组织结构的进一步完善。
到了2006年，机电工程学院的组成单位简化为机电工程系、工业设计系、基础课部、机械基础实验中心和机电实验中心，五个核心教学单位的架构，标志着学院在发展历程中不断优化和精简，适应了新的教学需求。
哈尔滨工程大学机电工程学院是哈尔滨工程大学第一批成立的二级学院之一。学院现有“机械工程”一个博士后科研流动站，以及“机械工程”一级学科博士学位授权点。此外，还具有“机械工程”一级学科硕士学位授权点、“设计艺术学”二级学科硕士学位授权点，并具有“机械工程”工程硕士授予点，以及“机械设计及理论”高校教师在职攻读硕士学位授予点，在“控制理论与控制工程”、“船舶与海洋结构物设计制造”等学科可培养博士研究生。