山西省煤炭工业厅为了履行其职责，内部设有15个专门的职能机构，以及负责离退休人员工作的部门。
(一) 办公室：主要负责日常政务的协调和管理，包括文秘、会议、档案、机要、接待、保密、外事、后勤等工作。
(二) 人事处(机关党委)：承担人事劳资、机构编制、培训教育管理等工作，负责煤炭行业的职称评定，以及机关和直属单位的党群工作。
(三) 政策法规处：研究煤炭工业经济和政策，起草法规草案，负责法制建设，行政复议等工作，负责对外宣传和新闻发布。
(四) 规划发展处：负责煤炭工业和非煤产业的规划，参与资源开发和管理，审批矿井地质报告，管理固定资产投资项目，推动煤炭产业结构调整和产业升级。
(五) 行业管理处：指导煤炭生产技术，负责产能调控和煤矿准入，审批煤矿闭坑报告，负责煤炭质量管理与许可证颁发。
(六) 经济运行处：研究煤炭经济调控，监测生产运销，统计分析，规范经营秩序，平衡产运需计划，管理煤炭经营资格和销售票据。
(七) 安全生产监督管理处：监督安全基础管理，规划安全生产，确定安全生产指标，负责煤矿安全标准化建设和考核。
(八) 瓦斯防治与利用处：贯彻瓦斯治理政策，指导工作，负责瓦斯抽采与利用的监督和审批。
(九) 安全生产执法处：监督煤矿安全生产责任制，执法检查，指导安全纠察，查处违规行为。
(十) 应急救援处：负责煤炭行业的应急管理，协调重特大事故救援，指导应急救援体系建设，负责煤矿安全调度。
(十一) 科技装备处：指导机电管理工作，制定准入标准，推进科技工作，负责煤炭行业信息化建设和科研成果转化。
(十二) 环境保护管理处：指导环保和节能工作，监督建设项目环保落实，参与环保验收，指导生态治理和林业管理。
(十三) 职业教育培训处：协调职业教育培训，负责煤矿管理人员和特种作业人员的资格考核与管理。
(十四) 财务处：负责机关财务管理，监管直属单位财务，指导全省煤炭行业财务工作，参与煤炭基金和专项资金的管理。
(十五) 劳动用工管理处：负责行业劳动合同和劳动保护，管理煤矿企业劳动定员，落实职工收入分配政策。
此外，还设有离退休人员工作处，负责相关管理工作。
根据《中共山西省委、山西省人民政府关于印发的通知》（晋发〔2009〕13号），设立山西省煤炭工业厅（以下简称省煤炭厅），正厅级建制，为省人民政府组成部门。