兰州铁路局的组织结构包括机关部门和多个直属单位。机关部分设有限额内的22个机构，以及3个限额外的机构，还有两个学、协会和三个派出机构，以及30个附属机构。其在兰州、银川和武威设立了办事处，具体人数为兰州办事处60人，银川办事处2000人，武威办事处50人。
全局共有53个决算单位，其中核心的运输生产站段有30个。具体分布如下：车务站段包含13个，包括兰州和银川的客运段；机务段有4个；车辆段3个；工务段5个；电务段2个；供电段3个；还有一个工务大修机械段。直属车站则包括兰州站、兰州西站、天水站、武威南站、嘉峪关站、银川站和迎水桥站。
在车务段方面，有兰州车务段、陇西车务段等6个；客运段则有兰州客运段和银川客运段；机务段有兰州机务段、兰州西机务段等；供电段有兰州供电段、银川供电段和嘉峪关供电段。工务段包括兰州西工务段、武威工务段等5个，工务机械段为兰州工务机械段。电务段则有兰州电务段和银川电务段；车辆段则有兰州车辆段、兰州西车辆段和嘉峪关车辆段。
另外，兰州铁路局还有四个房产建筑单位，分别是兰州地区房产建筑段、兰州房产建设公司、武威南房产建筑生活公司和银川房产建筑生活公司。
兰州铁路局是中华人民共和国铁道部属下的铁路局之一，始建于1956年3月1日，以“吃苦、创业、团结、奉献”为企业标语，管理的线路总延展长度为9390公里，营业里程3851公里。其管辖范围为甘肃省、宁夏回族自治区的铁路网，并且管辖嘉峪关到内蒙额济纳旗的支线。