凡有不明原因的持续性白细胞数增高，根据典型的血象、骨髓象改变，脾肿大，Ph染色体阳性，BCR-ABL融合基因阳性即可做出诊断。Ph染色体上可见于2%急性髓细胞白血病、5%儿童急性淋巴细胞白血病及25%成人急性淋巴细胞白血病，应注意鉴别。其他需鉴别疾病有以下几种。
（1）其他原因引起的脾大。血吸虫病、慢性疟疾、黑热病、肝硬化、脾功能亢进等均有脾大。但各病均有各自原发病的临床特点，并且血象及骨髓象无慢性髓细胞白血病的典型改变。Ph染色体及BCR-ABL融合基因均阴性。
（2）类白血病反应。常并发严重感染、恶性肿瘤等基础疾病，并有相应原发病的临床表现，白细胞数可达50*10^9/L。粒细胞胞质中常有中毒颗粒和空泡。嗜酸性粒细胞和嗜碱性粒细胞不增多。碱性磷酸酶反应强阳性。Ph染色体及BCR-ABL融合基因阴性。血小板和血红蛋白大多正常。原发病控制后，白细胞恢复正常。
（3）骨髓纤维化。原发性骨髓纤维化脾大显著，血象中白细胞增多，并出现幼粒细胞等，易于慢性髓细胞白血病混淆。但骨髓纤维化外周血白细胞数一般比慢性髓细胞白血病少，多不超过30*10^9/L，且波动不大。碱性磷酸酶阳性，此外有红细胞持续出现于外周血中，红细胞形态异常，特别是泪滴状红细胞易见。Ph染色体及BCR-ABL融合基因阴性。多次多部位骨髓穿刺干抽。骨髓活检网状纤维染色阳性。