须与类白血病反应、再生障碍性贫血、传染性单核细胞增多症、骨髓增生异常综合征(MDS)、其他恶性肿瘤(如神经母细胞瘤等)、骨髓外造血反应(雅克什贫血、骨髓纤维化及大理石骨病等)鉴别。临床上出现典型的症状、体征、外周血中查见白血病细胞，骨髓中原始加幼稚细胞≥30%，此时诊断急性白血病并不困难。若是发病初期症状、体征并不典型，外周血不见原幼细胞，此时诊断有一定难度，应与下列疾病进行鉴别诊断。
1.类白血病反应 常有原发病。末梢血白细胞数可显著增高，并可见到5%以上的幼稚细胞，易与慢粒混淆，此时宜严密观察，辅以免疫、遗传等方法仔细区别。类白血病反应碱性磷酸酶积分明显增加，且无染色体异常。
2.再生障碍性贫血 本病出血、贫血、发热和全血减少与白细胞减少的ALL相似，易与低增生性白血病混淆，但是本病肝、脾、淋巴结不肿大，骨髓增生低下而无原始、幼稚细胞比例增高现象。
3.恶性组织细胞病 临床上可出现发热，贫血，出血，肝、脾和淋巴结肿大，以及全身广泛浸润性病变，很难与白血病鉴别。恶性组织细胞增生症缺乏特异性诊断手段，骨髓象支持而临床不符合者不能诊断，反之临床支持而骨髓象不符合者不能排除诊断，所以本病依靠综合分析诊断，有时骨髓及淋巴结等活检可以提供一定证据。
4.传染性单核细胞增多症 临床有发热，皮疹，咽峡炎，肝、脾、淋巴结肿大;血象白细胞增高以淋巴细胞升高为主，且变异淋巴细胞常达10%以上。临床表现及血象易与急白相混淆，但本症恢复快，骨髓象无原幼淋巴细胞出现，检测EBV特异性抗体如EBV-VCA-IgM等可确诊。
5.骨髓增生异常综合征 本病以贫血为主要表现，可伴有不同程度的出血、肝脾淋巴结肿大，少数病例还有骨痛。MDS不仅应与急性白血病相鉴别，而且有20%～30%的病例最终转变成急性白血病。本症骨髓象呈现三系或二系或任一系的病态造血，红系如比例过高(>60%)或过低(<5%)，出现环铁粒幼红细胞、核分叶、碎裂或多核等红细胞。巨核系可出现淋巴样小巨核、单圆核小巨核、多圆核巨核细胞等。粒-单核系可见原粒或幼单核细胞增多和形态改变，但是原始细胞(或原单+幼单)的比例<30%，因而不能诊为急性白血病。
6.骨髓纤维化 本病外周血出现较多有核红细胞，泪滴状红细胞和碎片。骨髓穿刺常“干抽”，骨髓象增生低下，活检为纤维组织增生可与慢粒区别。
7.石骨症 成人型慢粒应与石骨症鉴别，后者又称大理石病，以全身性骨质硬化、进行性贫血、肝脾肿大、容易骨折为特点。往往可查询到家族史。X线检查发现全身骨骼普遍致密硬化是确诊的根据。
8.原发性血小板增多症 临床上以出血为主，白细胞<50×109/L，血小板显著增高，可见异型血小板，骨髓巨核系增生为主，ph1染色体阴性。
9.真性红细胞增多症 患者皮肤粘膜呈暗红色、口唇紫暗、红细胞增高显著，中性粒细胞碱性磷酸酶增强，ph1染色体一般均阴性，粒系无核浆发育不平衡现象。
10.风湿与类风湿关节炎 发热、关节痛、贫血、白细胞增高等与ALL类似，但肝、脾、淋巴结多不肿大，行骨髓检查则不难区别。