1924年陆洪涛升任甘肃督军后，将省直属部队编为甘肃陆军第一师，自兼师长，下辖两个旅，李长清为第一旅旅长，下辖包玉祥、姚廷相两团。
1925年3月，陆洪涛中风卧床，李长清便暗中与陇东镇守使张兆钾联系，欲拥张来省任督军，而由自己接任陇东镇守使。李长清率兵入省督军府，逼陆洪涛委任其为师长，逼陆交出师长印信，随后突袭第二旅黄得贵部，将其击溃，形成独霸兰州的局面。
1925年7月，陆洪涛在李长清等威迫之下，以自己的风疾不治，特电北洋政府临时执政段琪瑞，辞退督军兼省长职。北洋政府发表冯玉祥为督军，冯玉祥令第二师师长刘郁芬前赴甘肃，代行督军职务。
李长清率兵在打败黄得贵后，自任第一师师长，于兰州东郊一带，仍行积极布防，防备发生其他事变。
刘郁芬等到兰州后，就驻扎在督署。当时，李长清为甘肃陆军第一师师长，驻扎兰州城郊。当时，李长清的基本部队包括包玉祥一旅———两团，炮兵、骑兵、辎重兵各一营，手枪队一连。其驻军地为东校场、东稍门、火药局等处。
刘郁芬在代理甘肃督办一职后，对李长清的桀骜不驯一直心怀不满，加之后来刘郁芬提出整编李师，李长清属下包玉祥旅归督署直属，但是刘的这个整编规划被李长清、包玉祥二人以“甘肃军人原在一处，不愿分开，请免调动”为由推脱了，至此，刘郁芬更是心怀不满。后来，刘郁芬又下令调李长清部移驻永登，但是李长清不听命。刘李之间的矛盾进一步激化是因为刘郁芬的卫队到东校场李长清部驻扎地区操练，被李长清阻止未能如愿，至此，双方的矛盾已经完全公开化了，彼此之间互相戒备，几同对垒。
11月13日，刘郁芬下请柬约请李长清部营长以上军官赴督署会餐。李长清亲率部属前往督署赴宴。到了督署后的李长清等人被一一分隔开了，李长清身边就留了个包玉祥。等到李长清、包玉祥和魏绍武三人被请到督署参谋处后面的方圃休息时，突然间刘郁芬的手枪队荷枪实弹地蜂拥而入，将枪口指向了李长清、包玉祥和魏绍武三人，旋即，他们三人又被五花大绑押赴督署后花园后，魏绍武后来被释放了，据他说李长清、包玉祥被抓后的3天即连同荣升华连升被活埋于督署后花园。
李长清被杀后，各地镇守使人人自危，在暗中互相进行勾结煽惑，保持势力，以求自全。
1931年即民国20年，马鸿宾任甘肃省政府主席时，李长清、包玉祥家属请求在原督署后花园寻掘尸骨未得。1937年抗战期间，省政府在后花园城墙下修建防空地下室时，于当年11月12日挖出三具尸体，并有镣铐等物。后经李长清之兄李芝轩辨认出其弟李长清颔骨所镶金牙及所穿狐皮背心碎片，才确信无疑。因三具尸骨混杂，无法具体分辨，随后便合葬为一冢。
