启蒙于津市大成丙等小学和澧州中学堂。1919年4月,考取北京大学,接触到马克思主义思想。1919年,他被选为北大学生会主席,后还担任北京学生联合会主席,并结识了北大图书馆主任李大钊,在李大钊帮助下,研究马克思主义和俄国的革命经验。与邓中夏、罗章龙发起组织了北京大学“马克思主义学说研究会",11月,朱务善又组织成立了“北京社会主义青团”,吸收了一大批进步青年入团。同时,朱务善还到蒙藏学校宣传马克思主义,吸收乌兰夫、刘锡五、罗寿等蒙藏学生为社会主义青年团先锋队员,为少数民族地区早期建党作出了贡献。
1920年10月,他加入“北京共产主义小组”。参加北大学生组织的“平民教育讲演团",被选为主任。1921年,他由李大钊、邓中夏介绍,加入中国共产党。
二·七惨案后,他赴武汉声援京汉铁路工人,慰问江汉避难工人,揭露吴佩孚“保持劳工”的假面具,支持工人的正义斗争。
北伐前夕,他当选北京学生代表,赴粤促请孙中山兴师北伐,两次面谒孙中山,得到孙中山赞许和鼓励。
1924年国民党改组后,中央决定组织中国共产党北方区委,朱务善任区委委员,兼任《民报》国内新闻编辑,并兼编经济副刊,刊载列宁著《帝国主义是资本主义发展的最后阶段》文章,受到李大钊支持。
1925年,朱务善受党中央委派,携妻赴苏联莫斯科孙逸仙大学学习,由中共党员转为苏共党员。1927年,他由共产国际派往列宁格勒军政大学学习。1929年因苏共清党,他蒙冤受留党查看一年处分,后经共产国际介绍,在列宁格勒东方语言学院和苏联科学院东方学院工作多年,从事中国史的研究工作。1937年2月至1954年,因苏共肃反扩大化,他蒙冤遭苏共内务部逮捕,曾两度判刑关押,被流放,直到1954年斯大林逝世后,才平反昭雪,回到莫斯科。1955年,朱务善申请获准回到祖国。1956年4月27日,经中共中央组织部批准,恢复其1921年中国共产党党籍。分配他到中国科学院工作,先后任中科院编译出版委员会副主任、党委委员、科学出版社党领导小组成员。在职期间,他为科技编译出版事业做出了积极贡献。
1960年"反右倾",朱受到重点批判(1963年甄别平反)。1966年开始的文化大革命,他遭受迫害和冲击。1971年6月因病逝世,终年75岁。
党的十一届三中全会后,为他落实了政策,恢复名誉。1978年12月22日在北京为他举行追悼会,将骨灰葬于北京八宝山革命公墓。