随着“五·四”运动的胜利，很多青年在李大钊的影响下接受了马克思主义。毛泽东和周恩来也受过李大钊革命思想的影响，毛泽东曾经说过，他是在李大钊的帮助和影响下才接受了马克思主义的。周恩来还组织了“觉悟社”，号召青年深入到工农群众中去开展活动。与此同时，李大钊开始筹划建立一个以马克思主义为指导思想的工人阶级政党，为中国共产党的建立开始了不懈的努力。

１９２０年，李大钊化装成商人护送陈独秀从北京到天津，在南下的路上，两人就“计划组织中国共产党”进行了探讨。随后，李大钊在北京大学组织成立了中国第一个马克思学说研究会，并会见共产国际代表维经斯基，准备建党事宜。经李大钊的介绍和推荐，共产国际代表才得以了解中国革命的情况并去上海会见了陈独秀。这年初冬，由李大钊为核心和领袖的北京共产主义小组在北京大学红楼李大钊的办公室成立。李大钊的家也成为活动地点。以后，李大钊又和陈独秀多次通信，明确提出以“共产党”为名。在李大钊的关心下，相继建立了北京社会主义青年团和北方各地党团组织。李大钊与陈独秀有“南陈北李”之称，他为中国共产党的创立作出了重要贡献。

１９２１年，中国共产党成立以后，李大钊代表中央指导北方的工作，他积极促进马克思主义与中国工人运动的结合，先后发动了开滦大罢工，京汉铁路大罢工等著名斗争。次年，受党的委托与避居上海的孙中山商谈“振兴国民党以振兴中国之问题”，说明中共关于实行国共合作、建立革命统一战线的主张。以后，他又同孙中山多次会见，两人“畅谈不倦，几乎忘食”。据宋庆龄回忆说：“孙中山特别钦佩和尊敬李大钊，我们总是欢迎他到我们家来。”为了改组国民党，孙中山委任李大钊为国民党改组委员之一，又提名他当选为国民党第一届中央执行委员。可以说，李大钊作为共产党的主要代表，为国共第一次合作作出了卓越的贡献。

在国共合作成功之后，李大钊全力开展革命斗争，引起反动当局的仇视。北洋军阀政府以“鼓动罢工”“宣传赤化”为名通缉李大钊，随即派出便衣警察到李大钊家进行逮捕。有多年斗争经验的李大钊十分机警，他再次装扮成商人，就在警察搜捕的当天早些时候，带着儿子离开北京，回到家乡，并很快上五峰山韩昌黎祠避难，所以，当第二天他的妻子带着其他孩子离京返乡，警察竟尾随其后赶到乐亭搜捕时，只能是又一次无功而返。李大钊后来说，“敌人是没来五峰山，即便来了五峰山，我们往后山松林里一转悠，管叫他们扑个空”。

在朋友的护送下，李大钊返回北京，他没有回家，而是住到一个朋友家里，与其他赴莫斯科参加共产国际“五大”的代表“碰头”，这一次，李大钊是首席代表。李大钊安排同志们在出发的路上，装作不认识的样子，先后抵达哈尔滨。由于没有护照，秘密偷渡有一定的危险，李大钊率中共代表团在老车夫的引导下，绕过碉堡，躲过哨卡，终于越过国境线，前后用了两个月的时间才抵达莫斯科。在莫斯科，他向大会作了关于中国共产党和国内局势的报告，莫斯科《真理报》、《工人报》都发表了这些讲话和专访。他也亲眼目睹了梦想多年的社会主义现实，更加坚定了革命的信心。

回国后，因为参加和领导了“首都革命”、“三·一八”运动，李大钊被北洋政府下令通缉，被迫避入苏联驻北京大使馆，继续坚持斗争。１９２７年４月６日，奉系军阀张作霖在得到帝国主义列强驻华公使团的充分谅解下，清晨突然派出军警数百人，以共产党“煽动学生、工人预谋在首都暴动”为名，悍然袭击苏联驻华使馆，逮捕中共北方区委书记李大钊等８０多人。

李大钊被捕后，经受百般折磨，毫不妥协。张作霖改变策略，让他与家人见面，李大钊只“瞧了瞧我们，没有说一句话，脸上的表情非常安定、沉着”。他英勇就义时，年仅３８岁。