隨著“五·四”運動的勝利，很多青年在李大釗的影響下接受了馬克思主義。毛澤東和周恩來也受過李大釗革命思想的影響，毛澤東曾經說過，他是在李大釗的幫助和影響下才接受了馬克思主義的。周恩來還組織了“覺悟社”，號召青年深入到工農群眾中去開展活動。與此同時，李大釗開始籌劃建立一個以馬克思主義為指導思想的工人階級政黨，為中國共產黨的建立開始了不懈的努力。

１９２０年，李大釗化裝成商人護送陳獨秀從北京到天津，在南下的路上，兩人就“計劃組織中國共產黨”進行了探討。隨后，李大釗在北京大學組織成立了中國第一個馬克思學說研究會，并會見共產國際代表維經斯基，準備建黨事宜。經李大釗的介紹和推薦，共產國際代表才得以了解中國革命的情況并去上海會見了陳獨秀。這年初冬，由李大釗為核心和領袖的北京共產主義小組在北京大學紅樓李大釗的辦公室成立。李大釗的家也成為活動地點。以后，李大釗又和陳獨秀多次通信，明確提出以“共產黨”為名。在李大釗的關心下，相繼建立了北京社會主義青年團和北方各地黨團組織。李大釗與陳獨秀有“南陳北李”之稱，他為中國共產黨的創(chuàng)立作出了重要貢獻。

１９２１年，中國共產黨成立以后，李大釗代表中央指導北方的工作，他積極促進馬克思主義與中國工人運動的結合，先后發(fā)動了開灤大罷工，京漢鐵路大罷工等著名斗爭。次年，受黨的委托與避居上海的孫中山商談“振興國民黨以振興中國之問題”，說明中共關于實行國共合作、建立革命統(tǒng)一戰(zhàn)線的主張。以后，他又同孫中山多次會見，兩人“暢談不倦，幾乎忘食”。據宋慶齡回憶說：“孫中山特別欽佩和尊敬李大釗，我們總是歡迎他到我們家來�！睘榱烁慕M國民黨，孫中山委任李大釗為國民黨改組委員之一，又提名他當選為國民黨第一屆中央執(zhí)行委員�？梢哉f，李大釗作為共產黨的主要代表，為國共第一次合作作出了卓越的貢獻。

在國共合作成功之后，李大釗全力開展革命斗爭，引起反動當局的仇視。北洋軍閥政府以“鼓動罷工”“宣傳赤化”為名通緝李大釗，隨即派出便衣警察到李大釗家進行逮捕。有多年斗爭經驗的李大釗十分機警，他再次裝扮成商人，就在警察搜捕的當天早些時候，帶著兒子離開北京，回到家鄉(xiāng)，并很快上五峰山韓昌黎祠避難，所以，當第二天他的妻子帶著其他孩子離京返鄉(xiāng)，警察竟尾隨其后趕到樂亭搜捕時，只能是又一次無功而返。李大釗后來說，“敵人是沒來五峰山，即便來了五峰山，我們往后山松林里一轉悠，管叫他們撲個空”。

在朋友的護送下，李大釗返回北京，他沒有回家，而是住到一個朋友家里，與其他赴莫斯科參加共產國際“五大”的代表“碰頭”，這一次，李大釗是首席代表。李大釗安排同志們在出發(fā)的路上，裝作不認識的樣子，先后抵達哈爾濱。由于沒有護照，秘密偷渡有一定的危險，李大釗率中共代表團在老車夫的引導下，繞過碉堡，躲過哨卡，終于越過國境線，前后用了兩個月的時間才抵達莫斯科。在莫斯科，他向大會作了關于中國共產黨和國內局勢的報告，莫斯科《真理報》、《工人報》都發(fā)表了這些講話和專訪。他也親眼目睹了夢想多年的社會主義現實，更加堅定了革命的信心。

回國后，因為參加和領導了“首都革命”、“三·一八”運動，李大釗被北洋政府下令通緝，被迫避入蘇聯駐北京大使館，繼續(xù)堅持斗爭。１９２７年４月６日，奉系軍閥張作霖在得到帝國主義列強駐華公使團的充分諒解下，清晨突然派出軍警數百人，以共產黨“煽動學生、工人預謀在首都暴動”為名，悍然襲擊蘇聯駐華使館，逮捕中共北方區(qū)委書記李大釗等８０多人。

李大釗被捕后，經受百般折磨，毫不妥協(xié)。張作霖改變策略，讓他與家人見面，李大釗只“瞧了瞧我們，沒有說一句話，臉上的表情非常安定、沉著”。他英勇就義時，年僅３８歲。