孙中山的国共合作
苏联急于在中国扶持一个亲苏的政府，当时共产党的力量非常弱小，苏联最终选择了孙中山的国民党。
中共党员加入国民党
1921年12月，马林在张太雷的陪同下前往桂林会晤孙中山，在那里勾留了九天，与孙中山长谈三次，并与其他国民党要人有所接触。通过此次对国民党的实地考察，马林进一步坚定了要推动国共两党合作的想法。几乎与此同时，列宁向在莫斯科参加远东人民代表大会的国共两党代表表达了同样的意愿。
孙中山对马林的建议，最初的反应并不积极。孙告诉马林，他对苏俄革命的经验很感兴趣，但对中国一些青年知识分子刻意模仿苏俄的做法不以为然，因为这些年轻人只对社会主义感兴趣。他们的小集团“对于中国的政治生活却毫无用处”。他还直率地向为马林做翻译的共产党员张太雷说：“为什么青年要从马克思那里寻求灵丹妙药，从中国的古典著作中不是也能找到马克思主义的基本思想吗？”在老革命家孙中山看来，五四运动之后在全国各地出现的各种倾向于社会主义的激进小组织，不过是年轻人崇洋媚外和标新立异的表现。中共自然也不例外。
但马林对国民党充满乐观的看法。他在事后写给莫斯科的报告中，对国民党的状况做了一番热情洋溢的描述，建议共产国际与孙中山的国民党建立密切的联系，而不是全力去帮助中共；中共力量弱小，与工人运动又毫无联系，最好的出路就是加入国民党，因为只有在那里他们才可能发挥自己的作用。
1921年12月，马林在张太雷的陪同下前往桂林会晤孙中山，在那里勾留了九天，与孙中山长谈三次，并与其他国民党要人有所接触。通过此次对国民党的实地考察，马林进一步坚定了要推动国共两党合作的想法。几乎与此同时，列宁向在莫斯科参加远东人民代表大会的国共两党代表表达了同样的意愿。
孙中山对马林的建议，最初的反应并不积极。孙告诉马林，他对苏俄革命的经验很感兴趣，但对中国一些青年知识分子刻意模仿苏俄的做法不以为然，因为这些年轻人只对社会主义感兴趣。他们的小集团“对于中国的政治生活却毫无用处”。他还直率地向为马林做翻译的共产党员张太雷说：“为什么青年要从马克思那里寻求灵丹妙药，从中国的古典著作中不是也能找到马克思主义的基本思想吗？”在老革命家孙中山看来，五四运动之后在全国各地出现的各种倾向于社会主义的激进小组织，不过是年轻人崇洋媚外和标新立异的表现。中共自然也不例外。
但马林对国民党充满乐观的看法。他在事后写给莫斯科的报告中，对国民党的状况做了一番热情洋溢的描述，建议共产国际与孙中山的国民党建立密切的联系，而不是全力去帮助中共；中共力量弱小，与工人运动又毫无联系，最好的出路就是加入国民党，因为只有在那里他们才可能发挥自己的作用。
中共二大专门通过了《关于“民主的联合战线”的议决案》，指出以目前中国无产阶级的现状，“扶助”民主派起来共同打倒封建军阀和国际帝国主义确是必要，“然亦只是联合与援助，决不是投降、附属与合并”。中共中央还强调，对与国民党的合作问题，应由自己“先行邀请国民党及社会主义青年团在适宜地点开一代表会议，互商如何加邀其他各革新团体，及如何进行”。亦即由中共来主持。中共显然不愿扮演一个消极、被动的角色。
但是，俄共中央政治局鉴于国共两党力量悬殊，还是接受了马林的建议。1922年8月12日，马林带着共产国际的尚方宝剑来到上海，向中共中央传达共产国际的指示精神，并做陈独秀等人的工作。为了等待北京的李大钊和张国焘来上海一同讨论，中共中央的会议延至月底举行。在此期间，孙中山适因陈炯明兵变由广东退居上海，处于极度沮丧、消沉之中。当马林向他转达共产国际决定中共党员加入国民党时，孙中山欣然赞成。
获得孙中山同意后，马林又转而对李大钊、张国焘、瞿秋白等中共领导人进行说服工作。8月28—30日，马林与中共领导人在杭州西湖举行秘密会议，专门讨论与国民党合作的问题。与会者对以个人身份加入国民党这一问题展开了激烈争论，但当马林以“尊重国际纪律”相责后，反对意见则偃旗息鼓。会议决定：“以个人身份加入国民党，同时保存共产党，后者对于国民党内的工作发出指示并领导工会的组织工作。”
中共中央同意后，孙中山委托张继等与在沪国民党负责人商议，并通电国民党相关支部。国共两党领导人终于就中共党员加入国民党问题达成了初步意向。9月初，经张继介绍并由孙中山“亲自主盟”，陈独秀、李大钊等中共领导人率先加入了国民党。
尽管陈独秀等中共领导人已迈出了第一步，但共产国际和中共内部对两党“党内合作”仍存有歧见。维经斯基即担心中共加入国民党后，有丧失自身独立性的严重危险。马林对此坚决否认。他认为中国并不存在真正的共产主义运动，即使存在，也只有与民族主义运动密切合作才能发展。对于马林与维经斯基等人的争论，共产国际领导人布哈林采取妥协调和的策略：一方面肯定国民党是中国“唯一重大”的民族革命集团，中共党员应当加入国民党，另一方面又指出国共党内合作不能以取消中共独特的政治面貌为代价，党必须保持自己原有的组织和严格集中的领导机构；一方面要求“全力支持国民党”，准备向国民党提供大笔援助，另一方面又坚持中共要大力组织和争取工人群众，建立强大的群众性的共产党。正是这种策略为两党以后的党际关系埋下了无穷的后患。
孙中山的联俄政策
1923年1月4日，俄共中央政治局决议，采纳越飞关于全力支持国民党的建议。1月17日，越飞前往上海，与孙中山进行正式谈判。谈判的结果，双方达成一项至关重要的协议，此即有名的《孙文越飞联合宣言》。孙中山同意维持中东路现状和苏军暂时驻扎外蒙古，越飞则承诺孙中山“可以俄国援助为依赖”，并保证“共产组织，甚至苏维埃制度，事实上均不能引用于中国”。
孙、越会谈中，双方就孙中山提出的两个军事计划达成了初步共识。第一个计划是：在苏俄给予财政、军事援助下，孙中山的军队先在广东战胜陈炯明，然后从湖南和四川两个方向北伐中原，进攻吴佩孚，然后，入主北京，统一中国，号令各省。第二个计划是前一个计划失败时的应急计划，其内容是：在西北建立一支由苏俄武装的10万革命军，然后进行北伐。两个计划均以吴佩孚为讨伐对象，而以张作霖为友军。这意味着孙中山成功地说服了苏俄，使原有的反军阀斗争方略同新的计划接轨。
1923年2月7日，被中共引为骄傲的京汉铁路工会领导的罢工运动遭到直系军阀吴佩孚的武力镇压。北方工人运动受到重创。这对那些一心希望独立发展的中共领导人震动极大。他们开始重新认识孙中山国民党及其广东革命根据地的价值。同年6月，中共召开第三次代表大会。陈独秀倾向于赞同马林的观点。在他起草的决议案中承认，因为中国产业落后，劳动阶级还在极幼稚时代，工人运动尚未能强大起来成为一个独立的社会势力，自然不能产生一个强大的共产党，所以，“我们须努力扩大国民党的组织于全中国，使全中国革命分子集中于国民党，以应目前中国国民革命之需要”。但负责党的理论宣传工作的蔡和森和负责工会组织工作的张国焘，以及北方工会组织的代表仍持有不同意见。他们坚持：“在中国没有哪一支力量的发展速度能与工人力量的发展相比”，“在许多地方我们可以控制工会工作，那里没有国民党的影响”；“国民党是资产阶级的政党，是我们的敌人，我们不能帮助他们，不能扩大他们的影响”。而在马林看来，中共是个“早产儿”，是有人过早地制造出来的，它的整个工作几乎都依靠外国经费，多数党员没有职业，党同在职的工人、职员、教师等几乎没有联系。在这种情况下，“要鼓励同志们到国民党中去，并把用这个办法支持国民革命看做是中国共产党人的主要任务”，“绝对不要为此打出共产党的旗帜，在很长一段时间内也不能在工会的宣传中利用这面旗帜”。因为许多人“害怕共产主义”，而且会“削弱俄国同中国国民党人的合作”。由于“二七”惨案以后，中共党内的情绪已大为改变。马林的主张在党内得到较广泛的同情，蔡和森和张国焘的意见没有得到与会者的积极响应。马林最终促使中共三大做出决议：中共党员以个人身份加入国民党。
1923年6月召开的中国共产党第三次全国代表大会和1924年1月召开的中国国民党第一次全国代表大会，各自正式确立了两党合作的政策。但值得注意的是，两党在做出这一决策的时候，各自对于相互关系的认知和表述，实际上是存有差异的。
共产国际和中共方面一开始即将两党关系称之为“合作”关系。1923年1月12日《共产国际执行委员会关于中国共产党与国民党的关系问题的决议》称：“共产国际执行委员会认为，国民党与年轻的中国共产党合作是必要的”。中共三大《关于国民运动及国民党问题的议决案》称：“共产国际执行委员会议决中国共产党须与中国国民党合作，共产党党员应加入国民党，中国共产党中央执行委员会曾感此必要，遵行此议决，此次全国大会亦通过此议决。”中央统战部、观此可知，共产国际和中共中央从一开始就将国共关系定性为“合作”关系，并郑重其事地以决议的形式正式确立下来。
1924年1月召开国民党第一次全国代表大会，通过《中国国民党全国大会宣言》和新的《中国国民党总章》，完成国民党改组。共产党人的表现得到孙中山的肯定。尽管中共党人保持低调，但最终在国民党内所得的位置仍相当突出。中共及青年团此时总人数虽然仅占国民党在册党员人数的2%，而出席大会的代表人数却占到全体代表人数的10%。大会选举产生的中央执行委员会的24名委员中，中共党员有3人入选；17名候补中央委员中，有7名中共党员入选。两者合计，中共党员占到1/4。此外，3名中央执行委员会常务委员中，亦有1名中共党员名列其中。
1924年8月，国民党中央执委会对国民党员颁发训令，内称中国共产党员加入国民党后“仍不脱离中国共产党”，中国共产党“在本党之外”存在。“至于加入本党以后，仍不脱离中国共产党，则以中国共产党为第三国际之一支派，与国内角立之政党，性质不同”。
中共的态度
国民党一大召开前夕，中共与青年团在上海举行联席会议，鲍罗廷出席并作了报告。鲍指出：“现在我们的任务，就是使国民党的工作面向群众，面向人民，使国民党把国民革命运动真正建立在群众工作的基础上。”为此，他要求中共在各地的国民党组织中都要有自己的同志，“他们同自己相应的机构保持联系并在当地国民党组织中贯彻他们的决议，从而不仅不会削弱自己的党，而且会使它变得越来越强大”。中共中央向地方组织发出呼吁书，要求全体党员立即加入国民党，在各地协助国民党改组，尽可能帮助国民党发展，“在没有国民党组织的地方，要派我们的同志去建立支部；在有国民党组织的地方，我们的同志应该成立联合委员会，联合委员会成立后，他们应该在国民党内有组织地进行工作。”中共中央还决定，中国共产党与国民党的关系是这样一种形态，即共产党是国民党内部的“一个不合法的支部”。“全体同志尽管应该在国民党内竭尽全力为自己争取领导权，但必须通过合情合理的途径，不得暴露自己的意图。”
1924年5月，维经斯基受命来到上海，主持召开了中共中央执行委员会扩大会议。会上，代表们就党员在国民党内工作的问题展开了激烈的争论。许多工人代表“对共产党实际上被溶化在国民党中表示反对，甚至有人主张与国民党决裂；有一些人持相反意见，要求让国民党加入共产国际”。争论的结果，决议继续留在国民党中工作，但必须巩固和加强共产党自身的组织。会议针对国民党的性质以及国民党内的矛盾，提出了相当激进的主张：
第一，认为国民党的性质是“资产阶级性的民族主义和民主主义的政党”。国民党内一大部分党员属于有产阶级，并且回避反帝国主义的斗争，他们的阶级利益和劳动平民的利益不一致，他们的阶级性每易趋于妥协，很难为中国民族独立奋斗到底，由此国民党内部分化为左右派。左派由两部分人组成：一是孙中山及其一派，一是中共加入国民党的同志，后者是左派的基本力量，“因此所谓国民党左右派之争，其实是我们和国民党右派之争”，不能为了巩固扩大国民党而取调和左右派的政策，而是要巩固国民党左翼和减杀右翼势力，迫令国民党全体左倾。
第二，中共在国民党内工作，无论是组织、宣传，还是党务，都必须有非常明显的组织形式，而国民党“客观上不能有严格的集中主义及明显的组织形式”，“我们当赞助国民党办好组织机关，引进思想上接近国民党的分子，然而这不能作为我们在国民党里的唯一主要工作”。
第三，“产业无产阶级，是我们党的基础”，“凡在可能的范围内我们不必帮助国民党组织上的渗入产业无产阶级”；工人有自己的阶级意识，不必一定要先经过民族民主的政党之政治训练，才可以加入无产阶级的政党。只能使手工业的无产阶级，做国民党的群众基础，因为中共目前的能力有限，还不能在手工业无产阶级里开展很大的工作。在工会运动方面，不能帮助国民党设立工会，或者使已经成立的工会全体加入国民党。
国共矛盾
中共党员和青年团员以个人身份加入国民党后，中共的组织系统仍然在国民党之外独立存在。中共在国民党内设有“党团”，并通过“党团”指挥其党员、团员在国民党内统一言论和行动。中共的“党团”活动是秘密进行的。国民党并不清楚中共党、团员的真实身份，分不清谁是中共跨党党员，谁是纯粹的国民党员。中共跨党党员因具有国共双重党籍，对外可以打着国民党的旗号活动，对内则接受共产党的组织领导。国民党的活动，中共一目了然；而中共的活动，国民党一无所知。国民党人感到自己在明处，而中共在暗处。这种“党内有党”的合作方式，难免引起国民党人的猜疑和担心。
作为跨党党员，原则上既要承担国民党内的工作，又要完成中共分派的任务。当两者相容相合时，固可相互兼顾；当两者发生冲突时，则以中共利益为优先。由于两党性质不同，目标有异，纲领有别，一激进、一温和，一严密、一松散，因而两党之间既有联合又有斗争。就联合而言，国共两党都相当被动；就斗争来说，有时是国民党主动，有时是共产党主动。初期以联合为多，后期以斗争为主，愈往后，斗争愈趋激烈。国共双方最初都有利用对方以完成自身革命的意图。“共党利用国党之党势，孙中山先生之人望；而国党则有需于共党之国际的后援，与其勇往迈进之气概”。但国民党只愿意共产党人在国民党的主义、组织和领导下行事，不希望共产党在国民党之外独树一帜，力图限制甚至消解共产党；而共产党根据共产国际的指示在国民党的旗帜下开展活动，希望借助国民党以壮大自己，进而从内部改造国民党，但中共很快发现这种“党内合作”方式不利于自身独立自主的发展，最终陷入进退两难的境地。
1924年5月中共中央扩大会议召开后，开始放弃先前在国民党内自我约束的谨慎政策，转而采取积极开拓的方针。这次会议虽然没有否认继续扩展国民党的必要性，但反对盲目扩大国民党，反对在产业工人中发展国民党。中共鉴于资产阶级的妥协性，决定将阶级斗争策略引入国民党。国民党内部对共产党的态度不尽一致，有友共、亲共、惧共、分共、反共之别。中共根据国民党人对自己态度的不同，将其区分为左、中、右三派，并制定出打击、孤立右派，争取拉拢中派，团结和扩大左派的方针。国民党右派初则防共、限共，继而分共、反共。国共之间的矛盾日深，革命阵营内部的分化与纷争日趋激烈。
国民党内部对孙中山的“容共”政策，一开始就存有意见分歧。反对中共跨党的声音在孙中山“容共”之初就已传出。冯自由、马素、邓泽如、林直勉、刘成禺、谢英伯等一批人，在孙中山酝酿改组国民党时，即明确表示反对共产党跨党。据国民党一大前夕上海中央干部会议的记录，张继、彭素民、张秋白、居正、吕志伊等人在会上不同程度地对共产党加入国民党表示疑虑。北京、上海、汉口等地均有因共产党员跨党而引发的纠纷发生。综括各种反对的理由，主要有这样几种：（1） 认为中共受苏俄操纵指使，背后别具阴谋；（2） 认为两党“主义”不合，不能相容；（3） 担心中共喧宾夺主，“恐本党名义被彼利用”，国民党将因此而“失却独立之地位与组织之中心”；（4） 对大党之内包容小党的合作形式表示疑虑，譬如“孙行者跳入猪精的腹内打跟斗，使金箍棒，猪精如何受得了”；（5） 对中共党、团员加入国民党后，是否对国民党忠诚表示怀疑，认为中共“未必可以完全服从于我”，不过“借国民党之躯壳，注入共产党之灵魂”。
中共党、团员加入国民党后，势必与国民党原有党员争夺政治资源。国民党一大代表选举时，各地中共党员“居然以少数竞选胜利”，使一些老国民党人甚感不安和不快。一大产生的国民党中央执监委员会中，新加入的共产党人占了近四分之一的席位，一些重要的职能部门亦落入共产党人的掌控中。国民党中央党部从上海移驻广州，脱离了老党员聚集的中心地上海。党内新选任的干部大都是支持“容共”政策的中青年党员。过去长期得到孙中山倚重的一批老党员受到冷落，甚感失落和不满。如居正、谢持等人或不辞而别，或去乡下务农，以示消极抗议。另一位长期协助孙中山从事党务组织和宣传活动的田桐，在得知一大选举结果后，专程从上海赶赴广州，当面向孙中山“抗争三次”，不得结果，郁郁而归。