陈立夫从柏林回国后，继续参与和苏联驻华大使鲍格莫洛夫的谈判。这时，中日关系更加紧张，日本帝国主义陈兵华北，觊觎整个中国。在此情况下，全国人民抗日救亡的呼声一浪高过一浪。中国共产党为了集结全国的人力、物力和财力发动抗日战争，及时确定了建立抗日民族统一战线的方针，果断地停止了反蒋宣传，放弃了打倒国民党、推翻国民党政府的政治主张，并为建立国共两党的合作关系作了不懈的努力。 在全国人民抗日热潮的冲击下，在中国共产党合作诚意的感召下，同时从国民党本身的利益出发，蒋介石感到“围剿”共产党、“围剿”红军的政策难以继续推行下去了，不得不考虑中国共产党和全国人民“停止内战，一致抗日”的呼吁。 此时，陈立夫与鲍格莫洛夫关于中苏缔结军事协定的谈判正在紧张进行。在谈判中，苏联方面提出了改善国共两党关系问题，并对此表现出浓厚的兴趣，鲍格莫洛夫一再向陈立夫表示：“苏联政府特别注意蒋介石同中国红军的关系。他说，如果蒋介石的主要力量用于‘剿共’，蒋介石的军队同红军间不实现统一战线，那么，对日本的侵略进行严重的斗争，是不可能的。”对于鲍氏的意见，陈立夫认为是有道理的。

九一八事变后，陈立夫的思想就有了些变化，他认为日本侵略中国，造成了民族危机，现在是外敌当前，如果仍然将国民党大部分军队调往苏区，去“围剿”红军，以达到消灭共产党的目的，这种办法不但行不通，而且容易遭到国内外舆论的反对。因此，他主张和共产党接触，用招安的办法接纳共产党，在中日战争发生时，还可以利用共产党的武装去抵御日本的进攻。正是基于这种想法，陈立夫即向蒋介石报告了与鲍氏谈话的内容，特别报告了鲍氏提出的改善国共关系的建议，并陈述了自己对国共两党重新接触的想法。 对于改善同共产党的关系，蒋介石也早有考虑，他认为：“中日战争既已无法避免，国民政府乃一面着手对苏交涉，一面亦着手中共问题的解决。”1934年底，蒋介石在交给二陈主持与苏联驻华大使鲍格莫洛夫进行外交谈判的任务时，就另外给他们一项秘密任务，即寻求与中共接触的途径，但后来由于形势的变化，他一直再没有过问。现在，蒋介石听了陈立夫的报告后，重新又勾起了他与中共接触的兴趣，而且较以前还要浓厚。蒋介石心里明白，既然希望得到苏联的帮助，同时也从维护自己的统治出发，就不能不考虑在国共两党关系上作出新的姿态。

1935年夏天，蒋介石在陈立夫的陪同下，又一次接见了苏联驻华大使鲍格莫洛夫，接见时，他向鲍大使表示遗憾，说：“中苏之间发生了一连串误会，特别是他对中国共产党的态度问题。”他说他正着手改善同中共的关系，准备同中共讨论抗日问题，但他又强调，中共可以合法存在，但不能拥有自己的军队。鲍大使表示理解。 在蒋介石接见鲍格莫洛夫后，陈立夫继续与鲍氏的谈判，在谈判中，陈立夫代表蒋介石多次向鲍大使提出要求，希望苏联出面向中共作工作，说服中共“解除武装……以政治方法来解决”。以实现中国的统一。陈立夫还表示：“如果苏联政府就中国红军承认中央政府权威一事向红军施加压力，那么苏联政府就可以表示对南京的真诚态度并赢得南京政府这个真诚的同盟者。”但当时的苏联并不想在中国的国共两党关系中充当调解人，因此，鲍格莫洛夫向陈立夫反复申明，苏联在国共两党关系的改善中将不起任何中间的作用，蒋介石在没有中间人的情况下完全可以同中共谈判。这样，蒋介石希望通过苏联的关系达到与中共接触的途径便断绝了，他只好自己去寻找同中共接触的机会。

早在1935年秋天的时候，陈立夫在动身去莫斯科之前，就曾与蒋介石商定，准备通过国民政府驻苏大使馆与在莫斯科的中共驻共产国际代表团取得联系。当时，正好驻苏大使馆首席武官邓文仪回国述职，已到了新疆，陈立夫便建议让邓文仪具体承办此事。于是，蒋介石即令邓文仪迅速回莫斯科去，说有要事让他去办，这要事即是到莫斯科去，与中共驻共产国际代表团进行接触。邓文仪接到命令后，不敢怠慢，南京也没回，马上从新疆启程赴苏。 第二年春天，邓文仪返抵莫斯科。在苏联政府和共产国际的帮助下，邓文仪会见了中共驻共产国际代表团负责人王明，双方进行了恳切的会谈。据邓文仪回忆：“三月初，回到莫斯科后，除积极筹划开展武官处的工作外，对于莫斯科与中国有关的俄国高级将领，过去曾在中国担任顾问的人，及中国共产党在莫斯科的代表，曾有相当联系及恳谈。”在谈话中，邓文仪按蒋介石与陈立夫的旨意，向王明提出了三项条件：(一)取消中国苏维埃政府，其所有领导人和工作人员参加南京政府；(二)改编中国红军为国民革命军，因为同日军作战必须有统一的指挥；(三)国共两党恢复1924—1927年存在的合作形式或任何其他形式。

邓文仪还提出，改编后的红军可以开到内蒙古前线抗日，或划给西北部分区域作为红军的基地。王明向邓文仪阐述了中国共产党关于建立抗日民族统一战线的主张，邓文仪表示理解，并告诉王明，蒋介石看到他在共产国际七大上关于建立抗日统一战线的发言和有关文章后，就决定同中共接触谈判。同时，邓文仪还提出，国民党可以派高级领导人到莫斯科来和王明会谈。邓文仪与王明进行了多次讨论，最后，王明认为，无论是共产党还是国民党，中央都在国内，双方领导人也都在国内，谈判以在国内进行为好。不久，中共代表团指定潘汉年为联系人，与邓文仪会见，并派潘汉年回国，与国民党代表继续谈判。 当邓文仪在莫斯科与王明频繁接触、讨论国共合作问题时，陈立夫在国内也在另辟蹊径，试图打通共产党的关系，他将这一任务交给了其亲信曾养甫，由曾养甫具体经办。