抗战开始后，陈立夫还应军事方面的要求，组织军事工程团，该团任务是在浏河与嘉定之间，修筑一条碉堡线，以阻止日军的西进。因当时日军正进攻上海，占领上海后下一目标将是南京，蒋介石为了延缓日本侵略者的进攻速度，以进行南京保卫战的准备工作，便要求陈立夫以极短时间建一道坚固的碉堡防线。陈立夫接受任务后，以他在工程界的影响，迅速集合上海、南京两地的工程师，组成军事工程团，由陈立夫任团长，随即开展工作。他们很快作出设计，画出图纸，雇佣民力，开始建设。陈立夫统筹全局，还抽出时间，到工地督察，以确保按时、保质完成任务。由于处此民族危机之时，国民政府出资，陈立夫有热情，民众有干劲，所以，很快这道艰固的碉堡线奇迹般出现了。只是可惜日本军队占领上海后再向南京西进时，蒋介石并不想守南京，而是快速撤退，因此军方并没有很好利用这道由民众辛苦抢修起来的碉堡线。后来，这条碉堡线为日军占领，成为日军对付新四军的防线，真是莫大的讽刺。 抗战开始后，为了争取苏联的帮助，陈立夫受蒋介石指派，加紧了同苏联驻华大使鲍格莫洛夫的谈判。

中国希望和苏联订立军事同盟，以对日本造成威胁，但苏联从自身利益出发，害怕得罪日本，致使日本与德国联手进攻苏联，造成其两面受敌，所以对中苏建立军事同盟采取消极态度。 当时苏联人打的如意算盘是，这场和法西斯主义的战争，东方让中国和日本打，西方让法国和德国打，俄国不卷入战争。陈立夫抓住苏联人的心理，提出，既然要中国和日本打，苏联必须支援中国各种武器，包括飞机、坦克、高射炮、大炮等。苏联人急于让中国挡住日本北上的步伐，因此一一答应，陈立夫很快与鲍大使签订了苏联支援中国武器的条约，并商定了武器的数量、运送的时间及方式。 随后，陈立夫进一步与鲍大使谈中苏军事同盟问题，而鲍大使坚决回避，谈判未能达到预期目标。

陈立夫在请示蒋介石后，退让一步，与鲍大使商谈订立中苏互不侵犯条约，经过种种努力，这一谈判终于成功，1937年8月21日，由中华民国外交部长王宠惠与苏联驻华大使鲍格莫洛夫签订了《中苏互不侵犯条约》，规定：双方斥责以战争为解决国际纠纷之方法；不得单独或联合其他一国或多国对于彼此为任何侵略；两缔约国之一方受一国或数个第三国侵略时，彼缔约国约定在冲突全部期间内，对于该第三国不得直接或间接予以任何协助，并不得为任何行动或签订任何规定，致该侵略国得用以施行不利于受侵略之缔约国。 《中苏互不侵犯条约》虽然不是军事同盟条约，但也在一定程度上规范了苏联的行动，也在一定程度上宣示了中苏两国的友好，对中国人民的抗日战争是有利的。