虽然有如此多的困难，陈果夫还是想尽一切办法，尽最大努力，完成了招兵任务，总计招募新兵4000多人，这些人后来成为黄埔军校的基本力量，并为后来的北伐战争作了军事上的准备。而更重要的是，为蒋介石扩展个人势力，建立自己的党军打下了坚实的基础，所以在这个意义上可以说，陈果夫是替蒋介石招兵买马的功臣。 在招兵的同时，陈果夫还担负着为黄埔军校招生的任务。最开始，黄埔军校在上海招生时，陈果夫主要负责转汇经费和收发电文等事宜，工作相对简单些。到第三期招生时，陈果夫被任命为招生委员，事物有所增加，需检验证件、考核文化程度。但由于当时广东方面军事任务紧，急需培养大量军事人才，因此一般查看一下证件，对文化程度大体认可就行了，随后发给新生12元旅费，让他们自行到广州报到。 第四期招生时，对文化程度要求较高，要举行考试。因此，蒋介石又派王仲廉，贾韫山等四人来上海协助陈果夫。陈果夫等找了一所学校设立报名处，主要面向江苏、浙江、安徽和上海招生，先接受报名，再进行文化考试。因当时环境恶劣，陈果夫主张一切从“快”，接受报名后，立即举行考试。果然，最后一天考试结束时，被警察发现，将考生驱散。

由于一切工作已经结束，没造成什么影响，这一期竟招了1400多军校学生，收获甚丰。 除了招兵外，陈果夫还奉命罗致技术人才，据陈果夫回忆：“那时广东方面需要很多的军官和军医、无线电及其他技术人员，校长电命设法罗致此项人才，关于无线电人才，当时北京政府之下，颇有些与我相识的，不过很不易找，有个姓朱的，我跑去找了他六次，还是因为嫌路太远，不肯去。还有几个姓邱的、姓华的、姓李的，都经跑了若干次，没有允许，因此无线电技术人才，一个也没有找到，一直到十五年的秋天，在广州开办训练班时，才找到三四位。当时技术人才的希贵缺乏，可想而知。军医经多方设法，才找到四个介绍去。另外又找到一个自言在沈阳兵工厂会造迫击炮的人，我报告了校长之后，就约了他到广东去。”当时，国共合作虽已建立，但国民党内一些右派仍然反对共产党，在上海的戴季陶正为排斥共产党而积极撰写文章。

陈果夫于此时还没有参与反共的活动，一方面因他此时与共产党接触较少，另一方面因他忙于招兵工作，无暇参与反共，他后来回忆道：上海招兵，“当时报名处，设在环龙路四十四号(国民党上海执行部所在地——著者)，考试地点在上海大学，那时上海大学办事人与共产党关系很密切，和环龙路方面站在相反的地位，双方暗斗颇烈，幸我未尝参加他们的争执，所以倒还没有什么冲突发生……”1926年1月，中国国民党在广州召开第二次全国代表大会，陈果夫当选为第二届中央监察委员，为了掩护他在上海的秘密招兵工作，即以他的字“陈果夫”公布，后来，很多人竟不知他的原名“祖焘”了。这时，蒋介石以东征英雄的面貌出现，当上了中央执行委员会常委，军事方面仍担任军事委员会委员、第一军军长、广州卫戍司令、中央军事政治学校(国民党二全大会1月12日决议将各军所办的军校合并黄埔军校后改称)校长，成为军界领袖与国民党内重要领袖人物。但蒋介石还觉羽毛未丰，还需进一步扩展势力，补充干部，因此，他急需将自己的心腹喽聚集起来，以实现他夺取国民党最高权力的阴谋。于是，他多次去信去电上海，要陈果夫到广州来协助工作。

陈果夫见蒋介石如此倚重自己，又见广州确实有利可图，于是他答应了蒋介石的要求。 1926年4月底，陈果夫离开上海，前往广州赴命，开始了他生命中另一个独特的历史时期。