调查科除了与警察厅配合工作外，还常与宪兵司令部一起行动。蒋介石多次指示调查科要和宪兵司令部密切协作，而陈立夫与宪兵司令谷正伦的关系更是超出一般。陈立夫被称为特务魁首，谷正伦被誉为宪兵之父，陈立夫主张特务工作要依靠宪兵，谷正伦则强调“宪兵常务、特务一元化”，所以谷、陈气味相投，关系十分密切。有一次，陈立夫应邀到南京宪兵学校对特务教育班第二期学员讲《唯生论》，他在台上高谈阔论，而谷正伦则在台下“洗耳恭听”，陈立夫一讲就是两个小时，谷正伦也立正“恭听”了两小时。这种恭顺态度使陈立夫深受感动，二人的关系进一步加深。后来，陈立夫还派其亲信徐恩曾为谷正伦担任宪兵司令部的顾问，这样一来，调查科与宪兵司令部可以不分彼此，宪兵、特务实际上是一家人了。所以，调查科可以肆无忌惮地随意抓人，抓来的人大都送往宪兵司令部监狱关押，而宪兵司令部对这些随意抓来的人往往不加审理，则以“反革命”论处，这种滥杀无辜的特务行径，对中国人民犯下了不可饶恕的罪行。 陈立夫主持调查科的时间不长，便被调任南京国民政府军事委员会机要科主任兼国民复兴委员会秘书长。

但他对调查科这块肥缺是不肯轻易放下的，必欲牢牢控制在自己手中，因此在他离任时，便与其兄陈果夫商量，提拔他的亲信张道藩担任调查科长。 张道藩，贵州盘县人，早在天津读南开中学时，便与就读于北洋大学的陈立夫相识。1919年赴欧，考入英国克来佛穆学院，后又考入伦敦大学斯来德艺术学院学美术，并于1923年加入国民党，毕业后又赴法入巴黎艺术学院深造。1926年6月回国后出任广东省政府农工厅秘书，此时，与陈果夫、陈立夫搞到一起。由于他机警善辩，顽固反共，深得二陈信任，成为CC派中的核心骨干，所以陈立夫卸职后便由他主持调查科。 张道藩担任调查科长的时间也不长，很快便升任国民党中央组织部秘书兼蒋介石侍从室秘书，于是，二陈又安排其亲信吴大钧继任其职。吴大钧主持调查科一段时间后，二陈觉得不够满意，1929年8月，陈立夫担任国民党中央党部秘书长后，便将吴大钧调出，担任秘书处所属的中央统计处处长，然后再调另一亲信叶秀峰担任调查科长。 叶秀峰是江苏扬州人，与陈立夫是北洋大学同班同学，后来又一同赴美国留学，二人称兄道弟，私交极深。

陈立夫让他主持调查科，是想让他当傀儡，但不久，陈立夫便发觉叶秀峰并不能俯首帖耳听他的话，不几个月便将他撤下，干脆派他的表弟徐恩曾取代其职务，出任调查科第五任科长。 徐恩曾与二陈既是同乡，又是亲戚，他早年毕业于南洋公学，后入交通大学电机系，并与陈立夫一同赴美留学，在美国加入国民党，1927年回国后即参加CC特务集团，所以深得二陈的信任。更重要的是，徐恩曾对于二陈来说，是一个惟命是从的奴才。所以，陈立夫将调查科长像走马灯似地换了一个又一个，最后选定徐恩曾，放心地将科长大权交他掌管。实际上，张道藩也好、吴大钧也好、叶秀峰也好、徐恩曾也好，二陈只是要他们当走狗，执行他们的命令，按他们的旨意办事，整个CC特务集团的大权始终牢牢地掌握在陈果夫与陈立夫的手中。 由于二陈为蒋介石建立特务组织所表现的忠心耿耿及卓有成效，所以深得蒋介石的欢心与赞赏。1931年12月，蒋介石提拔陈立夫担任国民党中央组织部副部长，1935年，再次提升为中央组织部部长。其兄陈果夫则于1933年11月被蒋介石派往中国最重要的省——江苏省，出任省政府主席。

从上海四一二政变一直到1949年蒋介石在大陆的统治崩溃，在这20多年的漫长岁月中，国民党各级组织、人事大权及党务、经费的管理权与支配权，多半操在陈果夫、陈立夫手中，二人轮番执掌，其他人极少问津。