出身浙江的蒋介石很长时间不能混进孙中山的“粤人”圈子。直到1922年6月,陈炯明叛变,孙中山避难于永丰舰,蒋介石登舰护卫,才取得孙的器重。1923年2月,蒋介石被任命为大元帅府大本营参谋长。
当时听说孙中山与苏俄代表协商已定,将组团赴苏俄考察以便建立新军,蒋介石怦然心动,他立即给大元帅府秘书长杨庶堪写信,毛遂自荐,表达自己急欲赴苏考察的强烈心愿:“为今之计,舍允我赴欧外,则弟以为无一事是我中正所能办者……如不允我赴俄,则弟只有消极独善,以求自全……”。
国民党组团赴苏俄考察,团长人选最有资格的莫过于廖仲恺。廖仲恺最积极支持孙中山的“联俄、联共”政策,也是最受孙中山信赖的忠诚同志。也许是廖仲恺实在难以脱身率团,也许是为了安抚蒋介石的情绪,孙中山最后答应由蒋介石为主任代表,率“孙逸仙博士代表团”赴苏俄考察军事。
后来蒋介石得以出任黄埔军校校长,与被派赴苏俄考察有很大关系。12月15日,蒋介石从苏联回国,给孙中山寄了一份《游俄报告书》。一个月后蒋介石被孙中山委派为“陆军军官学校筹备委员会委员长”。但即便如此,黄埔校长也绝不是非蒋介石不可的。
1924年2月21日,蒋介石留书请辞,“怫然而行”。当蒋介石带着妻子陈洁如来到上海张静江公馆时,张静江非常讶异。他不解地问:“中正,中山先生器重你,委托你办军校,你理应尽力才是,怎么在这个节骨眼上来上海?”
蒋介石告诉张静江:“中常委打算让孙先生兼任校长,而孙先生属意程潜和许崇智,只让我和李济深为副校长,我实在不愿给人家做嫁衣裳!”听明白蒋介石的意思后,张静江答应他,在孙先生面前说话,保举他当“校长”。