张作霖和孙中山早就相识，并且张作霖一直仰慕孙中山的名头，敬佩孙先生的为人，当时孙中山先生因为与陈炯明之间的矛盾逐渐凸显，1922年6月陈炯明部队攻击粤秀楼，想置孙中山于死地，孙中山逃过一劫。张作霖在知道陈炯明把孙中山逼出广东后，为孙中山感到不平，并愤愤不平地为其辩解道：“胜败乃兵家常事，陈小子作乱算不得什么，不过孙先生是文人，带兵是为难他，我不求他别的，只要他对救国大计多想办法，这帮家伙交给我来收拾，后来孙中山平安到上海后，张作霖找到宁武说：“宁孟言，我要在患难中交朋友。我不写信，信也难写，你就代表我去探望孙先生，请他到东北来住住。”宁武在拜见孙中山时转达了张作霖的邀请，孙中山要宁武婉言代为辞谢。孙中山和张作霖时患难见真情，在以后的时间里张作霖还给孙中山筹集过军费。
1923年2月，孙中山依靠滇桂军击败了陈炯明叛军，依靠抚绥政策平定了旧桂系余孽沈鸿英发起的叛乱，恢复了广东根据地，重组大元帅府大本营，准备北伐。5月1日，在沪待命的汪精卫再度衔命赴奉天。在致汪精卫的电报中，孙中山提出了向张作霖借款的要求：“唯协和需五十万元，组安需二十万元，此间因战事剧烈，费款至巨，力难兼顾，拟由兄力向雨公商助见复。”张作霖在借款的问题上很爽快。5月12日，张作霖派黑吉江防司令公署参谋长沈鸿烈作为代表赴粤拜见孙中山。沈鸿烈带了一艘货轮前往广东，船上满载60万银元、12门山炮及一些迫击炮弹。孙张关系的密切，可见一斑。
孙中山先生在《致张作霖函》中，孙中山对张作霖表示感谢：“一年以来，屡蒙我公资助，得以收拾余烬，由闽回师，又得滇军赴义。川民逐吴，遂将贼在西南之势力陆续扑灭，而广州根本之地得以复还，此皆公之玉成也。”孙中山也曾派儿子孙科与汪精卫等要人赶到东北为张作霖祝寿。在北京，病中的孙中山还曾前往张作霖的住处拜会。作为回访，张作霖派张学良到中山先生下榻处探望。