建武四年(28)冬天，隗嚣欲归附刘秀。于是派马援持书信到洛阳接洽，刘秀听说“腾声三辅，遨游二帝”的马援来到洛阳，遂便服简从，热情接见他。刘秀笑着对马援说：“您在两个皇帝间转来转去，今天见到您，真是惭愧!”马援行礼后，接着刘秀的话题说：“如今这时代，不但君主选择臣子，臣子也在选择君主。我到公孙述那里，他盛陈卫士，警跸森严。如今我远道而来，您怎敢肯定我不是刺客奸人，就如此随便地接见我呢?”刘秀听了笑道：“你不是刺客，倒像个说客。”马援说：“天下翻覆无常，盗名欺世者数不胜数。如今我见到了您，发现您恢弘大度，跟当年高祖一样，这才知道世上自有真的帝王啊!”两个人大有相见恨晚之感。
刘秀对马援一见如故，非常信任。于是带着他西巡黎丘，东游东海，优礼有嘉。马援要回西州，刘秀派太中大夫来歙持节去送他。
马援回陇后，隗嚣问及洛阳和刘秀情况时，马援盛赞刘秀，隗嚣同意归汉，并派长子隗恂到洛阳去做人质，马援也就带领家属一起到了洛阳。马援到洛阳后，因无实际职务，他发现三辅地区土地肥沃，原野宽广，而自己带来的宾客又不少，于是便上书给光武帝，请求率领宾客到上林苑去屯田，光武帝答应了他的请求。