慕容皝又树立求谏言的木柱，以广开直言之路。东晋咸康三年(337年)，迁徙到昌黎郡。三月，在乙连城以东修筑好城，派折冲将军兰勃防守，以对乙连造成威胁。又在曲水筑城，作为兰勃的后援。乙连城遭逢严重的饥荒，四月，段辽使用数千辆车向乙连城运粮，兰勃伏击拦劫得到了粮食。六月，段辽派堂弟扬威将军屈云率领精锐骑兵乘夜间偷袭在兴国城(今辽宁大陵河上游一带)的慕容皝之子慕容遵，与慕容遵在五官水上激战，屈云战败，慕容遵斩了他，把他的士众全部俘虏。
建立前燕
东晋咸康三年(337年)九月，镇军左长史封弈等人认为慕容皝责任重而权位轻，应称燕王，慕容皝采纳。于是设置各个官署，任封弈为国相，韩寿为司马，裴开为奉常、阳骛为司隶、王寓为太仆、李洪为大理、杜群为纳言令、宋该、刘瞻、石琮为常伯、皇甫真、阳协为冗骑常侍、宋晃、平熙、张泓为将军，封裕为记室监。
同年十月，慕容皝即燕王位，史称前燕，并实行大赦。修建文昌殿，乘坐以黄金为饰的根车，用六匹马驾车，出入要清道警戒。十一月，追尊父亲武宣公慕容廆为武宣王，母亲段氏称为武宣后。又立自己的夫人段氏为王后，册立世子慕容俊为王太子，一切如同魏武帝曹操、晋文帝司马昭辅政时一样。
击败后赵
东晋咸康三年(337年)，慕容皝因段辽常成为边境的祸患，派扬烈将军宋回向后赵石虎称臣，请求出兵讨伐段辽。自言将率领国内所有士众会同讨伐，并让自己的兄弟宁远将军慕容汗到后赵当人质。后赵王石虎大为喜悦，盛情抚尉、酬答，谢绝慕容汗为人质，遣送他返回，与慕容皝秘密约定第二年会合。
东晋咸康四年(338年)，石虎率士卒而至。慕容皝率诸军攻打段辽的令支以北诸城，段辽派部将段兰抵抗，双方大战，段兰战败，慕容皝军队斩杀敌人首级数千，掳掠五千余户而回。石虎到了徐无，段辽逃往密云山。石虎进入令支，因慕容皝不来会师而发怒，进军攻打，直至棘城，数十万军士四面进攻，慕容皝所辖郡县各部有三十六城反叛慕容皝而归顺石虎。双方相持十多天，诸将劝慕容皝投降。慕容皝说："我刚取得天下，怎能投降呢!"派其子慕容恪等带领二千骑兵，清晨出城攻击围城部队。石虎诸军惊恐混乱，丢鉴弃甲而逃。慕容恪乘胜追击，斩杀俘获三万余人，筑凡城(今辽宁喀左)设下防守而还。段辽派使者向石虎诈称投降，请求出兵接应。石虎派将领麻秋率众迎接段辽，慕容恪在密云山埋伏了七千精锐的骑兵，大败敌军，擒获司马阳裕、将军鲜于亮，裹挟段辽及其部众返回。
晋成帝又派使者来进封慕容皝为征北大将军、幽州牧，兼平州刺史，加散骑常侍，增加一万户食邑，持节、都督、单于、公爵位依旧。慕容皝前军帅慕容评在辽西打败了石虎将石成等，斩杀将领呼延晃、张支，劫掠一千余户而归。段辽阴谋反叛，慕容皝将其诛杀。咸康五年(339年)，石虎又派石成入侵攻打凡城，未能攻克，进兵攻陷广城。
得晋受封
