起初，周成王封其弟叔虞于唐，号唐叔，成为周朝诸侯国晋国始祖。唐叔虞，亦称叔虞、太叔，姬姓，名虞，字子于，是周武王姬发的儿子，周成王姬诵的同母弟弟；母亲王后邑姜，是齐国开国君主齐太公吕尚（即姜子牙）的女儿。
箕子看到唐叔刚刚被分封时，说“他的后代一定繁荣昌盛”。唐叔虞死后，其子燮（燮父）继位。燮继位后徙居晋水之旁，改国号为晋，是为晋侯燮。春秋初期，晋昭侯分封叔父成师于曲沃，造成分裂局面。到晋文公的祖父武公，史称曲沃武公，以宗室的身份统一了晋国。晋文公的父亲献公，继续兼并了许多小国，使晋国成为汾河流域强大的诸侯之国，给晋文公称霸打下了基础。
晋文公勤王
《史记・周本纪》记载，周惠王二十五年，惠王驾崩，其子周襄王姬郑即位。周襄王十七年，襄王向晋国紧急救助，晋王公接受王命，而诛杀子带。襄王于是赐晋言语公红色和黑色的弓箭，封晋文公为伯，将河南之地赐给晋。襄王二十年，晋文公请襄王参加自己召集的会盟，襄王在河阳、践土参加了会盟，诸侯退去之后，在史书上将此事写成“天子到河南打猎了”。
周惠王死后由周襄王继位（西元前652年～前619年在位）。襄王生母早死，其后母惠后因周惠王宠爱而一直想扶立她的亲生儿子叔带。周襄王即位后，一直和王子带不和睦。前636年，王子带欲图篡位，以狄人攻周，大败周师，周襄王逃到郑国，并向诸侯求救。
眼见秦穆公大军已经在黄河边准备要迎接襄王，晋文公重耳（公元前697～628年）因为初回晋国而忙于重建国政，又担心出兵将导致国内政局不稳，在迎与不迎襄王之间举棋不定。这时他的谋臣也是舅舅狐偃劝进，于是文公为此请卜偃分别以卜、筮来决疑，结果都是大吉。
这个故事记载在《左传．僖公二十五年》：
秦穆公驻军于河上，准备迎接周襄王。狐偃告诉晋文公说：“君侯要成就霸业，与其求诸侯不如效劳周王（“求诸侯，莫如勤王”），这样诸侯就会信任你，而且合于大义。继承晋文侯当年拥立周平王的伟业，将您的威信传播于诸侯国，现在就是机会了。”
于是晋文公请卜偃卜问，龟卜结果说：“吉利，得到的是黄帝战于坂泉的兆象。”晋文公说：“我怎么担当得起？”卜偃回答说：“周礼还没改，当今的王，就是古代的帝。”卜偃的意思是说，这里所说的王是“周襄王”，不是晋侯您。这是因为周武王登天子位之后“其后世贬帝号，号为王”（《史记．殷本纪》）。周天子为尊古而自贬一级只称“王”，周朝的“王”相当于“帝”。卜偃说黄帝战于坂泉的预兆应在周襄王和王子带的战争上，以按周朝的礼制来说，周襄王和黄帝相当的。
晋文公又说：“筮一卦吧。”于是筮了一卦，得到《大有》变成《睽》的卦象，卜偃说：“吉利，这是‘公用享于天子’的卦象。战胜之后而得到周王的款宴，还有更吉的吗？而且这一卦，干天变兑泽而遇离日照耀，天子降低其尊贵之身而真心欢迎文公您，这不也很好吗。大有离开睽孤之后又归来，这也是周王得以回到其王所。”
晋文公于是辞退秦军，顺流而下。三月十九日，军队驻扎在阳樊，右翼部队包围温地，左翼部队迎接周襄王。夏季四月初三日，襄王进入王城。在温地抓了太叔，把他杀死在隰城。初四日，晋文公朝觐周襄王。周襄王用甜酒招待晋文公，又让晋文公向自己回敬酒。晋文公请求死后掘墓道安葬，周襄王没有允许，说：“这是王室的规章。还没有取代周室而有两个天子的行为，这也是叔父您所厌恶的。”于是赐给晋文公阳樊、温、原、攒茅的土地。晋国在这时候才开辟了南阳的疆土。
阳樊人不服，晋国军队包围了阳樊。仓葛是阳樊人的首领，他大喊说：“德行用来安抚中原国家的，兵刑用来威慑四方夷狄的，你们竟然围攻起中国的阳樊城，这样干，无怪我们不敢降服了。这里谁不是周天子的亲戚，难道可以俘虏他们吗？”于是就放百姓出城了，听任他们迁居，也就是说晋侯只取土地，不强迫老百姓留下来。
原人也不服。冬季，晋文公率军包围原国，命令携带三天的粮食，意思是只围攻三天。到了三天原国不肯投降，就下令离开。间谍从城里出来，说：“原国准备投降了。”军官说：“请等待一下。”晋文公说：“信用，是国家的宝贝，百姓靠它庇护。得到原国而失去信用，用什么庇护百姓？所损失的东西更多。”于是退兵三十里，原国投降。晋文公把原伯贯迁到冀地。任命赵衰作为原地的地方官，狐溱作为温地的地方官。
晋文公曾向寺人勃鞮询问镇守原地的人选。勃鞮回答说：“以前赵衰用壶盛饮料并携带了食物跟随您，他一个人走在小道上，饿了也不去吃它。”所以晋文公让赵衰作为原地的地方官。
大蒐（阅兵）以示礼
晋文公勤王以后，充实了力量，开拓了疆土。两年后，公元633年，楚国和宋国发生冲突，宋向晋求救。晋文公在被庐举行了一次大规模的军事检阅。
楚成王准备包围宋国，派遣子文在睽地演习作战，一早上就完事，没有杀一个人。子玉又在蒍地演习作战，一天才完事，鞭打七个人，用箭穿三个人的耳朵。元老们都祝贺子文。子文招待他们喝酒。蒍贾年纪还小，迟到了，不祝贺。子文问他，回答说：“不知道要祝贺什么。您把政权传给子玉，说‘为了安定国家’，安定于内而失败于外，所得到的有多少？子玉的对外作战失败，是由于您的推举。推举而使国家失败，有什么可贺的呢？子玉刚愎无礼，不能让他治理军民，率领的兵车超过三百辆，恐怕就不能回来了。如果回来，再祝贺，有什么晚呢？”
冬季，楚成王和诸侯包围宋国。宋国的公孙固到晋国报告紧急情况。先轸说：“报答施舍，救援患难，取得威望，成就霸业，就在这里了。”狐偃说：“楚国刚刚得到曹国，又新近和卫国结为婚姻之国，如果攻打曹、卫两国，楚国必定救援，那么齐国和宋国就可以免于被攻了。”晋国因此而在被庐阅兵，建立三个军。
商量元帅的人选。赵衰说：“郤縠可以。我屡次听到他的话，喜爱礼乐而重视《诗》、《书》。《诗》、《书》，是道义的府库；礼乐，是道德的表率；道德礼义，是利益的基础。《夏书》说：‘有益的话全部采纳，考察效果加以试验，如果成功，用车马衣服作为酬劳。’您不妨试一下！”于是晋国派郤縠率领中军，郤溱辅助他。派狐偃率领上军，狐偃让给狐毛而自己辅助他。任命赵衰为卿，赵衰让给栾枝、先轸。命栾枝率领下军，先轸辅助他。荀林父驾御战车，魏犫作为车右。
《左传》说，晋文公一回到晋国，就教化百姓，过了两年，就想使用他们。子犯说：“百姓还不知道道义，还没能各安其位。”晋文公就离开晋国去安定周襄王的君位，回国后致力于便利百姓，百姓就各安于他们的生活了。又打算使用他们，子犯说：“百姓还不知道信用，还不能十分明白信用的作用。”就攻打原国来让百姓看到信用，百姓做买卖不求暴利，明码实价，各无贪心。晋文公说：“行了吗？”子犯说：“百姓还不知道礼仪，没有产生他们的恭敬。”由此举行盛大阅兵来让百姓看到礼仪（“大蒐以示之礼”），建立执秩的官职来规定主管官员的职责。等到百姓看到事情就能明辨是非，然后才使用他们。赶走谷地的驻军，解除宋国的包围，一次战争就称霸诸侯，这都是文公的教化。
前633年（周襄王二十年），宋国都城商丘被楚军包围。前632年初，晋文公率兵救宋，为报答楚国在他流亡国外时楚国的款待，下令军队退避三舍（九十里），在卫国的城濮（今山东濮县南）大败楚军。晋文公主持践土之盟，成为名副其实的霸主。
