公元前326年，年方12岁的赵武灵王继位时，赵国四面强敌环视，而国土中间又横插着一个中山国。这个中山国是白狄族建立的一个国家，曾经被魏将乐羊子攻灭，后来因隔着其他国家不便控制，又让中山国借机复国。中山国横在赵国中间，使其裂为以邯郸为中心和代郡为中心的两大块，如梗在喉，实在令赵国非常难受。赵国要想在战国诸雄中有所作为，首要的任务就是解决中山这个心腹之患。
经过多年的准务，赵武灵王争取到了一个相对安定的外部环境。公元前307年，赵武灵王亲率大军进攻中山，开始还算顺利，可是不久便遭到反击，赵国的车兵和步兵被中山军队打得节节败退，不但很快退回国境，连边境重镇郡邑也沦入敌手。更不可思议的是，在赵国攻打中山时，燕人也乘人之危夹击中山，但也被中山人迎头打了回去，领兵之将还丧了命。中山一个区区小国，同时抗击两个大国的进攻，还能取胜，这给了赵武灵王很大的震动。由此引发了一场撼动朝野的改革。
在这一次亲自经历的实践中，年轻的赵武灵王发现赵军将士的最大毛病之一就是行动不灵活。不仅作战工具不灵活，战车在山地简直就如废物一般，而步兵作战速度又太馒，转移不灵，而且将士们长袍大袖，外裹重甲，穿戴起来象套上厚重的壳子，非有大力气才能运转得动。加上穿戴时需多层系扎，费时费力，敌军一旦这时来袭，就只好弃甲而逃。
为此赵武灵王把目光指向了赵国北面居住着各种胡人部落。他从小就耳濡目染这些马背上的民族的风采，一个个身着紧身短衣，长裤，外套轻坪，跨在马上，弯刀劲弓，来去如风，只是缺乏约束，组织性差了点。赵武灵王由此想到，如果能学习胡人的长处，再加以中原的军事组织，岂不是兼有两者之利?他把此想法告诉了恰在身边的大臣楼缓，楼缓当即表示同意他的想法。而后，他又召来相国肥义，向他讨教此事是否可行。肥义鼓励他说:“凡事不能迟疑，首鼠两端必然一事无成。相传舜曾向有苗氏学习过舞乐，大禹治水经过裸国，也随之裸身，因此改装易服也不是不可能的事，只要利国利民，就应该坚定地去做。”·肥义的一番话，坚定了赵武灵王的决心，他随即找来一套胡服穿上，发誓道:“我决心易服改装，骑射教民，就让世人都来笑话我吧!但是胡地和中山必归我属!”
于是，他派人告诉国中最有资望的王族重臣，也是他的叔父公子成，他要改着胡服。但是公子成却执意反对，认为如果这样一来，就会被中原诸国视为狄夷之邦，后果不堪设想。赵武灵王并不气馁，亲自登门拜访公子成，晓以利害，并告诉公子成他这样做的目的是为了有朝一日平灭中山，以报先王之耻，希望叔父不要仅仅为了顺从风俗，就忘了先人之志，不帮他一把。一番话说通了公子成，接下了赵武灵王赐予的胡服。第二天，赵武灵王和公子成等着胡服上朝，众大臣见状也纷纷效行。·赵武灵王遂向全国下达“胡服令”自上而下地改易服装，教民骑射，推行尚武之风。
“胡服令”在推行过程中道到一些贵族显官的激烈抵制，他们借口所谓"先王之法"，"先王之礼"等陈腐的谬谈，攻击赵武灵王效蛮夷之行，不象个国君。赵武灵王一方面进行劝服，一方面以刑罚相威胁，终于在全国推广了胡服。直到今天，我们写服饰史的时候，都要给赵武灵王加上一笔。着胡服是为了便于骑射。紧接着，赵武灵王开始广泛地招募能骑善射之士，不少少数民族骑士投靠赵国，赵军上下掀起一股学习骑射的高潮。由于赵地与北部游牧民族相接，不少人已经染习了骑射之风，而且马匹也较易获得。所以，不到一年，一支人数众多、训练有素的骑兵部队就练成了，从而取代了赵国车兵的地位，成为与步兵并驾齐驱的两大主战部队之一。
公元前306年，赵武灵王亲率这支年轻的骑兵，闪电般地袭取了中山国的宁蔑，然后移兵北上，千里跃进，大破林胡和楼烦诸部落，迫使他们北迁大漠，献马乞和，成为赵之藩属。赵武灵王在新辟的土地上设立云中，雁门两郡，并在原阳设立“骑邑”即训练骑兵的基地，常年训练骑兵。赵武灵王胡服骑射的改革，小试锋芒却功效大著，再次将目标指向了中山国。
赵武灵王在进攻中山之前，采取于十分审慎的布置。尽管与周边无战事，并派使臣同时出访秦、韩、楚、魏，齐，但他仍然调集部分兵力戒备边境，以防不虞。万事俱备之后，他开始了进攻中山之役。吸取上次进攻失败的教训，这次他采用分路进攻的作战方针。先遣两军由中山西部进攻，然后主力分成三路由中山南部五面突袭。这一仗，赵铁骑大显威风，疾如闪电势若骤雨，很快就占领了中山国大片国土，而且险要尽得，中山国都处于赵军兵锋之下。中山国被迫请和，割让南部四邑，失去三分之一的国土。从公元前305年到前300五年里，赵军先后五次进攻中山，次次以中山割地告终，最后终于把中山这个一度名闻天下的小国从中国的版图上抹去了。从此赵国东西南北合为一块，喉中无梗，眼中去钉，可以专心对外。
平灭中山之后，赵国骑兵再次大败楼烦王，并在北边大修城池，先后修了赵王城和夫人城。同时，两条边境长城也渐次竣工，赵国北疆至此无虔。
赵武灵王的胡服骑射，改变了中原各国的军事作战方式，从此战车这种作战方式退出了历史的舞台，被骑兵所取代。此后，赵国名将辈出，成为东方六国中唯一可以与秦国相抗衡的大国，直至长平之战。