甲午战争爆发后，袁世凯被李鸿章派赴东北前线，仍旧以浙江温处道的名义协办前敌营务处，负责筹拨粮饷并联络各军。由于清军在战争中节节败退，朝野人士在战后交章上奏，争相向朝廷献言练军之法。
说到练军，那些士大夫基本都是些纸上谈兵的书生之见，和袁世凯比起来就差得远了。以袁世凯当年在朝鲜练就新兵的经验，李鸿章让他做个前敌营务处会办，实在是有点屈才。报国心切的袁老四对此也不甘心，他利用朝廷急于编练新军的心理，组织了一批人帮他翻译外国军事教材，包括训练方法、编制、营中制度等，然后他又结合当年的练兵经验，草拟了《练兵要则十三条》、《新建陆军营制饷章》、《募订洋员合同通稿》等材料在朝廷大员们中间广为散发，为自己赢得了知兵治事的赞誉。当时很多朝廷大员，如恭亲王奕、庆亲王奕劻、兵部尚书荣禄、军机大臣李鸿藻，还有李鸿章、刘坤一、张之洞等地方督抚，都对袁世凯交口称赞，一致推荐。
这真是奇了。要说上面的那些大员，那可都是当时朝廷最显赫的权臣，怎么会对这不过三十六岁的袁老四如此看重呢？要说起来，这天下没有无缘无故的爱，也没有无缘无故的恨，这袁老四的确是有两下子，譬如他那《练兵要则十三条》写得着实头头是道，无论是军律、军饷，还是枪械管理、募兵标准等，样样都说到了点子上，让那些不知新军为何物的朝廷大员们大开眼界，称赞有加。
袁世凯的运气也实在是好，恰好这时编练定武军的胡燏棻被调去督办津芦铁路，袁世凯乘机上下活动了一番，督办军务处的领导恭亲王奕、庆亲王奕劻、翁同龢和荣禄等人随后便联名保荐袁世凯接替胡燏棻前往小站练兵。有了这些朝中大佬的保荐，事情当然好办。由此，袁世凯便屁颠屁颠地跑到天津小站练兵去了，这也成为他一生事业的发迹之始。
1895年12月，袁世凯到小站正式接管了已初具规模的定武军，在将原定武军的兵额招足到7300人后，袁世凯将之改名为新建陆军。为了把新建陆军建成一支模范军，袁世凯重金聘请了包括退役军官沙尔在内的十几位德国教习，并规定全军使用统一的新式步枪、马枪和快炮，其中大都为德制或奥制的标准化枪械，这大大提高了军队的战斗力。
袁世凯治军相当严厉，他亲自制定了新建陆军《斩律十八条》，要求士兵严格遵守，其中如：“临阵回顾、退缩及交头接耳私预压者斩；遇差逃亡，临阵诈病者斩；结盟立会，造谣惑众者斩；持械斗殴及聚众哄闹者斩；黑夜惊叫疾走乱伍者斩”等等，犯者定斩不饶。
新建陆军的军制很严密，包括募兵、行军、操典、驻扎等，都有详细的规定。袁世凯对军队管理极严，日则督操，夜则巡营，从不懈怠。有一晚袁世凯巡营，偶然发现一士兵偷食鸦片，袁世凯当场拔出佩刀将之手刃，全营为之震惊，自此营中再无人敢食鸦片。
此时的袁世凯，所有的精力和心思都放在这支军队上，几乎连吃奶的劲都用上了。在军营中，袁世凯以身作则，他和普通士兵一样，着军服、扎皮带、穿马靴、挂佩刀，一副赳赳武夫的样子。在平时的训练中，袁世凯经常亲临现场观看操练，某次阅兵时突然下起大雨，手下的军官要给他打伞，他一把推开说：“士兵都在雨中，我怎么就不能淋雨？”
在建军之初，袁世凯也刻意制造亲善士兵的形象，每次发饷时，他都亲自监督，以杜绝军官吃空额、克扣军饷的劣习。不仅如此，袁世凯还经常深入各营，接近下级军官和士兵，甚至连棚头这样的小头目都能叫出名字，很不简单。
袁世凯的努力没有白费，在经过一段时间的训练后，新建陆军的面貌为之焕然一新。在军队的兵营里，到处都是认真负责的洋教习、朝气蓬勃的新进军官、精神饱满的士兵、崭新的枪械大炮，操场上战马嘶腾，果然是一支训练有素、纪律严明的模范军！
当然，也不是没有隐患。据说，袁世凯曾在军中明目张胆地树立个人权势，当时各军营都供有袁的长生禄位牌，灌输“袁大人是我们的衣食父母、我们要为袁大人卖命”的思想。有人说，每天上下操集合时，官长都要问士兵：“咱们吃谁的饭？”士兵们齐声回答：“咱们吃袁宫保的饭！”官长又问：“咱们给谁出力？”士兵们齐声答：“咱们替袁宫保出力！”如此一来，这支新建陆军便成了袁家军，怪不得后来其他人根本无法调遣这支部队。
袁世凯用人还是有一套的，后来北洋军阀的这批风云人物大都是在袁世凯的提拔任用下才脱颖而出的，譬如“北洋三杰”王士珍、冯国璋、段祺瑞，原定武军的各级军官如曹锟、卢永祥、段芝贵等人，就连那些被朝廷革职的甲午败将如张勋、姜桂题、田中玉等人，他们也都纷纷投靠到袁世凯的麾下，为之卖命。
袁世凯练就的这支新建陆军，实际上是中国近代历史上的第一支现代化陆军。乱世抓枪杆，枪杆子里出官衔，袁世凯有了这个资本，从此便声誉鹊起，一飞冲天了。但是，凡事有好也有坏，袁世凯是有成绩，但因此招来很多人特别是满清贵族的妒忌，一时间谣言四起，说袁世凯要反清叛逆云云。
当时袁世凯的顶头上司、兵部尚书荣禄也一度听信谣言，他后来亲自到小站去查看，若发现袁世凯有谋反迹象，就立刻加以剪除。不料荣禄去了小站后，发现这新建陆军还真是军容整齐、器械鲜明、壁垒一新……完完全全的一支英武之师，当时就给荣禄留下了极为深刻的印象。荣大人当了一辈子的军人，从来就没有见过如此优秀、如此现代化的新式部队，于是爱才之心不免油然而生，回去后他非但没有对袁世凯痛下杀手，反将之引为心腹，大加重用。由此，袁世凯也就投到了荣禄的门下。
众所皆知，袁世凯在1898年的戊戌变法之初表现积极，还为强学会捐过一大笔钱，维新派也将之引为知己，并向光绪皇帝大力推荐。只可惜后来风云突变，袁世凯为了自保，将谭嗣同夜访之事向荣禄全盘托出，导致六君子喋血街头，光绪皇帝也被软禁瀛台。
乱世出英雄，竖子亦成名。袁世凯靠出卖维新志士染红了自己头上的顶戴，在戊戌政变后，袁世凯得到了慈禧太后的充分信任，机会也就接踵而至。1899年，袁世凯出任山东巡抚，率武卫右军七千人前往弹压义和团运动。在庚子年中，袁世凯不仅按兵不动，而且在“保境安民”的借口下将原有的山东旧军20营扩编为武卫右军先锋队。如此以来，袁世凯在保住一方平安的同时，又赢得了中外人士的交口称赞。庚子年后，朝廷重臣李鸿章在临死前特地向朝廷举荐了袁世凯。由此，袁世凯很快署理直隶总督兼北洋大臣，俨然已是年富力强、权势显赫的袁宰相了！
要知道，当时的袁世凯不过四十刚出头，他的前途不但远胜于他家的那几个进士、举人大老爷，恐怕要超过老领导李鸿章都不在话下呢。
由于清廷在甲午战争和庚子之役中惨败，扩大新军的规模也就成为朝野中的共识，这对袁世凯来说，简直是个天大的机遇。1903年11月，经过一番努力后，慈禧太后终于同意了袁世凯设立练兵处的建议。由此，袁世凯甩开膀子大干，北洋陆军六镇也在两年之后大体编练完成，这也是后来北洋军阀的发轫期。
当时的北洋六镇，除第一镇因是旗兵不能控制外，其余五镇都是袁世凯一手带出的嫡系部队。各镇的主要将领也几乎都是由袁世凯一手选定，个个都是小站出身：第一镇统制先为凤山，后为何宗莲；第二镇统制先为王英楷，后为张怀芝；第三镇统制先是段祺瑞，后为曹锟；第四镇统制吴凤岭；第五镇统制先为吴长纯，后改为张永成；第六镇统制先是王士珍，后改为赵国贤。
在北洋军中担任协统、标统的中上层军官也都是袁世凯的人，比如雷震春、陈光远、李纯、王占元、卢永祥、鲍贵卿、王怀庆、田中玉等等，可谓是人才毕集、将星如云，这些人到了民国，都是显赫一时的风云人物。
袁世凯不仅兵练得好，他在做直隶总督兼北洋大臣期间，其他方面如开矿办厂、修筑铁路、创办巡警、整顿地方吏治及兴办新式学堂等事务也搞得有声有色。在袁世凯的领导下，直隶在清末新政中一直走在各省的前列。值得一提的是，袁世凯和张之洞还在1905年联名上奏清廷，将沿袭上千年的科举制度废除；而在后来的立宪中，袁世凯也力主改革官制，实行责任内阁，方方面面都显得才干突出，咄咄逼人。
月儿弯弯照九州，几家欢乐几家愁。看到日益成长的新军和权势日渐加重的袁世凯，那些满族亲贵不免有种养虎为患的感觉了。的确，袁世凯是很能干，但他又太能干了，而且是个汉人哪。袁世凯那庞大的北洋军事政治集团，已经渐渐如脱缰之马，清廷的缰绳似乎有点套不住他了。特别是军队方面，清廷虽然计划编练三十六镇，但除了袁世凯的北洋六镇练成外，其他各省大都没有练成；即使练成的，战斗力也远不如北洋陆军六镇。
袁世凯毕竟不是曾国藩那样忠君爱国、科举出身的读书人，这万一他……哼哼，后果不堪设想哪。