朱元璋帝业成功的第一个原因，是他善于征取人心。
历代农民起义者虽然据说是历史中最先进因素的代表，但绝大部分人素质并不高。从各地义军领袖的绰号我们就能看出一二：什么“棒胡”、“韩法师”、“芝麻李”、“金花小姐”……他们一般都出身流氓无产者，之所以成为乱世英雄，是因为他们有常人所没有的勇敢和残酷，文化素质低下、眼界狭窄、目光短浅却是他们的通病。这些绿林英雄治下的众多好汉们，起兵之初没有完整计划，起兵之后热衷于“走府过县”，烧杀抢掠。他们并不像传说中的那样“劫富济贫”，一心帮助阶级兄弟。他们连阶级兄弟也抢，甚至在大户逃亡净尽的时候，他们主要靠抢阶级兄弟们为生。就拿郭子兴的队伍来说吧，“郭子兴的队伍原来纪律很差。刚起义时，他们占领濠州，‘哨掠四邻’，往往不分青红皂白，不仅剥夺地主富豪，也打劫一般平民的财产，有时甚至放火焚烧庐舍，弄得人家屋无根椽片瓦，墙无立堵可观。‘不两月。越境犯他邑，所过亦然’。攻占和州，仍未改旧习，‘破城横暴’，随意砍杀掳掠，抢劫妇女，闹得百姓妻离子散，民心惶惶”（陈梧桐《洪武皇帝大传》）。
而朱元璋却从不像那些好汉们那样放任自己，今日狂歌痛饮，明朝弃尸马前。他参加起义，不是出于一时的冲动，也不是出于对“大块吃肉、大碗喝酒”的向往。这是他经过深思熟虑后作出的慎重选择，他要的是安身立命，飞黄腾达。人无远虑，必有近忧。只有那些看出五步之外棋局变化的人，才能笑到最后。
这个后来被证明是中国历史上最残酷的皇帝之一的人，此时对百姓摆出的却是一副和善的面孔。他深知战争中人心的向背取决于军队的纪律。他对手下大将说：“我每次听说你们攻下一城之后不乱杀人，就打心眼里高兴。林子里有老鹰，别的鸟就不来了。你军纪不好，百姓们就会逃跑。”所以，独自带兵不久，他就开始注意军纪问题。
至正十五年（公元1355年），朱元璋攻占和州之后，手下军人照老例烧杀抢掠。朱元璋首次召集手下大小头目，郑重宣布：“城破之后兄弟们都抢了不少女人。我规定，以后只许抢没结婚的少女，那些结了婚的，一律给我放回去！”（《皇朝本纪》）他召集全城的男人集合到州衙门前，把那些抢来的已婚妇人列队送出，让夫妻相认。全城百姓奔走相告，感激涕零，朱元璋成了和州人的大恩人，他的恩德被和州百姓久久传颂。
朱元璋渡江作战，是为了给自己夺取天下奠定基础。以前的奋斗是为了生存，以后的奋斗却是为了发展。要发展，就要立足长远。因此，他必须树立一股新风，让天下百姓耳目一新。
在渡江战役之前，朱元璋部的习惯是攻下一座城市后，总要大抢几天。
然而从渡江战役开始，朱元璋定下了攻城后禁止抢掠的新规。攻占太平后，有个小兵不遵军令，动手抢劫，即被朱元璋的亲兵队斩首示众。当然，朱元璋也不会亏待有功将士，太平路的富户们识相，“捐献”了一大批金银财帛，朱元璋下令分给诸将士。将士们虽然没有上街掳掠，所得倒也不比抢劫所得少多少，一个个又转怨为喜。此举以后成为定制：破城之后，不再抢劫，而是集中没收大户的财产，平均分配，军人百姓，两相安静。老百姓因此对朱军感激涕零。
中国老百姓就是这样容易满足。在乱世之中，握有暴力的人不全力残害他们，他们就会感激不尽。在后来朱元璋攻灭张士诚的战役中，张士诚兵尽粮绝，走投无路，举火自杀。因为他只烧了自己的王府，没有烧掉全城百姓的房屋，城内百姓对他感激得无以复加，一直尊敬地称呼他为“张王”。
在很长一段时间里，每逢张士诚的生日七月三十日晚上，苏州人就烧九四香（张士诚原名九四），点地灯来纪念他。所以，朱元璋军在元末诸军中“独不嗜杀”，很快就赢得了老百姓的衷心拥护，为朱元璋建设根据地打下了良好的基础。
朱元璋抓军纪，经常以身作则，甚至曾经上演过列宁与卫兵的故事。亲征婺州时，朱元璋有次睡不着觉，半夜上街散步。街上的巡逻士兵根据宵禁令出面阻拦。随行小先锋张焕告诉巡军，这是位“大人”，要求放行。巡军拒不答应，说：“我不知是何大人，只知犯夜者执之。”第二天，朱元璋就赏给巡军二石米，“后不夜出”。
这个时候的朱元璋，自我要求极严，一副清新向上之气。部下进献战争中得来的金玉装饰的马鞍辔，他退了回去，说：“吾方有事四方，所需者文武才能，所用者谷粟布帛，其他宝玩非所好也！”江西送来缴获的一张陈友谅用的镂金床，他下令砸毁，说：“此与七宝溺器何异！”文人学士听到这些，纷纷感动涕零说，此真非寻常人能及也！
当然，这种展示自制的行为有时难免流露出土匪气。《国初事迹》载：
“太祖亲征婺洲，有侄男子进女子一人，约二十岁，能作诗。太祖曰：‘我取天下，岂以女色为心，诛之于市，以绝进献。’”
朱元璋最后下令把这位才女推到街头，当众斩首。目的是通过这种方式告诉其他将领，不必再献这类“东西”了。本来杀掉的或者说受处罚的应该是他的侄子而不是这名女子，不过朱元璋和时人都不这样认为。所以《国初事迹》才这样公然记载，将此作为朱元璋“英明伟大”的证据。
在朱元璋的军纪面前，没有任何特殊人物。不管层级多高的将领违反军纪，朱元璋也都毫不宽容。胡大海领兵围攻绍兴，他的儿子胡三舍、王勇等三人犯酒禁，朱元璋命人拉出去砍头，都事王恺出面求情：“胡大海现总兵攻绍兴，可以本官之故饶他。”朱元璋大怒，说：“宁可胡大海反了，不可坏了我号令！”当下就拔刀把胡三舍等三人杀死。
连亲情在纪律面前也不起什么作用。亲侄朱文正是大饥荒后他剩下的唯一亲人，跟随朱元璋打仗屡立战功。然而他恃亲恃功，胡作非为，他“专求民间闺女，用则数十日，不用即投之于井，为数甚多”，朱元璋大为恼火。
下令以“不谏阻”的罪名杀掉朱文正的部下郭子章、刘仲服、卫达三元帅，将其随从头目五十余人挑断脚筋，甚至准备将朱文正处死。直到马夫人出面苦苦劝阻，才免他一死，将他解送凤阳守护先人坟墓。朱文正耐不住寂寞，逃跑“谋奔敌国（指张士诚）”，抓回来后，被朱元璋一顿鞭子活活打死。
经过雷厉风行的整顿，朱元璋的队伍终于变成一支军容整肃、纪律严明、服调遣、听指挥的队伍，攻城略地，“秋毫无犯”，“市井宴然”，根据地的官员也一个个奉公守法，不敢胡作非为。
朱元璋的这些与众不同之处，不仅使底层百姓感激涕零，也使地方精英敏锐地发现了他是可以依靠之主。因此，当他在太平禁止抢劫之后，太平路的老儒陶安拜见朱元璋，说：“我辈今有主矣。”为什么？因为朱元璋让他们在纷乱无序的乱世中看到了一线建立有序政治的希望。各地精英人物因此纷纷来投，朱元璋的大名日益广播。