从卢沟桥事变爆发到武汉失守，这段时期是国共两党的蜜月时代。但八路军、新四军的急速发展引起了国民党的严重不安，而在基层，双方军队围绕补给、兵源等问题的矛盾冲突日渐严重。在正面战场战线稳定以后，国民党方面开始限制共产党及其武装的发展，国共冲突逐渐上升到了高层。双方的冲突在新四军问题上公开爆发了。
新四军属第三战区。1939年初，新四军江南部队陈毅部不顾重庆的限制，派管文蔚等率一团兵力渡过长江，进入苏北，在沿江的仪征、扬州、泰州一带活动，创立了以黄桥为中心的抗日根据地。
1939年11月，新四军第一、二支队合并成立江南指挥部，由陈毅、粟裕任正、副指挥。
1940年7月，江南指挥部渡江到达了苏北，改称苏北指挥部，率部东进黄桥等地。江苏省主席兼苏鲁战区副总司令韩德勤以10万兵力在苏北活动，他将新四军在黄桥建立根据地的举动视为侵入自己的防区，将新四军看成莫大的威胁，于9月初举兵进攻新四军。李长江、李明扬等部虽奉命同行，但无意与新四军为敌。新四军先后在营溪、姜堰等地使韩军的士气受到了抑制。
新四军在初战取胜后，要求与韩德勤谈判以解决纠纷，苏北名流韩国钧等对此极为赞同，于9月中旬出面邀请苏北绅商各界名流在海安举行座谈会，要求苏北各军停止内战一致抗日。陈毅复电表示同意和解，并顾全大局，按照韩德勤的要求让出了姜堰，这一举动深得各界的钦佩。韩德勤无意和解，要求新四军开回江南，并在所办报纸上攻击为和平奔走的士绅们是“亲共分子”、“失意政客”，甚至指责他们是“汉奸敌探”，士绅们一见此报纷纷拍桌而起，韩国钧怒骂：“贼子无信，天必殛之”，并劝陈毅速做应战准备。
9月底10月初，韩德勤亲率主力3万多人向黄桥进发，新四军仅有7000多人的兵力，但凭巧妙的战术和坚强的意志，大败韩德勤军。韩部第八十九军等主力1万多人被消灭，旅长翁达自杀，军长李守维在逃跑中落水身亡。韩德勤率残部退保兴化。
黄桥一战，决定了新四军在苏北一带的优势地位，新四军苏北部队连克海安、东台等地。10月10日，先锋部队与黄克诚所率南下八路军先头部队在东台白驹镇会师，建立起了巩固的苏中与苏北抗日根据地。
蒋介石及第三战区司令长官顾祝同等对韩德勤部在苏北失败极为恼怒，但对苏北的新四军又无可奈何，便将反共重点移往皖南的新四军。1940年10月19日，国民政府军事委员会正、副参谋长何应钦、白崇禧致电朱德、彭德怀与叶挺，指责八路军、新四军不守战区范围自由行动，不遵守编制数量自由扩充，不服从中央命令，扰乱行政系统，不打敌寇专事并吞友军等，强令八路军与新四军执行《中央提示案》，在收到电报1个月内必须全部开往黄河以北地区。
共产党对何应钦、白崇禧的电报做了回答，不同意新四军、八路军撤往黄河以北，同时也做出让步，同意将皖南新四军迁至长江以北。11月14日，军令部按照蒋介石的命令拟定了《剿灭黄河以南匪军作战计划》，令第三战区司令长官顾祝同着手军事解决皖南新四军，内战的威胁已经迫在眉睫。12月9日，蒋介石秘密下达了《解决江南新四军方案》，顾祝同遵照蒋介石的命令对围攻皖南新四军做了布置。由第三十二集团军总司令上官云相担任前线总指挥，调集了7个师1个旅的兵力用来围攻新四军。上官云相率围攻部队进入茂林、泾县、南陵等地设伏。在江北，李品仙部数万人在江北布防阻截，捣毁江北渡口，焚烧渡船，欲与上官云相部夹攻准备渡江北上的新四军。
1941年1月4日，皖南新四军军部、直属机关及其他部队共9000多人冒雨由云岭起程，按照顾祝同指定的路线准备取道茂林等地到达苏南，然后再渡江北上。他们没有料到等待他们的是一个早已布置好的圈套。
1月6日，新四军在茂林、泾县等地遇到国民党军队的拦击。蒋介石在重庆下了讨伐新四军的命令，新四军在国民党军队的优势兵力包围下陷入绝境。新四军血战近9昼夜，终因弹尽粮绝，除1000多人突围外，大部阵亡或被俘。副军长项英、政治部主任袁国平等高级干部遇害，军长叶挺在下山准备与国民党军队谈判时被扣押。这便是震惊中外的皖南事变。
皖南事变后，蒋介石立即宣布新四军为“叛军”，下令撤销新四军的番号，将军长叶挺交军法审判。周恩来闻讯后，立即向国民党及重庆政府提出强烈抗议，他在重庆出版的《新华日报》上痛心地写道：“千古奇冤，江南一叶。同室操戈，相煎何急！”
延安对皖南事变做出了强烈的反应。中共中央革命军事委员会公布了重建新四军军部的命令，任命陈毅为新四军代理军长，刘少奇为政治委员。陈毅等在就职通电中宣布：“誓遵三民主义，服从总理遗嘱，与万恶敌人日本帝国主义及其走狗中国亲日派奋斗到底。”新四军共编成7个师与1个独立旅，总兵力有9万多人。中共中央决定中共参政员不出席参政会会议以示抗议，并向重庆政府提出解决皖南事变的12条善后办法。主要内容是：惩办何应钦、顾祝同、上官云相3祸首；恢复新四军番号及叶挺自由，交还被俘人员，抚恤伤亡官兵；废止一党专政；释放一切爱国的政治犯；平毁西北的封锁线等。蒋介石迫于内外压力，向共产党表示了缓和姿态，他在国民参政会上虽然仍强调“军令”必须统一，但也表示“决不忍再见所谓‘剿共’的军事，更不忍以后再闻有此种‘剿共’之不祥名词留于中国历史之中”。共产党不欲抗日统一战线完全破裂，也逐渐采取了缓和态度，争端暂时平息。但经皖南事变的刺激，此后国共之间只保持了非常低调的关系。