1941年1月6日，新四军军部及所属部队共9000余人，奉命由皖南北移抗日，于安徽泾县茂林地区突遭国民党顽固派8个师共8万余人的围攻堵截，激战八昼夜，终因寡不敌众，弹尽粮绝，最后突围出去2000余人，其余大部牺牲和被俘。这就是震惊中外的皖南事变。
王培臣是突围出来的幸存者之一。作为新四军第2支队作战科长，王培臣对当时之处境，早就有一种难言的预感，常向支队领导建议准备方案。当时第2支队在突围中为中路纵队（军部随中路纵队之后跟进），1月4日冒暴雨于午夜渡过章家渡的舒溪到达茂林东北的风村。6日战斗即打响。王培臣按支队首长的指令，带领一个侦察班分别到新、老3团传达作战命令，协助指挥榧岭、星谭和山口（百户坑口）战斗。8日和9日，第2支队在高潭地区组织防御，掩护军部行动，战斗激烈，部队伤亡较大，与敌打成胶着状态，晚上才得知中共中央决定撤销项英、袁国平、周子昆等人职务，部队由叶挺、饶漱石指挥的决定。
10日至13日，第2支队占领石井坑阵地，抗敌围攻。当时部队英勇顽强，王培臣在新、老3团阵地之间飞奔，同时还担负联系左路第1支队和右路第3支队的任务，协调战斗，收拢被打散的人员继续投入战斗。整个石井坑周围的战斗极为惨烈，据突围出来的王东平、阙中一、王荣光、张日清等人回忆，战斗中看到王培臣1.8米多高的身影带着侦察员，冒着敌人猛烈的炮火，在各团营之间飞跑，传达命令，协助指挥作战，其英勇与威猛，至今难忘。
13日下午4时左右，军部决定突围。第2支队分两路向西北方向突围，预定在铜（陵）、繁（昌）之间渡过长江到达无为县。第2支队突围开始时只余近千人，陆续收拢其他部队后达2000人。部队在首次攻击受挫后，退回狮形山与香炉东之间。再战，王培臣和新3团团长熊梦辉在前头带队，与敌激战，并会合了突围出来的支队副司令员冯达飞等400余人，直奔章家渡。14日晨5时许，天刚破晓，冲到了章家渡对面的舒溪南岸，不知敌人新7师早已布防。于是决定百余人在南岸掩护，由王培臣和新3团团长熊梦辉、参谋长张日清、主任阙中一率百余人先行强渡。冲到舒溪中间沙洲时，遭敌猛射，大批战友倒在水里，王培臣大怒，端着机枪冲在最前面，大喊着激励大伙儿冲锋。
新3团参谋长张日清赶紧拉王培臣卧倒，这时，一颗子弹射来，打断王培臣右手腕（后被评为二等甲级残废），又穿过新3团2营政委黄步忠的头部（当场牺牲），再穿过通讯班长叶石家的左腰部。部队因伤亡过大，退回到南岸，王培臣等300多人被敌重兵三面追击围堵，决定分成几股突围。王培臣与王荣光（解放后任江苏省军区副政委）、阙中一（解放后任东海舰队参谋长）等与敌背水一战，沿途两侧尽见牺牲的烈士和伤员，枪炮震耳，尸横遍野，血流成河，真是惊天地、泣鬼神，天地为悲。
王培臣回忆说，下半夜冲到一处，只见遍地都是新四军，以为大部队宿营，于是倒头便睡。凌晨，唤醒大家起来，才发现全是新四军遇难的无头烈士（被敌人残忍地全部割下头颅）。于是，他们在绝望中奋起，途中，几次遇敌，均利用过去在赣南打游击时跟陈毅学的四川话搭腔，冒充敌人部队番号巧妙通过。一次被敌兵围住，关在一土屋中，晚上王培臣组织所有人员集中向土墙角撒尿，挖洞得以脱险。就这样，历经艰险，终于突出重围，北渡长江到达无为县集结。
皖南事变中突围到无为县的新四军部队，后来与江北游击队、挺进团等部队组成了新四军第7师。皖南事变后，王培臣调到新四军军部工作过一段时间，后谢绝了2师师长罗炳辉邀请他调到该师的要求，再次选择到第7师沿江支队兼沿江军分区担任参谋长。是皖南事变不了的情结和死难烈士的英魂召唤着他，重新回到战斗过的地方，坚持皖中抗日直到最后胜利。
