范家崗戰鬥之後，新四軍四支隊七團三營從穎家鋪轉移到挂車河隱蔽，準備尋機再次殲敵。這次戰場選擇在范家崗偏南處的棋盤嶺。高敬亭派出了支隊特務營配合七團三營作戰。
四支隊特務營原本就是紅二十八軍的特務營，抗戰下山後，改編為四支隊九團一營，新開嶺事件後，九團對外保留番號，內部撤銷，這個九團一營又恢復為四支隊特務營。營長陳光明，營政委李世炎。
在此之前，特務營在高敬亭的直接指揮下，在舒城和桐城之間出擊敵人。1938年8月25日，特務營襲擊舒城縣大杵街守敵三百餘人，戰鬥極為激烈，當特務營占領敵之第三道陣地後，敵不支潰退。特務營首戰日軍大獲全勝，斃傷日軍五十一名，繳步槍七支、軍毯十條、望遠鏡一架。
為打好棋盤嶺伏擊戰，特務營和七團三營加強了對周邊敵情的偵察。范家崗戰鬥後，敵人增加了戒備，桐城、高河埠駐軍如舊，唯有楊西橋之敵增加到六十餘人，炮增加到兩門；新安渡敵人亦添至百餘人。安桐公路是日軍進攻武漢的重要通道，公路上每日均有幾十輛到上百輛軍車通過。9月2日，曾有百餘輛汽車由安慶駛來，從安桐公路通過。
棋盤嶺（現屬桐城市范家崗鎮），比范家崗偏南一些，位於桐城縣城南十一公里處。范家崗戰鬥之後，敵人注意力是在范家崗兩側地區，他們在范家崗一帶加強了巡邏。特務營和七團三營選擇了敵人照顧不到的地方進行伏擊。
看陣地的有七團政治部主任胡繼亭、副團長顧士多、七團團部機關分總支書記、政治處特派員朱國棟、四支隊特務營營長陳克明、營政委李世炎。
棋盤嶺位於安慶至桐城之間，處於桐城縣城南，安桐公路從嶺上穿過。此地因周邊地形高低起伏，嶺窪如同棋盤而得名。路兩邊的高地高出公路十多米，遠望形成一個天然要隘。安慶至桐城公路從嶺下穿過。日軍第六師團坂井支隊的運輸汽車經常出入安（慶）桐（城）公路一帶，這裡是敵人向中南運送物資的重要通道。棋盤嶺西側，是一片連綿的山丘，緊緊地俯瞰公路。時間已是初秋，野草叢生，小樹茂密，植被隨山巒起伏，是設伏的天然戰場。
胡繼亭發現，在設伏地段，公路西側有七八公里路長的山坡，山坡兩邊有茂密的松樹林和荒草，便於兩個多營的部隊隱蔽。參戰部隊當夜進入這個小山背後，凌晨三時進入伏擊陣地。這個距離能從隱蔽地迅速展開，在日軍還未來得及組織火力反擊之前，以迅雷不及掩耳的速度衝上去和敵人絞在一起。和日本鬼子作戰，可以儘量縮短衝擊距離，一分鐘之內就衝上去。一旦和敵人絞在一起，就抵消了日軍的火力優勢。
棋盤嶺對日作戰，註定要成為四支隊對日作戰經典戰鬥。四支隊的幹部戰士，不僅個人勇敢，不怕死，衝鋒在前，也善於觀察戰場形勢，動腦筋想辦法把仗打好。棋盤嶺戰鬥，其偵察和部署就像是一次周密的軍事演習。
日軍最基本的作戰單位是班，每班十三人，包括班長、四名機槍射手和八名步槍兵。每班有一挺輕機槍，編制四人（指揮官、射手、兩名攜彈藥的副射手），這四人是配備自衛手槍的，在戰鬥中有時也攜帶步槍（機槍射手除外）；其餘八名步槍兵，每人一支單發步槍。特別加強的部隊中，加強班會多配置一個兩人攜帶五十毫米擲彈筒。班以上是小隊。日軍的一個小隊有前述編制的三個班和一個裝備三個擲彈筒的擲彈筒班，共五十四人。小隊以上是中隊。日軍一個標準的一百八十人的步兵中隊包括：一個十九人的中隊部（中隊長，執行官，三個軍士，四個衛生員，軍官的勤務兵，司號員，八個通信員），三個前述五十四人的小隊。可見日軍中隊以下並無什麼重火器。日軍大量裝備五十毫米口徑八九式擲彈筒，一個中隊有九具，具備一定近戰火力優勢。小規模作戰日軍主要靠擲彈筒殺傷我軍的輕重機槍陣地、指揮所和躲在工事後面的人員。日軍連迫擊炮都不要，對擲彈筒十分依賴，如果失去擲彈筒，日軍連怎麼作戰都不知道了。
日軍火力輸出是以機槍、擲彈筒為核心，步槍是為了保護機槍和擲彈筒而存在的。一個小隊是一個典型的火力輸出單元。日軍的三八式步槍，可以穿過兩個人，打死第三人。士兵普遍精通柔道和格鬥，行進中射擊，三百米內槍響人倒。
針對日軍的火力配備和技戰術，特務營和三營抽調四個連、兩個便衣班，統歸胡繼亭指揮。四個連每連配備輕機槍兩挺；便衣班為前衛伏擊部隊，每人攜帶手榴彈三顆，每人配備駁殼槍及馬步槍，由指定的班長指揮，任務是伏擊敵人消滅其有生力量，並毀滅其交通工具——汽車，以造成敵人的恐慌。
聰明的胡繼亭已總結出伏擊汽車的經驗。他從路邊開始部署嚴密而有組織的火網，使機關槍、手榴彈能有組織有秩序地綿延發射。范家崗戰鬥他看到有的戰士不會打汽車，亂開槍亂丟手榴彈，現在要有組織有計劃地打。先用機槍、快槍打汽車頭、打駕駛員，同時要打汽車油箱。
「使用手榴彈，很重要。狗日的日本鬼子有擲彈筒，打得准，炮彈都在我們頭頂上爆炸，沒有死角，對我殺傷力強。其實，擲彈筒就是手榴彈發射器，這麼說咱們也有擲彈筒，胳膊就是我們的投擲器，用臂力投同樣准，我們有的是力氣，五十米遠不在話下，和擲彈筒射程相當。小日本槍法很準，咱們先用手榴彈殺傷他。」
在四支隊的裝備中，重機槍少，輕機槍相對較多，炮幾乎沒有。但是對日小規模作戰中，大家發覺手榴彈是最具威力的火器。手榴彈在短促突擊中殺傷力特別巨大，形成了和日軍擲彈筒對等的火力，彌補了四支隊沒有炮的劣勢。如果把三顆手榴彈，用麻繩或綁腿布捆成一束扔出去，效果更好！
胡繼亭自己照葫蘆畫瓢地學了一句戰場喊話用的日語：「窪里窪里窪，森搔尼塞凱斯路！」還要大家大聲地念。
特務營營政委李世炎說：「在戰場上喊話，沒有什麼難的。當年咱們紅二十八軍化裝作戰，東北話、貴州話、河南話、河北話、山東話，不都是一學就會嗎？」
9月2日下半夜，參戰部隊的戰士們把槍擦得錚亮，從挂車河出發，拂曉前進入棋盤嶺伏擊陣地，揭開了手榴彈蓋，望眼欲穿地瞅著前面的公路。根據偵察，明早這張網不會白撒。
胡繼亭的兵力部署是：對伏擊地域兩端的范家崗和新安渡各派出一個排擔任警戒，各配輕機槍一挺，由兩個營副指揮，兩頭警戒距離十華里。兩個便衣班挨著公路埋伏，與警戒部隊相距約三華里，兩個便衣班間隔兩里路。便衣班後面配備兩個排，兩個排的左右翼各配置一個連，另外兩個排在後面高地占領陣地為預備隊，擔任掩護。可以說，這是為敵人準備了一個立體的、有縱深的、全方位的火力網。瞭望哨由各警戒部隊派出。當時還規定：敵汽車百輛以上不打，百輛以下才打！記號規定：搖動突出樹枝表示幾十輛可以打，敵車百輛以上不搖樹，用徒步報告，令便衣班退回來。
棋盤嶺戰鬥的作戰規模，比范家崗擴大了十倍。
胡繼亭像在范家崗一樣，抽調軍事素質較高的幹部戰士，組成兩個便衣班作為前沿部隊，把好槍、手榴彈和子彈都集中給他們，使之在短時間內發揮出最大的火力效果。事實證明，在不同的地形條件或不同的攻守態勢下，不同的火力構成所體現出的實力是有極大差別的。雖然當時我軍指揮員還不知道特種作戰的概念，紅二十八軍時的手槍團，現在打日本時組織的便衣班，這種作戰已具備了特種部隊特種作戰的特點了。戰爭的理論是相通的。
胡繼亭宣布了進入陣地後的規定：不准抽煙，不准在戰場周圍做飯，不准隨意走動，任何人不准暴露目標，沒有命令不准開火。在我設伏地域，任何友軍、零散人員及農夫、商販，不論男女都暫時集中起來，待戰後放行，嚴防走漏消息。
時值天亮，路上行人漸多。他們大都是當地群眾，有的趕集上店，有的賣柴賣菜。為防走漏風聲，警戒人員便將行人集中，實行封鎖。政工人員則向路過群眾宣傳解釋，並向他們探聽敵情動態。群眾聽說要打日本鬼子，也都樂意聽從指揮，並主動提供敵人的情況與動態。
3日上午九點左右，太陽剛剛升起，棋盤嶺巍然可見。前面小山上的瞭望哨打出樹枝暗號。觀察新安渡方向的偵察員發現敵人由新安渡出動運輸卡車八十餘輛，從安慶方向開了過來，沿安桐公路北上，像賽車似的追趕著，一輛接著一輛，拚命朝前開。多半是空車，僅有軍用品一部分，並運載步兵兩百餘名。整個公路上霎時煙霧騰騰，滾滾的塵土，掀起了一人多高，老遠處都可以看得到。瞭望人員及時舉起樹枝向潛伏部隊發出信號，也就是說可以開戰。
幾分鐘後，敵人前面開來三輛運輸車。第一輛車上有十多個日本兵，第二輛車上有二十多個，第三輛車有五六個，共計四十餘個日本兵，均頭戴鋼盔，荷槍實彈地站在車廂兩邊。他們似乎也有點擔心，加大油門，企圖快速衝出這塊危險之地。
當敵人前面兩輛汽車來到棋盤嶺隘口時，胡繼亭一聲槍響，埋伏的便衣班戰士連續快擲的手榴彈如同一群烏鴉一樣飛過去。霎時，手榴彈在日寇軍車上面爆炸，立即將前面兩輛軍車炸毀，第三輛車接著被集束手榴彈炸翻。日本兵一槍未放當即被炸斃六名。四名敵軍被炸下車受傷被俘獲。戰爭初期，日軍個個是亡命之徒，極少有被俘的，一切都顯得有些瘋狂。紅軍過去瓦解國民黨軍隊的一切有效做法，對日軍一般無大作用。這些俘虜兵在路上又踢又掙扎，橫撕亂咬，拒絕戰士們將他們往擔架上抬，打擔架員，企圖逃脫，被氣憤不過的士兵開槍擊斃。
其他敵人一邊往後面車隊撤退，一邊占領陣地抵抗。
這時，後面敵人的七八十輛軍車全部進入了伏擊圈，相繼停在公路上，有兩公里路長。四支隊特務營和七團三營憋了很久的戰士們把隱蔽物一掀，勇猛地沖向公路上的車隊，機槍、步槍、手榴彈一齊發射，把擁塞在公路上的日軍車隊打得人仰馬翻。巨大的衝殺聲震撼山谷，一排排雪亮的刺刀出現在敵人面前。驕橫的日軍萬萬沒有料到，四支隊竟然敢在白天襲擊日軍的車隊，車上二百多名押車的日本兵，嗷嗷叫著紛紛跳車作戰，和衝上來的七團三營及特務營的戰士進行拼刺，就在跳車的瞬間，被戰士用槍打死、刺刀刺死十幾個。