1934年12月31日夜里，中央政治局在貴州省甕安縣猴場鎮(zhèn)召開會議，決定部署紅軍搶渡烏江、攻占遵義。突破烏江天險后，為迅速攻占遵義城，中革軍委總參謀長劉伯承親率紅一軍團(tuán)第2師第6團(tuán)向遵義兼程疾進(jìn)。

紅六團(tuán)是中央紅軍的一個主力團(tuán)，團(tuán)長朱水秋、政治委員王集成接到任務(wù)之后，立即率全團(tuán)向遵義前進(jìn)。

1月6日下午，紅軍襲占距遵義15公里之外的國民黨軍的一個外圍據(jù)點，全殲守敵1個營。在對俘虜進(jìn)行審訊過后，紅六團(tuán)摸清了遵義守敵及城防工事情況。經(jīng)過研究，朱水秋、王集成決定讓部隊化裝成國民黨黔軍的潰軍，智取遵義城。劉伯承采納了這一建議。 

1月6日晚，紅六團(tuán)第1營營長曾保堂等人化裝成黔軍，讓幾十個經(jīng)過教育的俘虜在前面帶路。部隊到達(dá)遵義城下后，向城樓上的國民黨守軍喊話。國民黨守軍以為這是“自己人”，便打開了城門。紅軍戰(zhàn)士們蜂擁而入，從兩側(cè)攻上城樓，迫敵投降。之后，二十多個司號員一齊吹響沖鋒號，紅軍大部隊乘機(jī)迅速突進(jìn)城區(qū)。國民黨守軍亂作一團(tuán)，棄城而逃。

1月7日凌晨，紅軍毫不費(fèi)力地占領(lǐng)了遵義城。1月9日，中央紅軍舉行了隆重的入城儀式。毛澤東、張聞天、周恩來、朱德等中央領(lǐng)導(dǎo)走在紅軍大部隊的前面，在南門關(guān)橋頭下了馬，親切地和歡迎群眾的代表一一握手。

隨后，中央紅軍按照中革軍委命令，以紅一軍團(tuán)第二師推進(jìn)到婁山關(guān)、桐梓地區(qū)，紅一師集結(jié)在遵義東北之新街，紅十五師在老蒲場；紅三軍團(tuán)在遵義城以南的刀靶水、尚稽場、懶板凳，扼守烏江北岸；紅九軍團(tuán)在遵義東北的湄潭；紅五軍團(tuán)在遵義東南的球場；干部團(tuán)駐在遵義城擔(dān)任警衛(wèi)工作。

遵義是中央紅軍長征以來占領(lǐng)的第一個大城市。經(jīng)過幾天的征戰(zhàn)，中央紅軍控制了以遵義為中心的黔北的廣大地區(qū)，為遵義會議的召開創(chuàng)造了有利的條件。