В 1654 году втягивается в войну с Речью Посполитой за воссоединение Малороссии, что повлекло за собой серьёзные изменения в военном деле.
Прежде всего, резко упала роль дворянского ополчения. Свою лебединую песнь оно исполнило в битве при Конотопе (1659), показав безудержную храбрость и недисциплинированность. По сути дела, исчезает само понятие «поместное войско»: теперь всех военнослужащих делят на «людей полковой службы» и «людей сотенной службы». Последние включают в себя дворян-ополченцев.
Если в 1651 году из общего числа «служилых людей по отечеству» в 39 408 человек в полках нового строя служило 4,5% из них, то через двадцать лет – 50%, а в сотенной службе – лишь 10.5%. Эти последние принадлежали преимущественно к «московским чинам», имущественно более состоятельным, чем городовое дворянство, и имевшим возможность выполнять требования Разрядного приказа по вооружению и конскому составу. Кроме того, ещё раньше был отменён принцип зачисления «новика» на службу в чине своего отца и тем самым возросла возможность служебного роста за заслуги провинциальных дворян.
Уменьшилась и роль стрельцов. В походах 1654–1680 годов они составляли лишь примерно 10% от численности полевых армий. Часть стрельцов в ходе военных действий перевели на солдатскую службу, зато увеличилось количество московских стрельцов. Похоже, что теперь их стали рассматривать больше как гарнизонные войска и полицейские силы (в какой-то степени аналог нынешней Нацгвардии). Вопреки часто высказываемому мнению Пётр Первый в 1698-1699 годах распустил только московские стрелецкие полки. Провинциальные городовые стрельцы существовали ещё долго.
Основную тяжесть войн вынесли полки нового строя, количество которых резко выросло и вкючило в свой состав в общей сложности не менее 200 тысяч «даточных людей», т.е. фактически рекрутов. Призывы «даточных людей» на войну производились несколько раз. Если раньше в качестве добровольцев и рекрутов были только русские и татары, то теперь среди них были и чуваши, мордва и мари. Таким образом, армия выполняла ещё и роль «плавильного котла» единой российской идентичности.
Значительно лучше, чем в годы Смоленской войны, во второй половине XVII века служили иноземцы. Сказывались более тщательный отбор наёмников и немалое количество обрусевших иноземцев, которых и наёмниками уже считать было нельзя. Частей, состоявших только из наёмников, в отличие от войска Речи Посполитой, в русской армии не было. Роль иноземцев как командного состава резко упала. Они составляли ещё половину полковников, примерно треть от штаб- и обер-офицеров и ещё меньше среди унтер-офицеров.
Изменилась организация формирования и управления воинскими частями. Центральная территория России была поделена на военные округа – «разряды», носившие наименование центра округа, где находился его командующий (Белгородский, Тульский, Севский и т.д.). Сначала их было 10, затем это количество сократили до 8. Два разряда было создано в Сибири.
Командующий округом имел чин «воеводы разряда» и назначался из числа бояр или окольничих. Все ратные люди полковой службы каждого разряда составляли «разрядный» (по другому – «боярский») полк. Каждый разрядный полк состоял из нескольких рейтарских, солдатских, драгунских, стрелецких и других полков. Несколько полков объединялись под командованием одного воеводы в «воеводские» полки. Так создавалась новая иерархическая система формирований: полк – «воеводский» полк – «разрядный» полк (полк – дивизия – корпус или армия, или как в петровские времена: полк – дивизия - генеральство). Эта система соблюдалась не всегда, но в целом соблюдалась. Люди сотенной службы также включались в воеводские и разрядные полки.
В поход 1654 года полевая армия в последний раз выходила по старинке, разделённая на сторожевой, передовой и большой полки и полки правой и левой руки. После упомянутой реформы она состояла из воеводских полков и стала более подвижной, манёвренной и управляемой.
Вот какое впечатление в 1660 году произвела на польского шляхтича Яна Зеленевицкого армия Шереметева: «Войско было отличное и многочисленное. Конница щеголяла множеством чистокровных лошадей и хорошим вооружением. Ратные люди отчётливо выполняли все движения, в точности соблюдая ряды и необходимые размеры шага и поворота.... Со стороны эта стройная масса воинов представляла прекрасное зрелище, то были не новобранцы, а почти ветераны....» (Цит. по: Бабулин И.Б. Состав русской армии в Чудновской компании 1660 года // Рейтар. 2006. № 28).
Любопытно, что малороссийских казаков шляхтич назвал «стадом». Думается, что эта оценка чрезмерно уничижительна. Но фактом остаётся то, что при упорстве в обороне, успешные наступательные действия казаки могли вести только совместно с московскими, или польскими, или татарскими войсками.