Глава военного ведомства исходил из принципа содержания в мирное время мобильной и компактной армии, способной в условиях войны быстро развернуться во всю мощь. Милютин не только добился сокращения срока службы солдат, улучшения условий их жизни, отмены "смертобойных шпицрутенов", улучшения боевой подготовки. Он заменил рекрутские наборы всесословной воинской повинностью. Устав о воинской повинности, законодательно подытоживая затянувшуюся на десятилетие военную реформу, был важным и более чем своевременным шагом на пути модернизации русской армии. По этому закону, воинскую повинность должно было отбывать все мужское население, достигшее 21 года. Без различия сословий. Поступление на службу определялось жребием - "вытянувшие номер" шли на военную службу. Остальные зачислялись в ополчение. Срок службы определялся в 15 лет. Из них - 6 лет действительной службы, 9 - в запасе. Полностью были освобождены от службы духовенство, врачи и преподаватели. Отсрочка давалась для завершения образования и по имущественному положению. Предусматривались льготы и по семейному положению, например, для единственного сына. Правда, новобранцев для прохождения службы предпочитали отправлять в отдаленные от их родных мест края Империи. Причем объяснялось это некими туманными соображениями "безопасности" и "внутреннего спокойствия". Милютину подобная практика претила и с нравственной, и с деловой точек зрения. В своих воспоминаниях он писал: "Каждому солдату понятна необходимость обороны государства в пору войны, чтобы отстоять целость и неприкосновенность родины от посягательств врагов, поэтому ему понятно будет тогда отправление хотя бы и на самую далекую окраину, чтобы дать отпор врагам. Но когда его среди глубокого мира отрывают от места родины и забрасывают на край света для мирной службы в таких же войсках, какие расположены на месте его родины, он не может смотреть на это иначе, как на акт недоверия к нему или как на тяжелую государственную повинность".
Милютин радикально реорганизовал военное министерство, сократил его аппарат почти на тысячу человек и даже добился сокращения канцелярской переписки на 45%! Достижение в российской бюрократической практике беспрецедентное. При Милютине были созданы военные округа и реорганизована система управления войсками в военное время. Войска перевооружили нарезным стрелковым оружием. Были разработаны и введены новые воинские уставы. Были учреждены юнкерские школы, а кадетские корпуса заменены военными гимназиями. По мнению Милютина, воспитание, основанное на строжайшей дисциплине, дает плоды лишь в зрелом возрасте, а обучение детей, независимо от их призвания, военной службе "скверно отражается на качестве офицеров, сплошь и рядом не имеющих склонности к военному поприщу".
Проверка Плевной
В 1876 г., в самый разгар "военной перестройки", Милютин жаловался в своем дневнике на то, что ему "случается получать безымянные письма, наполненные самыми грубыми, площадными ругательствами, будто бы за расстройство армии, и все это после 16-летних тяжелых забот об устройстве и усилении наших военных сил". А меж тем, с уверенностью знатока своего дела, подчеркивал он, "никогда еще, положительно никогда Россия не имела в готовности такой силы, как теперь; никогда и не могло быть прежде такого подготовления к быстрой мобилизации. Досадно, что на все превратные толки, злые клеветы и ругательства приходится отвечать молчанием. Не публиковать же нашего плана мобилизации, цифры наших сил, наших запасов".
Надвигавшая русско-турецкая война 1877-1878 гг. обещала стать серьезной проверкой милютинских начинаний. "Шахматные партии" с чиновными консерваторами отошли на второй план. Реалистично оценивая внутреннюю и международную обстановку, Милютин не мог не заметить двух главных опасностей: слабой дипломатической подготовки и отсутствия способностей у "тех лиц, в руках которых будет само ведение военных действий". Трудности и потери начального этапа войны полностью подтвердили опасения военного министра. Однако правительственные сферы, ориентировавшиеся на скорую и легкую победу, не скрывали своего раздражения и недовольства военным министром. Бесполезно было доказывать, что война началась посреди реформы, в самый разгар ее осуществления; что по новому закону было проведено к тому времени всего лишь два призыва новобранцев, а потому запас армии был малочислен; что главнокомандующий на балканском театре военных действий Великий князь Николай Николаевич если чем и отличался, то лишь своей самоуверенностью; что консервативное большинство генералов и старших офицеров слепо верило в патриархальную героику сомкнутых линейных рядов; что, наконец, как и предсказывал Милютин, Россия вступила в эту войну без союзников.
В конечном счете, лишь героизм солдат, способности талантливых военачальников М.И. Драгомирова, И.П. Гурко, Н.Г. Столетова, М.Д. Скобелева и первые результаты военной реформы помогли переломить ситуацию в пользу России. В январе 1878 г. русская армия уже двигалась к Константинополю, и Турция была вынуждена подписать перемирие на предложенных Россией условиях.
Русско-турецкая война 1877-1878 гг. подтвердила своевременность и целесообразность милютинских реформ. Вместе с царем он в течение 7 месяцев находился на русско-турецком фронте и с удовлетворением отмечал перемены в армии. "Вот он, новый солдат, - говорил он, - старый без офицеров умирал бы, а эти сами знают, куда им броситься. У этих почин. Ведь это - душа нашего нового солдата, солдата Александра II".
Отшельник из Симеиза
Убийство революционерами Александра II и вступление на престол Александра III повлекли за собой свертывание военных и других реформ. В мае 1881 г. Дмитрий Алексеевич вынужден был выйти в отставку и уехать в Симеиз, в свое крымское имение.
Жизнь свою Милютин завершил в уединенных размышлениях, оставив большую часть своего четырехмиллионного состояния на пользу армии, которой служил, богатую библиотеку - военной академии, имение в Крыму - Красному Кресту. Его дневник, переписка с друзьями, воспоминания современников говорят нам о том, что приобщение к власти было для него тяжким бременем, нести которое он был готов с единственной целью: использовать исторический шанс, предоставленный историей России, для прорыва в иное политическое измерение. И в этом смысле 20 лет его министерства не прошли даром. Требовавшийся для подобной работы в условиях самодержавия двойной запас человеческой прочности и выдержки, профессиональной компетентности и политического здравомыслия, готовности к компромиссу и стойкости либеральных убеждений выковал из Милютина настоящего подвижника своего дела. Свободный от "служивой психологии", каковой были равно больны и поборники самодержавного статус-кво, и адепты идеи "всеобщего разрушения", он спокойно и без риторики отдавал себя служению Отечеству. А потому в один из трудных моментов своей жизни мог с уверенностью сказать: "На всем своем долгом пути служебном никогда я не гонялся за наградами, никогда не придавал им значения. Предпочитаю быть кредитором, чем должником".
В 1898 г. о заслугах Милютина вспомнил Николай II, и в дни торжеств по случаю открытия памятника Александру II в Москве произвел его в генерал-фельдмаршалы.
Генерал В.Д. Кренке, подчас резко критиковавший некоторые милютинские начинания в русской армии, сказал как-то о военном министре: "Дай Бог, чтобы в России было поболее Милютиных.... Артиллерийской, Инженерной и Медико-хирургической академий, различных обществ.