В 1996 году, через несколько месяцев после поражения Собчака на выборах, Путин переехал в Москву, где занимал должности в президентской администрации Бориса Ельцина. Некоторые зарубежные исследователи считают неясными причины успешной карьеры Путина в президентской администрации, однако, как правило, начало московской карьеры Путина связывали с протекцией, оказанной ему Анатолием Чубайсом. С августа 1996 года Путин был заместителем управляющего делами президента РФ Павла Бородина. На этом посту занимался юридическими и внешнеэкономическими делами, в частности, вопросами бывшей собственности Министерства внешнеэкономических связей в зарубежных странах. 25 марта 1997 года Путин стал заместителем руководителя администрации президента и начальником Главного контрольного управления президента. На этом посту он сменил другого представителя "петербургской команды Чубайса", еще одного бывшего заместителя Собчака Алексея Кудрина, назначенного заместителем министра финансов. Новое назначение Путина связывают с рекомендацией, данной ему Кудриным, и справедливость этого суждения подтверждал сам Путин. В числе причин, по которым глава администрации, зять Ельцина Валентин Юмашев одобрил кандидатуру Путина, называют преданность, продемонстрированную последним по отношению к бывшему начальнику – Собчаку, и отсутствие у Путина излишней политизированности.
В июне 1997 года Путин был освобожден от обязанностей председателя наблюдательного совета ЗАО "Газета "Санкт-Петербургские ведомости". 19 сентября 1997 года был включен в состав Межведомственной комиссии СБ РФ по экономической безопасности.
В мае 1998 года в администрации Ельцина прошли крупные кадровые перестановки. 25 мая Путин был назначен заместителем руководителя администрации, ответственным за региональную политику. В отличие от своей предшественницы – старой соратницы Ельцина Виктории Митиной, Путин получил должность первого заместителя главы администрации.
Результатом перестановок называли резкое усиление позиций главы администрации Юмашева. Путин, считавшийся одним из членов "питерской команды" Чубайса (в связи с этим в конце 1997 года ему даже прочили скорый конец карьеры), по мнению наблюдателей, смог значительно увеличить свое влияние в администрации и успешно сработаться с Юмашевым. В некоторых сообщениях прессы утверждалось, что Путин также сохранит за собой руководство Главным контрольным управлением, из чего делался вывод о беспрецедентном расширении его полномочий. Тем не менее, Путин недолго совмещал свои обе должности – 1 июня на посту руководителя ГКУ его сменил генерал-лейтенант госбезопасности Николай Патрушев, также выходец из Санкт-Петербурга. Впоследствии Путин называл работу с вопросами региональной политики наиболее интересной, тогда как во время руководства ГКУ он, по его словам, даже думал об отставке.
Отставку Митиной и назначение на ее место Путина связывали с желанием администрации установить жесткий контроль над региональным руководством (в частности, в свете подготовки к выборам 2000 года) – Митина, по мнению наблюдателей, с этой задачей не справлялась. Ожидалось, что работа Путина, который еще на прежнем посту установил контакты с руководителями регионов и освоил рычаги влияния на них, будет более эффективной. Считалось, что подспорьем в укреплении контроля над регионами для Путина станет подписанный Ельциным 25 мая указ об учреждении региональных коллегий федеральных органов исполнительной власти. Целью нововведения называли обеспечение четкой координации действий федеральных ведомств в регионах и ограничение давления на них со стороны региональной власти.
4 июня, в ходе своей первой пресс-конференции в новой должности, Путин сообщил, что руководство страны будет уделять больше внимания региональной политике, контроль за выполнением президентских поручений, распоряжений и указов на местах усилится, однако не следует ожидать "закручивания гаек". Путин также рассказал о результатах своей деятельности на посту главы ГКУ – выявленных злоупотреблениях (в частности, в виде нецелевого использования бюджетных средств) и возбужденных уголовных делах. Так, Путин указал на нарушения, обнаруженные в финансовой деятельности компании "Росвооружение", и продолжающуюся проверку этой организации. Впоследствии журналисты связывали эту проверку с интригами против руководителя "Росвооружения" Евгения Ананьева, который в конце концов был отправлен в отставку.
15 июля 1998 года Путин сменил Сергея Шахрая на посту главы Комиссии при президенте РФ по подготовке договоров о разграничении предметов ведения и полномочий между федеральными органами государственной власти и органами государственной власти субъектов Российской Федерации.
Наблюдатели отмечают, что во время работы в администрации Путин был "незаметным", закулисным деятелем, и, возможно, именно "старание и скромность" Путина помогли ему завоевать расположение президента и его окружения. Так или иначе, в конце июля 1998 года Путин возглавил Федеральную службу безопасности. С одной стороны, причиной назначения называли лояльность Путина президентскому окружению и тот факт, что его политические пристрастия были известны и не внушали опасений. С другой стороны, наблюдатели отмечали, что, несмотря на свои многочисленные связи в истеблишменте страны (в первую очередь – с Чубайсом), Путин – достаточно независимая и самостоятельная фигура.
27 июля премьер-министр Сергей Кириенко представил нового руководителя аппарату ФСБ, охарактеризовав Путина как человека, имеющего опыт работы в спецслужбах и борьбы с экономической преступностью. Путин в своем выступлении заметил, что возвращается в ФСБ как "в свой родной дом" и настроен на большую конструктивную работу. Тем не менее, в книге "От первого лица" он вспоминал, что воспринял новое назначение без энтузиазма.
По мнению многих журналистов, назначение Путина было вызвано желанием Ельцина в большей степени опираться на поддержку спецслужб и обещало начало "повсеместного и неприкрытого политического сыска". Официально перед Путиным была поставлена задача усиления борьбы с экономическими преступлениями, но истинной его целью называли обеспечение переизбрания Ельцина на третий срок или, в случае неучастия президента в выборах, благополучную передачу власти его преемнику. Здесь ключевую роль мог сыграть опыт Путина во внутриполитических и экономических вопросах, на который указал в своем выступлении Кириенко.
Путину предстояло реформировать ФСБ, значительно сократив ее центральный аппарат (с 6 до 4 тысяч человек). Сотрудники центрального аппарата ждали грядущих кадровых перемен с обеспокоенностью. Некоторые, не дожидаясь массовых увольнений, сами уходили в отставку. Многие были уверены, что на ключевые места будут назначены выходцы из Санкт-Петербурга. Действительно, должности в коллегии ФСБ получили генералы Виктор Черкесов, Сергей Иванов, Александр Григорьев, бывшие сослуживцы Путина по Ленинграду, а в октябре 1998 года заместителем Путина стал Николай Патрушев.
Вскоре после назначения Путин дал интервью газете "Коммерсант". Он утверждал, что существенных изменений численности ФСБ не будет. В качестве приоритетного направления работы назвал экономическую безопасность, отметив также значение противостояния иностранным разведкам, развития компьютерных разработок и совершенствования антитеррористических спецподразделений. Путин также не одобрил идею министра внутренних дел Сергея Степашина о необходимости слияния МВД и ФСБ. В интервью Путина было упомянуто дело находящегося "в изгнании" во Франции Анатолия Собчака. По мнению директора ФСБ, на тот момент ничто не мешало возвращению Собчака в Россию. Журналисты отмечали, что находившийся под следствием Собчак был единственным, кто публично одобрил назначение Путина главой ФСБ. Вероятно, Собчак и его супруга Людмила Нарусова рассчитывали, что Путин поможет привести дело к благополучному для бывшего мэра исходу. Собчак утверждал, что возбужденное против него дело – возможная провокация против его "ученика". Нарусова же заявила, что участники следственной группы Генпрокуратуры, занимающейся делом ее мужа, связаны с преступным миром и данные об этом ей якобы предоставил сам Путин. Однако Путин сообщил, что никакими подобными сведениями его служба не располагает. Ходили слухи, что отлет Собчака во Францию был организован Путиным, но сам он это отрицал. По мнению журналистов, связи с Собчаком были серьезной угрозой для репутации Путина, и ему приходилось "отбиваться" от неприятных вопросов, связанных с бывшим мэром. В начале 2000 года, незадолго до смерти Собчака, Путин в интервью сообщил, что преследование Собчака было инициировано Александром Коржаковым и Олегом Сосковцом и что против бывшего мэра "играли очень грязно".
В сентябре 1998 года Путин участвовал в заседании совета руководителей органов безопасности и спецслужб стран СНГ в Киргизии. Встреча была посвящена вопросам противостояния терроризму и религиозному экстремизму.
Одним из направлений работы Путина стало противодействие сложившейся тенденции, в рамках которой мэр Москвы Юрий Лужков и губернатор Санкт-Петербурга Яковлев оказывали все большее влияние на региональных руководителей ФСБ.
В ноябре 1998 года, выступая в Государственной Думе, Путин сообщил о фактах коррупции в различных органах власти и принятых по этим фактам мерах: возбуждении дел против сотрудников Госкомстата, Государственной инвестиционной корпорации, Московского инвестиционного банка и других структур. Директор ФСБ заявил: "Мы сделаем все для того, чтобы вернуть в лоно государства те ресурсы, те объекты собственности государственной, которые государству должны принадлежать".
На посту директора ФСБ Путин занимался рядом громких дел. В сфере его деятельности оказался скандал вокруг антисемитских высказываний депутата Госдумы Альберта Макашова. В ноябре 1998 года Путин просил Генпрокуратуру лишить Макашова депутатской неприкосновенности. Путин утверждал, что необходимо не просто привлечь к ответственности Макашова, но и законодательно установить механизм пресечения деятельности экстремистских политических организаций. В декабре 1998 года Путин вошел в состав попечительского совета Международного фонда защиты от дискриминации. Директор ФСБ лично принимал участие в расследовании крупного коррупционного скандала в Свердловской области, разгоревшегося в начале 1999 года вокруг связей между ГУВД Екатеринбурга и организованными преступными группировками. Участвовал в расследовании террористического акта во Владикавказе 19 марта 1999 года. Уделял повышенное внимание ходу дел об убийствах в Санкт-Петербурге Михаила Маневича и Галины Старовойтовой.
В ноябре 1998 года большой резонанс получил скандал, связанный с именем Бориса Березовского. Группа офицеров ФСБ выступила по телевидению и заявила, что руководство службы якобы подстрекало их к убийству исполнительного секретаря СНГ Березовского. 13 ноября в газете "Коммерсант" было опубликовано открытое письмо Березовского, в котором он сообщил о существовании внутри спецслужбы "некоего заговора партноменклатуры, покрывающей преступников", о начале гонений на "людей, не согласных идти в стойло". Хотя эпизод с подстрекательством относился ко времени руководства предшественника Путина, Ковалева, новый директор ФСБ отреагировал на заявление Березовского крайне жестко. Он заявил, что его служба не участвует ни в каких политических играх и, напротив, защищает в рамках закона конституционный строй и безопасность личности, общества и государства. Путин осудил вмешательство любых политических сил в работу ФСБ, которая, по его словам, должна направляться только президентом. Любые попытки подобного вмешательства директор ФСБ расценил как дестабилизирующие обстановку в стране.
Скандал поставил под угрозу репутацию Путина и его ведомства. Свою обеспокоенность сложившейся ситуацией на встрече с Путиным высказал президент. Путин после этого заявил: "В случае подтверждения сведений о преступной деятельности наших сотрудников, независимо от званий и должностей, мы безжалостно избавляемся от них и передаем материалы в прокуратуру".
Скандал вокруг заявления офицеров ФСБ журналисты связывали с подковерными процессами борьбы за власть. Резкое выступление Путина против Березовского объясняли скрытой кампанией по "выдавливанию" исполнительного секретаря СНГ из политики и бизнеса. Березовский со своей стороны, по мнению журналистов, также вел войну за власть, первой жертвой которой должен был стать Путин, а конечной целью – премьер-министр Евгений Примаков.
Таким образом, причиной карьерного роста Путина вновь стали его "чекистская" осторожность и преданность Ельцину. Существовало мнение, что назначением Путина Ельцин пытался уравновесить выдвижение на пост главы администрации Александра Волошина, которого считали человеком Березовского. Многие наблюдатели сходились в том, что с новым назначением Путин ощутимо расширил свое влияние, получив дополнительные рычаги контроля над силовыми ведомствами, и это позволило журналистам говорить о значительном повышении его статуса как самостоятельного политика.
Противостояние Кремля с премьером, коммунистами в парламенте и генеральным прокурором Юрием Скуратовым и, в добавление к этому, ситуация в Чечне, кризис на Балканах и борьба с политическим экстремизмом – вот чем должен был заняться Путин и в чем не достиг успеха его предшественник Бордюжа. Коммунисты в Думе пытались повернуть против Ельцина волну антиамериканских настроений из-за югославского кризиса и вынашивали планы импичмента президента. Позиции коммунистов были усилены тем, что в правительстве Примакова левые получили значительное представительство на ключевых постах. Два преданных Ельцину "силовика" - Путин и Степашин – должны были стать опорой Кремля в противостоянии с Думой и Примаковым.
Во время пребывания Путина на посту секретаря Совета безопасности на заседаниях под его руководством обсуждался ряд тем. Во-первых, ситуация в Северокавказском регионе, в частности в Чечне; в мае 1999 года, уже после утверждения Степашина на посту премьер-министра, Путин стал инициатором президентского указа, который увеличил роль подразделений ФСБ на Северном Кавказе. Во-вторых, рассматривались перспективы российско-белорусского сотрудничества в области безопасности. В-третьих, речь шла о развитии ракетно-ядерного потенциала России перед лицом установившейся в мире гегемонии США, которая была продемонстрирована в ходе югославского кризиса.
Именно ситуация на Балканах стала темой заседания Совбеза в день отставки премьера Примакова 12 мая. Комментарий Путина был достаточно резким: "Россия не удовлетворится ролью технического курьера в югославском кризисе, который будет лишь перевозить предложения из одной страны в другую… Происходит односторонняя попытка слома того миропорядка, который был создан после Второй мировой войны под эгидой ООН. Мы должны отреагировать на этот вызов и в концепции национальной безопасности". Ситуацию на Балканах и вопросы российско-американских отношений в области безопасности Путин неоднократно обсуждал по телефону "горячей линии" с помощником президента США по национальной безопасности Сэмюэлем Бергером. После одного из заседаний Совбеза в июне Путин заявил, что в том, что балканский кризис вступает в фазу политического урегулирования, - неоценимая заслуга России. Путин также занимался вопросами российского участия в миротворческой деятельности в Косово.
В июне 1999 года ходили слухи о том, что Путин сменит Волошина на посту главы президентской администрации. В начале августа пресса писала о двух возможных сценариях: предполагалось, что Ельцин отправит в отставку либо Волошина, либо Степашина, и Путин рассматривался как возможная замена в обоих случаях.