В 1930-е годы процесс формирования системы образования, в том числе, научных и административных учреждений продолжался: институты и управления Наркомпроса сливались, разъединились и снова сливались
В 1939 году библиотека получила статус государственной; годом позднее ей были переданы фонды библиотеки Института школ Наркомпроса, в здании которого на улице Спартаковской, д. 2а библиотека тогда располагалась. В начале войны библиотека была переведена в помещения Политехнического музея, а в 1942 году — в бывшую «Усадьбу Демидовых» (Большой Толмачёвский переулок, д. 3).
Несмотря на трудности обустройства библиотеки на новом месте сотрудники были настроены оптимистично: «Посредине комнаты на втором этаже стояла железная печурка, которая обогревала комнату, но многие из нас сидели ещё в шубах. Помню, как мы подогревали на печурке кусочки черного хлеба и пили чай. Настроение у нас было бодрое. Ежедневно по вечерам был салют. Это говорило о том, что враг бежит и наша Советская земля освобождается от немцев», — вспоминала В. А. Хрусталёва.
В 1944 году библиотека была передана в созданную годом ранее Академию педагогических наук РСФСР; в 1945 году ей присвоено имя К. Д. Ушинского. Директор М. С. Айзенштадт был переведён в Библиотеку-музей Маяковского, а директором ГБНО им. К. Д. Ушинского стал академик АПН РСФСР Е. Н. Медынский.
За 20 лет существования из небольшой справочной библиотеки, занимавшей несколько комнат, библиотека превратилась в отраслевую педагогическую библиотеку с фондом около 500 тыс. экземпляров.
Государственная библиотека по народному образованию — Научная педагогическая библиотека им. К. Д. Ушинского (1946—1987)
С середины 1940-х годов начался быстрый рост фондов библиотеки, а также количества читателей, посещений и книговыдачи. К началу 1960-х годов фонд библиотеки практически удвоился (около 980 тыс. экз.), библиотеку посещали в год более 130 тыс. читателей, которым было выдано без малого 400 тыс. изданий.
Между тем библиотека изначально занимала только первые два этажа здания в Большом Толмачёвском переулке (на третьем этаже располагалось Управление по делам архитектуры), а флигеля использовались как обычные жилые помещения. Постепенно другие организации освободили главное здание, а в 1963 году библиотеке были переданы оба флигеля. К середине 1960-х годов был проведён капитальный ремонт. В результате были открыты 4 читальных зала, зал для выставок литературы и улучшены условия для работы абонемента, отдела книгохранения и других подразделений библиотеки.
В 1960—1970-е годы расширялась сеть филиалов библиотеки, активно развивались международные связи библиотеки. Библиотека постоянно принимала иностранные делегации, а также обслуживала зарубежных читателей, специально приезжавших для работы в библиотеке. Также осуществлялся книгообмен с более чем 150 зарубежными организациями.
В 1978 году в целях оказания помощи педагогическим и школьным библиотекам был организован научно-методический отдел, потребность в котором ощущалась ещё с начала 1960-х годов. Через несколько лет своей деятельности отдел стал выполнять функции всесоюзного методического центра для педагогических и школьных библиотек.
Указом Президиума Верховного Совета СССР от 20 августа 1975 года библиотека была награждена орденом Трудового Красного Знамени (этой награды удостоены, кроме неё, только Государственная библиотека СССР им. В. И. Ленина и Государственная публичная библиотека им. М. Е. Салтыкова-Щедрина). 1970-е годы стали пиком расцвета библиотеки.
В апреле 1979 года прямо на рабочем месте скоропостижно скончался директор библиотеки Н. Н. Серебров, и в 1980-х годах библиотека развивалась под руководством Н. Н. Гудкова, в прошлом главного редактора журнала «Библиотекарь». Под его руководством библиотека переходила на библиотечно-библиографическую классификацию литературы, внедрялась «докомпьютерная оцифровка» — микрофильмирование изданий, научная библиография обогатилась новым направлением — биобиблиографией видных педагогов и деятелей образования.
Новые вызовы (1988—2014)
В 1980-е годы библиотечное дело уже входило в новую эпоху — эпоху новых информационных технологий. Это понимал директор библиотеки Б. Н. Сизов (единственный в её истории директор, избранный коллективом, а не директивно назначенный вышестоящим руководством), который инициировал деятельность по автоматизации библиотеки, в том числе, по созданию электронного каталога. В библиотеке внедрялось программное обеспечение — сначала CDS ISIS, затем «Ирбис»; отдел научной обработки литературы был реорганизован в отделы: аналитико-синтетической обработки и каталогизации.
Одновременно библиотека столкнулась сначала с финансовыми трудностями, а затем и с уходом государства из сферы науки и образования. Оставленная фактически один на один с суровой реальностью 1990-х, а затем и 2000-х годов, библиотека не могла, конечно, продолжать работать так же эффективно, как раньше: сократились объёмы поступлений новой литературы, штат практически не пополнялся молодыми кадрами, процесс автоматизации затянулся на долгие годы, прекратились контакты с зарубежными организациями и др.
Одной из главных особенностей 2000-х годов стало значительное уменьшение количества читателей. И библиотека приступила к оцифровке своих фондов с последующим предоставлением доступа к электронным копиям через интернет. Оцифровка велась ещё с середины 2000-х годов, но полноценную систему для размещения электронных версий изданий — электронную библиотеку — удалось открыть только в 2013 году.
Были созданы и поддерживались другие онлайн-проекты: биобиблиографическая энциклопедия «Образование, наука, культура»; каталог ссылок на педагогические интернет-ресурсы; электронные журналы «Образование: исследовано в мире» и «Проблемы современного образования».
В конце 2000-х годов возродилась научная ретроспективная библиография: заведующей редким фондом Л. Н. Аверьяновой была проделана большая работа по библиографированию азбук и букварей; в научно-аналитическом отделе было расписано около десяти больших дореволюционных и советских журналов, а также составлена библиография учебников математики для начальной школы за 1920-е годы.