История библиотеки начинается с 8 января 1949 года. Первоначально она располагалась в тёмном, неприспособленном полуподвальном помещении Дома культуры имени С. М. Кирова (ныне — Дом национальных культур имени Г. Д. Заволокина) и называлась детской библиотекой № 20.
Через семь лет, в 1956 году, библиотека получила имя Героя Советского Союза Зои Космодемьянской. В этот же год библиотека переехала в более светлое помещение, на первый этаж Дома культуры.
В 2010 году в жизни библиотеки произошло важное событие — она переехала в здание по улице Ельцовской, 7, где находится и поныне. Архитектурный стиль дома, построенного в 1936 году, часто называют «постконструктивизмом». В разные годы здесь располагались домоуправления, инспекция Госстраха Заельцовского района, магазины Горпищеторга и Горпромторга, после 1991 года — различные магазины. В ходе ремонтных работ в здании были обнаружены любопытные детали: в лифте и подвальном помещении сохранились старые рекламные плакаты с изображением товаров, надпись «Товаровед» на одной из дверей и буквы, некогда складывавшиеся в название магазина.
С 2017 года библиотека является структурным подразделением ЦБС Центрального округа.
Библиотека им. Зои Космодемьянской расположена в промышленной зоне Заельцовского района и является одним из немногих учреждений культуры в этой части города. Её главная особенность — живой уголок, где живут черепашки и рыбки. Читатели помогают ухаживать за питомцами, а сами животные стали героями группы библиотеки в VK, помогая продвигать чтение среди детей и подростков.
В 2026 году в библиотеку вернулась книга, пропавшая 70 лет назад: «Историю свечи» Майкла Фарадея 1956 года издания обнаружили в Новосибирской государственной областной научной библиотеке. На книге стояла печать «Детская библиотека № 20» — самое первое название библиотеки. Книга исчезла в начале 1956 года, ещё до того, как библиотеке присвоили имя Зои Космодемьянской, и вернулась спустя семь десятилетий.