1910 жылғы 31 желтоқсанда Верный қалалық думасының шешімімен кітапхана-оқу залының ашылуы кітапхананың негізі қаланған күні болып есептеледі. 1931 жылы Қазақ Автономиялық Кеңестік Социалистік Республикасы (ҚАКСР) Орталық Атқару Комитеті Президиумының 1931 жылғы 12 наурыздағы «ҚАКСР Мемлекеттік көпшілік кітапханасын ашу» туралы Қаулысына сәйкес Кітапхана Қазақ ССР-нің Мемлекеттік көпшілік кітапханасы болып қайта құрылды. 1931 жылғы 5 мамырдан бастап оқырмандарға қызмет көрсете бастады.
1991 жылы кітапханаға Қазақ КСР Министрлер Кабинетінің «Қазақ КСР Ұлттық кітапханасы туралы» 09.12.1991 ж. N775 Қаулысы негізінде «Ұлттық» дәрежесі беріліп, ерекше құнды мәдениет объектісі ретінде мемлекеттік және қоғамдық маңызға ие болды.