История научной библиотеки началась в 1932 году с открытием первой научной первичной организации Казахстанской базы Академии наук СССР в Алматы.

В 1946 году с созданием Академии наук Казахской ССР библиотека получила статус Центральной научной библиотеки. У истоков определения важности развития и научного уровня библиотеки стоял первый Президент Академии наук Казахской ССР Қаныш Имантайұлы Сәтбаев. С этого периода начались новые и ключевые этапы формирования и развития Центральной научной библиотеки.

С 1 марта 1957 года по распоряжению Президиума Академии наук Казахской ССР Нұрхан Батишевна Ахмедова назначается директором Центральной научной библиотеки АН КазССР.

Н.Б. Ахмедова обеспечила научно обоснованное пополнение фонда отечественной и зарубежной литературой. Постоянно велась работа по подбору, обучению и правильному размещению специалистов для развития отдельных направлений библиотечного дела, а также по пополнению фонда книгами, полученными из фондов библиотек союзных республик. Вопрос формирования фонда контролировал Қаныш Имантайұлы Сәтбаев. Книги, отобранные сотрудниками ЦНБ из резервных фондов крупных библиотек по всему Советскому Союзу, доставлялись в Алматы контейнерами.

За 30 лет руководства Нұрхан Батишевны Центральная научная библиотека занимала лидирующие позиции среди академических библиотек Союза. Самой большой заслугой стало развитие международного книгообмена. В период руководства Н.Б. Ахмедовой библиотека наладила книгообмен с 266 научными учреждениями 46 стран мира, в том числе с крупнейшими библиотеками — Библиотекой Конгресса США, Национальной библиотекой Парижа, Нью-Йоркской публичной библиотекой, Государственной библиотекой Пекина и др. В 1980-е годы книгообмен велся уже с 870 научными учреждениями 61 государства, а фонд зарубежной научной литературы библиотеки стал лучшим среди библиотек Средней Азии.

В библиотеке хранится крупнейший фонд рукописей по истории и культуре казахов — 20 тысяч единиц, а также собрано научные издания более чем на 100 языках.

В фонде библиотеки сохраняются ценные памятники XII–XVIII веков, бесценные рукописи, более 900 тысяч зарубежных научных изданий. Например, в фонде имеются рукописи әл-Фараби, А. Құнанбайұлы, М. Көпейұлы, Ә. Науаи, Ш. Уәлиханов, М. Әуезов, Ә. Диваев, Ә. Марғұлан, письмо Абылай-хана, казахские шежире, «Шежіре казахских ханов» на трёхметровом рулоне тканевой бумаги, рукопись книги «Тәурат» на телячьей коже длиной 26 метров XII века, а также свыше 20 тысяч других ценных рукописей.

Диапазон источников чрезвычайно широк: от подлинных рукописей до современных электронных носителей информации.

Центральная научная библиотека РГП на ПХВ «Ғылым ордасы» Комитета науки МНВО РК — обладатель особо ценных редких книг и рукописей.

В библиотеке имеются следующие серии: «Великие личности», «Биобиблиография ученых Казахстана», «Библиография по афидологии. 1712-2007», «Природа и природные ресурсы Казахстана», «Казахстан и мировое сообщество», «Историческое и культурное наследие Казахстана», «Наука и научные исследования в Казахстане». Кроме того, библиотека участвовала в научных проектах Научного комитета Министерства образования Республики Казахстан и издала следующие публикации: «История Казахстана до революции», тома I-II, «Источники и литература по истории города Алматы», а также, согласно планам библиотеки, были изданы следующие научные публикации: «Содержательный библиографический указатель собрания материалов, хранящихся в рукописном фонде Научной библиотеки», тома 1-7, «Содержательный иллюстрированный библиографический указатель редких книг на иностранных языках, хранящихся в Научной библиотеке», «Каталог книг на персидском языке в редком фонде Научной библиотеки Научного комитета Министерства образования Республики Казахстан «Гылым Ордасы».