Своё начало библиотека берёт с 1903 года, с момента открытия музея. За более чем столетнюю историю параллельно шло становление музея и формирование фонда научной библиотеки. Понимание передовыми, мыслящими людьми необходимость иметь библиотеку по кавказоведению способствовало тому, что комплектование её прошло путь от благотворительных пожертвований до целенаправленного отбора и закупки, а также часть книг были переданы с музея Кавказского Горного общества, что подтверждают штампы в книгах. В настоящее время библиотека хранит более 17 тысяч экземпляров. Это издания разнообразные по тематике, содержанию, текстовому и изобразительному оформлению, объёму, формату и периодичности. Эти книги, изданные в 18, 19, 20 веках, знаменитыми отечественными издателями и издательствами.

Тематический фонд библиотеки представлен следующим образом. Значительную часть его составляет коллекция книг о курортах КМВ, их становлении и развитии, выдающихся врачах, первооткрывателях Кавминвод, организаторах курортного дела: А.Н.Огильви, Ф.П.Гааза, Ф.П.Конради, Ф.А.Баталина, С.А.Смирнова, Е.А.Смирнов-Каменский, А.М.Байкова, А.А.Лозинского, Г.В.Абих, И.С.Савощенко, И.Я.Пантелеева и т.д.

История казачества и Терского казачьего войска широко представлена как в раритетных изданиях 19 – начала 20 в.в., так и в современных исследованиях периода возрождения казачества: «Кубанский сборник» (1891 г.), К.К.Абаза «Казаки. Донцы, Уральцы, Кубанцы, Терцы» (1899 г.), В.А.Потто «Два века Терского казачества» (1912 г.), «Записки Терского Общества Любителей Казачьей Старины» (1914 г.).

Библиотека хранит редкие издания по истории образования на Кавказе и в Пятигорске: издания Кавказского Учебного Округа (55 томов). Основу этой части коллекции составляют книги из Пятигорской мужской гимназии.
Главное место в библиотеке занимает справочная литература: Энциклопедия Брокгауза и Ефрона, Большая Советская энциклопедия, Географическая энциклопедия, репринтное издание Русского Биографического словаря, словари Вл.Даля и С.И.Ожегова.
Редкие и достаточно полно отражающие флору, фауну, климат, полезные ископаемые, издания представляют из себя, как справочную литературу, так и монографическую; А.А.Гроссгейм, Л.Б.Бёме, Н.К.Верещагин, Н.И.Кузнецов и т.д.
Важным источником популяризации курортов КМВ и в целом Кавказа являются путеводители: Г.Москвич «Иллюстрированный Практический Путеводитель по Кавказу» (1900 г.), С.Анисимов «Кавказский край» (1928 г.).

В ряду периодических изданий особое место в научной библиотеке занимают справочные региональные источники. Богатейший материал, освещающий все стороны жизни Кавказа, сосредоточены в Кавказском (1852-1917) и Терском (1891-1915) календарях, в изданиях «Список населенных мест Терской области» (1925 г.), «Сборник материалов для описание местностей и племён Кавказа» (46 томов), С.Броневский «Новейшие географические и исторические известия о Кавказе» (1823 г.).
Библиотека музея хранит немало изданий Русского Бальнеологического общества: «Записки Русского Бальнеологического общества в Пятигорске» (1865-1913), Протокол Заседания Русского Бальнеологического общества в Пятигорске» (1873-1898), «Труды Бальнеологического института на Кавказских Минеральных водах».

Ценность фонда библиотеки представляют именные личные собрания книг (В.Р.Апухтина, В.Ф.Смолина, Д.М.Павлова, Л.Н., Е.Б.Польских) и архивы местных ученых, литераторов, краеведов, большинство из них снабжены дарственными надписями авторов.
Библиотека музея снабжена алфавитным и систематическим каталогом, составляется электронный каталог.