Бібліотека заснована в 1907 році. Питання про її відкриття дебютувалося у міській думі протягом 15 років, і лише в 1902 році було розпочато, а в 1907 році закінчено будівництво одноповерхового приміщення.

Жалюгідних асигнувань, які виділяла дума, не вистачало, тому книжковий фонд комплектувався головним чином за рахунок пожертвувань міського населення. Після Великої Жовтневої соціалістичної революції бібліотека перетворилася на справжній вогонь культури. У корені змінився напрям і характер її роботи. У кілька разів збільшилася кількість книг в ній, вона стала доступна для широких кіл трудящих. Ще в довоєнні роки для бібліотеки була побудована триповерхова будівля. Під час тимчасової окупації фашистські загарбники спалили приміщення і пограбували книжковий фонд цього великого освітнього закладу. Загинуло понад 300 тисяч томів книг.

У 1955 році будівля бібліотеки була відбудована та реконструйована, добудовано четвертий поверх. Вона стала набагато краще, ніж до війни.

У бібліотеці створена постійно діюча виставка історії вітчизняної книги. Книжковий фонд бібліотеки безперервно поповнюється і має тепер в наявності сотні тисяч томів книг.