До революции в городе Гдове была частная библиотека, принадлежащая гдовскому 2-й гильдии купеческому сыну Ивану Пахомову. Позже она перешла в ведение группы интеллигенции и стала общественной.
В мае 1918 года из дворянских имений – князя Салтыкова (малое Чернево), графа Коновницына (село Кярово) книги были перевезены в город Гдов. Книг было много на русском, немецком, французском языках. Немецкие и французские книги были отправлены в Петроград. Русские же (преимущественно художественная литература), а также книги Гдовской общественной библиотеки и, собранные в других местах, стали первоначальным фондом уездной библиотеки. Она разместилась на третьем этаже народного дома, созданного советской властью в бывшей гостинице Трофимовых на Петроградском проспекте. Это здание существует и сейчас - жилой дом по адресу ул. Карла - Маркса д. 4.
После Великой Отечественной войны пришлось создавать все заново, так как все библиотеки, избы - читальни, клубы Гдовского района были сожжены. Сколько это стоило трудов, знают лишь те ветераны, которые прошли через это. После войны библиотека находилась в здании Пятницкой церкви, причем там их было две: районная и детская, там же размещались книжный магазин, кинотеатр, Дом культуры. Позже под библиотеку нашли жилой дом. Когда его отремонтировали, районная библиотека переехала в новое здание. В 1952 году в Гдове было построено здание детской библиотеки.
Семь лет строили здание (пристройку) районной библиотеки, и, наконец, в 1988 г. фонд читального зала из Дома культуры, отдел комплектования были переведены в новое здание.