Главная физическая обсерватория была учреждена 1 апреля 1849 года, намного раньше, чем подобные учреждения в Западной Европе. На «Положении об обсерватории», подготовленном ее будущим директором академиком А.Я. Купфером, император Николай I собственноручно написал «Быть сему». В разделе «Ученые принадлежности» этого положения кроме собрания инструментов и архива была указана и «Библиотека», содержащая все сочинения, относящиеся к физике в обширнейшем значении этого слова и наиболее замечательные журналы, содержащие статьи по части физики.

Основу библиотеки составили, переданные в обсерваторию, книги магнитной обсерватори Горного института. Библиотека Горного института была к тому времени крупнейшей среди библиотек институтов Санкт-Петербурга и России и вела свое начало от библиотеки Горного училища, основанного в 1773 году. Здесь были собраны книги XVII – XVIII в.в. А.Я. Купфер в период создания обсерватории предусмотрел для библиотеки источники комплектования. Он обратился с письмом к учреждениям и ученым Европы, в котором излагалась просьба о высылке литературы в порядке книгообмена. Ему ответили согласием многие академии и ученые. Таким образом, книгообмен стал в первые годы главным источником комлектования.

Обсерватория, в свою очередь, рассылала «Ежегодники ГФО ( Annuaire )», своды магнитных и метеорологических наблюдений, а впоследствии и другие издания. Еще до открытия обсерватории в организационный период Купфер заложил основы для деятельности библиотеки. Он также предусмотрел не только базу для основания, состав библиотеки, источники комплектования, но и составление каталогов. Во-первых, «хронологического», в котором заглавия сочинений вписываются по порядку их поступления. Во-вторых - по именам ученых, в котором они распределяются по содержанию. В наше время это – систематический каталог. Также было определено размещение и хранение наблюдений, поступающих из обсерваторий, подчиненных ГФО. Архив этих наблюдений длительное время находился в фонде библиотеки.

В юбилейном сборнике, посвященном 50-летию обсерватории, М.А. Рыкачев отмечает, что Купфер проявил большую заботу о создании «полной библиотеки по специальности. Со временем специализация ее усиливается, но она остается геофизической».

В период Купфера штат обсерватории вместе с директором состоял из 7 человек. Штатного сотрудника библиотека не имела. Его обязанности по поручению директора выполнял один из сотрудников обсерватории. Через 20 лет основания фонд библиотеки вместе с архивами наблюдений составлял 6812 томов. В эти годы в одном из отчетов сообщалось «…отпуск книг на время, состоящим при обсерватории и постоянным лицам» составлял 112 томов. Такова была книговыдача.

Директора обсерватории и ученые секретари всегда уделяли большое внимание библиотеке. Академики А.Я. Купфер, К.С. Веселовский , Г.И. Вильд , М.А. Рыкачев, А.Н. Крылов , профессор А.А. Фридман принимали участие в комплектовании библиотеки. Часть книг из своего собрания они передали в фонд библиотеки. Будучи в заграничных поездках они привозили оттуда иностранные издания по тематике обсерватории. Г.И. Вильд часть своей богатой библиотеки привез с собой из Швейцарии. В отчете за 1869 год он сообщает: «481 книга поступила в библиотеку обсерватории по особому списку из моей частной библиотеки». Вильд пргласил на временно введенную должность наблюдателя сотрудника для составления систематического и алфавитного каталогов. И наконец, в 1871 году каталог был закончен.

В фондах библиотеки есть книги из собраний А.Я. Купфера, академика К.С. Веселовского, бывшего министра просвещения А.В. Головина, профессора А.А. Фридмана. Библиотека Фридмана , поступившая в обсерваторию после его смерти в 1925 году, выделена в отдельный фонд и на нее составлен подробный каталог.

В январе 1891 года была введена штатная должность библиотекаря и архивариуса. На эту должность был назначен кандидат математики С.В. Глосек. К этому времени фонд библиотеки составлял 25607 экземпляров. Ежегодные поступления достигли 1028 экземпляров, из них 936 экземпляров было получено в обмен и лишь 92 куплено. Казна выделяла для библиотеки денег очень мало, а фонд ее тем не менее рос. В 1899 г . фонд библиотеки достиг почти 34 тысяч экземпляров. К 100-летию обсерватории в 1949 году этот фонд превысил 100 тысяч экземпляров. Много сделали для расширения и улучшения фонда библиотеки штатные и нештатные работники библиотеки в XIX веке: Е.А. Гейнц, И.Л. Гарнак, Э.Ю. Берг, В.И. Фридрихс.

Библиотека представляет богатейшее собрание изданий по геофизике на 40 языках мира: сюда входят книги по земному магнетизму, метеорологии, математике, физике, астрономии, а также гидрографии, химии, естествознанию, статистике и технике. В 1931 –1932 гг. заведующей библиотекой А.И. Хоментовской был опубликован «Сборник библиографии литературы, полученной библиотекой обсерватории». А.И. Хоментовская была членом Ученого совета и консультантом по иностранной литературе. В библиотеке в 20-х – 30-х годах работала очень авторитетная Библиотечная комиссия, созданная приказом директора обсерватории, в которую входили известные ученые. Обсерватория имела свое издательство, созданное в 1923 году. Там издавались работы ученых обсерватории и ряда родственных учреждений. Это облегчало комплектование фонда. Деятельность его прекратилась после создания в 1934 году Гидрометеорологического издательства.

До сих пор сохраняется принцип, заложенный еще А.Я. Купфером – широкое комплектование. Многое было сделано для библиотеки ее заведующими Т.Н.Кледо (3 года), Е.Л. Андронниковой (32 года), сотрудниками Т.Ю. Вороновой, Э.Д. Слободской, Е.К. Шитиковой. В 1979 году заведующим библиотекой стал А.С. Ковровченко, а с 1994 года – Г.А. Циммер. В настоящее время в библиотеке работают Е.И. Кропп, И.С. Жуковская.

Фонд библиотеки ГГО насчитывает свыше 400 тысяч экземпляров. В библиотеке содержится т.н. бронированный фонд изданий ГГО, который не выдается читателям. Имеются собрания книг с автографами ученых. В фонде хранятся тома кандидатских и докторских диссертаций, защищавшихся в обсерватории. Силами сотрудников библиотеки составлено 6 томов «Библиографического указателя работ Главной геофизической обсерватории 1918 - 1988 гг.» . Последний том указателя был издан в 1995 году.

Замечательный фонд библиотеки ГГО известен во многих странах мира. Высокую оценку ему всегда давали ученые обсерватории и родственных учреждений. Академик А.Н. Крылов, руководивший обсерваторией в 1915 – 1916 гг., назвал библиотеку богатой и прекрасно подобранной. Академик Д.В. Наливкин , пользовавшийся фондом библиотеки при написании известной книги «Ураганы, бури, смерчи», в своем предисловии отмечал, что «в библиотеке ГГО в настоящее время содержится наиболее полный подбор старых и новых книг по метеорологии». Вместе со всей обсерваторией библиотека за 150 лет прошла долгий, трудный и славный путь. Библиотека сохранилась в годы войны, и продолжает приносить пользу российской науке.