V tistem času v Mariboru ni bilo javne znanstvene knjižnice, ki je bila za delo društva nujno potrebna. Gradivo je bilo večinoma v Gradcu in na Dunaju. Tajnik društva je bil dr. Franc Kovačič, za prvega knjižničarja in arhivarja pa je bil imenovan Avguštin Stegenšek, decembra je knjižnica dobila prostore v deškem semenišču, današnji stavbi Konservatorija za glasbo in balet. V začetku so gradivo pridobivali s podarjenimi knjigami ali nakupi posameznikov, društvo denarja za knjige ni imelo. Dr. Pavel Turner, takratni predsednik društva, je leta 1904 kupil zbirko izdaj Jugoslovanske akademije in publikacije Štajerskega historičnega društva. Kljub skromnim začetkom pa so prostori kmalu postali pretesni, že leta 1909 se je knjižnica preselila v Narodni dom. Prostore si je delila z muzejem, a je tam ostala le štiri leta.
Začasno so knjige našle svoj novi dom v hiši na Koroški cesti 10, kjer je stanoval Kovačič. Ta začasnost pa je trajala, šele aprila 1920 je mestni občinski sosvet sklenil knjižnici dodeliti prostore v Strossmayerjevi ulici 26. Že mesec dni po selitvi pa je Poverjeništvo za socialno skrbstvo zahtevalo celotno stavbo zase in spet so kratko potegnile knjige. Petega septembra je sledila selitev v učilnico in podstrešno sobo Dekliške meščanske šole v Cankarjevi ulici. Kmalu pa je vodstvo šole zaradi povečanega vpisa zahtevalo, da preselijo knjige na šolsko podstrešje. Seveda je bilo treba pri vsaki selitvi knjig na novo urediti katalog in dr. Franc Kovačič, ki je vse to delo (že večkrat) opravil, je takrat skoraj obupal. V pismu prof. dr. Pavlu Strmšku, takratnemu tajniku društva, je zapisal: "16 let sem si prizadeval, da se ustanovi javna študijska knjižnica, brez katere ni mogoče znanstveno delo. Namesto podpore to šikaniranje in vodenje za nos. Ali tako postopanje odgovarja kulturnim zadačam naše države v Mariboru, prepuščam sodbo zgodovini in si umijem roke." Odbor društva se je nemudoma sestal in sklenil kategorično vztrajati pri prvotnih določilih pogodbe. Vodstvo šole je popustilo in knjižnica je ostala v dodeljenih ji prostorih, Kovačič pa je na prošnjo društva še naprej opravljal delo knjižničarja.
Konec leta 1918 je bil knjižnici z Uredbo o obveznih izvodih priznan značaj javnosti in je bila tako izenačena s tremi uglednimi knjižnicami v Kraljevini SHS: Licejsko knjižnico v Ljubljani, Narodno knjižnico v Beogradu in Vseučiliščno knjižnico v Zagrebu.
