Hogy mikor létesült városunk első közösségi használatra szánt könyvtára, nehéz volna megmondani, de a gyökerek mindenképpen messzire nyúlnak. A „Székely Támadt” vár helyén működő domonkosredni (vagy ferencrendi) zárda – már csak méreteinél fogva is, mert az 1490-es évek kezdetén Báthori István vajda rövid idő alatt várrá tudta alakítani – tekintélyes építmény volt, mely mindenképpen kellett rendelkezzen kisebb könyvtárral, hiszen a szertartáshoz, a szerzetesek képzéséhez (közös és egyéni olvasás formájában) elengedhetetlenül szükség volt az írott betűkre. Ez hangsúlyozott módon valószínűsíthető a jezsuiták XVI. század végén létrehozott udvarhelyi kolostorára, mely 1593-tól kezdődően egy középfokú tanintézet fenntartását is biztosította. A jelenleg több mint 77.000 kötetet számláló Tudományos Könyvtár az egykori Református Kollégium könyvtárának az utóda, mely az iskola alapításától kezdődően formálódott. Három ősnyomtatvány (incunabulum), több száz, a XVI. század második feléből származó könyv, régi magyar könyv, hungarica, kézirat, több ezer XVIII-XIX. századi kötet, folyóirat, iskolai értesítő adja e gyűjtemény felbecsülhetetlen értékét.

A XIX. század második felében megjelennek a városon a polgári jellegű közkönyvtárak. Ilyen könyvtárral bírt az 1872-ben létrejött Polgári Olvasókör, az 1875-ben alakult Nőegylet, az 1887-től működő Kereskedő Ifjak Olvasó Egylete, az 1880-ban életre hívott Ipari Önképző és Segélyegylet. Egy 1895-ből származó feljegyzés szerint a helyi polgári „Cassino” öt szobás kényelmes helyiséggel, olvasóteremmel, számos újsággal rendelkezett.

Az 1951-ben alakult városi könyvtár e polgári könyvtárak szellemi utódjának tekinthető. Első igazi otthonát 1958-ban nyerte el, a Művelődési Ház emeletén, majd miután ez szűkössé vált, 1988-ban a Kossuth utca 23. szám alatti egykori banképületbe költözött. A tulajdonjogi problémák, a gyarapodó állomány nyomán kialakult zsúfoltság lassan szinte lehetetlenné tette az itteni működést. A megoldás több éves keresése után a városi önkormányzat 1996-ban döntött az egykori „Szabó Károly” vendéglő könyvtárrá való átépítése mellett.

Az építkezés 2000-ben, az átköltözés és berendezkedés 2001 februárjában fejeződött be: 2001 február 19-től a régió legkorszerűbb könyvtára várja olvasóit Székelyudvarhelyen.