A könyvtár, melyet a városi tanács 1880. július 10-ei ülésén alapított, 1907. május 12-én nyílt meg. A helyismereti anyag gyűjtését Székely János, a könyvtár első kezelője kezdte el pusztán városszeretetből. A helyi szerzők műveit, az itt kiadott és a városra vonatkozó dokumentumok, könyvek gyűjtését Bodrogi János folytatta. Működésüknek köszönhetően 1945-ig közel ezerötszáz kötetnyi könyv és körülbelül háromszáz kötetegységnyi folyóirat maradt ránk.
1952-1973 között intézményünk megyei könyvtárként működött. 1975-ben Kőszegfalvi Ferenc ebből a megyei gyűjteményből városi gyűjteményt alakított ki, mely közel két és fél ezer kötet volt.
Jelenlegi állományunk (2021) 7786 db kötet könyv. Folyóiratgyűjteményünkben 1869-től, a „Vásárhelyi Közlöny” megindulásától a mai újságig bezáróan összesen 802 db kötési egység napi- és hetilap van.
Rendelkezünk még 2291 db könyvtári rendezvényekről készült fényképpel, 1061 db mérleggyári kiállítás- és termékfotóval és 551 db hódmezővásárhelyi képeslappal. 4347 db meghívóval, plakáttal, szórólappal, 262 db gyászjelentéssel, 200 db digitális hangfelvétellel, mely könyvtári könyvbemutatókon és író-olvasó találkozókon készült az 1970-es és az 1980-as éveben.
Az irodalom, tudomány, művészet, gazdaság régi és mai ismert, jelentős alkotó személyei közül nemcsak a helyi születésűek számítanak vásárhelyinek, hanem azok is, akiket működésük bizonyos szakasza, életük valamely jelentős eseménye, időszaka kapcsol a városhoz. (pl.: József Attila, Kohán György, Németh László.) Közülük is kitüntetett figyelmet fordítunk névadónkra, Németh Lászlóra.
Kincseink közé tartozik például a helyi nemzetőrség 1918-as parancskönyve. József Attila Medvetánc című kötetének első kiadású dedikált példánya. Több kötetben szerepel Tornyai János, Kohán György vagy Németh László kézírása, Török Károly és Péczely Attila népzenei gyűjtései, az 1870-es Garzó Imre által szerkesztett Hód-Mező-Vásárhelyi Szemle, az egyetlen számot ért Hódtava, az Ady által ismert és elismert, műveit közlő az A Jövendő, a Magyar Köztársaság.