A városi közkönyvtár 1907. május 12-én fogadta első olvasóit. A 3441 kötetes állomány nem a legmegfelelőbb helyen, a városházán lévő főispáni lakásban lett elhelyezve, mely a piactér (Kossuth tér) és az új utca (ma Tóth Sándor) sarkán volt. Az olvasók díjtalanul használhatták az olvasóteremben és elismervény ellenében kölcsönözhetnek belőle vasárnap délutánonként 2-től 5-ig. A gyűjtemény növekvő anyagát egyre nehezebben tudták elhelyezni a városházán lévő főispáni lakosztály hátsó szobáinak szekrényeiben. A város 1913-ban vette meg dr. Imre József házát (jelenleg a Tornyai János Múzeum), ami lakóház lévén, éppoly kevéssé volt alkalmas könyvtár befogadására. 1919. április végén költöztették ide a könyveket, amikor a román megszállók lefoglalták a főispáni lakosztályt. 1939-ben a város a könyvtárat a zsidó hitközségtől 1930-ban vásárolt Kálvin tér 2. számú ház emeleti részébe vitte át, ahol 1951-ig működött.
1944-ben kb. 20 ezres gyűjtemény szerzeményezése tervszerűtlen, az állomány jelentős részben adományokból gyarapodott. Cédula-katalógus nem volt, a kölcsönzési idő soha nem haladta meg a heti 11 órát, az olvasók száma csak 1942-ben érte el az ezret.
1951 nyarán, a Kálvin tér 2. szám alól a Sztálin (Andrássy) utca 30. szám alatti kétlakásos földszintes házba költöztették, ahol egy tágasabb és három kisebb szobában helyezték el az állományt, de ennek csak a fele kerülhetett polcokra két szobában, a többit a ház mosókonyhájában és padlásán voltak kénytelenek összezsúfoltan tárolni. 1952. december 21-én az egyszemélyes, Bodrogi János által vezetett városi közkönyvtár megyei könyvtár lett.
1954 végén egy, az eddiginél nagyobb, ugyancsak államosított családi házat utaltak ki nekik a Sztálin (Andrássy) utca 44. számot, ahol a mai jogutód Németh László Könyvtár is működik, a jókora nagygazdaház utcai frontját, a pince és a padlás kivételével, 12 kisebb-nagyobb helyiséget 1955. január elején foglalta el az intézmény. 1955 novemberében, a Kálvin tér 1. sz. alatt megindították a helyileg is különvált gyermek- és ifjúsági szolgálatot.
Az állomány 1953-as kb. 30 ezerről 1959-re 62 ezer kötetre emelkedett. 1959. január 1-én indult el az ország első művelődési autója. 1960. november 21-én fölavatták az átalakított, szabadpolcos rendszerrel működő kölcsönző-olvasóteret, 1960. január 2-án működni kezdett a könyvkötő részleg. 1966-ban 3000, a letéti helyek használóival együtt 1967-ben több mint 9000 olvasója volt az intézménynek. 1967 februártól júniusig tartó felújítási munkálatok nyomán egységes olvasószolgálati tér alakult ki, az alapterület 115 m2 közel 240 m2 növekedett. A könyvkiválasztó térben 12 ezer, az olvasótérben 3 ezer kötetnyi könyv és 280 újság, folyóirat elhelyezésére nyílt lehetőség. Az épület alatt húzódó pincében 150 négyzetméter alapterületű, 60 ezer kötetet befogadó, szellőztethető raktárhelyiséget alakítottak ki.
1972.december 31-én a megyei könyvtári státusz átkerült Szegedre, ismét városi könyvtár lett a hódmezővásárhelyi intézmény.
1975.január 17-én fölavatták az intézmény udvarán épült új gyermekkönyvtárat, a jelenlegi olvasótermet.
1976.június 2-án a városi könyvtár Németh László névét vette föl. Az épület előtt avatták fel az író szobrát, Tóth Valéria alkotását. 1978-1982-ban az udvari szárnyat felújították, az istállókat raktárrá alakították át. 1993 októberében nyílt meg a szomszédos volt bölcsőde épületéből kialakított gyerekkönyvtár és a Németh László emlékkiállítás.
