Az épületért tervezője, Dézsi János Ybl Miklós-díjat kapott. Maga az intézmény azonban sokkal régebbi múltra tekint vissza: 1952-ben törvényileg rendelték el a megyei könyvtárak megalapítását, így ekkor jött létre a Borsod-Abaúj-Zemplén megyei is, ami eredetileg az Erzsébet tér 5. szám alatt, a Diószeghy-házban működött, erről az épületről is volt már szó korábban rovatunkban.
II. Rákóczi Ferenc nevét 1956-ban vette fel. A városi hálózat 1960-ban vált ki belőle, majd ezt követően hosszú évtizedekig egymás mellett, párhuzamosan működtek egészen 2013-ig, amikor újra egyesültek. A kiválás majd az összevonás az intézmény nevében is követhető volt, jelenlegi formában – II. Rákóczi Ferenc Könyvtár – 2023 óta használják. Az előtte lévő játszóeszközök 1978-ben még biztosan a helyükön voltak, később a Népkertbe helyezték át őket. Ma már ott sem találhatóak meg, korszerűbbekre cserélték őket.
