Hejőcsaba egykor önálló község volt, nevét a területén keresztülfolyó meleg vizű patakról kapta. Legelőször 1067-ben említik Soba névalakban, ekkor mint a Miskolc nemzetség birtokát.
A középkor folyamán malmok üzemeltek a faluban. A török hódoltság idején többször feldúlták, az 1600-as évek végére szinte teljesen elnéptelenedett.
A 18. századtól kezdve ismét fejlődésnek indult, és megjelentek a bormérő helyek. 1911-ben mészégető üzem jött létre a településen, ami elődje volt a mai cementgyárnak. 1910. július 7. óta az akkor még önálló települést a régi 2-es villamosjárat kötötte össze Miskolccal, ez volt a város második villamosvonala, de 1960-ban megszüntették.
1945-ben Diósgyőr mellett Hejőcsaba volt a másik település, melyet Miskolchoz csatoltak. Az akkoriban önálló településnek vasúti megállóhelye is volt, amit 1967-ben, a 3-as főút felett lévő vasúti híd megépülése után lebontottak. A helyén ma buszmegálló található.