Nació el 7 de marzo de 1907; era hijo de Amelia Josefa Tavárez Saviñón y de Mario Fermín Cabral y Báez.
Cursó su educación elemental y secundaria en Santiago de los Caballeros y aunque su padre quiso verlo convertido en un abogado importante, su interés por la poesía lo alejó de las aulas universitarias cuando apenas iniciaba los estudios de Derecho. En su juventud trabajó como linotipista y como librero en su pueblo natal. En 1931, a raíz de la publicación de su primer poemario Pilón, se trasladó a Santo Domingo. En 1938 viajó a Nueva York en un barco de carga. Tres meses después de su arribo a dicha ciudad, mientras se desempeñaba como limpiador de ventanas, recibió la inesperada noticia de su nombramiento en un puesto menor en la embajada dominicana en Washington. Así inició una exitosa carrera diplomática que se extendió por casi tres décadas. Representó al país en Bogotá, Lima, Panamá, Chile y Argentina. Su carrera diplomática fue importante para el desarrollo de su obra poética, ya que su peregrinaje por América Latina y Europa le ofreció la posibilidad de conocer diferentes culturas y de entrar en contacto con muchas de las voces poéticas latinoamericanas y europeas más importantes de entonces.
Su poesía abarca temas políticos, amorosos, sociales y metafísicos. Es, junto a Luis Palés Matos, Aimé Cesaire y Nicolás Guillén, una de las voces más importantes de la poesía negrista latinoamericana. Su poesía política y social, especialmente su afamado poema «Compadre Mon», lo ha situado al lado de los grandes poetas de América Latina, entre ellos: Vicente Huidobro, Pablo Neruda, Cesar Vallejo y Octavio Paz. Es el poeta dominicano más antologado y el que mayor difusión ha alcanzado en el extranjero. También escribió las novelas El escupido y El presidente negro y los volúmenes de Veinte cuentos, Los relámpagos lentos y Cuentos cortos con pantalones largos. En 1992 le fue otorgado el Premio Nacional de Literatura, patrocinado por la Fundación Corripio y la Secretaría de Estado de Educación de la República Dominicana. Murió en Santo Domingo, República Dominicana el 14 de mayo de 1999.