Margócsy József 1942-ben szerzett középiskolai tanári oklevelet. 1962-től docensként, tanszékvezetőként, főigazgató-helyettesként, majd 1972 és 1979 között főigazgatóként dolgozott a Nyíregyházi Főiskolán.
Nyugállományba vonulása után tíz évig még óraadó tanárként tanított az intézményben. 
   
A tanárképzésben végzett munkájáért számos kitüntetésben részesült, 1962-ben elsők között kapta meg a Bugát Pál emlékérmet, majd 1979-ben az Apáczai-Csere-díjat. Pedagógiai tevékenységét külföldön is elismerték, 1985-ben a Francia Köztársaság akadémiai pálmarendjével tüntették ki.
Margócsy József temetéséről később intézkednek.