Ele era bacharel em Sociologia e Política pela UFMG e mestre em Ciência Política pela Universidade de Stanford, na Califórnia. Foi professor e pesquisador visitante nas universidades de Oxford, Leiden, Stanford, Irvine, Londres, Notre Dame, no Instituto de Estudos Avançados de Princeton, e na Fundação Ortega y Gasset em Madrid. Também foi professor emérito da UFRJ e pesquisador emérito do CNPq. Eleito para a ABL em 2004, fazia parte também da Academia Brasileira de Ciências e escreveu 19 livros.

Em publicação no Twitter, o presidente da ABL, Merval Pereira, disse que a morte de Carvalho é uma perda para a cultura brasileira. “José Murilo de Carvalho era dos nossos maiores historiadores, que explicou nosso ado desde o Império e, a partir desse conhecimento, analisava a política brasileira recente com requintes históricos que ajudavam a antever o futuro, do qual se desiludiu nos últimos anos. É uma perda não apenas para a ABL, onde tinha sob seus cuidados nossos arquivos, mas para a cultura brasileira”, disse o jornalista.