El municipio de San Rafael fue fundado el 5 de agosto de 1864 por mineros que venían de las comarcas paisas de Santa Rosa de Osos y San Carlos atraídos por la abundancia de oro en el lugar. A la naciente población se le conoció primero con el nombre de La Cuchilla.

En 1871, el distrito es erigido municipio con el nombre de San Rafael, por la fe que sus fundadores tenían en el Arcángel San Rafael que fuese su médico y guía.

En 1905 el distrito es trasladado de La Cuchilla al lugar donde nació, el valle que actualmente ocupa. Esta hazaña fue realizada por el presbítero de Rionegro, José de Jesús Correa Jaramillo, hombre visionario quien previó que este lugar era el más adecuado para el desarrollo de la población.