Nació en Herveo, Tolima, el 23 de septiembre de 1932, desde su infancia mostró su inclinación por la música, y participó en diversos concursos musicales; también integró los coros de la Iglesia de Padua, de Tolina.
Siendo aún monaguillo, a los 11 años se presentó por primera en público ante un grupo de sastres en Armero, algo que lo llevó a que actuara en otros municipios de Colombia.
A mediados del siglo XX su carrera tomó vuelo y sus boleros y tangos se convirtieron en parte de la banda sonora de Colombia y de países vecinos.
El Ministerio de las Culturas señaló en un mensaje publicado en sus redes sociales que Agudelo, «figura de la canción popular», dejó como legado canciones como “Esos tus ojos negros”, “Mujer ingrata”, “El redentor” y especialmente “La cama vacía”.
El ministro de Cultura, Juan David Correa, escribió en X (antes Twitter): «La cama se quedó vacía. Se fue un gran cantante. Junto a Julio Jaramillo y Alci Acosta acompañaron a millones de personas en noches de bohemia».