Independiente Medellín, Deportivo Cali, Deportes Tolima, Quindío, Atlético Bucaramanga, Independiente Santa fe, Pereira y Boyacá Chicó.
Posterior a su retiro, Ramírez hizo curso como entrenador, teniendo experiencia con equipos en el Hexagonal del Olaya y luego en el 2011 como
asesor en Millonarios por pedido del técnico venezolano Richard Páez.
Jugando siempre con la 10, Jhon Mario fue un gran exponente de fútbol bogotano exhibiendo su gran calidad a lo largo del país,
esto lo llevó a que Hernán Darío el ‘Bolillo’ Gómez lo convocara para las eliminatorias al mundial de Francia 1998, siendo suplente del ‘Pibe’ Valderrama.