Carlos José Ochoa nasce Nirguam nei pressi di  Caracas, in Venezuela, il  14 dicembre 1980. Inizia a correre nelle categorie giovanili mettendo in luce qualità che gli valgono l’ingresso negli Under23 con i colori della Triple Gordo de Trujillo. Nel 2005 con i colori della Colombia di Gianni Savio conquista la vittoria della prima tappa della Vuelta Independencia Nacional Republica Dominicana e una frazione della Vuelta a Yacambu-Lara.

Nel 2006 corre per il Team LPR di  Orlando Maini e Omar Piscina, nel 2007 ottiene una vittoria e la generale alla Vuelta Internacional al Estado Trujillo, una vittorie e la classifica finale alla Vuelta a Yacambu-Lara e un successo al Clásico San Eleuterio.
Nel 2008 torna alla corte di Gianni Savio vestendo la maglia della Serramenti PVC Diquigiovanni-Androni Giocattoli conquistando la quarta frazione del  Tour de San Luis da San Luis a Saladillo. Alla Vuelta Ciclística Independencia Nacional è autentico protagonista conquistando due tappe (a Jarabacoa e a Santo Domingo a cronometro) e ottenendo il primo posto finale della corsa davanti al dominicano Augusto Sánchez. Alla Vuelta a Venezuela 2008Carlos José Ochoa vince la frazione con arrivo a Nirgua San Vicente conquistando anche la vittoria finale davanti a Franklin Chacon.

Nel 2008 Ochoa fa il suo esordio al Giro d’Italia chiudendo al 61esimo posto mentre l’anno seguente coglier il suo miglior risultato alla corsa rosa finendo 30esimo. Sempre nel 2008 fa la sua prima apparizione ai Campionati del Mondo di Varese, vinti da Alessandro Ballan, chiudendo 70esimo (suo miglior risultato in carriera).