Caballero zawodową karierę rozpoczynał w klubie Boca Juniors. W Primera División zadebiutował 5 lutego 2002 w zremisowanym 2:2 meczu z Newell’s Old Boys. Od czasu debiutu pełnił rolę rezerwowego bramkarza Boca Juniors. W debiutanckim sezonie Caballero w lidze zagrał cztery razy. W 2003 roku zdobył z klubem mistrzostwo Apertura. W tym samym roku wygrał z Boca Juniors Copa Libertadores oraz Puchar Interkontynentalny. W 2004 roku zdobył z klubem Copa Sudamericana. Zagrał z nim także w finale Copa Libertadores, jednak Boca Juniors zostało tam pokonane po rzutach karnych przez Once Caldas. W Boca Juniors Caballero rozegrał w sumie 15 ligowych spotkań.
Latem 2004 podpisał kontrakt z hiszpańskimElche CF. W Segunda División pierwszy występ zanotował 3 kwietnia 2005 w przegranym 1:3 pojedynku ze Sportingiem Gijón. W pierwszym sezonie rozegrał tam 10 spotkań. Na sezon 2005/2006 został wypożyczony do ojczystego Arsenalu Sarandí. Po zakończeniu tamtego sezonu powrócił do Elche i był jego podstawowym bramkarzem. W 2011 roku przeszedł do Málagi.
W dużym stopniu jego zasługą jest awans Málagi do ćwierćfinału Ligi Mistrzów w sezonie 2012/2013.
8 lipca 2014 roku przeszedł do angielskiego Manchesteru City, z którym związał się trzyletnią umową[1].
Caballero jest byłym graczem młodzieżowych reprezentacji Argentyny. W 2001 roku uczestnikiem mistrzostw świata U-20, które zostały wygrane przez Argentynę. W 2004 został powołany do kadry na letnie igrzyska olimpijskie. Jego reprezentacja została ich zwycięzcą, po pokonaniu w finale Paragwaju. 23 marca 2018 zadebiutował w reprezentacji Argentyny, w przegranym 0:2 meczu z Włochami[3].