W 1844 został sekretarzem stanu w administracji Johna Tylera (po tragicznej śmierci Abla P. Upshura); pełnił tę funkcję przez rok, do końca prezydentury Tylera. W 1957 Senat USA uznał Calhouna za jednego z pięciu najwybitniejszych senatorów w historii USA.
Najgorętszy zwolennik utrzymania niewolnictwa. Wobec napływających do Kongresu petycji o zniesienie niewolnictwa w Waszyngtonie i terytoriach kontrolowanych przez władze federalne doprowadził do uchwalenia ustaw kagańcowych (ang.gag laws) zabraniających dyskutowania sprawy niewolnictwa. Zakaz ten (naruszający wolność słowa i petycji gwarantowany przez 1 Poprawkę) uchylony został w 1844 dzięki agitacji byłego prezydenta Johna Quincy Adamsa[1]. Calhoun sprzeciwił się też projektowi Wilmota, zakazującemu wprowadzenia niewolnictwa na tereny zdobyte w wojnie z Meksykiem[2]. Oponował też przeciw kompromisowi 1850 który ograniczał ekspansję niewolnictwa, jego mowę w tej sprawie trzeba było odczytać, gdyż on sam był już poważnie chory i wkrótce potem zmarł[3].