Hendricks s-a născut pe 16 septembrie 1921, pe numele complet John Carl Hendricks - New York Times explică faptul că artistul a renunțat la litera „h” din prenumele său când a început să cânte.
Recunoscut pentru improvizațiile sale, combinația de versuri și vocalize, el a făcut parte din Lambert, Hendricks & Ross - format împreună cu Dave Lambert și Annie Ross (înlocuită apoi cu Yolande Bavan). Grupul a cunoscut succesul în 1958, cu albumul „Sing a Song of Basie”, și s-a destrămat în 1964, după ce a lansat mai multe albume de studio și live prin Columbia Records.