John Berchmans var äldste son till skomakaren John Charles Berchmans och hans hustru Elizabeth. Han växte upp i en troende katolsk familj under en tid av religiösa konflikter i Nederländerna och visade tidigt en önskan om ett religiöst liv. Vid tretton års ålder blev han tjänare hos kaniken John Froymont i Mechelen (Malines), vilket gjorde det möjligt för honom att fortsätta sina studier trots familjens ekonomiska svårigheter.

Inspirerad av S:t Aloysius Gonzagas exempel och engelska jesuitmartyrer bestämde han sig för att gå med i Jesu sällskap (jesuiterna) trots motstånd från sin familj. Han inträdde i jesuiternas novisat den 24 september 1616.

Efter att ha avlagt sina första löften 1618 skickades Berchmans till Rom för att studera filosofi vid Roman College (numera Pontifical Gregorian University). Han var känd för sin flit, glädje, ödmjukhet och hängivenhet till dagliga plikter - sammanfattat i hans motto: "Inte så mycket att göra stora saker som att göra väl vad man blir tillsagd att göra".

Berchmans dog ung, vid tjugotvå års ålder, den 13 augusti 1621, efter att ha insjuknat i feber och dysenteri i Rom.
Han saligförklarades av påven Pius IX år 1865 och helgonförklarades av påven Leo XIII den 15 januari 1888. Hans hjärta bevaras som en relik i Leuven (Louvain) i Belgien.

St John Berchmans hedras över hela världen, med skolor och kyrkor uppkallade efter honom.