Il naquit le 13 mars 1911, à Siedliska, en Pologne, septième d’une famille de neuf enfants. Ordonné prêtre à Cracovie pour l’ordre des Salésiens de saint Jean Bosco le 29 mai 1938, il occupa le poste de secrétaire du provincial salésien. Prêtre de la paroisse Sainte-Marie Auxiliatrice, il s’occupait tout particulièrement des jeunes par des enseignements et des conférences, et en les réunissant dans une chorale.
Après l’invasion et l’occupation de son pays par les nazis, il devint une de leurs cibles, et fut arrêté le 23 mai 1941. D’abord torturé dans une prison de Cracovie, il fut ensuite déporté à Auschwitz le 26 juin 1941. Il continua d’exercer clandestinement son ministère, rassemblant de plus en plus de prisonniers autour de lui.
Dans la nuit du 3 au 4 juillet 1942, un officier SS qui avait trouvé son chapelet lui ordonna de le piétiner. Comme Joseph refusait et s’agenouillait, il fut battu à mort et noyé ; il est ainsi reconnu comme martyr. On peut lire dans ses notes personnelles : « Souffrir et être méprisé pour Toi, Seigneur. (…) En pleine connaissance de cause, avec une ferme volonté prête à toutes les conséquences, j’embrasse la douce Croix de l’appel du Christ et je veux la porter jusqu’à la fin, jusqu’à la mort. » Et dans sa dernière lettre à ses parents : « Ne vous préoccupez pas pour moi, je suis dans les mains de Dieu. (…) Je veux vous assurer que je sens son aide à chaque pas. Malgré ma situation actuelle, je suis heureux et tout à fait tranquille ; je suis persuadé que partout où je me trouve et quoi qu’il m’arrive, tout vient de la Providence paternelle de Dieu qui, de façon très juste, dirige le sort de toutes les nations et de tous les hommes. »
Joseph Kowalski fut béatifié par Jean-Paul II le 13 juin 1999 avec 107 autres martyrs polonais : « Si nous nous réjouissons aujourd’hui pour la béatification de cent-huit martyrs clercs et laïcs, nous le faisons tout d’abord parce qu’ils sont le témoignage de la victoire du Christ, le don qui restitue l’espérance. Alors que nous accomplissons cet acte solennel, dans un certain sens se ravive en nous la certitude que, indépendamment des circonstances, nous pouvons remporter la pleine victoire sur chaque chose, grâce à celui qui nous a aimés (cf. Rm 8, 37). Les bienheureux martyrs disent à nos cœurs : Croyez que Dieu est amour ! Croyez quand les temps sont bons et quand ils sont mauvais ! Eveillez l’espérance en vous ! Puisse-t-elle produire en vous le fruit de la fidélité à Dieu face à chaque épreuve ! »