Né en 1938 à La Minerve, au Québec. Mgr Ste-Marie a émis ses vœux religieux en 1962 comme membre des Missionnaires d'Afrique (Pères Blancs) et a été ordonné prêtre, l'année suivante. Il œuvre au Malawi depuis 44 ans.

En 1998, le pape Jean-Paul II lui confie une première responsabilité épiscopale en le nommant évêque auxiliaire au diocèse de Dedza, au Malawi. Deux ans plus tard, il en deviendra l'évêque en titre. Puis, en février 2006, le pape Benoît XVI le désigne évêque coadjuteur du diocèse voisin de Lilongwe. Le 4 juillet 2007, à titre de coadjuteur, il a succédé de droit à l'évêque du lieu alors que la démission de celui-ci, pour avoir atteint l'âge de la retraite fixé à 75 ans, eut été acceptée par le Saint-Père.

Onze évêques d'origine canadienne exercent en ce moment leur ministère ailleurs dans le monde.