Na místě dnešní kaple stávalo městské vězení, ve kterém byl roku1620 podroben útrpnému právu katolický kněz Jan Sarkander, jemuž je kaple zasvěcena. Na následky mučení zde Sarkander také zemřel.
Po smrti Jana Sarkandera již dále mučírna nebyla užívána ke svému účelu. Na základech věznice byla v 1. polovině 18. století vybudována barokní kaple, která se později přeměnila na kostelík. V roce 1745 navštívila Sarkanderův polská královna a v roce 1748 císařovna Marie Terezie.
Současná podoba kaple pochází z počátku 20. století, kdy byla provedena radikální novobarokní rekonstrukce. Návštěvníky zaujme velmi kvalitní kamenickou a sochařskou výzdobou.
Před kaplí je od roku 2007 umístěna fontána od sochaře Otmara Olivy.