U stóp wzgórza św. Krzyża znajduje się stary cmentarz parafii Bydlin, a na jego terenie stoi kaplica murowana, wzniesiona na miejscu starej pustelni. Kaplica stała już tu przy końcu wieku XVIII. Rozbudowana została w roku 1884 przez ks. A. Paprockiego, który został pochowany pod jej posadzką.

W ołtarzu znajduje się figura Matki Boskiej z Dzieciątkiem z 1. poł. XV w., przeniesiona z dawnej pustelni, otoczona czcią okolicznej ludności, która uważa ją za cudowną. W aktach kościoła parafialnego znaleźć można spis cudów za pośrednictwem M. B. w cudownej figurze doznanych, prowadzony od roku 1764. Wewnątrz kaplicy są także: posąg św. Jana Nepomucena na rokokowym postumencie, rzeźba Chrystusa Frasobliwego „z ptaszkami”.