Nevének eredete a Szármány hegyéről (szár, sár) származik, mely fehéret jelent. Azért nevezték így el, mert ősidők óta fehér márványt bányásztak a hegyen. A falu neve először 1494-ben tűnik fel az oklevelekben, mint Lázár Miklós előneve. 1566-ban Zarhegij. A pápai tizedjegyzékben három gyergyói egyházközség szerepel, ezek egyike valószínűleg Szárhegy lehet. A helyi hagyomány szerint a templom keletkezésének ideje 1235-re tehető, keresztelőmedencéje ebből a korból való. 1400-ban gótikus stílusban építették, melyről a kőbe vésett dátum tanúskodik. Az 1488-as dátum toronyépítésről, illetve az 1494-es évi búcsúengedmény további építkezésről vall. 1658-ban és 1661-ben tatárok pusztították. 1729-ben a hajót lebontották, és 1730-ban azt kibővítve újat építettek, a tornyot is megmagasítva. A jelenlegi papilakot Szabó Lajos plébános építtette 1865-ben. Both Ferenc plébános 1865-től három katolikus iskolát létesített. A Szármány-hegyen 15. századi gótikus kápolna áll. Nagybaczoni Baló család építtette Urunk színeváltozása tiszteletére. 1448-tól katolikus iskolája van, melyet 1948-ban államosítottak.
Güdücön görög katolikus templom van 1930-tól. A hívek már Trianon előtt a templommal együtt mind római katolikusok lettek. A reformáció korában kis időre Lázár András 1590-ben prédikátort hozatott ide, de hamarosan visszaállította a katolikus hitet.
