Au pied de la montagne où les sires de Montmartin avaient leur maison forte, il existait au moyen-âge un couvent de moines rouges dont l'histoire n'a pas encore été retrouvée par nos savants annalistes. Ce couvent élevé à l'abri du château de Montmartin, a été probablement fondé par quelque seigneur de cette puissante maison. Il devait être important, puisque de ses ruines sans doute est sorti le village d'Huanne. Une partie de la chapelle du couvent, qui était sous le vocable de saint Jean l'Evangéliste, subsiste encore : c'est le clocher et la grande nef de l'église d'Huanne, servant aujourd'hui d'église paroissiale aux six communes d'Huanne, Montmartin, Puessans, Trouvans, Mésandans et Gouhelans.
Le portail du clocher est d'une architecture remarquable. Quelques personnes prétendent qu'il appartient pour partie au XIe siècle. Notre pays ne possède que peu de vestiges de l'architecture de cette époque.
Lorsqu'un étranger est conduit pour la première fois à la messe par un paroissien d'Huanne, celui-ci ne manque pas de lui faire remarquer une grosse pierre saillante et arrondie que l'on aperçoit à une hauteur d'environ quinze mètres à l'extérieur de la tourelle ronde qui flanque au nord le clocher de l'église.
Cette pierre a son histoire que la tradition locale a conservée.
En même temps que l'on bâtissait le clocher du prieuré d'Huanne, dit cette tradition, on travaillait à la construction du clocher de Rougemont. Celui-ci s'élevait déjà à plusieurs mètres du sol, que les fondations du clocher d'Huanne n'étaient pas encore terminées. Les constructeurs de ces deux édifices étaient jaloux et présomptueux. Ils se vantaient réciproquement de travailler vite, et ils convinrent entre eux que ceux qui atteindraient les premiers une certaine élévation placeraient à cette hauteur une pierre en saillie, représentant un objet ridicule pour faire honte aux autres. Ceux de Rougemont croyaient gagner la partie. Persuadés du succès, ils avaient préparé à l'avance une pierre sculptée en forme de figure humaine, tirant une langue monstrueuse; mais ils furent punis de leur fanfaronnade, car ceux d'Huanne parvinrent les premiers à la hauteur convenue et y placèrent, en regard de Rougemont, cette pierre ronde qui affecte encore grossièrement la forme des deux muscles postérieurs du corps de l'homme. Le lendemain, ceux de Rougemont placèrent en regard d'Huanne leur figure avec sa langue tirée démesurément. Quelle fut leur honte, lorsqu'ils apprirent le plaisant tour qui leur avait été joué la veille par les maçons d'Huanne! On rit encore aujourd'hui de leur déconvenue dans tout le val de Montmartin.
