Le seigneur d'Oliferne était un des personnages les plus puissants de son époque. Son pouvoir balançait celui du roi de France. Il était aussi haut que son manoir, c'est-à-dire aussi orgueilleux que son château était élevé.
Un envoyé du monarque lui apporte un jour une déclaration de guerre. « Allez dire à votre maître, répond le présomptueux seigneur, qu'il ne croît pas assez de foin dans tout son royaume pour remplir les fossés de mon château. »
Attaqué d'abord par la force, le fier baron resta vainqueur; mais il eut ensuite à se défendre contre la ruse. On ne chercha plus qu'à s'emparer de sa personne, et des émissaires apostés le guettèrent pour le surprendre pendant le sommeil. Or, se doutant bien de l'espionnage, que fit le rusé seigneur? Partout où il se retirait pour passer la nuit, il arrivait sur un cheval ferré à rebours, de manière à faire croire qu'il était parti de ce lieu dans la direction des empreintes des fers de sa monture sur le sol. A la fin, cependant, le roi se rendit maître de la formidable forteresse.
Le seigneur s'échappa; mais ses trois filles, saisies dans leur refuge, payèrent de leur vie la résistance de leur père. Le roi les fit périr par le supplice de Régulus. On les enferma dans un tonneau garni de clous à l'intérieur et on les lança dans la pente de la montagne. Le tonneau roula ainsi jusqu'au fond de la vallée, trajet d'une demi-lieue, qui fut fait en moins de deux minutes. La rivière de l'Ain le reçut dans ses flots, et la pitié du peuple, qu'émut cette triste aventure, imagina une métamorphose pour en perpétuer le souvenir.
On montre, en effet, sur la rive opposée, en face d'Oliferne, trois pointes de rochers d'inégales hauteurs qui se nomment les trois Damettes. La tradition ajoute que les âmes toutes filiales des dames d'Oliferne n'ont pu se décider encore à se rendre où vont toutes les âmes, et qu'elles sont toujours errantes et plaintives parmi les ruines de leur antique manoir.