In der Zahl der elsässischen Ritter, welche im Jahre 1147 mit Kaiser Konrad III. in das Gelobte Land zogen, um die Ungläubigen zu bekämpfen, befand sich Herr Konrad oder Kuno von Rappoltstein. Dass er ebenso handfest wie mutig war, bewies er, als das Heer der Kreuzfahrer in Syrien lag und Damaskus belagerte. Da trat plötzlich aus dem feindlichen Heere ein riesenmäßiger Sarazene hervor und forderte mit frechem Hohngelächter den beherztesten unter den christlichen Streitern zum Zweikampfe auf.
Nach kurzem Bedenken bot sich Herr Konrad von Rappoltstein als Gegner an, und nachdem er einige Male die gewaltigen Streiche des Riesen kampfgewandt von sich abgeleitet hatte, führte er selbst einen so derben Hieb, dass er den Sarazenen von oben bis unten in zwei Stücke spaltete.
Der Kaiser, in dessen Gegenwart der Rappoltsteiner den Kampf siegreich bestanden hatte, verlieh nun ihm und seinem ganzen Geschlechte die Befugnis, das Bild des erlegten Sarazenen als Helmzierde zu tragen.
Bernhard Herzog schildert in seiner Chronik das Wappen folgendermaßen: „Es führen die Herren von Rappoltstein drey rote Schiltlein in weißem Feldt, auff dem Helm ein Männlin ohn Arm in weisser Kleidung, an der Brust drey rote Schiltlein, hat auff ein gelben Türckischen Spitzhut, Helmdeck rot und weiß.“


