Man geht davon aus, dass sich der Name des Ortes aus der topografischen Lage ableitet. Heudorf liegt mit seinen 587 m im Vergleich zu anderen Orten (Scheer 576 m, Mengen 560 m) höher.
Bis 1973 gehörte Heudorf dem Kreis Saulgau an. Durch die Kreisreform kam Heudorf zum Landkreis Sigmaringen. Kurz danach wurde durch die Gemeindereform Heudorf an die Stadt Scheer eingemeindet. Seitdem ist Heudorf ein Stadtteil von Scheer.
Die Erste urkundliche Erwähnung von Heudorf fällt in das Jahr 1231. Erste Siedlungsspuren stammen aber bereits aus der Keltenzeit. Durch die Aufteilung der Machtbereiche fiel Heudorf an den Adligen Heinrich von Montfort. Zu dieser Zeit gehörte Heudorf zum Dekanat Buchau. Kirchherr war aber immer noch Heinrich von Montfort.
Mit der Übernahme von Heudorf durch die Habsburger, aus dessen Haus auch der König stammte, herrschten die Grafen und Freiherren von Reischach. Diese Herrschaft sollte nicht lange dauern, denn bereits 1489 wurde Heudorf an das österreichische landesherrliche Spital Mengen veräußert. Seit diesem Zeitpunkt wurde das Dorf „Mengisch-Heudorf“ benannt, weniger um Verwechslungen vorzubeugen, sondern um die Eigentumsverhältnisse zum Ausdruck zu bringen. Später stößt man auch auf den Namen „Ober-Heudorf“. Damals wurden bereits ein Schultheiß und ein Bürgerausschuss gewählt, standen diese aber unter ständiger Kontrolle des Spitals Mengen durch einen Magistrat.
Mit dem verlorenen Krieg gegen Frankreich trat das Haus Österreich ganz Vorderösterreich im Frieden von Pressburg 1805 an Napoleon ab. Der Kurfürst von Württemberg, der als König anerkannt wurde, übernahm unter anderem auch Mengen. Dadurch wurde Heudorf württembergisch und gehörte nach mehreren Neuordnungen zum Donaukreis und unterstand dem königlichen Oberamt Saulgau. In einer 1829 erschienenen Ortsbeschreibung heißt es, dass Heudorf zum damaligen Zeitpunkt rund 340 Einwohner hatte. Eine Brauerei und eine Schildwirtschaft waren ansässig. Es wird auch von einem hohen, kreisrunden Hügel in der Nähe des Ortes berichtet, auf dem sich ein Schloss befunden haben soll. Auf diesem Hügel (genannt „Burgleh“) soll sich in der Tat die Hiltenburg befunden haben. Überreste zeugen davon.