1289 wurden durch König Rudolf von Habsburg die Stadtrechte bestätigt. Erste Spuren einer Ansiedlung stammen bereits aus der Zeit um 1800 vor Christus. Der Name der Stadt leitet sich wohl aus dem keltischen Wort »scera« ab und bedeutet Fels.
Die Geschichte der Stadt hängt sehr eng mit der des Schlosses zusammen, das in seiner jetzigen Form in den Jahren 1485 bis 1496 erbaut wurde. Anfang bis Mitte des 15. Jahrhunderts unterstand Scheer dem Grafen von Montfort-Tettnang. Ab 1452 ging die Stadt als Teil der Grafschaft Friedberg-Scheer in den Besitz des Hauses Waldburg über und war zugleich Residenz und Verwaltungssitz der Truchsessen von Waldburg.
Die über dem Ort thronende Kirche entstand im 13. Jahrhundert als dreischiffige gotische Basilika, benannt nach dem heiligen Bischof Nikolaus von Myra, und besticht durch ihre überaus prachtvolle Innengestaltung. Ab 1806 kam die Stadt Scheer unter württembergische Hoheit. Aus dieser Zeit ist unter anderem nachgewiesen, dass sich der Pfarrer und Dichter Eduard Mörike des Öfteren in Scheer aufhielt, um seinen ältesten Bruder Karl, einen Amtmann in Thurn- und Taxis´schen Diensten, zu besuchen.