Im Jahr 2001 gründete das Regierungspräsidium ein Projekt, mit dem Ziel, eine möglichst flächendeckende, systematische Bestandsaufnahme aller Kleindenkmale in Baden-Württemberg durchzuführen, um diese verstärkt ins öffentliche Bewusstsein zu rücken. Kleindenkmale werden als ortsfeste, freistehende, kleine Gebilde aus Stein, Metall oder Holz, die einem bestimmten Zweck dienen oder an eine Begebenheit oder Person erinnern. In Rexingen lassen sich folgende Kleindenkmale finden:
154 Gemarkungssteine
In den Jahren 1986 bis 1990 wurden von den Rexingern Adolf Sayer und Arnold Eichkorn systematisch alle Grenzsteine entlang der 14 km langen ehemaligen Rexinger Gemarkungsgrenzen erfasst. Ausführliche Unterlagen wurden mit Unterstützung von Alfred Jung aus Ahldorf mit Fotos und Erfassungsbögen zusammengestellt und sind im Rexinger Ortsarchiv einsehbar. Rings um das Rathaus wurden zwei schöne Grenzsteine aufgestellt, die bei der Flurbereinigung 1971 sichergestellt wurden: Ein Dreimärker-Grenzstein, der die Markungsgrenzen zu Rexingen (Johanniterkreuz), Altheim (Heiliger-Geist Taube und Jahreszahl 1606) und Grünmettstetten (ebenfalls Taube) markierten. Ein weiterer Grenzstein aus dem Gebiet Faulstätt zeigt das Rexinger Johanniterkreuz und einen Kelch, des Horber Chorhauses ebenfalls aus dem frühen 17. Jahrhundert. Des Weiteren befindet sich dort ein Baustein aus der ehemaligen Gemeindescheuer. Dieser diente als Schlussstein aus dem Torbogen und trägt das Wappen der Herren von Weitingen.
16 Feldkreuze
Frauenkreuz, Bubenkreuz, am Sportplatz und erneuert durch Familie Sayer, steinernes Wegkreuz von Anastasia Pfeffer 1840, am Kapellenhof 3, am Schelmenwasen, Gockeler-Kreuz von Johannes Gekle 1949, am Talheimer Weg, steinernes Feldkreuz von Johanna Brenner 1891, an Weggabelung Gewann Funkenbühl von Familie Grieb, Osterhalde von Familie Gekle, an der Osterhalde von Arnold Eichkorn 1985, steinernes Wegkreuz am Unteren Augstbaum von Familie Kaupp 1884, an der Bergstraße von Josefine Sayer 1928, steinernes Wegkreuz am Ortsausgang Richtung Ihlingen von Familie Sayer, steinernes Wegkreuz Hoher Rain von Familie Fischer 1895
2 Feldkapellen
Friedhofskapelle und Feldkapelle an der Kreuzung Richtung Altheim
Bildstöcke
Neben dem Frauenkreuz, am jüdischen Friedhof, am Kreuzweg zum Denkmal
Gedenksteine
1924 zum Gedenken an Eugen Schmids Radfahrunfall, Johanniter-Wappengedenkstein 1609 von Ferdinand von Muggenthal im Rathaus, Wappengedenkstein 1299 von Gottfried von Clingenfels in der kath. Kirche, Gedenkstein aus ehemaligem Meierhof nach Abbruch heute in Garage in Mühlen verbaut
Errichtet 1933 als nationalsozialistisches Denkmal mit Hakenkreuz wurde 1945 durch ein Kreuz versehen, das mit einem M (Marienverehrung) verstärkt wurde.