Steinmarder haben den üblichen Körperbau der Marder mit einem langgestreckten, schlanken Rumpf und relativ kurzen Gliedmassen. Der Schwanz ist relativ lang und buschig. Von der zweiten in Mitteleuropa lebenden Art der Echten Marder, dem Baummarder, unterscheidet er sich äusserlich in Form und Farbe des Kehlflecks. Dieser ist beim Steinmarder weiss und oft gegabelt und kann sich bis auf die Vorderbeine erstrecken, während er beim Baummarder gelblich und abgerundet ist. Allerdings kann der Kehlfleck bei manchen asiatischen Populationen auch ganz fehlen. Das Fell dieser Tiere ist graubraun gefärbt und rau. Weitere Unterschiede zum Baummarder sind die helle Nase und die unbehaarten Fusssohlen. Auch ist der Steinmarder etwas kürzer, aber dafür schwerer als sein Verwandter. Die Tiere erreichen eine Kopfrumpflänge von 40 bis 54 Zentimeter, eine Schwanzlänge von 22 bis 30 Zentimeter und ein Gewicht von 1,1 bis 2,3 Kilogramm.