Owczarek jest dużym i silnym psem – w kłębie osiąga do 65 cm ważąc przy tym maksymalnie 40 kg. Sierść u owczarka krótkowłosego jest dość twarda, gęsta i przylegająca, u długowłosej odmiany – jak nazwa wskazuje – włos okrywowy jest miękki i dłuższy. Owczarek niemiecki najczęściej ma maść czarną z podpalaniem płowym, czerwonawym, żółtym lub jasnoszarym. Może też być jednolicie czarny, szary lub wilczasty. Charakterystyczna jest czarna maska na pysku. Wzorzec rasy dopuszcza białą plamkę na piersi i jaśniejszą sierść na wewnętrznej stronie łap, chociaż nie jest to cecha pożądana na wystawach.