灌木或小乔木，株高1～7米。树皮灰色，鳞片状剥落;枝有纵棱;茎干呈四棱状，小枝、冬芽和叶背面有短柔毛。单叶，对生;无托叶。叶革质，叶片草质，相互对生，阔椭圆形、阔倒卵形、卵状椭圆形或长圆形，通常中部以上最宽，长1.5～3.5厘米，宽8～2厘米，全缘，先端圆或钝，常有小凹口，基部圆或急尖或楔形。表面深绿色而有光泽，背面淡黄绿色。头状花序腋生，雌、雄花同序，花密集，常顶生1雌花，雄花约10朵，退化雌蕊有棒状柄，高约2毫米。雄花具1小苞片，萼片4枚，雄蕊4枚;雌花具3小苞片，萼片6枚，子房3室，花柱3。蒴果，球形，径6～10毫米，3瓣裂，顶端有宿夺花柱。种子要在霜降时节才能成熟，爆力很大，向外开裂为三瓣，每个果实有黑色种子3~4粒。黄杨变种较多，如细叶黄杨、玳冒黄杨，还有一种卫矛科类的大叶黄杨，如金边大叶黄杨、银边大叶黄杨、金心大叶黄杨、斑叶大叶黄杨等，别具风格。

黄杨，枝叶扶疏，终年常绿，叶片小，耐修剪，也较耐阴，体形丰满，美态自然，生长缓慢，树小枝繁，叶色葱茏，四季盎然。黄杨能和金雀、迎春、绒针柏媲美，誉为盆景“四大家”。黄杨，生性强健，筋直骨坚，株形玲珑，号称“千年矮”。《花镜》中说：“每步只长一寸，不溢分毫……因其难大，人多以之作盆景玩”。黄杨，能直能曲，的确是制作盆景的最佳材料。最适于作绿篱和基础种植材料，或与金叶女贞等色叶树种配植，在草坪中作模纹图案材料，经整形也可于路旁列植或作花坛镶边。我国应用广泛盆栽适合客厅、书房等绿化，也适合庭院的路边或一隅修剪成球状或作绿篱。此外，黄杨还是著名的盆景材料，扬派盆景的代表树种之一。苏州光福邓尉司徒庙内尚存古树，高达10米，据传已历700余年。