Zwarte elzen hebben een vrij oppervlakkig wortelgestel waarmee ze veel water uit de grond trekken. De boom kan 25 tot 30(35) m hoog worden, maar dat komt zelden voor. Elzen vermeerderd door uitlopers worden meestal meerstammig. De stam is recht en gaat ver tot in de kroon door. De twijgen zijn kaal.
De zwarte els is eenhuizig. De houtige, mannelijke katjes vallen niet uiteen bij rijpheid zoals bij berken (Betula). Ze zijn langwerpig, 6 tot 12 cm lang. Tijdens de bloei hangen ze slap. Het stuifmeel wordt via de wind verspreid. De vrouwelijke vruchtkatjes zijn ovaal, roodbruin en zitten met drie tot vijf stuks samen en zijn gesteeld. De elzenproppen worden gevormd door de vrouwelijke bloemen. Het zijn de schutbladeren van deze bloemen die houtig geworden zijn. In hun oksels zitten de vruchtjes.
Het hout van de zwarte els is zeer bestand tegen verrotting, op voorwaarde dat het volledig ondergedompeld blijft (bijvoorbeeld tijdens het gebruik als heipaal).