Овсяница тростниковидная относится к рыхлокустовым верховым многолетним травам. Высота растений в фазе цветения достигает 80—170 см.
Стебли прямые, довольно толстые, упругие и прочные, что обеспечивает устойчивость к полеганию. У основания метелки стебель шероховатый.
Листья линейные или слегка свернутые, длиной до 32 см и шириной 6—8 мм, темно-зеленой окраски, блестящие с внешней стороны, различной степени мягкости. Влагалищно-пластиночные сочленения и ушки по краям реснитчатые.
Метелка у овсяницы тростниковидной бывает короткой и сжатой, средней по длине и длинной, раскидистой; веточки длинные. Нижняя, более короткая, веточка нижней мутовки несет 5—8 колосков, длинная — до 15 колосков. Нижние веточки метелки отходят от стержня по две. Количеством колосков в веточках нижней мутовки этот вид отличается от овсяницы луговой, у которой веточка более короткая и несет, чаще, 1—2 колоска, длинная — 4—5 колосков, а нижние веточки метелки отходят по одной или по две и ресничек в ушках не имеют.
Колосковые чешуи длиннозаостренные, килеватые, гладкие. Нижняя цветковая чешуя — без ости, заканчивается остевидным заострением или имеет ость различной длины (от 0,5 до 2,5— 5 мм). Наличие остей является одним из основных показателей внутривидовой классификации овсяницы тростниковидной. Завязь обратно-яйцевидная, с двумя перистыми рыльцами. Тычинки — три. Пыльники желтого и соломенно-желтого цвета до 5—6 мм длиной. Зерновка продолговатая, со спинки выпуклая, обычно со слипающимися чешуйками.
По жилкам нижней цветковой чешуи имеются кремнистые шипики, которых нет у овсяницы луговой. Они хорошо различимы под лупой. По этому признаку и наличию остей семена овсяницы тростниковидной отличаются от семян овсяницы луговой, что позволяет распознать их в случае механического засорения. Масса 1000 семян — 2,3—2,6 г.
Корень мочковатый, с короткими корневищами, мощный, глубоко проникающий в почву (до 100—200 см). Основная масса корней расположена на глубине 20—30 см.