Отбор плюсовых деревьев производят по фенотипу, т. е. по внешним признакам, соответствующим требованиям селекции. Фенотип особей определяется генотипом и воздействием внешней среды.
Эффект отбора желаемого признака обусловлен наследственностью последнего. Для определения в фенотипе дерева доли генотипа необходим генетический анализ.
Генетический анализ лесных популяций включает оценку потомства по разным его категориям (сибсам, полусибсам и клонам), определение адаптивной ценности данного вида и генетической обусловленности признаков, установление степени взаимодействия генотипа и среды, определение характера генетических эффектов, материнского эффекта, экологической изменчивости, эффектов конкуренции и коррелятивных взаимосвязей анализируемых признаков. В результате генетического анализа в лесных популяциях выясняется необходимая для прикладных целей информация о генетической обусловленности признаков, характере наследования и адаптивной ценности. Таким образом, определяется целесообразность селекционных мероприятий и набор признаков, обеспечивающих выполнение поставленной задачи (повышение продуктивности и качества древесины, устойчивость к болезням и т. д.).
Общие принципы проверки наследственности плюсовых деревьев и теоретические основы методов генетического анализа лесных популяций подробно изложены в работах В. М. Роне. Их в полной мере можно отнести и к осине, но с учетом особенностей, связанных с ее двудомностью.
Испытание генотипа плюсовых деревьев при создании семенных плантаций обязательно, так как потомство двух родителей с хорошим фенотипом может оказаться неполноценным в каком-либо отношении вследствие новой комбинации генов, возникшей при скрещивании.
Как указывает С. А. Петров, программа генетического улучшения лесов не должна ограничиваться только отбором и последующим размножением плюсовых деревьев на лесосеменных плантациях. Необходима их предварительная оценка по 5—6-летнему и окончательная — по 25—30-летнему потомству.
Предварительную оценку генотипа плюсовых деревьев в некоторой степени можно произвести по сравнению их потомств от свободного опыления — полусибсов, так как некоторые данные в отношении тополя свидетельствуют о доминировании в потомствах полусибсов признаков материнского дерева независимо от опылителя. Повторное получение потомства от свободного опыления дает более убедительную информацию о влиянии материнского эффекта.
Более надежной предварительная оценка плюсовых деревьев на семенных плантациях может стать при искусственном скрещивании по различным схемам: поликросс — каждый клон опыляется смесью пыльцы всех клонов; топ-кросс — все клоны плантации скрещиваются с пыльцой одного производителя. Для оценки комбинационных способностей мужских особей особи одного женского клона опыляются раздельно пыльцой со всех мужских клонов.
Более надежны результаты при скрещивании раздельно всех мужских клонов со всеми женскими, но это весьма трудоемкая работа, так как велико число комбинаций скрещивания. При селекции на гетерозис интересную методику оценки комбинационной способности древесных пород предлагают Р. Г. Шеверножук и Е. В. Титов: гетерозисный эффект может быть выявлен при сравнении испытуемого потомства от тест-скрещиваний со стандартом, в качестве которого следует принять потомство лучшего местного клона, полученное от опыления пыльцой тестового дерева (клона). При этом предполагается, что лучший местный клон и его потомство по своим показателям должны быть не хуже любого из инорайонных родителей.
Полученный семенной материал используется для закладки сравнительных посевов, затем сравнительных посадок, причем для всех сравниваемых потомств следует обеспечить одинаковые условия роста (почва, разбивка посадочных мест, уход, густота), чтобы можно было оценить их генетические свойства. Предлагаются различные схемы размещения делянок сравнительных посадок, но более надежна схема рандомизированных блоков. В США разработаны разные методы ускоренной закладки сравнительных посадок для испытания генетических свойств древесных пород. В Греции используется детальная круговая схема размещения 6 клонов тополей (круг с 3 блоками и 7 радиусами в каждом из них, в каждом радиусе на различных расстояниях — деревья одного клона). Эта схема позволяет оценить быстроту роста тополей в зависимости от площади питания, т. е. как в условиях взаимной конкуренции, так и без нее. По анализу данных этого исследования предполагается, что конкурентоспособность особей в возрасте 3 и 6 лет обусловлена генетически и не зависит от быстроты роста. Взаимная конкуренция особей способствует приросту в высоту до определенного уровня, а затем влияет отрицательно. Диаметр, наоборот, полностью зависит от площади питания, т. е. чем она больше, тем больше прирост по диаметру.
Биологические особенности древесных растений (долговечность, большие размеры и др.) выдвигают перед лесной генетикой ряд специфических проблем, из которых главная — преодоление барьера времени при проверке потомства. Так, для осины даже краткосрочные сравнительные посадки требуют не менее 10 лет, а долгосрочные — с целью оценки, например, резистентности к сердцевинной гнили или производительности древесины в возрасте главной рубки — не менее 35 лет. Поэтому исследователи интенсивно разрабатывают методы ранней диагностики, основанной на выявлении корреляции морфологических и физиологических свойств с продуктивностью, устойчивостью, качеством и другими признаками, предполагая возможность предсказать свойства дерева в зрелом возрасте по его признакам на ранних этапах развития. В селекционных исследованиях лесных пород в области ранней диагностики отмечается, что быстроту роста, прямоствольность, засухоустойчивость можно прогнозировать по таким показателям, как интенсивность фотосинтеза и дыхания, степень фототропической реакции ростков при боковом облучении, интенсивность транспирации и др.
Много работ в области ранней диагностики у тополей посвящено наследованию свойств древесины, по которым можно ожидать падежные результаты.
В Чехословакии на основании ранних тестов при сравнении, разных потомств осины предполагают, что надежный прогноз их роста возможен в возрасте 4—5 лет. В ФРГ проведена оценка корреляций по особенностям роста и степени выживаемости у ювенильных и более зрелых деревьев осины и тополя. Различия в мощности роста и степени выживаемости гибридов этих пород могут быть отмечены уже на первом году после посадки в питомник. У клонов такие различия можно оценивать в сравнительно раннем возрасте деревьев; предполагают, что интервал 8—10 лет вполне достаточен при испытании нового селекционного материала тополей и осины.
В итоге подробного анализа современного состояния проблемы ранней диагностики в лесной селекции Р. Г. Шеверножук отмечает, что очень плодотворными могут оказаться идея о выделении и изучении генетически элементарных признаков, приспособительных реакций растений, а также исследования по выявлению качественной специфики белков и других веществ на основе электрофореза и иммунохимии.
Перспективность исследований по ранней диагностике очевидна, однако, как подчеркивает Ю. П. Ефимов, к настоящему времени достоверность ни одного из известных методов ранней диагностики не подтверждена длительными опытами, учитывающими изменчивость признаков и свойств дерева в онтогенезе.