De gekozen outgroup is verondersteld minder nauw verwant te zijn aan de ingroup dan de ingroup aan zichzelf verwant is. De evolutionaire conclusie uit deze verwantschappen is dat de outgroup-soort een gemeenschappelijke voorouder heeft met de ingroup die ouder is dan de gemeenschappelijke voorouder van de ingroup. De keuze van de outgroup kan de topologie van een fylogenie veranderen. Daarom gebruiken fylogenetici meestal meer dan één outgroup in cladistische analyses. Het gebruik van meerdere outgroups verdient de voorkeur omdat het een robuustere fylogenie oplevert, een buffer vormt tegen slechte outgroup-kandidaten en de veronderstelde monofylie van de ingroup test.
Om als outgroup in aanmerking te komen, moet een taxon aan de volgende twee kenmerken voldoen:
- Het mag geen lid zijn van de ingroup.
- Het moet nauw genoeg verwant zijn met de ingroup om zinvolle vergelijkingen met de ingroup mogelijk te maken.
Daarom moet een geschikte outgroup ondubbelzinnig buiten de clade vallen die in de fylogenetische studie van belang is. Een outgroup die binnen de ingroup is genesteld zal, wanneer deze wordt gebruikt om de fylogenie te wortelen, resulteren in onjuiste conclusies over fylogenetische verwantschappen en de evolutie van eigenschappen. Het optimale niveau van verwantschap van de outgroup met de ingroup hangt echter af van de diepte van de fylogenetische analyse. Het kiezen van een nauw verwante outgroup ten opzichte van de ingroup is nuttiger wanneer subtiele verschillen worden bekeken, terwijl het kiezen van een te ver verwijderde outgroup kan resulteren in het verwarren van convergente evolutie met een directe evolutionaire relatie ten gevolge van een gemeenschappelijke voorouder. Voor oppervlakkige fylogenetica – bijvoorbeeld het bepalen van de evolutionaire relaties van een clade binnen een genus – zou een geschikte outgroup een lid van de zusterclade zijn. Voor diepere fylogenetische analyse kunnen echter minder nauw verwante taxa worden gebruikt. Jarvis et al. (2014) gebruikten bijvoorbeeld mensen en krokodillen als outgroups bij het oplossen van de vroege takken van de aviaire fylogenie. In de moleculaire fylogenetica betekent het voldoen aan de tweede eis meestal dat DNA- of eiwitsequenties van de outgroup succesvol kunnen worden uitgelijnd aan sequenties van de ingroup. Hoewel er algoritmische benaderingen bestaan om de outgroups te identificeren met maximale globale parsimony, zijn deze vaak beperkt door het niet weergeven van de continue, kwantitatieve aard van bepaalde karaktertoestanden. Karaktertoestanden zijn eigenschappen, hetzij voorouderlijk of afgeleid, die van invloed zijn op de constructie van vertakkingspatronen in een fylogenetische boom.