L’outgroup scelto è ipotizzato essere meno strettamente legato all’ingroup di quanto l’ingroup sia legato a se stesso. La conclusione evolutiva di queste relazioni è che la specie outgroup ha un antenato comune con l’ingroup che è più vecchio dell’antenato comune dell’ingroup. La scelta dell’outgroup può cambiare la topologia di una filogenesi. Pertanto, i filogenetisti usano tipicamente più di un outgroup nell’analisi cladistica. L’uso di più outgroup è preferibile perché fornisce una filogenesi più robusta, che tampona i candidati outgroup scadenti e verifica l’ipotizzata monofilia dell’ingroup.
Per qualificarsi come outgroup, un taxon deve soddisfare le seguenti due caratteristiche:
- Non deve essere un membro dell’ingroup.
- Deve essere imparentato con l’ingroup, abbastanza strettamente per confronti significativi con l’ingroup.
Quindi, un outgroup appropriato deve essere inequivocabilmente fuori dal clade di interesse nello studio filogenetico. Un outgroup che è annidato all’interno dell’ingroup, quando viene utilizzato per radicare la filogenesi, porta a conclusioni errate sulle relazioni filogenetiche e sull’evoluzione dei tratti. Tuttavia, il livello ottimale di parentela dell’outgroup con l’ingroup dipende dalla profondità dell’analisi filogenetica. La scelta di un outgroup strettamente correlato rispetto all’ingroup è più utile quando si osservano differenze sottili, mentre la scelta di un outgroup eccessivamente distante può portare a confondere l’evoluzione convergente con una relazione evolutiva diretta dovuta a un antenato comune. Per la filogenetica superficiale – per esempio, risolvendo le relazioni evolutive di un clade all’interno di un genere – un outgroup appropriato sarebbe un membro del clade sorella. Tuttavia, per un’analisi filogenetica più profonda, possono essere utilizzati taxa meno strettamente correlati. Per esempio, Jarvis et al. (2014) hanno usato gli esseri umani e i coccodrilli come outgroup mentre risolvevano i primi rami della filogenesi aviaria. Nella filogenetica molecolare, soddisfare il secondo requisito significa tipicamente che le sequenze di DNA o proteine dell’outgroup possono essere allineate con successo alle sequenze dell’ingroup. Sebbene esistano approcci algoritmici per identificare gli outgroup con la massima parsimonia globale, essi sono spesso limitati dal non riflettere la natura continua e quantitativa di alcuni stati caratteriali. Gli stati caratteriali sono tratti, ancestrali o derivati, che influenzano la costruzione dei modelli di ramificazione in un albero filogenetico.