選択されたアウトグループは、イングループが自分自身に関係するよりも、イングループに関係することが少ないという仮説が立てられている。 これらの関係からの進化上の結論は、アウトグループの種は、イングループの共通祖先よりも古いイングループとの共通祖先を持っているということです。 アウトグループの選択は、系統樹のトポロジーを変える可能性があります。 そのため、系統発生学者は通常、クラディスティック分析において複数のアウトグループを使用する。
アウトグループとして認定されるためには、ある分類群が以下の2つの特性を満たさなければなりません:
- イングループのメンバーであってはならない。
- イングループとの有意義な比較のために、イングループと十分に密接な関係にあること。
従って、適切なアウトグループは、系統学的研究の対象となるクレードの外に明確に存在しなければなりません。 イングループ内に入れ子になっているアウトグループは、系統樹のルートに使用された場合、系統関係や形質進化について誤った結論をもたらします。 しかし、アウトグループとイングループの最適な関連性のレベルは、系統分析の深さに依存する。 イングループに対して近縁のアウトグループを選択することは、微妙な違いを見る際に有用であり、一方、過度に遠いアウトグループを選択すると、収斂進化を共通の祖先による直接的な進化関係と勘違いしてしまう可能性があります。 例えば、ある属の中のクレードの進化的関係を解決するような浅い系統学では、姉妹クレードのメンバーが適切なアウトグループとなります。 しかし、より深い系統分析のためには、より近縁な分類群を使用することができます。 例えば、Jarvisら(2014)は、鳥類の系統樹の初期の枝を解決する際に、ヒトとワニをアウトグループとして使用しました。 分子系統学では、2番目の要件を満たすことは、一般的にアウトグループのDNAまたはタンパク質の配列がイングループの配列とうまくアラインメントできることを意味します。 最大限のグローバル・パルシモニーを用いてアウトグループを同定するアルゴリズムが存在するが、ある種の特性状態の連続的かつ定量的な性質を反映できないため、制限を受けることが多い。 特性状態とは、系統樹の分岐パターンの構築に影響を与える、祖先または派生の形質のことです。