Bei einer Kosten-Nutzen-Analyse wird das Verhalten eines Tieres untersucht. Diese Untersuchung soll darüber Auskunft geben, ob sich ein bestimmtes Verhalten positiv oder negativ auf das Einbringen von Genen in den Genpool auswirkt. Dabei wird alles, was zum Überleben des Nachwuchses beiträgt und die Fortpflanzungschance verbessert, als Nutzen betrachtet. Alles, was diese Parameter erniedrigt, sind Kosten. Die Summe aus beidem ergibt dann das Ergebnis derKosten-Nutzen-Analyse. Ist dieser Wert positiv, werden aufgrund eines Verhaltens mehr Gene in den Genpool eingebracht.

Wie bereits in der Ökologie besprochen, kann zwischen Tieren einer Art oder auch Tieren verschiedener Arten ein Konkurrenzkampf ausbrechen. Dieser Konkurrenzkampf entsteht immer dann, wenn eine oder mehrere Ressourcen in zu geringer Menge vorliegen. Der Begriff „Ressourcen“ kann hierbei sehr viel bedeuten: Er umfasst jegliche Form der Nahrung, Fläche zum Schlafen, Jagen und Aufziehen der Kinder, Sexualpartner zur Fortpflanzung und noch vieles mehr.

Bei einem Konkurrenzkampf gewinnt derjenige, der aufgrund seiner Verhaltensprogramme besser an die gegebenen Umweltbedingungen angepasst ist. Diese Verhaltensprogramme sind wiederum in der DNA niedergeschrieben und werden somit vererbt.

Da dasjenige Individuum mit den besten Verhaltensprogrammen auch die meisten Ressourcen erhält, kann es sich am häufigsten fortpflanzen und gibt somit dieses Verhalten an die meisten Nachkommen weiter. Auch hier gilt daher, dass sich das erfolgreichste Verhalten über Generationen hinweg durchsetzt.

Deutlicher wird das Ganze nochmal an dem Beispiel der Territorialität: Territorialität beschreibt die Konkurrenz zwischen zwei Individuen der gleichen Art um ein Territorium (Revier). Das eroberte Territorium bietet dem Eroberer dabei Nahrung und einen Platz, um sich fortzupflanzen sowie die Nachkommen aufzuziehen und ist für viele Tiere deshalb unentbehrlich. Diese Vorzüge eines Territoriums können somit als Nutzen verstanden werden. Diesem Nutzen stehen aber immer auch Kosten gegenüber.

Diese Kosten umfassen alle Verhaltensweisen, die dem Erwerb, der Markierung, der regelmäßigen Kontrolle und der Verteidigung des Reviers dienen. Dabei können vor allem die Kämpfe gegen Konkurrenten dem Angreifer wie auch Verteidiger viel Schaden zufügen.Wie groß Kosten und Nutzen in diesem Fall sind, hängt immer von dem Verhalten ab, welches das Tier zeigt, um das Territorium zu erobern bzw. zu verteidigen.

Die Soziobiologie beschäftigt sich mit den biologischen Grundlagen des Sozialverhaltens aller Lebewesen. Dabei wird untersucht, welche evolutionsbiologische Funktion soziales Verhalten hat und wie sich einzelne Verhaltensweisen auf das Überleben von Individuen auswirken.

Soziologen gehen von dem Konzept des genetischen Eigennutzes aus. Nach diesem Konzept ist das Ziel eines Gens, möglichst oft weitergegeben zu werden und somit über Generationen hinweg zu überleben. Gene kommen im Phänotyp zum Ausdruck und beeinflussen das Verhalten eines Individuums. Passt dieses Verhalten in die jeweilige Umgebung, führt dies bei dem Individuum zu einem Selektionsvorteil und wird dementsprechend häufiger an die Folgegenerationen weitergegeben. Somit setzen sich vor allem diejenigen Gene durch, die bei ihrem Träger einen Verhaltensvorteil bewirken. Durch die Soziobiologie können Phänomene wie Altruismus, elterliche Investition oder auch des Infantizid (Töten von Nachkommen der eigenen Art) erklärt werden.

Laut Definition ist ein altruistisches Verhalten jedes, das ein Lebewesen zeigt, wenn durch sein Handeln einem anderen Lebewesen, jedoch nicht ihm selbst geholfen wird. Ein solches Verhalten wird im Tierreich besonders häufig bei verwandten Tieren gezeigt. Passt ein Männchen auf die Kinder seiner Geschwister auf, wird von altruistischem Verhalten gesprochen. Dieses Verhalten ist für das Männchen evolutionär sinnvoll, da die Kinder der Geschwister eine gewisse genetische Übereinstimmung mit ihm haben. Ob sich ein solches Verhalten im Einzelfall durchsetzt, ist ganz davon abhängig, wie groß die Kosten und der Nutzen des Verhaltens sind.

Die als Infantizid bezeichnete Tötung der eigenen Nachkommen zielt letztendlich immer auf die Steigerung der individuellen Fitness ab. Ein solcher individueller Fitnessvorteil entsteht beispielsweise dadurch, dass das Elterntier die als Folge des Infantizids eingesparten Ressourcen nutzen kann. Die Tötung von Nachkommen fremder Artgenossen ist bei Löwen zu beobachten. Wenn ein Männchen eine neue Gruppe übernimmt, tötet es häufig die Jungen des Vorgängers, um mit dem Weibchen schneller eigenen Nachwuchs zeugen zu können.