Bez wątpienia pewne potencjalne korzyści przemawiają za podjęciem wałki, niemniej jednak z pewnością nie wszystkie. Także i w czasie walki każda decyzja taktyczna o jej zaostrzeniu czy złagodzeniu niesie ze sobą zarówno zyski, jak i straty, które mogą być poddane analizie. Etologowie od dawna zdawali sobie z tego sprawę, ale potrzeba było J. Maynarda Smitha, powszechnie nie zaliczanego do grona etologów, by myśl ta wypowiedziana została dobitnie i jasno. Nawiązawszy współpracę z G. R. Pricem i G. A. Parkerem, posłużył się w tym celu gałęzią matematyki, zwaną teorią gier. Ich klarowne wywody da się wyrazić bez uciekania się do symboli matematycznych, choć stracą wówczas nieco na ścisłości.
Kluczowym pojęciem wprowadzonym przez Maynarda Smitha jest pojęcie „strategii ewolucyjnie stabilnej”, które sięga korzeniami idei W. D. Hamiltona i R. H. MacArthura. „Strategia” jest zaprogramowanym uprzednio zbiorem zachowań. Strategią jest na przykład: „Zaatakuj przeciwnika; jeśli zacznie uciekać - ścigaj go; jeśli i on zaatakuje w odwecie - uciekaj”. Ważne jest przy tym, byśmy mieli na uwadze, że strategii nie należy traktować jako świadomie wypracowanej przez danego osobnika. Pamiętajmy, że stworzyliśmy obraz zwierzęcia podobnego do robota przetrwania, sterowanego komputerem zaprogramowanym uprzednio do kierowania ruchami mięśni. Opisanie strategii zestawem kilku prostych poleceń sformułowanych w języku polskim ułatwia nam jedynie uzmysłowienie jej sobie. Zwierzę zachowuje się tak, jakby stosowało się do tych instrukcji, choć mechanizm, dzięki któremu tak się dzieje, pozostaje nie sprecyzowany.
Strategię ewolucyjnie stabilną definiuje się jako taką strategię, której od momentu gdy zostanie przyjęta przez większość członków populacji, nie jest w stanie wyprzeć żadna inna strategia alternatywna.* Jest to myśl bardzo finezyjna i ważka. Innymi słowy to, jaka strategia jest najlepsza dla pojedynczego osobnika, zależy od tego, co robi większość populacji. Skoro całość populacji składa się z osobników, z których każdy stara się zmaksymalizować swój własny sukces, jedyną strategią, jaka się utrzyma, będzie ta, której od momentu jej ukształtowania się nie będzie mógł prześcignąć żaden odbiegający od normy osobnik. W następstwie zmian środowiskowych na dużą skalę może się pojawić krótki okres ewolucyjnej niestabilności, być może, nawet oscylacje w populacji. Lecz gdy ustali się w niej strategia ewolucyjnie stabilna, populacja będzie przy niej trwać, gdyż dobór będzie eliminował wszelkie od niej odstępstwa.
By posłużyć się tą koncepcją w rozważaniach na temat agresji, zanalizujmy jeden z najprostszych hipotetycznych przypadków przedstawionych przez Maynarda Smitha. Przypuśćmy, że w populacji pewnego gatunku istnieją tylko dwa typy strategii walki, strategia jastrzębia i gołębia. (Nazwy te pochodzą z ludzkiej symboliki i nie określają rzeczywistych zwyczajów tych ptaków - gołębie są w rzeczywistości ptakami dość agresywnymi). Każdy osobnik w naszej hipotetycznej populacji zaklasyfikowany jest jako jastrząb albo gołąb. Jastrzębie walczą tak srogo i bezpardonowo, jak tylko potrafią, wycofując się jedynie wtedy, gdy są ciężko ranne. Gołębie zaś ograniczają się do gróźb wyrażanych z umiarem i w stereotypowy sposób, nigdy nikogo nie raniąc. Gdy jastrząb staje do walki z gołębiem, ten od razu ucieka, a więc nie zostaje zraniony. Gdy jastrząb walczy z jastrzębiem, walka trwa tak długo, aż jeden z nich zostanie ciężko ranny lub zginie. Gdy gołąb spotka gołębia, żaden z nich nie zostaje ranny. Będą przybierać wobec siebie groźne pozy tak długo, dopóki jeden z nich się nie wycofa na skutek zmęczenia lub uznawszy, że nie warto sobie tym dłużej zawracać głowy. Przyjmijmy przez chwilę, że osobnik nie ma możliwości wcześniejszego ustalenia, czy dany rywal jest jastrzębiem, czy gołębiem. Dowiaduje się o tym w czasie walki, a poprzednich starć z danymi osobnikami, które mogłyby być dla niego wskazówką, nie pamięta.
Posługując się czysto umownymi kryteriami, współzawodnikom przyznawać będziemy punkty. Powiedzmy 50 punktów za wygraną, 0 za przegraną, -100 za ciężkie zranienie i -10 za marnowanie czasu w długim starciu. Punkty te są wprost wymienialne na walutę przetrwania genu. Osobnik, który uzbiera dużo punktów i osiąga wysoki przeciętny „zysk”, pozostawia po sobie wiele genów w puli genowej. Rzeczywiste wartości liczbowe, o ile mieszczą się w rozsądnych granicach, nie są w naszej analizie istotne, pomagają nam jedynie w rozważaniu problemu.