Естественным отбором называют избирательное переживание и оставление потомства наиболее приспособленными особями и гибель наименее приспособленных.
Сущность естественного отбора в теории эволюции заключается в дифференцированном (неслучайном) сохранении в популяции определенных генотипов и избирательном их участии в передаче генов следующему поколению. При этом он влияет не на отдельный признак (или ген), а на весь фенотип, который формируется вследствие взаимодействия генотипа с факторами окружающей среды. Естественный отбор в разных условиях среды будет носить неодинаковый характер. В настоящее время различают несколько форм естественного отбора: стабилизирующий, движущий и разрывающий.
Стабилизирующий отбор направлен на закрепление узкой нормы реакции, которая оказалась наиболее благоприятной при данных условиях существования. Он характерен для тех случаев, когда фенотипические признаки являются оптимальными для неизменяющихся условий среды. Ярким примером действия стабилизирующего отбора является сохранение относительно постоянной температуры тела теплокровных животных. Эта форма отбора была детально исследована выдающимся отечественным зоологом И. И. Шмальгаузеном.
Движущий отбор возникает в ответ на изменения условий среды, в результате чего сохраняются мутации, отклоняющиеся от среднего значения признака, тогда как господствовавшая ранее форма подвергается уничтожению, так как недостаточно отвечает новым условиям существования. Например, в Англии в результате загрязнения воздуха промышленными выбросами широко распространились доселе невиданные во многих местах бабочки березовые пяденицы с темной окраской крыльев, которые были хуже заметны для птиц на фоне закопченных стволов берез. Движущий отбор не способствует полному уничтожению формы, против которой он действует, поскольку вследствие мер, предпринятых правительством и природоохранными организациями, ситуация с загрязнением атмосферы резко улучшилась, и наблюдается возвращение окраски крыльев бабочек к исходному варианту.
Разрывающий, или дизруптивный отбор благоприятствует сохранению крайних вариантов признака и удаляет промежуточные, как, например, в результате применения ядохимикатов появляются устойчивые к нему группы особей насекомых. По своему механизму дизруптивный отбор является противоположностью стабилизирующему отбору. Благодаря этой форме отбора в популяции возникают несколько резко разграниченных фенотипов. Это явление называется полиморфизмом. Возникновение репродуктивной изоляции между резко выраженными формами может приводить к видообразованию.
Иногда также отдельно рассматривают дестабилизирующий отбор, который сохраняет мутации, приводящие к широкому разнообразию какого-либо признака, например, расцветки и строения раковин некоторых моллюсков, живущих в разнородных микроусловиях скалистой полосы прибоя моря. Эта форма отбора была открыта Д. К. Беляевым при изучении одомашнивания животных.
В природе ни одна из форм естественного отбора не существует в чистом виде, а наоборот, имеются разнообразные их комбинации, и по мере изменения условий среды на первый план выходит то одна, то другая из них. Так, по завершении изменений в среде движущий отбор сменяется стабилизирующим, который оптимизирует группу особей в новых условиях существования.
Естественный отбор происходит на различных уровнях, в связи с чем различают также индивидуальный, групповой и половой отбор. Индивидуальный отбор устраняет менее приспособленные особи от участия в размножении, тогда как групповой направлен на сохранение признака, полезного не отдельной особи, а группе в целом. Под давлением группового отбора могут полностью вымирать целые популяции, виды и более крупные группы организмов без оставления потомства. В отличие от индивидуального отбора, групповой сокращает разнообразие форм в природе.
Половой отбор осуществляется внутри одного пола. Он способствует выработке признаков, которые обеспечивают успех в оставлении наибольшего потомства. Благодаря этой форме естественного отбора развился половой диморфизм, выражающийся в величине и окраске хвоста у павлина, рогов у оленей и т. д.
Естественный отбор является результатом борьбы за существование на основе наследственной изменчивости. Под борьбой за существование понимают всю совокупность взаимосвязей между особями своего и других видов, а также с абиотическими факторами окружающей среды. Эти отношения определяют успех или неудачу определенной особи в выживании и оставлении потомства. Причиной борьбы за существование является появление избыточного числа особей по отношению к доступным ресурсам. Помимо конкуренции, в эти взаимоотношения следует включать и взаимопомощь, которая повышает шансы особей на выживание.
Еще Ч. Дарвин выделял три формы борьбы за существование: внутривидовую, межвидовую и взаимодействие с факторами окружающей среды. Внутривидовая борьба происходит между особями одного вида. Она может быть не только прямой (за пищу, места размножения, территорию), но и косвенной (по устойчивости к паразитам, хищникам и другим неблагоприятным факторам). Внутривидовая борьба является наиболее острой, и обеспечивает выживание наиболее приспособленных из них в борьбе за существование с организмами других видов и абиотическими факторами.
Межвидовая борьба подразумевает взаимоотношения между особями разных видов. При этом, помимо конкуренции за пищу, территорию и другие ресурсы, возможны и другие формы взаимодействия (паразитизм, хищничество, мутуализм).
Взаимодействие с факторами окружающей среды также может приводить к гибели подавляющего большинства особей, например, у насекомых, лишь незначительная часть которых переживает зиму.