Согласен насчет биологической необходимости. Однако правила морали передаются от поколения к поколению не через генетический материал, поэтому не стоит сравнивать биологическую необходимость передавать свои гены с культурной необходимостью поддерживать жизнеспособное общество. Если рассматривать идеи, живущие в головах, как фенотипические признаки на которые может действовать отбор, то становится понятно, что "нежиснеспособные" идеи будут быстро отсеиваться. Мораль в обществе - лишь совокупность жизнеспособных идей.

Я, правда, затрудняюсь ответить, буду ли я считать разумными роботов, если они будут по значению некоторого случайного числа объединять в группы с разными моральными правилами.. :-)

Вот! Вот где "собака порылась"! Если бы роботы "выбирали" моральные правила, то мы немедленно бы назвали их разумными. Но мы не можем сформулировать научное определение слова "выбирать". Поэтому остается лишь верить.

Получается забавная вещь - мы считаем организм разумным, если мы верим в то, что у него есть свобода воли.