Определение разумности

[shvarz]

Перечитываю "Do Androids Dream of Electric Sheep" by P.K.Dick. Уже привычно разочаровываюсь в качестве "хорошего" перевода, но, впрочем, речь не об этом, не буду отвлекаться от темы.

А темой будет искусственный разум и кое-что еще (чур не забегать вперед, а читать по порядку этот )

Давайте для начала обратим взгляд на самих себя. Мы разумны. Что именно это значит - вопрос для философов, однако внешние проявления вполне очевидны: у нас есть язык, мы можем использовать орудия труда, у нас есть определенные социальные и культурные институты, и т.д. Нет никакого сомнения в том, что эти внешние проявления - результат некоторого естественного отбора. Не на индивидуальном уровне, а на уровне общества, эти атрубуты разумности закрепились, потому что общества обладавшие ими имели наилучший шанс выжить, распространиться и так далее.

Теперь давайте посмотрим совсем в другую сторону, а именно на компьютерные программы, симулирующие жизнь и эволюцию, например на столь любимые мною Darwinbots. Искусственные организмы в этих программах обладают возможностью воспроизводить внешние атрибуты разума. И естественный отбор в такой системе может привести к появлению культурно-социологических институтов, которые вполне могут быть схожи с нашими. Например, недавно я наткнулся на условия окружающей среды, которые привели к тому, что у роботов исчез каннибализм. Роботы поедающие себе подобных вымирали быстрее тех, которые питались лишь "едой".

Вернемся к разумности. Навряд ли кто-то из вас назовет роботов, бегающих на экране, разумными, лишь потому, что они не едят себе подобных. А как насчет роботов, которые общаются на сложном языке, способном описывать абстрактные понятия? А если они строят заводы? Водят детей в детский сад? Пишут книги? Танцуют? Поклоняются богам? А если они делают компьютеры и пишут программы симулирующие жизнь? Будет ли какая-то стадия, на которой Вы сможете поверить в то, что эти точки на экране - разумны. Если Вы не уверенны или близки ответить "да", то сейчас все станет еще немножко сложнее.

Любая компьютерная симуляция жизни является, по определению, детерминистской. Например, столь любимые мною Darwinbots изначально разбрасывают роботов по экрану согласно некоему случайному распределению, основанному на псевдо-случайном числе. Все последующие события и "случайности" в симуляции на самом деле исходят из этого единственного числа согласно неким алгоритмам (бывают более сложные решения, но мы пока оставим их в стороне). Дайте программе это псевдо-случайное число в следующий раз и вся симуляция повторится тютелька в тютельку. Теперь вернемся к вопросу о разумности. Вы только что говорили о смысле жизни с точками на экране и те давали Вам вполне "разумные" ответы. Однако если повторить симуляцию и задать Ваши вопросы этим точкам точно так же и точно в тот же момент, когда это делали Вы - то они ответят Вам точно так же. Становится очевидно, что эти точки на экране - лишь программа, которая принимает внешние стимулы и выдает некий ответ. На Ваше "А" она всегда ответит "Б". Можно ли это назвать разумом? Нет.

Но почему? Что отличает нас от этих роботов? Мы интуитивно ощущаем, что отличаемся от роботов тем, что на внешний раздражитель "А", мы можем ответить любой буквой алфавита по нашему желанию. Задающий вопрос не знает и знать не может, каков будет ответ. То есть дело в непредсказуемости? Непредсказуемости кем? В Darwinbots один робот всегда непредсказуем для другого - они не могут знать всех факторов, влияющих на решение принимаемое ими. Однако они вполне предсказуемы для меня. То есть для того, чтобы поднять кучку точек на экране до уровня человека, я должен лишь сделать так, чтобы их решения были для меня непредсказуемыми. Это очень просто - надо просто "псевдо-случайные" события в симуляции заменить действительно случайными событиями. Например, подключить к компьютеру счетчик Гейгера и каждые N минут вводить в симуляцию случайное число "щелчков" сделанных этим прибором.

Гениально? Как бы не так. Проблема в том, что если раньше мы общались с очень сложной компьютерной программой, то теперь мы будем общаться с очень сложным генератором случайных ответов. Ведь так? Прилетело 10 электронов - нам отвечают "Б", прилетело 20 - "Д".

То есть дело не в непредсказуемости.

Для действительно равного общения и признания разумности нам требуется верить в то, что данный нам ответ с одной стороны был непредсказуем, а с другй стороны - не случаен. Нам требуется верить что из некоего набора возможных ответов был осознанно выбран один. То есть все упирается в свободу воли у того, с кем мы общаемся. Более того, поскольку мы не можем знать, обладает ли некий объект свободой воли, нам остается лишь верить. Верить в свободу воли друг у друга. Такая вот круговая порука :)

Эта круговая порука - один из самых древних наших социальных институтов и он был обязателен для возникновения разума. Возвращаясь к заданному мной в самом начале вопросу, можно сказать, что роботов можно признать разумными тогда, когда у них возникнет вера в то, что их собеседник обладает свободой воли.

P.S: Для тех, кто со мной недавно и кто смог дочитать этот пост до конца, вот еще пара моих ранних постов о свободе воли:
Раз и два.

Comments

[noyau.livejournal.com]

Мне кажется, что разумность появляется в тот момент, когда индивидуум создает свои собственные правила морали (аксиологию), которые могут расходиться с биологически оправданными стратегиями (простой пример - принято уступать пожилым людям место в транспорте, а не как у осьминогов, вывела детишек - дохни). Потом перед этим искусственным препятствием уже появляется свобода воли - подчиняться ли правилам морали или нет.

[rioterra.livejournal.com]

на счет осьминога согласиться не могу. то, что у него нет морали не говорит о его неразумности. матери тоже часто бросают своих детей на волю судьбы, им плевать на своих детей, но мы не говорим о том, что они не разумны. животные тоже обладают разумом. просто этот разум не так сильно развит, как у человека, а механизмы все те же. и свобода от правил общества и эмансипация так сказать, свобода от принципов и неумение сострадать не говорит о неразумности. :)

[noyau.livejournal.com]

Мы с вами не договорились о терминологии. Вот, например в книге "Поведение животных", которую я когда-то с удовольствием прочла, утверждаентся следующий принцип: если для объяснения какого-то действия животного есть два способа - один, длинный, но ссылающийся на рефлексы и дающий объяснение без употребления слова "разум" и простой "животное подумало и решило", то выбирать следует "рефлекторый вариант". Фактически такое ограничение позволяет существенно сократить число кандидатов на разумность, делая определение "разума" довольно строгим.
Я, приводя пример с осьминогом, думала именно об этом определении.
Врядли осьминогиха после вылупления детишек решает, что ей пора умирать. От нее ничего не зависит, она ничего не выбирает - ей биологически предопределено сдохнуть.
В рамках действующей же человеческой морали, если мать бросает своего ребенка, то её поступок называется по крайней мере "неразумным". Если же она полагает, что, например всех детей надо изолировать и воспитывать отдельно для государственных нужд (как в "Государстве" Платона, или "Дивном новом мире" Хаксли, где вообще почковались) то она опять-таки при принятии решения ориентировалась на принятые в обществе моральные правила.

[shvarz.livejournal.com]

один, длинный, но ссылающийся на рефлексы и дающий объяснение без употребления слова "разум" и простой "животное подумало и решило"

Я как раз о том, что любое поведение можно объяснить первым способом - нужна лишь достаточно длинная система рефлексов.

[noyau.livejournal.com]

В общем, в книге на которую я ссылаюсь, автор наградил начатками разума только человекообразных обезьян, если я правильно помню, а кучу ужасно интересных явлений в конце концов отмел...
Человек, конечно, нахально уверен, что он-то мыслит. Но обнаружить мыслительный процесс у кого-то принципиально другого адски трудно, согласна с вами на все 100. :-)
Я своими комментариями пыталась зацепить разум через возможности философии. Сама эта наука меня поражает разнообразием видений мира - и мне как раз в этом-то и кажется проявляется наша разумность.

[rioterra.livejournal.com]

Ну осьминогиха умирает по биологическим причинам, это понятно. Так предопределено природой. не могу спорить, но можно доказать что угодно и что угодно опровергнуть, все зависит оттого, что мы подразумеваем под тем или иным термином. когда человек умирает во время родов, от него тоже ничего не зависит. я, например, смею предположить, что у животных есть разум, просто он не так сильно развит и мы не понимаем некоторых вещей, которые понимают животные определенного вида. ну, например, обезьяна может взять палку и сбить банан с дерева. но про обезьян еще куда ни шло. все-таки, распространена теория эволюции Дарвина и про обезьян мы можем это говорить с какой-то степенью уверенности. но допустим хищник выйдет на охоту. леопард, например. когда он поджидает свою жертву, он притаится, притворится спокойным, может даже спящим, моя кошка тоже, када воробьев ловит, так делает. ну допустим инстинкт. да. отлично, но почему инстинкт этот у них вообще появился? он у них в крови, достался от предков кошачих, передается из поколение в поколение. напоминает чем-то семейную традицию. но изначально кто-то из хищных пришел к выводу, что нужно притаиться. а откуда он вообще это взял? не с потолка же? возможно как-то случайно спал и увидел какую-нить антилопу и так ему легко удалось ее поймать. он осознал, что так легче их ловить... но разве это и не было разумным выбором, осмышлением ситуации и нахождению оптимального ключа к решению задач? если бы первая дикая кошка на земле была такой глупой и не обладала бы никакой логикой и разумом, то она бы жила случаем, не стала бы притворяться. играть. а раз играет, весь этот спектакль только говорит о хитрости. а хитрость не может быть присуща простому и примитивному. вот так вот :)
можно конечно долго объяснять это с точки зрения инстинктов, но по сути тогда и человек живет, руководствуясь инстинктами. именно поэтому мы говорим о том, что в каждой ситуации нет безграничного числа вариантов действия. есть целая наука психология. а разве не странно, что большинство людей мыслит примерно одинаково. нет, у них абсолютно разные взгляды на жизнь и вообще жизненные ориентиры, но это несущественное отличие. в конкретной ситуации люди поступили бы определенным образом в большинстве случаев. это то, что мы называем разумным поведением. и их поведение вполне предсказуемо. может это просто инстинкт самосохранения? ну разумность человека мы не опровергаем, например, потому что человек чует не биологическую опасность, а умеет думать наперед, их трудно обмануть. кошку можно обмануть, приучить ее допустим, что ее любят, если гладить и кормить, даже если недолюбливаешь. хотя мне мою вредную кошку обмануть не удается, когда ее глажу Я, она только кусается и видит, что у меня к ней некоторые справедливые претензии. знает, что ее накажут, если она будет устраивать туалет в углу, но она все равно упорно ходит туда. она ходит и все. из вредности :) и тут нет никакой логики.. ее много раз приучали, но бесполезно. потому что у животных тоже есть характер. есть послушные, а есть вредные. о разумности человека мы говорим допустим, когда речь заходит о чувствах. а разве чувства не придумка общества, чтобы назвать рефлексы, перешедшие в более тонкие отношения, более красивым словом. что ухаживания парней за девушками, что борьба самцов за самок, все подчиняется одной логике и в итоге мы придем все равно к инстинкту. любовь к деньгам может через долгую цепочку разумных решений привести нас к одному инстинкту выживания. все начинается с этого. просто тот шарм, которым обросли простые инстиктивные отношения заставляет нас думать. что человек живет логикой, а не инстинктами. мне лично кажется, что человек также живет инстинктами просто с разумом и шармом, а у животных все проще с нашей же позиции. хотя их отношений мы тоже понять не можем. животные тоже подают друг другу сигналы, тем самым предупреждая об опасности. к примеру. чем не подобие человеческого разговора? или взгляд в глаза и улыбка для людей знаки доброго расположения, а у животных - знак угрозы. чем не правила хорошего тона?

[noyau.livejournal.com]

В вас говорит владелец кошки, который обожает своего питомца ;-) Их мы склонны наделять и разумом и тонкими чувствами, и поговорить с ними можно, с видят насквозь и вааще.
А в случае, например, с подкрадываением, те, кто не научился подкрадываться, умирают. Им есть нечего, антилопы убегают. Выжили те, кто смог подойти бесшумно.

[shvarz.livejournal.com]

Дело в том, что естественный отбор идет не только на уровне индивидумов, но и на уровне микропопуляций (стай, стад, племен). В таких условиях развитие альтруизма - биологически оправданная стратегия и примеров тому масса. Самый, пожалуй, известный - когда утка поднимает шум заметив подкрадывающуюся к стае лису. Это уменьшает ее собственные шансы на выживание, но увеличивает шансы родственников.

Данный Вами пример не очень хорош, потому что уход за стариками - вполне биологически оправданная стратегия. Старики являются хранилищем информации о прошлом, стабилизируют отношения в группе, обучают детей... Но даже и эта стратегия существовала далеко не во всех человеческих сообществах. Например, некоторые народы севера сажали недееспособных стариков на льдины и отправляли в океан. Делает ли это их неразумными? В дополнение к этому, могу сказать, что роботов можно очень легко запрограммировать на выполнение действий идущих в разрез с их биологическими стратегиями выживания и размножения. Сделает ли это их разумными?

[noyau.livejournal.com]

Идеальный пример привести всегда трудно :-) И заметьте, что я не настаиваю, что правила морали всегда противоречат биологической необходимости. Но они могут ей противоречить. И кроме того, правила не могут быть едиными именно из-за разумности их "генераторов". Например, свою жизнь искренний приверженец Канта будет строить совершенно иначе, нежели эпикуреец.
Я, правда, затрудняюсь ответить, буду ли я считать разумными роботов, если они будут по значению некоторого случайного числа объединять в группы с разными моральными правилами.. :-)

[shvarz.livejournal.com]

Согласен насчет биологической необходимости. Однако правила морали передаются от поколения к поколению не через генетический материал, поэтому не стоит сравнивать биологическую необходимость передавать свои гены с культурной необходимостью поддерживать жизнеспособное общество. Если рассматривать идеи, живущие в головах, как фенотипические признаки на которые может действовать отбор, то становится понятно, что "нежиснеспособные" идеи будут быстро отсеиваться. Мораль в обществе - лишь совокупность жизнеспособных идей.

Я, правда, затрудняюсь ответить, буду ли я считать разумными роботов, если они будут по значению некоторого случайного числа объединять в группы с разными моральными правилами.. :-)

Вот! Вот где "собака порылась"! Если бы роботы "выбирали" моральные правила, то мы немедленно бы назвали их разумными. Но мы не можем сформулировать научное определение слова "выбирать". Поэтому остается лишь верить.

Получается забавная вещь - мы считаем организм разумным, если мы верим в то, что у него есть свобода воли.

[noyau.livejournal.com]

Ну, в общем, сделали кружок :-)
А вот интересно, как запрограммировать то, что если у роботов появятся автомобили (они их изобретут), то они будут пропускать помеху справа?

[shvarz.livejournal.com]

Это уж как повезет. Знаете, когда начали массово производить часы, то сначала было две фирмы, одна из которых делала часы идущие "по часовой стрелке", а вторая - "против". Вторая фирма была существенно больше, но разорилась (по несвязанным с направлением движением стрелки причинам). То есть мы сейчас вполне могли бы считать, что "по часовой стрелке" - это сверху налево, вниз, направо и вверх. Дело случая :)

[noyau.livejournal.com]

Мне кажется, что у роботов не будет ПДД. Им будет все равно кому уступать и по какой стороне ездить - они могли бы точно оценивать скорость и направление - при этом не надо устанавливать приоритетов - все и так знают, кто успеет первым проехать (это я пытаюсь придумать систему или опыт, по результатом которой можно будет констатировать разум).

[rioterra.livejournal.com]

и это очень длинный пост? :))) главное, интересный. а интересного много не бывает :Р
полностью согласна с данными рассуждениями

[shvarz.livejournal.com]

Спасибо.

Но я вот поспал часов 8 и уже вижу слабые места в данном дискурсе. Например то, что "вера в свободу воли" не имеет специфически проявляемых внешних признаков. То есть постороннему наблюдателю невозможно ее однозначно определить. Так что определение разумности откладывается на неопределенный срок.

[rioterra.livejournal.com]

ну изначально не было дано строгое определение разумности, да и не существует его вовсе. каждый определяет это для себя и изходя уже из определения этого понятия можно делать вывод о разумности или неразумности.
я, когда читала этот пост, для себя определила, что разум - это когда существо способно осмысливать свои поступки и поступать так, как требует ситуация, выбирая из возможных для решения данной ситуации вариантов действия.

[shvarz.livejournal.com]

Ну на самом деле весь пост был как раз про то, как мы определяем "разумность" в посторонних объектах.

когда существо способно осмысливать свои поступки и поступать так, как требует ситуация, выбирая из возможных для решения данной ситуации вариантов действия

1. Достаточно сложный робот может выбирать решение из множества возможных. Пример - Deep Blue играющий в шахматы.
2. "Осмысливать" - что это значит? Как мы отличаем "осмысливать" от "рефлексировать" от "случайно выбирать"? По каким внешним признакам? Каждый из нас может с определенностью определить "осмысление" только когда оно происходит в нашей собственной голове. Весь вопрос в том, как зафиксировать его в ком-то еще?

[rioterra.livejournal.com]

ну чтобы определить разумен объект или нет мы говорим о критериях, которые определяют эту разумность... мы ищем в объектах все свойственные ему критерии, а из них уже вибираем те, которые на наш взгляд говорят о разумности..
1. не множества, а нескольких. игрок может пойти королевой так, чтобы ее съела пешка теоритически, но не пойдет, потому что ходит не от балды, а подчиняясь определенной логике. и машина эта прощитывает ходы наперед, т.е. просчитывает от первого хода возможные пути победы от начала и до конца для любого хода соперника. вариантов могут быть миллионы, но они запрограммированы и если человек пойдет определенным образом в разных случаях машина может пойти по-разному, но это будет только РАЗНЫЕ пути, но все ведут к одной цели
2. на веру берем :)

[rioterra.livejournal.com]

осмысливать - выбирать то, что даст больше эффективности с меньшими потерями, полагаясь на анализ событий

[shvarz.livejournal.com]

Компьютер, который играет в шахматы, делает именно это.

[rioterra.livejournal.com]

ну значит он разумен :)
разница тока в том, что компьютер запрограммирован человеком, который запрограммирован природой %)

Разум

[(Anonymous)]

Что такое разум? Мы конечно представляем, но применяем некоторые субъективные рамки, ограничивая круг претендентов. Собственно, разумен человек? Обезьяна? Ну в некоторой мере. Конечно, человек более разумен.
Но зачатки разума можно отыскать и у насекомых, и у амебы.
В более общем понимании разум можно определить как способность делать не случайный, а оправданный выбор. В этом понимании все живые существа разумны.
Жизнь - это разум. Над этим стоит задуматься.

[ygam.livejournal.com]

Если верны некоторые гипотезы в теоретической информатике, то существует эффективный генератор псевдослучайных чисел, по предыдущему выводу которого невозможно вычислить начальное состояние генератора (даже если каждый электрон во Вселенной будет компьютером, работающим триллион лет со скоростью триллион операций в секунду), и следовательно, будущий вывод. Если мы не знаем начальное состояние генератора, то нам будет казаться, что использующий этот генератор робот обладает свободой воли.

[shvarz.livejournal.com]

Вопрос в том, будем ли мы считать, что такой робот обладает свободой воли, если мы знаем о том, что его поведение определяется таким генератором случайных чисел?

[pingva.livejournal.com]

> Верить в свободу воли друг у друга

а зачем?

> один из самых древних наших социальных институтов

нельзя ли подтверждение?

> обязателен для возникновения разума

получается циркулярная пила логика -- разум, чтоб верить в СВ, СВ чтоб был разум.

[shvarz.livejournal.com]

Зачем... Представьте себе, что вы ощущаете свою собственную свободу воли, однако не верите в то, что ею обладают другие люди. На мой взгляд это приведет к антисоциальному поведению, а значит уменьшит выживаемость особей. Вера в свободу воли друг у друга облегчает создание социальных институтов и должна была закрепиться естественным отбором.

Подтверждения я дать не могу. Я же не научный трактат пишу, а блог - то есть, по сути дела, треплюсь от нефига делать :)

Да, получается некая замкнутая петля, но не хуже чем "что было раньше - курица или яйцо". Ответа дать невозможно, но это не значит, что курица и яйца никак между собой не связаны.

[pingva.livejournal.com]

не, это не удовлетворительно никак. Получается, что мы выдумываем (!) свободу воли, чтобы де повысить выживаемость вида.

Если мы это понимаем, то тогда нужно сразу добавлять "но мы-то знаем, что никакой свободы нет"

и что значит "ощущаем собственную свободу воли?"

> Да, получается некая замкнутая петля, но не хуже чем "что было раньше - курица или яйцо"

позвольте, ответ на вопрос про курицу и яйцо -- он совершенно прост и очевиден =) Яйцо, разумеется, было раньше, задолго до куриц.

[shvarz.livejournal.com]

>и что значит "ощущаем собственную свободу воли?"

Ну не знаю как вы, а у меня вот совершенно твердое ощущение того, что я обладаю свободой воли, то есть волен выбрать - почесать ли мне пятку, налить кофе или поехать в магазин. Вопрос в том, является ли это лишь ощущением или действительно существует некое "я" (душа, за неимением лучшего слова), которое вольно подгибать под себя причинно-следственный принцип. И если это всего-лишь ощущение, то откуда оно взялось и зачем оно нужно. Я предполагаю, что наш разум после некоторой границы (возможно размытой) случайно или неизбежно обрел это ощущение, а наша вера в свободную волю других была необходимым последствием такого приобретения.

>Яйцо, разумеется, было раньше, задолго до куриц.

Ну так и разум тоже наблюдается задолго до человека, другое дело, что это не человеческий разум. А человеческий разум вполне возможно связан с ощущением свободы воли.

>не, это не удовлетворительно никак.

Абсолютно согласен. Я не видел еще ни одного удовлетворительного объяснения разума и свободы воли.

[ygam.livejournal.com]

Я вспомнил, что ded_maxim приводил цитату из одной из моих любимых книжек.

[pingva.livejournal.com]

цивилизация статуса отличная, надо бы по англицки прочесть.

Показатель разумности

[(Anonymous)]

Информационный обмен. Когда один субъект передает информацию другому, а тот в состоянии ее воспринимать и принимать, исходя из нее, определенные логичные действия, это уже признак разума.Хочу заметить, что речь идет о смысловой (семантической) информации. Пчела рисует свою восьмерку, в которой она обобщает недавний опыт по нахождению запасов нектара, а другие в состоянии ее расшифровать,интерпретировать должным образом, и повторить ее маршрут. Семантическая информация основана на абстракциях: знаки соответствуют конкретным физическим объектам. Так что мы не можем отказать пчелке в абстрактном мышлении и нужно признать ее разумность.
Но к информационному обмену способны и клетки. Они тоже разумны, способны читать информацию с ДНК и строить простейшие биологические объекты типа митохондрий и пр.
Все живое разумно.

Re: Показатель разумности

[shvarz.livejournal.com]

Тогда и кристаллы разумны - новые атомы способны читать информацию содержащуюся в структуре кристалла.

Re: Показатель разумности

[(Anonymous)]

Нет. Атомы читать информацию не способны. Они просто образуют химические связи. Информационного обмена здесь нет.

Re: Показатель разумности

[shvarz.livejournal.com]

В том смысле, в котором вы описываете жизнь, кристаллы тоже считывают информацию - новые атомы распознают порядок в уже существующем кристалле и встают в предназначенное им место. А электроны считывают информацию о количестве протонов в ядре и занимают соответствующие орбитали. Ну и так далее - до кварков.

Re: Показатель разумности

[(Anonymous)]

Вы меня, очевидно, не поняли. Я говорил об обмене информацией. Информацией семантической (смысловой). Атомы ею не обмениваются. В кристаллах семантической информации нет.

Re: Показатель разумности

[shvarz.livejournal.com]

Видимо вы меня тоже не поняли. Вы говорите:
"Когда один субъект передает информацию другому, а тот в состоянии ее воспринимать и принимать, исходя из нее, определенные логичные действия, это уже признак разума."

Я как раз говорил о том, что понятие "логичные действия" - не абсолютно. Мы наделяем "логичностью" одни действия и не наделяем ими другие. При этом наше определение разума очень гибко. Мы говорим, что человек разумен, хотя он часто поступает нелогично, и мы считаем компьютеры неразумными машинами, хотя они поступают вполне логично. Вы, наделяя логичностью процесс считывания ДНК, лишь подтверждаете мою теорию о том, что разум и свобода воли - понятия, которыми мы наделяем других в соответствии с нашей собственной потребностью чувствовать, что мы не одни в этом мире разумны и обладаем свободой воли.

Re: Показатель разумности

[(Anonymous)]

Кстати, вот ссылочка по поводу разумности бактерий и пр. на сайте world-science.net/exclusives/050418_bactfrm.htm.

[togo.livejournal.com]

Фраза "Более того, поскольку мы не можем знать, обладает ли некий объект свободой воли, нам остается лишь верить." вызывает у меня когнитивный диссонанс. Мне кажется что словечко "верить" тут не уместно. Это вообще последнее дело, когда мы задумываемся о том, обладает ли мой сосед свободой воли. В обыденной жизни такой вопрос был бы просто непонятен.
Как говорил Витгенштейн: «Дело не в том, что Мур знает: это рука, — а в том, что мы его не поняли бы, если бы он сказал: «Конечно, я могу и ошибаться в этом».

Кстати Вы можете, если захотите почитать мою книгу, мне кажется она как-раз на тему, затрагиваемую в Вашем посте :)
http://ru-quadrivium.livejournal.com/21149.html (http://ru-quadrivium.livejournal.com/21149.html)

[togo.livejournal.com]

т.е. вот
http://ru-quadrivium.livejournal.com/8984.html (http://ru-quadrivium.livejournal.com/8984.html)

[shvarz.livejournal.com]

Когда речь идет о соседе - конечно. А когда речь идет о компьютерных симуляциях?

[togo.livejournal.com]

Культурные практики определяющие бытиё человека создавались в условиях отсутствия компьютерных симуляций. В принципе система человек очень чувствительна к узнаванию "своего". Хотя её можно перехитрить. Многие принимают и тамогочи за волевого агента.
В некотором смысле это вопрос консенсуса. Помните как в "Солярисе". Там тоже поспорили на эту тему.