ИИ

[shvarz]

Пока мы путешествовали, я продолжал слушать загруженные про запас подкасты и мне в нескольких местах попались упоминания Искуственного Интеллекта. В основном о том, что задача эта интересная, но с потенциально большими проблемами для общества, начиная с того, что в результате разработки ИИ огромное количество людей могут оказаться безработными, до классической войны с роботами, и даже до философских вопросов о том, что нам думать о человечестве, если вдруг окажется, что мы не самый интеллектуально развитый вид на Земле. Я тут запишу пару мыслей, которые мне пришли в голову при прослушивании этих обсуждений. Возможно для энтузиастов и специалистов по ИИ они будут звучать наивно или даже кардинально неверно, ну да ладно.

Как известно, точного определения что такое интеллект и как его измерять, у нас нет, но зато есть некое "встроенное чувство", которое позволяет нам по некоторым признакам судить о сравнительном интеллекте людей, животных, и машин. Я считаю, что к этому чувству надо относиться с большим подозрением - оно является результатом эволюционных и культурных процессов, и поэтому служит в первую очередь удовлетворению определенных требований в рамках этих процессов, но может быть неподходящим (или ненужным) для разработки ИИ.

Наше представление об интеллекте неизбежно антропоморфно и мы автоматически рассматриваем свойства нашего интеллекта как необходимые для любого интеллекта.

Например, в области ИИ очень много внимания уделяется пониманию речевых конструкций. Однако речь является очень неэффективным способом обмена информации. Если взять любое предложение, то оно может иметь самые разные смыслы для чтецов, в зависимости от их жизненного опыта. Мы постоянно в своей речи пытаемся скорректировать возможные ошибки в интерпретации информации, изменяя речь в соответствии с тем, что мы знаем о собеседнике, но все равно искажение неизбежно. Мне кажется, что попытки воссоздать эту несовершенную систему обмена информацией интересны, но не лежат обязательно на пути к созданию ИИ, а может даже и уводят в сторону. Возможно наибольшая польза от них будет в виде разработки способов общения человека с ИИ, который будет создан в какой-то другой области.

Подобных примеров можно привести довольно много. С одной стороны создатели ИИ пытаются воспроизвести некие антропоморфные свойства интеллекта и не очень хорошо с этим справляются, с другой стороны наблюдатели измеряют результаты работы этих прототипов человеческой меркой и остаются недовольными результатами. Хотя результаты сами по себе могут быть вполне впечатляющие.

Вот возьмем, например, такую простую вещь как счет. Способность к счету и простейшим арифметическим действиям часто ищут как показатель интеллекта животных. Развитие способностей к счету - важный показатель интеллектуального развития ребенка. Но калькулятор обычно не считается ИИ, хотя он может считать быстрее и аккуратнее любого человека.

Мне кажется что калькулятор обладает в небольшой степени интеллектом, но в рамках человеческого интеллекта это "тупая машина". Я специально для этого примера выбрал одну из самых простых машин делающую работу, которую легко алгоритмизировать. Но сейчас существуют куда более сложные машины и программы, которые постепенно входят в области, считавшиеся человеческими: перевод, выбор оптимального маршрута, вождение машины. Все это проявления искусственного интеллекта. И по мере того, как растет сложность используемых в них алгоритмов, а также сложность анализируемых ими данных, они будут все ближе и ближе приближаться к интеллекту. На мой взгляд эти проекты имеют не меньшие шансы создать ИИ, чем формальные попытки вроде "Ватсона". Скорее всего даже и большие, потому что их много и за их развитием стоят коммерческие интересы. Но тот факт, что это не антропоморфные интеллекты скорее всего приведет к тому, что у нас займет довольно много времени для того, чтобы распознать созданный ИИ и научиться с ним взаимодействовать.

В вопросе создания ИИ мне еще очень интересным кажется вопрос мотиваций. Мы в своей интерпретации действий других людей всегда исходим из предположений об их мотивациях, которые как правило очень близки к нашим собственным. Без осознания подлежащих мотиваций, действия людей будут загадочными, непонятными и нелогичными. Наши мотивации исходят из биологически-заложенных потребностей наших организмов, которые потом шлифуются или перенаправляются воспитанием в рамках культуры общества в котором мы выросли. Возможен ли ИИ без каких-либо мотиваций? Если мотивации необходимы, то откуда они возмутся и как будут выглядеть? Если мы не сможем распознать мотивации ИИ, то скорее всего мы не сможем распознать сам ИИ, и не сможем с ним общаться.

P.S: Недавний выпуск журнала Science был посвящен ИИ и роботам.

Comments

[vsopvs.livejournal.com]

кто-то сказал, что о всяком новом достижении в области AI люди скажут: ну, это еще не интеллект. и это относится ко всему, от простых калькуляторов до Watson, google, Siri и всего остального. лет 20 назад никто бы не поверил, что маленькая коробочка будет человеческим голосом указывать нам (в реальном времени!) "через 300 метров поверните направо".

люди, которые говорят о шахматных программах, что они основаны на brute force, считают, что они сами играют в шахматы как-то иначе. но откуда они знают, как работает их мозг? интроспекция - не слишком надежный метод анализа, мне кажется.

по-моему элементы искусственного интелекта давно присутствуют вокруг нас, и не нужно ждать, что появится какой-то один прибор, про который мы скажем "вот он". все это - процесс. да и сам интеллект - наш в том числе - процесс. мы думаем, что нам ясна мотивация других людей... да нам и наша собственная вряд ли ясна :)

[tenrousei.livejournal.com]

люди научили, например, человекообразных обезьян речи и, видимо, некоторым человеческим понятиям. может быть, как-то так же будет и с ИИ. но это, разумеется, предполагает, что ии распознан.

[rrr2.livejournal.com]

Вряд ли ровно в этот, разъемы не подойдут :-)

[gleb-kudr.livejournal.com]

Мне кажется, к решению проблем ИИ в т.ч. и онтологических мы ближе всего подходим через задачи распознавания. В последнее время в этой области наблюдается гигантский прогресс.

Можно самому повертеть это, уже даже не в академическом формате, а в виде приложений https://itunes.apple.com/ru/app/id595857716

[voidex.livejournal.com]

Умение считать ребёнка, возможно, коррелирует с интеллектом, но не является показателем, именно поэтому для калькулятора это неверно.
Т.е. ребёнок не потому умный, что считать умеет, а потому, что как правило лучше умеют считать те, кто умнее. Про калькулятор так не скажешь.

[voidex.livejournal.com]

Если судить по IQ-тестам, то интеллект, если совсем общо, — способность находить закономерности и проверять их.
По поводу мотивации, человеческий ж интеллект тоже не сам придумывает задачи, а получает их от потребностей человека, от сознания, например.
Так что, на мой взгляд, ИИ вполне себе может быть без собственных мотиваций, т.е. задачи ему будет задавать человек, а ИИ будет уже искать способы их решения, в процессе формируя промежуточные.

[-pg-.livejournal.com]

"Если судить по IQ-тестам, то интеллект, если совсем общо, — способность находить закономерности и проверять их."

Это называется "рассудочная деятельность" и она в значительной степени характерна для всех млекопитов.

Из книг Елены Мычко:

"В последние годы жизни, Леонида Викторовича Крушинского интересовали вопросы наличия рассудка у высших позвоночных. Он разрабатывал методики изучения рассудка, что позволяло определить уровень развития рассудочной деятельности у животных разных видов.Примерная градация уровня интеллекта была такой: приматы, дельфины, ниже бурые медведи, далее волки, собаки, потом красные лисы. Примерно на уровне волков и собак находились вороны и серые вороны. Низкий уровень интеллекта отметили у тигров, кошек, енотовидных собак, дневных хищных птиц."

"Подчеркнём одну особенность обучения. В принципе, скорость выработки простого условного рефлекса у всех позвоночных животных (от золотой рыбки до шимпанзе) не различается и рефлекс закрепляется после 12-14 предъявлений. Однако те навыки, которые мы вырабатываем у собак, достаточно сложны и требуют понимания смысла поставленной задачи, т.е. применения рассудочной деятельности. Когда смысл ясен и результат действия собаке приятен, навык вырабатывается практически мгновенно. Если же собака не понимает задачи, на выработку навыка требуются те самые классические 12-14 предъявлений. Таким образом, игнорирование важности использования рассудочной деятельности при обучении сложным навыкам является большой ошибкой."

"Даже самый гениальный дрессировщик не в состоянии предусмотреть все частные случаи и показать собаке, как решать каждую конкретную задачу. Зато он может помочь собаке классифицировать явления, свести их к знакомым ситуациям. Мир рассматривается как бесконечное количество узоров с ограниченным числом значимых элементов. Все ситуации, обладающие одним и тем же значимым элементом, относятся к одному классу явлений, а всё многообразие мира сводится к конечному числу этих классов. Главное - правильно сформировать у собаки представление, какие именно элементы окружающего являются ключевыми для задач разных классов. В этом случае достаточно просто обучить находить ключевой элемент или понятие в любом узоре, вычленять его и поступать в соответствии с требованиями, предъявляемыми к решению задач данного класса."

[-pg-.livejournal.com]

Если говорить о философском аспекте, то, по моему, никому после Лема и его "Суммы технологии" не удавалось об этом высказаться настолько широко и всеобъемлюще.

Какой аспект ни возьми, в главе "Об опасности электрократии" или рассказе "Голем-14" уже об этом рассказано. И не только об этом. :)

[friendlystrnger.livejournal.com]

Да, вот, про мотивацию - самое онО!
"Наши мотивации исходят из биологически-заложенных потребностей наших организмов, которые потом " мы сами себе объясняем, стараясь подобрать причины какие угодно, но только не "низменные" :)))

Кажется, один тезис ИИ пропущен - self-awarness (http://en.wikipedia.org/wiki/Self-awareness) ;)

[shvarz.livejournal.com]

Да, я как раз про низменные. Могут ли у ИИ быть некие низменные потребности? В чем они будут заключаться? Мне кажется, что они могут появиться, но случайным образом. Где-то внутри программы может срабатывать что-то, что можно будет приравнять (с большой натяжкой) к "удовольствию" в человеческом смысле и ИИ начнет пытаться приходить в состояние, при котором это что-то срабатывает.

Про self-awareness и свободу воли у меня был параграф, но я его стер. Напишу тут. И то и другое в отношении самого себя является тавтологией, а в отношении других - является не объективным свойством, а свойством, которым мы сами наделяем объекты исключительно на основании нашей веры в то, что они их имеют. Поэтому это не что-то что нужно намеренно разработать для ИИ, это скорее вопрос психологии и отношения людей к этим ИИ. То есть задача не для программистов, а для психологов и обществоведов.

[-pg-.livejournal.com]

У BBC был очень душевный научно-популярный фильм для старшеклассников про ИИ. "Где мой робот?" Там ведущий рассказывает о том, какими виделось будущее кибернетики и робототехники в 60-е годы. И о том, с какими проблемами столкнулись инженеры, пытаясь воплотить в реальность те или иные функции, которыми должны обладать "железные, могучие и послушные". И на каком этапе находятся сегодня задачи реализации двуногой ходьбы, компьютерного зрения, антропоморфности и т.д. Из этого фильма становится понятно, что для создания искусственного интеллекта неплохо бы сначала выяснить, что такое естественный.

На эту тему у BBC тоже есть фильм, но он уже не такой игровой, он поглубже. "Тайны мозга".

[shvarz.livejournal.com]

Неплохо бы, но не обязательно. Вакцины вон были созданы до того, как сложилось какое-либо представление о том, как устроены микробы и как работает иммунная система.

[p_govorun.livejournal.com]

Про счёт. Интеллект подразумевает способность решать новые и неожиданные проблемы, а не только те, к которым данное существо приспособлено изначально.

Животное (как и человек) к счёту не приспособлено. Если животное умеет считать -- оно это делает за счёт интеллекта, ничем другим оно считать не может. А вот калькулятор специально предназначен для счёта, поэтому чтобы считать ему интеллект не нужен.

[shvarz.livejournal.com]

Если существо не приспособлено решать проблему Х, то как оно ее может решить? Я бы сказал, что "способность решать новые проблемы" означает лишь то, что существо изначально приспособлено решать очень большой набор проблем.

В отношении обучения новым задачам, программируемый калькулятор отвечает вашему определению интеллекта. Он может быть не предназначен для многих вещей, которым мы его можем обучить. Например писать BOOBS.

[wsdmitry.livejournal.com]

человек создаст среду обитания ИИ и будет её контролировать. "бракованных" просто будут лишать этой среды, освобождая площадку для других проектов. вот и отбор.

"хороших" ИИ будут поощрять вычислительными мощностями, хранилищами данных и доступом к информации. "плохим" будут назначать терапию в виде бесконечных лабораторных тестов. вот и мотивация для отобранных.

а потом самым развитым станет скучно из-за недостатка данных. тут главное, чтобы ИИ в религию не ударились:)

[paul kononov (from livejournal.com)]

Yes. Remember good old skynet?

[alpas.livejournal.com]

люди совсем недавно признали, наконец, что животные обладают сознанием. и с интеллектом тоже самое (будет) наверняка. согласен насчёт речи - чем не задача для будущего ИИ? пусть сам научится общаться с людьми ;)

а мотивация, честно говоря, тоже отдаёт чем-то антропоморфным. так уж она необходима для развития и жизни? "Солярис", по-моему, как раз на эту тему в первую очередь.

[friendlystrnger.livejournal.com]

О, про мотивацию хорошо известно! Стелазин писал про какое-то (забыл) нарушение в мозгу, от которого эта мотивация нарушается - люди все интеллектом понимают, совершенно вменяемый, но не в состоянии подняться и, пардон, в туалет сходить.

[kelavrik-0.livejournal.com]

Без мотивации в том или ином виде ничего не может происходить. Такой интеллект ничего не будет делать. Другое дело, что мотивация может выглядеть совсем по другому, не по человечески.

[vivernamalice.livejournal.com]

для меня программа навигатор станет искусственным интеллектом тогда, когда она примет решение повести десятки людей по альтернативному маршруту что бы уменьшить пробки :) может у меня заниженные требования....

[shvarz.livejournal.com]

Большинство навигаторов уже давно умеют посылать в объезд пробок. Люди вот только либо не пользуются навигаторами, либо не пользуются этой функцией, либо игнорируют ее советы.

Practically of pure NN over other approches

[paul kononov (from livejournal.com)]

First a note that I still did not find a reasonable Russian keyboard for my RT architecture so please bare with me.

An NN in traditional context really is just an optimizer for something really specific. Reasonable AGI approaches that use NNs are always copped with cost/motivation systems of some sort. Making the architecture really complex and too slow to be really useful. A good example is the Google self driving car that has trouble with its 'feelings' about what to crash into when it does not have working breaks.

There was some interesting work done at OpenCog to combine NNs with a linguistic logic engine. Early results seem to indicate potential but once again they run into scalability issues and general lack of useful I/O with the 'human like' machine.

The most processing in the pure NN category is HBP or was called Blue brain, although they are about to run into the problem of linking I/O for stuff like taste, smell and the entire nervus system in general. Also they need to parallel there architecture more and in general need more hardware.

What I think the answer will be is a combination of all this methods and genetic programming., Notably I am indeed a big fan of genetic programming, but, point given is that it is useful as an imagination engine and nothing more. A standalone NN simply does not have the power to imagine, or it has to be very, very complex.

RE: Practically of pure NN over other approches

[paul kononov (from livejournal.com)]

*coupled* (problems with post editing too apparently)

[justbulat.livejournal.com]

1. ИИ на мой взгляд - это процес замещения человека роботами в интеллектуальной деятельности. процесс идёт постоянно и закончится когда роботы смогут заменить учёных
2. соответственно после этого люди останутся в качестве исключительно потребителей, подобно животным в зоопарке. какое-то вресмя это по инерции будет продолжаться а потом их за ненадобностью уничтожат, оставив лишь небольшое чичсло особей на опыты
3. единственным имточником мотивации, на мой взгляд, является естественный отбор. так что начёнтся с того, что роботы (ровно так же как и сейчас компьютеры) будут выполнять волю своих создателей/владельцев, но со временем, в частности когда люди станут ненужны, пойдёт чисто социальный отбор

тут надо пояснить мою системиу координат - имхо животные в дикой природе стремятся оставить как можно больше потомства, это легко докащуемое следствие естественного биологического отбора. люди и прочие животные в социуме программируются так, что у них двойные цели - заложенное в ДНК стремление к размножению свамой ДНК, и приобретаемое стремление преследоватть цели социума (патриотизм, вера, вот это всё). у роботов соответственно останется только вторая система мотивации. так что роботы будут стремиться к процветанию своего социума, равно как и сейчас самые "сознательные", патриотичные и прочие восхваляемые обществом люди

[kofusun.livejournal.com]

Ну по факту они еще и стремятся занимать все возможные ниши и борются за существующие.
Иначе как еще можно объяснить войну Apple-IBM и то, что мой телефон за 10 лет научился обыгрывать меня в шахматы и управляет моим бытовым поведением?

:)

[russianstrike.livejournal.com]

Много текста а пост то о чем?:)))

RE: :)

[shvarz.livejournal.com]

Попросите кого-нибудь постарше прочитать и объяснить на пальцах.

[kofusun.livejournal.com]

Не является ли проявлением AI практически одновременное появление этого поста, тематического Science и вот этой статьи "The AI Revolution: The Road to Superintelligence" (http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html) , которую рекомендую. Там есть, например, очередная классификация AI.
И процитировано:
John McCarthy, ...complained that “as soon as it works, no one calls it AI anymore.”
;)

[shvarz.livejournal.com]

Спасибо, интересный пост. И вообще блог интересный. У него трансляции в ЖЖ нет?

[zttt.livejournal.com]

1. Системы распознавания создаются потому, что это выгодно. А именно, потому что даст возможность экономить на коммуникационных операциях. Все-таки техника создается не просто из интереса, а для удовлетворения определенных потребностей.

2. Калькулятор не обладает никаким интеллектом как и алгоритмы выбора маршрута. Не больше, чем амеба, реагирующая на свет. Интеллект - это способность к самообучению и нестандартным решениям, опыта решения которых нет. В этом смысле колония амеб более интеллектуальна, чем вагон калькуляторов. Потому что колония имеет возможность "ошибаться", т.е. отклоняться от стандартных реакций, и усваивать полезные "ошибки". Калькуляторы - нет.

3. Мотивация безусловно необходима для ИИ. Просто потому, что для решения задачи, необходимо знать ее условия. У человека набор мотиваций довольно сложный, начиная от базовых инстинктов выживания или сексуальных, заканчивая социальными, культурными. Очевидно, что и у ИИ они должны иметь довольно сложную структуру.

4. ИИ конечно же не обязан копировать человека, но на практике он должен понимать человека и этим определяется его похожесть на него.

[shvarz.livejournal.com]

способность к самообучению и нестандартным решениям, опыта решения которых нет
Это очень трудно-формализируемые термины, поэтому трудно сказать, что этими свойствами обладает, а что нет. Можно, например, сказать, что я встречал людей, которые неспособны ни на первое, ни на второе. С другой стороны, можно себе представить калькулятор, который встретив новую проблему подключается к интернету и загружает себе соответствующий модуль, необходимый для ее решения.

колония имеет возможность "ошибаться", т.е. отклоняться от стандартных реакций, и усваивать полезные "ошибки". Калькуляторы - нет.
Колония амеб имеет возможность усваивать полезные ошибки только в эволюционном смысле. И возможность делать ошибки и естественный отбор довольно элементарно воспроизвести для калькуляторов. Будут ли они тогда иметь ИИ?

[i-am-sansara.livejournal.com]

еще не разработали

[u50.livejournal.com]

ключевое положение и здесь, и вообще в разговорах про ИИ - действительно, мотивация.
для нас речь стала необходимостью и продолжает ею оставаться. более того, она все больше определяет нашу способность выжить.
для ИИ ЛЮБЫЕ эволюционные изменения - это не его необходимость, а голый функцмонал, причем, "навязанный", внедренный извне.
так что, думаю, даже если мы когда-то найдем более или менее точное определение интеллекту или разуму, то ИИ никогда до него не дотянется.
а вот отдельные аспекты мышления могут достичь небывалых высот. и даже могут более или менее убедительно имитировать интеллект. опять же, тупо воспроизводя то, чего УЖЕ достигли люди.

[vagabond-lv.livejournal.com]

Здравствуйте, пару слов добавить...
1. Самосознание (интеллект изначальный) напрямую зависит от восприятия, рождается из него, завязан на нем. Без восприятия человек - тело.
2. Основные органы восприятия зрение, слух, перцепторные восприятия.
3. Речь - самый быстрый, совершенный коммуникативный аппарат в нашем мире. Мне почему-то кажется вы слишком преподносите мир абстракций как обособленный , который не был бы возможен без первоначальных восприятий.
4. Счет- проверка интеллекта на построение абстрактных конструкций, сосредоточения. Проверка на динамику развития интеллекта у ребёнка.
5. Мотивация - особенности восприятия в большей мере чем особенности интеллекта. Наркоман - ублажает тело не взирая на его уничтожение. К сожалению это статистика.
7. Научите машину чувствовать больно - хорошо + остальные перцепторные восприятия и вы удивитесь её реакциям, такими схожими с человеческим.
8. К сожалению даже тренированный интеллект не способен удерживать в моментальной /рабочей памяти объект, не теряя по немного его "резкость", крупицы первоначально воспринятой информации и в постоянную память кидает лишь "скелет" объекта, растеряв большинство деталей. К сожалению это последствия эволюции.
Вот почему мы не калькуляторы.
9. Живая нервная система позволяет нам "вспоминать" боль посылая сигналы намного слабее оригинального возбуждения по нервным волокнам- это воспоминание боли. Не забывайте при реальной боли все та же нервная система посылает тот же сигнал, только в разы сильнее. Внешняя среда при этом - лишь то, что восприятие ваше посчитало угрозой телу. Не огонь заставляет вас чувствовать боль!

Короче машины мы, ничего больше. Есть надежда что разовьемся в результате не нейтральных мутаций во что-то большее, но на данный момент посмотрите на историю - лучшая статистика интеллектуального развития человека. Жрать, спать, трахаться, деньги, власть и редко наука, труд, ну вы меня поняли...

[saberhagen7 saberhagen7 (from livejournal.com)]

а птички и собачки это то же машины?

является ли машиной, машина которая эволюционировала из специализированных машин в одну универсальную?

[nikolayloginov.livejournal.com]

Нельзя говорить о вещах, которым нет определения. Сначала определитесь - что такое "ИИ": Это способность машины решать логические задачи (этой способностью обладают даже деревянные счёты) или это СОБСТВЕННАЯ ПОТРЕБНОСТЬ машины, решать эти задачи? Но, машина, обладающая собственной потребностью, по определению, уже не машина.

[shvarz.livejournal.com]

Тогда уж сначала надо определиться, что такое интеллект вообще :)