Искусственный интеллект. Проблемы.

alim дата: 02-06-2013 - 17:59 [ i ]

Мастер Репутация: 263 Статус: Давай пообщаемся! Свободен

(Nancy @ 31.05.2013 - время: 15:55) Определение разума - [i]Разум (в широком смысле) - это тенденция к усложнению, упорядочению, повышению уровня организации систем. С этим определением я полностью согласен. Но это определение именно "в широком смысле", на некоем философском или мировоззренческом уровне. Оно не позволяет делать конкретных прогнозов, и разрабатывать конкретные программы. Разум - основообразующее свойство некой сложной системы(моно или поли) осуществлять целенаправленную, упорядочивающую, созидательную деятельность в отношении себя и окружающей среды, также включающую в себя способность оперировать информацией в области субъективной реальности для предварительного моделирования ситуаций, оценки перспектив и просчета вариантов на поиск ошибок. А вот это определение я уже должен признать полностью неудовлетворительным. Ключевое слово в этом определении "целенаправленную". А что такое целеполагание? Это осознание некой реальности, как должной, как то, к чему необходимо стремится. Осознание невозможно без сознания, Сознание невозможно без интеллекта, без разума. Таким образом, в определение разума неявно заложено наличие это самого разума, т.е. определение несет в себе известный логический порок, называемый "порочный круг". Я настаиваю на своем определении, не для того, что бы устраивать тут детские разборки в песочнице, типа "чья машинка круче". Я готов выслушать конструктивную критику (даже именно хотел бы услышать), но только не на уровне: " А ты кто такой? Че, самый умны че ли?" Я привел тут свое определение исключительно для того, что бы обосновать те выводы, к которым лично я прихожу. Ну и собственно выводы: 1. ИИ невозможно создать в единственном экземпляре, Можно создать популяцию устройств, обладающих ИИ. 2. Невозможно создать ИИ, не имеющее доступа к воздействию на физическую реальность. 3. Невозможно каким-либо образом вшить с сознание ИИ какие-либо ограничения. И вообще невозможно как-либо ограничить свободу воли ИИ. Мы можем (безусловно можем!) создать устройство, которое будет наделено разумом, но содержание этого разума определить заранее невозможно. ИИ сам и только сам будет принимать свои решения, сам и только сам будет определять свое отношение к любым явлениям бытия, в том числе и к старому человечеству. Создавая ИИ мы не можем знать о чем он будет думать, ровно так же, как при зачатии обычного ребенка, мы не можем знать заранее, вырастет из него преступник, супер-террорист, ненавидящий все человечество, какой-нибудь диктатор, или из него вырастет святой, подвижник и т.п. Любая личность свободна, в том числе и личность ИИ. Другое дело, что ИИ будет лишен природных пороков, присущих биологическому человеку: агрессия, безотчетный страх, привязанность к плотским наслаждениям и т.п. 4. ИИ безусловно будет обладать эмоциями. Другое дело, что эти эмоции будут иными, чем у современного человека, возможно такими, какие мы и представить не можем. 5. Для создания ИИ есть все технологические предпосылки, он может быть создан буквально в любой момент. Если я что-то упустил, спрашивайте - я отвечу.

1NN дата: 02-06-2013 - 20:37 [ i ]

Акула пера Репутация: 302 Статус: Хочу познакомиться. Свободен

(alim @ 02.06.2013 - время: 17:59) Ну и собственно выводы: 1. ИИ невозможно создать в единственном экземпляре, Можно создать популяцию устройств, обладающих ИИ. 2. Невозможно создать ИИ, не имеющее доступа к воздействию на физическую реальность. 3. Невозможно каким-либо образом вшить с сознание ИИ какие-либо ограничения. И вообще невозможно как-либо ограничить свободу воли ИИ. Мы можем (безусловно можем!) создать устройство, которое будет наделено разумом, но содержание этого разума определить заранее невозможно. ИИ сам и только сам будет принимать свои решения, сам и только сам будет определять свое отношение к любым явлениям бытия, в том числе и к старому человечеству. Создавая ИИ мы не можем знать о чем он будет думать, ровно так же, как при зачатии обычного ребенка, мы не можем знать заранее, вырастет из него преступник, супер-террорист, ненавидящий все человечество, какой-нибудь диктатор, или из него вырастет святой, подвижник и т.п. Любая личность свободна, в том числе и личность ИИ. Другое дело, что ИИ будет лишен природных пороков, присущих биологическому человеку: агрессия, безотчетный страх, привязанность к плотским наслаждениям и т.п. 4. ИИ безусловно будет обладать эмоциями. Другое дело, что эти эмоции будут иными, чем у современного человека, возможно такими, какие мы и представить не можем. 5. Для создания ИИ есть все технологические предпосылки, он может быть создан буквально в любой момент. Позвольте кое-что возразить. По-моему, невозможно создать сразу популяцию ИИ. Разные группы разработчиков будут разрабатывать свой вариант, причем в единственном экземпляре. Так элементарно дешевле. Более удачные варианты будут дублировать в ограниченных масштабах (опять-таки из соображений экономии). Будет ли ИИ иметь доступ к воздействию на реальность, зависит от целей, поставленных разработчиками. ИИ будет обязательно иметь ограничения. (Те же азимовские законы робототехники). Иначе ничто не сможет его удержать от уничтожения людей и других носителей интеллекта, в том числе и искусственного. Разразится война всех против всех, которая может закончиться полным уничтожением планеты. Как ребенок воспитывается родителями и обучается жить в обществе, так и ИИ будет осваиваться в окружающем мире, пока не сможет к нему приспособиться. А люди будут учиться взаимодействовать с ИИ. Такая взаимная притирка займет немало времени. Людских пороков ИИ, возможно, иметь не будет, но у него могут оказаться свои пороки. Наличие эмоций у ИИ будет зависеть от целей разработчиков. Сами по себе эмоции возникнуть не могут. Насчет технологический предпосылок сомневаюсь. Но вот ограниченность наших знаний в этой области очевидна. Какую-то модель ИИ создать можно уже сейчас, но она будет весьма примитивна.

alim дата: 02-06-2013 - 22:30 [ i ]

Мастер Репутация: 263 Статус: Давай пообщаемся! Свободен

(sxn2561388870 @ 02.06.2013 - время: 20:37) Позвольте кое-что возразить. По-моему, невозможно создать сразу популяцию ИИ. Разные группы разработчиков будут разрабатывать свой вариант, причем в единственном экземпляре. Так элементарно дешевле. Более удачные варианты будут дублировать в ограниченных масштабах (опять-таки из соображений экономии). Будет ли ИИ иметь доступ к воздействию на реальность, зависит от целей, поставленных разработчиками. ИИ будет обязательно иметь ограничения. (Те же азимовские законы робототехники). Иначе ничто не сможет его удержать от уничтожения людей и других носителей интеллекта, в том числе и искусственного. Разразится война всех против всех, которая может закончиться полным уничтожением планеты. Как ребенок воспитывается родителями и обучается жить в обществе, так и ИИ будет осваиваться в окружающем мире, пока не сможет к нему приспособиться. А люди будут учиться взаимодействовать с ИИ. Такая взаимная притирка займет немало времени. Людских пороков ИИ, возможно, иметь не будет, но у него могут оказаться свои пороки. Наличие эмоций у ИИ будет зависеть от целей разработчиков. Сами по себе эмоции возникнуть не могут. Насчет технологический предпосылок сомневаюсь. Но вот ограниченность наших знаний в этой области очевидна. Какую-то модель ИИ создать можно уже сейчас, но она будет весьма примитивна. Любой сколь угодно сложный алгоритмический автомат принципиально отличается от ИИ. ИИ невозможно создать путем простого усложнения или увеличения мощности вычислительной машины. Все, что я утверждаю, можно сформулировать по другому. Устройство которое автономно, не будет иметь доступа к воздействию на реальность, не будет иметь эмоций, будет иметь какие-либо программно заданные ограничения, такое устройство просто не будет ИИ. Да, возможно такое устройство будет построено, но это не будет ИИ. Я же говорю, что в любой момент может быть построен именно ИИ.

1NN дата: 02-06-2013 - 22:56 [ i ]

Акула пера Репутация: 302 Статус: Хочу познакомиться. Свободен

(alim @ 02.06.2013 - время: 22:30) Любой сколь угодно сложный алгоритмический автомат принципиально отличается от ИИ. ИИ невозможно создать путем простого усложнения или увеличения мощности вычислительной машины. Все, что я утверждаю, можно сформулировать по другому. Устройство которое автономно, не будет иметь доступа к воздействию на реальность, не будет иметь эмоций, будет иметь какие-либо программно заданные ограничения, такое устройство просто не будет ИИ. Да, возможно такое устройство будет построено, но это не будет ИИ. Я же говорю, что в любой момент может быть построен именно ИИ. Я и не говорю про алгоритмический автомат или о простом увеличении мощности компьютера. Речь именно об ИИ. Если вы уберете все ограничения, то получите сумасшедшую машину, не способную к целенаправленным действиям. Любая помеха будет уводить ее с выбранного курса и провоцировать любые самые дикие действия. А оно нам надо?

alim дата: 02-06-2013 - 23:06 [ i ]

Мастер Репутация: 263 Статус: Давай пообщаемся! Свободен

(sxn2561388870 @ 02.06.2013 - время: 22:56) Я и не говорю про алгоритмический автомат или о простом увеличении мощности компьютера. Речь именно об ИИ. Если вы уберете все ограничения, то получите сумасшедшую машину, не способную к целенаправленным действиям. Любая помеха будет уводить ее с выбранного курса и провоцировать любые самые дикие действия. А оно нам надо? Это я говорю про автомат. Вопрос не в том, что бы убрать ограничения. Вопрос в том, что эти ограничения невозможны для ИИ, они возможны только для автомата.

1NN дата: 02-06-2013 - 23:22 [ i ]
Акула пера Репутация: 302 Статус: Хочу познакомиться. Свободен	А я обращаю ваше внимание на то, что ИИ без всяких ограничений - неработоспособен.

alim дата: 03-06-2013 - 06:38 [ i ]
Мастер Репутация: 263 Статус: Давай пообщаемся! Свободен	(sxn2561388870 @ 02.06.2013 - время: 23:22) А я обращаю ваше внимание на то, что ИИ без всяких ограничений - неработоспособен. Если Вы как-то попытаетесь обосновать свое утверждение, то можно будет и обсудить. А пока я лично придерживаюсь прямо противоположного мнения: ИИ с ограничениями - неработоспособен.

dedO'K дата: 03-06-2013 - 08:04 [ i ]

Акула пера Репутация: 946 Статус: Давай пообщаемся! Женат

(alim @ 03.06.2013 - время: 07:38) Если Вы как-то попытаетесь обосновать свое утверждение, то можно будет и обсудить. А пока я лично придерживаюсь прямо противоположного мнения: ИИ с ограничениями - неработоспособен. Тут мы вплотную подходим к роли творца. В отличии от человека, у которого один Творец, сотворивший человека по образу своему для функционирования в творении Его, у ИИ будет уже два творца, один из которых- тварная сущность, вынужденная жить по законам Творца, до конца их не понимая и, даже, не принимая, будучи подверженным лжи и гордыне.

Roman.S дата: 03-06-2013 - 09:02 [ i ]
Мастер Репутация: 80 Статус: Нет Женат	Как и обещал, создал новый топик: http://www.sxn.io/genom-pistolet-kyda...l Желающих - прошу принимать участие)

1NN дата: 03-06-2013 - 20:49 [ i ]

Акула пера Репутация: 302 Статус: Хочу познакомиться. Свободен

(alim @ 03.06.2013 - время: 06:38) Если Вы как-то попытаетесь обосновать свое утверждение, то можно будет и обсудить. А пока я лично придерживаюсь прямо противоположного мнения: ИИ с ограничениями - неработоспособен. Причем тут я? Ограничения ИИ неизбежны уже по той причине, что даже поставить себе задачу ИИ без ограничений не сможет. Ему надо вычленить проблему из контекста, определить ее границы, определить глубину возможного решения и т.п. Таким же образом ИИ должен обработать смежную проблему. А затем разделить их, чтобы, начав решать одну проблему не перескочить на другую, смежную. Далее, ИИ должен определить конечную цель работы и критерии ее оценки. Иначе ИИ не сможет понять, когда же ему остановиться, и будет решать проблемы без конца. Как видите, без ограничений ИИ окажется просто неработоспособным. Но и это еще не все. ИИ придется вводить ограничения по соображениям безопасности для себя и для человека. Скажем, котлован под небоскреб можно вырыть экскаватором, а можно и ядерным боеприпасом (с последующем радиоактивным загрязнением на несколько тысячелетий!). Впрочем, если ИИ хочет просто ликвидировать человечество, то ему ограничения могут и помешать. Но в таком случае, зачем такой ИИ человеку?

alim дата: 04-06-2013 - 07:39 [ i ]

Мастер Репутация: 263 Статус: Давай пообщаемся! Свободен

(sxn2561388870 @ 03.06.2013 - время: 20:49) Причем тут я? Ограничения ИИ неизбежны уже по той причине, что даже поставить себе задачу ИИ без ограничений не сможет. Ему надо вычленить проблему из контекста, определить ее границы, определить глубину возможного решения и т.п. Что бы вычленить проблему из контекста, определить ее границы, определить глубину возможного решения и т.п. необходим именно свободный разум, интеллект. О каких ограничениях речь? Если разум буде каким-либо образом ограничен, он не сможет решить указанные Вами задачи, он будет неработоспособен.

1NN дата: 04-06-2013 - 16:46 [ i ]

Акула пера Репутация: 302 Статус: Хочу познакомиться. Свободен

(alim @ 04.06.2013 - время: 07:39) Что бы вычленить проблему из контекста, определить ее границы, определить глубину возможного решения и т.п. необходим именно свободный разум, интеллект. О каких ограничениях речь? Если разум буде каким-либо образом ограничен, он не сможет решить указанные Вами задачи, он будет неработоспособен. Сударь, изложите ваше понимание работы ИИ. (У меня возникает ощущение, что мы говорим о разных вещах).

Roman.S дата: 04-06-2013 - 19:49 [ i ]

Мастер Репутация: 80 Статус: Нет Женат

(alim @ 04.06.2013 - время: 07:39) (sxn2561388870 @ 03.06.2013 - время: 20:49) Причем тут я? Ограничения ИИ неизбежны уже по той причине, что даже поставить себе задачу ИИ без ограничений не сможет. Ему надо вычленить проблему из контекста, определить ее границы, определить глубину возможного решения и т.п. Что бы вычленить проблему из контекста, определить ее границы, определить глубину возможного решения и т.п. необходим именно свободный разум, интеллект. О каких ограничениях речь? Если разум буде каким-либо образом ограничен, он не сможет решить указанные Вами задачи, он будет неработоспособен. Замечательно, alim, вы только что привели аргумент в пользу моей точки зрения)

dedO'K дата: 05-06-2013 - 03:42 [ i ]

Акула пера Репутация: 946 Статус: Давай пообщаемся! Женат

(Roman.S @ 04.06.2013 - время: 20:49) Замечательно, alim, вы только что привели аргумент в пользу моей точки зрения) Проще говоря, приходим мы к тому же выводу: ИИ будет неограничен в сборе и обработке информации, но ограничен в действиях законом. И тут ещё один вопрос: а человек-творец сможет допустить, чтоб ИИ было вровень с ним перед Богом? или же богом ИИ будет человек, способный к заблуждениям?

alim дата: 05-06-2013 - 08:30 [ i ]

Мастер Репутация: 263 Статус: Давай пообщаемся! Свободен

(sxn2561388870 @ 04.06.2013 - время: 16:46) (alim @ 04.06.2013 - время: 07:39) Что бы вычленить проблему из контекста, определить ее границы, определить глубину возможного решения и т.п. необходим именно свободный разум, интеллект. О каких ограничениях речь? Если разум буде каким-либо образом ограничен, он не сможет решить указанные Вами задачи, он будет неработоспособен. Сударь, изложите ваше понимание работы ИИ. (У меня возникает ощущение, что мы говорим о разных вещах). Я это сделал в начале разговора, посмотрите мои первые посты в этой теме. Если совсем просто: ИИ это ровно такая же личность, как Вы или я, или любой другой человек, просто реализованная на ином материальном носителе и, соответственно, избавлена от обременений существующей телесности. Соответственно степень свободы этой личности существенно БОЛЬШЕ, нежели сепень свободы существующего человека. Именно большая степень свободы и лежит в основе существенно больших возможностей личности на основе ИИ. Даже само аппаратное усиление мыслительных процессов - это проявление именно большей свободы, ИИ сам будет решать увеличить ли ему, например объем оперативной памяти или нет, и т.д. Принципиально: ИИ - это личность, но не автомат (пусть даже очень сложный).

1NN дата: 05-06-2013 - 17:09 [ i ]

Акула пера Репутация: 302 Статус: Хочу познакомиться. Свободен

(alim @ 05.06.2013 - время: 08:30) Если совсем просто: ИИ это ровно такая же личность, как Вы или я, или любой другой человек, просто реализованная на ином материальном носителе и, соответственно, избавлена от обременений существующей телесности. Соответственно степень свободы этой личности существенно БОЛЬШЕ, нежели сепень свободы существующего человека. Именно большая степень свободы и лежит в основе существенно больших возможностей личности на основе ИИ. Даже само аппаратное усиление мыслительных процессов - это проявление именно большей свободы, ИИ сам будет решать увеличить ли ему, например объем оперативной памяти или нет, и т.д. Принципиально: ИИ - это личность, но не автомат (пусть даже очень сложный). Так я и думал, сударь. Вы считаете ИИ человеческой личностью, реализованной на искусственном носителе. Позвольте с этим не согласиться. Человек не рождается личностью! У новорожденного есть только ВОЗМОЖНОСТИ стать личностью. И не факт, что он такой возможностью воспользуется (вспомните детей-маугли). Далее, по мере роста и взросления идет воспитание личности, усвоение человеком житейских условий, традиций и обычаев. Идет усвоение норм поведения в обществе. Идет обучение профессии. Идет выработка МИРОВОЗЗРЕНИЯ! У ИИ такого не будет. Дефекты тела оказывают сильное воздействие на работу мозга человека. Глухой не слышит музыку и его интеллект будет ущербным в этом отношении. То же относится и к слепому, и к дауну, и к ребенку с ДЦП... ИИ будет слепым, глухим, неподвижным и т.д. Значит, его придется оснащать различными датчиками, сенсорами, декодерами... А они явно будут не человеческими. ИИ будет лишен общества в его человеческом понимании. И уж тем более, у него не будет мировоззрения! А это, пожалуй, определяющий фактор в работе человеческого интеллекта. Верующий и атеист буду рассматривать одно и то же явление с прямо противоположных позиций. Поэтому, ИИ явно не будет ЧЕЛОВЕЧЕСКОЙ личностью. И будет ли он личностью вообще, большой вопрос. Разговор о степени свободы ИИ тоже бессмысленный, пока мы не определимся о какой свободе идет речь. Если просто подключить дополнительный процессор, лишний объем памяти и пр., то на это способен и нынешний компьютер. В общем, сначала надо определиться: с какой целью создается ИИ, для каких задач он будет использоваться, какие для этого нужны устройства, как подстраховаться от неожиданностей в работе ИИ...

Roman.S дата: 05-06-2013 - 17:15 [ i ]

Мастер Репутация: 80 Статус: Нет Женат

(sxn2561388870 @ 05.06.2013 - время: 17:09) (alim @ 05.06.2013 - время: 08:30) Если совсем просто: ИИ это ровно такая же личность, как Вы или я, или любой другой человек, просто реализованная на ином материальном носителе и, соответственно, избавлена от обременений существующей телесности. Соответственно степень свободы этой личности существенно БОЛЬШЕ, нежели сепень свободы существующего человека. Именно большая степень свободы и лежит в основе существенно больших возможностей личности на основе ИИ. Даже само аппаратное усиление мыслительных процессов - это проявление именно большей свободы, ИИ сам будет решать увеличить ли ему, например объем оперативной памяти или нет, и т.д. Принципиально: ИИ - это личность, но не автомат (пусть даже очень сложный). Так я и думал, сударь. Вы считаете ИИ человеческой личностью, реализованной на искусственном носителе. Позвольте с этим не согласиться. Человек не рождается личностью! У новорожденного есть только ВОЗМОЖНОСТИ стать личностью. И не факт, что он такой возможностью воспользуется (вспомните детей-маугли). Далее, по мере роста и взросления идет воспитание личности, усвоение человеком житейских условий, традиций и обычаев. Идет усвоение норм поведения в обществе. Идет обучение профессии. Идет выработка МИРОВОЗЗРЕНИЯ! У ИИ такого не будет. Дефекты тела оказывают сильное воздействие на работу мозга человека. Глухой не слышит музыку и его интеллект будет ущербным в этом отношении. То же относится и к слепому, и к дауну, и к ребенку с ДЦП... ИИ будет слепым, глухим, неподвижным и т.д. Значит, его придется оснащать различными датчиками, сенсорами, декодерами... А они явно будут не человеческими. ИИ будет лишен общества в его человеческом понимании. И уж тем более, у него не будет мировоззрения! А это, пожалуй, определяющий фактор в работе человеческого интеллекта. Верующий и атеист буду рассматривать одно и то же явление с прямо противоположных позиций. Поэтому, ИИ явно не будет ЧЕЛОВЕЧЕСКОЙ личностью. И будет ли он личностью вообще, большой вопрос. Разговор о степени свободы ИИ тоже бессмысленный, пока мы не определимся о какой свободе идет речь. Если просто подключить дополнительный процессор, лишний объем памяти и пр., то на это способен и нынешний компьютер. В общем, сначала надо определиться: с какой целью создается ИИ, для каких задач он будет использоваться, какие для этого нужны устройства, как подстраховаться от неожиданностей в работе ИИ... Возможно ИИ будет личностью. Но точно не человеческой. А в остальном - согласен.

Прелесть моя дата: 06-06-2013 - 16:38 [ i ]

Мастер Репутация: 241 Статус: Замужем

Столько умных слов прочитала и стало немного не по себе)))))Я считаю себя человеком разумным ибо понимаю,что я делаю и зачем,умею разговаривать и понимать других,может я неправильно истолковываю понятие разумности,но я так чувствую...сознание,чувства,эмоции-все это переплетается в человеке и каждое играет свою определенную роль и я не могу представить,чтобы ИИ смог так же мыслить,осозновать и чувствовать как люди,ну хоть убейте....может конечно я не права,но это чисто мое мнение)))))