Могут ли компьютеры захватить власть на Земле

Конечно могут, в далеком будущем. Если оно будет...

Они могут пытаться и не изразетки. А сбой всегда может быть с компьютером.
Былабы моя воля уничтожилба любого робота.Вить японцы их хотят зделать настолько умными чтобы они всё понимали.

Ну так человек ему сам и скажет!
Причём ещё раз подчеркну, что думать при этом компьютеру НЕ НУЖНО! Это будет просто такая логичекская задача оптимизации системы управления.
Типа, чиновники все взяточники, судьи продажные, солдаты и милиция - тоже. На законы плюют, делают что захотят, пока их никто не видит. ВОт и нанут менять "думающих и хитрых" на тупые, но чётко исполняющие инструкции автоматы....

Если есть театр абсурда, то он в этом вопросе.

Как-то в одной из статей прочел, что почти 95% процентов диспутов, научных и не совсем, ведутся не по существу, а как следствие расплывчатости формулировок и терминологии. Весь этот форум (не только эта тема) -- характерный тому пример.

Основной вопрос обсуждаемой темы - могут ли компьютеры захватить власть на Земле - надо разбить на два, ввиду очень большой расплывчатости понятия "компьютер".

Итак, вопрос №1 - Могут ли компьютеры, те на которых мы работаем, имеющие традиционную на сегодняшний день архитектуру, захватить власть на Земле?

Ответ однозначный - к счастью, нет. См. все комментарии, сделанные выше.

Вопрос №2 - Могут ли компьютеры будущего захватить власть на Земле?

Ответ однозначный - к счастью, да. См. комментарий ниже

А мне показалось большинство просто не предполагает это возможным.

Беда - как я и пытался сказать выше, на мой взгляд, - в постепенной деградации человека как самостоятельно мыслящего существа.

Возможна ли агрессия искусственного интеллекта - у меня технического образования не хватает, чтобы даже пытаться рассуждать на эту тему, т.к. для начала надо понять что есть искусственный интеллект с технической точки зрения, возможно ли пускай в теории его создание, и каковы его возможности.

> А мне показалось большинство просто не предполагает это возможным.
Я, наверное, не очень четко выразился. Я имел в виду всех тех, кто предполагает это возможным. Те, кто не предполагает, тоже подразумевают нечто крайне неприятное, но предотвращаемое. Путем вынимания штепселя из розетки, например.

Это сообщение отредактировал niktuba - 03-06-2006 - 20:32

В настоящий момент нет хороших определений искусственного интеллекта. Да и интеллекта вообще.

На заре компьютерной эры казалось, что искусственный интеллект (ИИ) создать достаточно просто, это нашло свое отражение в трудах фантастов, близких к науке. Потом оптимизма как-то поубавилось, компы экспоненциально наращивали эффективность, а желанный прорыв все не наступал.

Потом пришло осознание того, что в рамках традиционной компьютерной архитектуры хорошего решения большинства задач, с которым сталкивается ИИ не найти. (Наш интеллект спокойно оперирует с математически некорректными задачами, а попробуйте объяснить компьютеру, что такое лысый человек или что такое охапка соломы. Наводящие вопросы: Если лысому добавить один волос, он останется лысым? Если из охапки удалить соломинку - она останется охапкой?)

Сейчас идет бурный прогресс в области систем из большого количества простых, но сильно связанных между собой процессоров. Даже простейшие, не вполне "прилизанные" системы этого типа демонстрируют возможности человеческого мозга, в частности, способны обучаться на примерах, строя внутри себя не вполне понятную нам модель явления и давая адекватную реакцию на новые для себя стимулы. Вот эти-то системы и принято называть системами искусственого интеллекта - скорее функциональное, чем философское определение.

Примитивные представители этого племени уже существуют. Человечество уже доверяет им свои жизни (системы классификации свой-чужой для радарных и лидарных мишеней).

Это сообщение отредактировал niktuba - 03-06-2006 - 21:05

Да, Вы говорите об этом с технической стороны вопроса.

Но моя т.з. по большому счету не зависит от интеллектуальности машины и их интереса к нам. Если все за человека делает даже "условно-тупая" машина, то человек-то зачем тогда? Вот где собака порылась, как я это вижу. Человек не может просто оставаться потребителем благ, это плохо скажется на нем, сначала на душевном здоровье, потом на всем остальном.

А мы на всех парусах движемся как раз таки к тому, что человеческое вмешательство в любые процессы будет минимальным. Может этот процесс займет сотни лет, а может и быстрее. Но судя по тому, насколько интенсивно мы продолжаем во всех сферах "заменять себя" - возможно процесс будет быстрым.

То есть мы сами себя губим и без вмешательства AI.

Это сообщение отредактировал Painfool - 03-06-2006 - 21:52

те искуственные системы обработки информации, которые мы уже умеем создавать и в том или ином виде создадим в ближайшем будущем будут в конечном счёте лишь отражением сознания нас, людей их создающих. А поскольку многие из сегодняшних людей, особенно находящихся на вершине пирамиды, способны на агрессию, то и системы, отражающие и сознание, тоже вполне себе будут способны на агрессию. Другое дело, что это не будет та эмоционально-безрассудная агрессия, на которую способен челвоек. Но ещё вопрос, что лушче....
Лично мне машина, которая повинуясь заданной программе будет хладнокровно и без всяческих эмоций уничтожать всех, чей череп не соответсвует размерам истинного арийца, либо в чья ДНК отличается неким заданным хозяином набором хромосом, не менее страшна и опасна, чем тоже гестапо или чекситы из НКВД....

Эти люди просто не понимают, что после создания подобной системы выключить её будет сравнимо с катастрофой глобального мастаба. Мы уже сейчас вряд ли сможем выключить тот же "интерент", поскольку в развитых странах на него уже завязаны даже системы жизнеобеспечения крупных городов. То есть, отключение подобной системы будет означать хаос и, видимо, гибель миллионов людей.
То же отключение света на восточном побережье США сделало жизнь в мегаполисах практически невозможной. Ну два-три дня перетерпеть, пока починят - это одно, а вот жить, увы, уже невозможно. Пару недель, и из-за неработающей канализации и отчисных сооружений начнутся банальные эпидемии...

Ещё раз повторюсь - умение искуственных систем самостоятельно ставить себе задачи и цели вовсе не обязательно для захвата власти. Точнее, проблема на самом деле не в том, что компьютеры нанут править преследуя какие-то свои цели и решая какие-то свои задачи, для чего нужна упомянутая вами способность.
Проблема на мой взгял в том, что может сложится ситуация, когда сами люди утратят реальную возможность определять для себя цели и задачи.

Не произойдёт, а УЖЕ ПРОИСХОДИТ. С одним лишь замечанием, что власть пока концентриуется не у гипотетического "искуственого интелекта", а у некоторого весьма узкого круга людей, которым искуственные информационные системы существенно упрощают задачу управления большими сообществами людей, что до недавнего времени было практически невозможно.
И основная опастность как раз в том, что закончив создавать эту систему эта группа может оказаться перед фактом, что и они сами, и всё челвоечество стали заложниками этой бездушной и скорее всего безмозглой (сомневаюсь в возмжности создания искуственного интеллекта в ближайшее время, не говоря уже про разум) искусственной системы, остановика которой приведёт если не к гибели всего человечества, то к существенным отрицательными последствиям и гибели миллионов, если не миллиардов людей.
Причём большая часть негативных последствий будет связана, как уже писалось выше, в осовном с тем, что большая часть обывателей просто утратит навыки жизни "без костылей"....

Кстати, тут вырисовывается ещё одна весьма интересная поблема, связанная с тем, что с появлением микропроцессора даже в сегодняшнем его виде по большому счёту отпала необходимость в большой численности населения как таковой. То есть, это раньше могущество государства определялось численостью населения, поскольку от этого в первую очередь зависило то, какое количество штыков оно сможет выставить на поле боя, либо сколько рабов сможет загнать в поле для обеспечения врехушки пирамиды всем необходимым.
Сейчас же на первый план выходит УРВОЕНЬ ТЕХНОЛОГИЙ и ЭНЕРГООБЕСПЕЧЕНИЕ. А вот численность населения уже не столь критична.
Отсюда и все теории типа "золотого миллиарда", которые ещё сто лед назад показались бы большинству полным бредом (в том числе и среди тех, кто стоял на верхушке пирамиды).

:)
А вы попробуйте посмотреть на творения Природы с инжеерной тчоки зрения, и вы поймёте, что наш уровень знания материи пока ну очень примитивен.
"Белковая форма жизни" развивалась и совершенствовалась если не миллиарды, то как миннимум сотни миллионов лет. И далеко не случайно равзитие пошло именно по этому направлению.
Современные техногенные способы взаимодействия с материей гораздо более энергоёмки и менее эффективны. И сегодняшнее челвоечество может себе пока позволить подобную роскошь лишь потому, что оно паразитирует на Организме Планеты разрушая его, сжигая углеводороды, на синтез которых Планетарный организм потратил сотни миллонов лет....
Как только мы исчерпаем эи запасы - вся эта техногенная вакханалия закончится весьма быстро. И никакие компьютерные системы с "искусственным интелектом" наше место занять не смогт просто потому, что не в состоянии будут обеспечить ДЛИТЕЛЬНЫЙ ЗАМКНУТЫЙ ЦИКЛ СУЩЕСТВОВАНИЯ И РАЗВИТИЯ просто из-за банального отсутсвия необходимого количества энергии в легко доступной форме. Никакие солнечные батареи проблемы решить не смогут, поскольку на производство самих солнечных батарей требуется затратить весьма приличное количество энергии. Это ведь ещё и массу заводов построить нужно, поскольку на коленке солнечную батарею не произвести.

Либо эти самые "новые формы жизни" в конечом итоге заново изобретут фотосинтезы и белковый цикл, пусть и в несколько видоизменённом виде....

Другими словами, Природе не нужны "новые формы жизни", которые она "не в состоянии произвести естетсвенным путём" как раз по причине невозможности их воспроизведения доступными Ей способами....

Тут явно происходит смешение двух тем. То, что написано выше, относится к теме "Может ли кучка негодяев с помощью компьютеров захватить власть на Земле?". Тогда все к месту - и компы, чье программное обеспечение есть отражение сознания людей, их создающих, и злобные роботы, чинящие новый Холокост. Это - орудия. Если они и захватят власть на Земле, то будут удерживать ее до тех пор, пока живы люди - их хозяева.

К сожалению или счастью, "программное обеспечение" и поведение сложных нейросетевых систем не отражает сознание людей. Как специалист скажу - эх, знать бы что оно отражает Вот от таких компьютеров можно ждать со временем чего угдно - а это значит, что меньше всего "человекообразного" поведения.

Это сообщение отредактировал niktuba - 06-06-2006 - 00:54

Совершенно с Вами согласен. Могу добавить для еще большей простоты - искусственный интеллект нельзя отключить там, где необходимая скорость принятия решений превосходит, скажем грубо, "время человеческой реакции". Сейчас это не только военные применения, но и системы аварийного останова химических производств, управление финансовыми потоками и многое другое. Естественно, со временем перечень будет расти.

Это сообщение отредактировал niktuba - 06-06-2006 - 00:48

Либо я не совсем понятно выразился, либо вы не совсем поняли о чём речь.
"программное обеспечение" и даже поведение нейронных систем в конечном счёте всё-таки является отражением имено сознания создающих их людей. Именно человвек закладывает базовые "реакции" хоть программ, хоть нейронных сетей на те или иные ситуации (наборы входных данных).
А то, о чём говорите вы, говорит лишь о том, что сложность подобных систем возрасла настолько, что одному человеку и даже группе людей уже становится невозможным охватить всю их сложность и сделать точное предсказание их поведения в той или иной ситуации.
Согласитесь, что это далеко не одно и тоже. То, что в какую-либо систему будет заложено правило стрелять по объектам с определёнными характеристиками будет как раз отражением сознания создающих эту систему людей. Это то, о чём говорил я.
А вот то, что при сегодняшней сложности подобных искуственных систем и ПО ими управляющем авторы не смогут на 100% гарантировать правильное поведение подобной системы - это то, о чём говорите вы.

Да, тут Вы совершенно правы. Это тип систем, обучаемых человеком, то, что в англоязычной литературе называется Supervised Learning.

А есть еще системы, которые сами себя обучают (Unsupervised Learning - можете по Google посмотреть, сколько на эту тему уже написано). Можно, конечно, возразить, что и тут в начале стоит человек, но в данном случае он - скорее судья (разработчик и хранитель "правил игры"), чем игрок. Отцы-создатели нейросети ничего не могут предсказать, даже ее "базовые реакции". Собственно, эти "самопроизвольно" возникшие базовые реакции и интересны. Я бы поостерегся говорить о таких системах как о чем-то, отражащем наше сознание. То есть "программное обеспечение" по большей части отражает саму Природу (или Создателя - для верующих), так как "списано" с "программного обеспечения" мозга высших млекопитающих, с законов конкуренции между популяциями и с много каких других законов. А поведение - непредсказуемо, как поведение всякой достаточно сложной сильно нелинейной системы.

Это сообщение отредактировал niktuba - 06-06-2006 - 22:54