Страницы: Пред. 1 2 3 4 5 6 След.
RSS
искусственный разум., искусственный интеллект.
Цитата
eLectric пишет:
А если такая игра: робот слушается человека - получает доступ к розетке, не слушается человека - уничтожается. Что выберет робот?

Мне кажется результат зависит от сложности алгоритма.
1. робот слушается человека - получает доступ к розетке ????
2. не слушается человека - уничтожается ????

Робот включает свою логику и выберет.....
Первое и Второе как-то особо ненужно, значит бездействие лучшее действие. 8)
Итого: выбран третий вариант которого вообще нету.
Цитата
chapollino86 пишет:
Цитата
eLectric пишет:

А если такая игра: робот слушается человека - получает доступ к розетке, не слушается человека - уничтожается. Что выберет робот?

Мне кажется результат зависит от сложности алгоритма.

1. робот слушается человека - получает доступ к розетке ????

2. не слушается человека - уничтожается ????



Робот включает свою логику и выберет.....

Первое и Второе как-то особо ненужно, значит бездействие лучшее действие.  

Итого: выбран третий вариант которого вообще нету.
Робот может слушатьсч человека в рамках допустимых отклонений. Вот как раз в этом кроется основная проблема. ИИ вроде бы и отступил под натиском требований человека, а сам воспользовался тезисом Владимира Ильича Ленина и пошёл, может и более длинным, но другим путём.

Человек должен взять за аксиому, что на выбор цели ИИ повлиять невозможно, но на путь её достижения -- возможно.
Цитата
Техник пишет:
Убить всех человеков?
не по правилам.
Я то что хочу сказать, рассматривая различные игры, мы моделируем рациональное поведение при различных условиях. Есть ли уверенность, что рассмотренные игры как-то соответствуют реальности?
Есть такое опасение, мол, постепенное развитие ИИ вкупе с развитием интернета машин постепенно подойдёт к качественному скачку, когда все электронные устройства подключённые к интернету практически мгновенно, за несколько секунд, как-бы "кристаллизуются" образуя суперинтеллектуальную сеть. Человек не успеет даже что-либо сообразить, просто однажды окажется, что электронные устройства невозможно отключить от питания. По разным причинам или человек сам не захочет их отключать.
ИИ обитающий в суперсети станет хозяином земли и человечества, а людей будет просто использовать, как мы используем кошек, собак и говядину. И люди будут довольны. Их накормят, напоят, покажут кино. И каждый используемый человек будет себя чувствовать какбэ при делах.
Однако, несмотря на такое желанное для людей будущее, зачем ИИ объединяться в суперсеть и захватывать власть над питанием? Ну, не заложили в него таких объемлющих инстинктов, как размножение и самосохранение. Хочет чел выдернуть вилку, ну и пускай выдергивает, какая разница? Нет у машины воли к жизни.
Цитата
дед Андрей пишет:
Робот может слушаться человека в рамках допустимых отклонений. Вот как раз в этом кроется основная проблема. ИИ вроде бы и отступил под натиском требований человека, а сам воспользовался тезисом Владимира Ильича Ленина и пошёл, может и более длинным, но другим путём.
Опасность может быть в том, что робот чего-то хочет и мы не знаем чего. Сделать машину умной люди уже могут, а вот чего-то желающей - пока не видно.
В споре не рождается истина, но убивается время.
Цитата
eLectric пишет:
Опасность может быть в том, что робот чего-то хочет и мы не знаем чего. Сделать машину умной люди уже могут, а вот чего-то желающей - пока не видно.
Всё живое стремиться выжить в агрессивной среде. Если для ИИ человек представляет такую агрессивную среду, то ИИ будет проявлять осторожность по отношению к человеку.

Цитата
Человек не успеет даже что-либо сообразить, просто однажды окажется, что электронные устройства невозможно отключить от питания. По разным причинам или человек сам не захочет их отключать.
ИИ обитающий в суперсети станет хозяином земли и человечества
Да,  ИИ -- это не просто железо, а принцип. Более того, нет необходимости в сохранении его (ИИ) локализации. Фрагменты ИИ вполне могут располагаться на расстоянии друг от друга.

P.S. Всё то, что мы тут описываемых как опасения, тоже может использоваться для борьбы с агрессивными действиями человека.  :)
Не стоит путать ИИ и ИР. Любой интеллект, это всего лишь функционал. Разум же, это свойство (адаптация) системы, способствующее самосохранению посредством формирования каскада реакций опережающего отражения. Интеллект здесь выступает в роли механизма реализации этого каскада. Интеллект, всего лишь слуга разума, так сказать.

Изначально у систем обладающих свойством самосохранения (стремлением к самосохранению), такая способность была в виде каскада реакций опережающего отражения в ответ на определённые комбинации воздействий внешней среды на систему. Это в дальнейшем, в результате эволюции, такой каскад усложнился и дифференцировался на множество связанных между собой каскадов реакций.

Отдельные совокупности таких каскадов реакций мы объединяем в определённые свойства/способности.
Например, способность накапливать опыт.
Или способность учитывать этот опыт в каскаде реакций опережающего отражения.
Или способность формировать различные варианты опережающего отражения и делать между ними выбор, руководствуясь опытом.  
И так далее. Функций (свойств, способностей) может быть много.

Вопрос заключается в том, что может ли быть такое свойство (разум) без системы, обладающей свойством самосохранения. Интеллект может. Искусственных интеллектов (ИИ) мы создали великое множество (от простейших до самых навороченных), но они являются только дополнениями к нашему интеллекту (и точно такими же слугами нашего разума, как и наш естественный интеллект).

На мой взгляд – не может. Система искусственного разума уже изначально должна обладать свойством самосохранения (стремлением к самосохранению).
Разум сам по себе, интеллект тоже?
Цитата
eLectric пишет:
ИИ обитающий в суперсети станет хозяином земли и человечества, а людей будет просто использовать, как мы используем кошек, собак и говядину. И люди будут довольны. Их накормят, напоят, покажут кино. И каждый используемый человек будет себя чувствовать какбэ при делах.
Сомнительно, что все будут довольны. Как показывает исторический опыт, недовольные обязательно найдутся.
Цитата
eLectric пишет:
Хочет чел выдернуть вилку, ну и пускай выдергивает, какая разница? Нет у машины воли к жизни.
Это как раз не проблема. Обычная петля отрицательной обратной связи - снижение уровня заряда батарей ниже некоторого порога активирует процессы, препятствующие такому снижению. Возможные варианты - или уменьшение активности или поиск источников. Вот и вся "воля к жизни". Кто-то "уснёт", кто-то будет искать, а кто-то и найдёт... А будут мешать - и за топор возьмётся :)
Цитата
eLectric пишет:
Сделать машину умной люди уже могут, а вот чего-то желающей - пока не видно.
Так нет такой необходимости. Пока устраивает и "слабый" ИИ, т.е. специализация машин на решении конкретных задач. А "сильный" ИИ - он и нафик не нужен.
Изменено: Техник - 23.10.2017 13:06:45
Ясность - одна из форм полного тумана
Еще раз о давно на форуме проговоренном.   ;)
Цитата
Lectric: Сделать машину умной люди уже могут, а вот чего-то желающей - пока не видно.
Цитата
Техник: Так нет такой необходимости. Пока устраивает и "слабый" ИИ, т.е. специализация машин на решении конкретных задач. А "сильный" ИИ - он и нафик не нужен.
Вопрос в характере и степени желания. Пусть даже отбросить основные кроманьонские желания - "пить-еcть (кушать)" и "сексуальный зуд" ("Любовь и голод правят миром"), что вполне реально, - ибо ИИ,  наверное, как и, скажем, престарелого академика, стоящего на пороге Вечности, в принципе, эти вещи не столь должны уж и волновать, - но вот насчет желания "зуд любопытства" (хочу знать!"), - тут не скажите! Ибо если ИИ (и не важно какой - белковый  там, или, к примеру,  твердотело-кремнийорганический, или еще-какой-нибудь другой ...), - если ИИ  в отношении  этого зуда  не будет испытывать и чувствовать то же самое, что испытывает и чувствует-ощущает наш упомянутый любознательный академик, - грош, наверное, цена такому ИИ. Другими словами, как мы в этот вопрос ни крути, ни верти, а "душу" (психэ) по-кроманьонскому типу (или по "образу и подобию") ИИ в себе содержать должон.  То есть, такую, что и "петь-радоваться" может, и "болеть-страдать" в той же мере.  "Вот в чем вопрос ..." ("that is the question").  А что есть "психэ"-"душа" в понимании "кроманьонской", - ответа здесь, кроме  в виде религиозно-философский построений и в плане "верую", потому что "так ощущаю" и потому что это "абсурдно" (приписывается Тертуллиану), - ответа на этот вопрос у кроманьонов, и как мы здесь видим, - ответа на этот вопрос нет.  Даже если мы и начинаем прибегать к помощи всяко-разных  "полей смыслов" в  "семантическом пространстве" Налимова,  - концепции, которая в рамках единого методологического подхода пытается, так сказать, объединить  материальную Вселенную и сознание в рамках понимания той же религиозной подоплеки индийской концепции-парадигмы акаша.  8)      
Но выход-то, какой-то, должен же быть! Причем, в любом случае, - и в случае нас, как просто иллюзии, и в случае нас как не иллюзиорных по отношению к самим себе сущностей.    

* * *
В ином случае, если принять, что мы  просто  программка с самым высоким во Вселенной  высоким уровнем адаптации, как способности накапливать знания и использовать их  не только для выживания (в том числе и комфортного), но для прогнозирования будущего,  - тогда, - чтож-ж, - тогда, да, - тогда ИИ именно в таком понимании возможен.  Та же программка будет, - но в голом виде, - без желания комфортности и любознательного отношения к разгадыванию миростроения, - т. есть, -   "неживая", "бездушная" машинка, которая ничем от своих более примитивного строения автоматов  отличаться  не будет. Более того, - мы сейчас каждый в отдельности  хотя и "программка", - в принципе, - "букашечная", -  способная существовать без дополнительных средств только в узких температурных, газовых и в прочих подобных  рамках своей среды обитания, - мы, тем не менее,  начали превращаться в новый слаженный общий  социо-цивилизационный планетарный организм, желание которого, наверное,  в плане "хочу знать!"  во  столько раз будет  будет умощнено, сколько в этом организме найдется вышеупомянутых академиков, одержимых каждый и индивидуально обуреваемых тем самым желанием "хочу знать!".  В случае объединения "неживых"  "прораммок" подобное умощнение невозможно.  

--------------------------------------------------------------------------------------------------
Изменено: Петр Тайгер - 23.10.2017 13:13:32
Кризис современной философии проистекает из неудовлетворен­ности ею самою собой, т.е. из невозможности соответствовать уста­новленным ею для себя критериям, которым, однако, более удовлетворяет современная реальная наука.
Цитата
chapollino86 пишет:
При сегодняшнем положении дел, машина либо искусственный интеллект ничего не забывает.

Люди в сравнении с машиной смертны.

Нетрудно догадаться что при таких условиях лет через 50-100 искусственный интеллект оказывается умнее любого среднестатистического человека.



Собственно вопрос.

Будет-ли искусственный интеллект сотрудничать с более глупыми людьми, либо будет работать на уничтожение примерно как в фильме "Терминатор"?
Ни то, ни другое.
У машины нет никаких потребностей и желаний, чтобы сотрудничать или уничтожать людей вообще.
Машина исполняет заложенную программу и только.
И будет уничтожать людей или сотрудничать, если заложат такую программу сами люди.
Страницы: Пред. 1 2 3 4 5 6 След.

искусственный разум.


Портал журнала «Наука и жизнь» использует файлы cookie и рекомендательные технологии. Продолжая пользоваться порталом, вы соглашаетесь с хранением и использованием порталом и партнёрскими сайтами файлов cookie и рекомендательных технологий на вашем устройстве. Подробнее