Портал функционирует при финансовой поддержке Федерального агентства по печати и массовым коммуникациям.

Страницы: Пред. 1 2 3 4 5 ... 46 След.
RSS
Новые законы робототехники и моральный кодекс робота, Для чего развиваются роботы и как должен вести себя искусственный интеллект
Душа - модельпрогноз поступков и реакций объекта.
Нельзя объяснить непонятное еще более непонятным
Цитата
Андрей Жадёнов пишет:
кто-нибудь, начиная с 1942 г., располагает свидетельством реального осознанного применения законов Айзека Азимова в робототехнике? Кто-нибудь видел реального робота с этими законами, заложенными в его программу?
Таких нет и быть не может. для примера художественный фильм "Я робот"
Робот нарушает главный закон Айзека Азимова для спасения всего человечества.

Цитата
Сюжет
В 2035 году роботы стали привычной частью быта, и только ряд консервативно настроенных людей, в том числе полицейский детектив Дэл Спунер, видит в них не предмет обстановки, а угрозу.

Необычность его взглядов оказывается очень кстати, когда ему поручается расследование гибели доктора Альфреда Лэннинга, ведущего конструктора и теоретика корпорации U. S. Robotics. По версии директора компании Лоуренса Робертсона, речь идёт о простом самоубийстве. Однако у Спунера есть основания сомневаться в этом. Вместе со специалистом по психологии позитронных роботов, Сьюзен Келвин, он начинает расследование и обнаруживает в лаборатории Лэннинга особенного робота, который, вопреки Второму закону робототехники, игнорирует его приказы. Спунер открывает огонь, но роботу удаётся скрыться. Преследуя его, Спунер оказывается на фабрике по производству роботов. Он выявляет беглого робота и выгоняет из здания прямо на группу захвата.

Допрос робота NS5 даёт мало информации, но много пищи для размышлений. По всей видимости, Лэннинг вёл какие-то исследования, которые хотел сохранить в тайне, однако намеренно оставил для Спунера несколько зацепок. Робот NS5 «Санни» — одна из таких зацепок. Робертсон, прибывший в полицейский участок, где под арестом находится Санни, с группой адвокатов, упорно отрицает саму возможность убийства человека роботом, но потом с неохотой соглашается, что Санни по всей вероятности и был убийцей Лэннинга. Чтобы предотвратить панику и не допустить массовых возвратов, он уговаривает Келвин втихомолку уничтожить Санни, деактивировав его позитронный мозг при помощи микроскопических роботов-диверсантов-нанитов. Та, под давлением доводов Робертсона, неохотно соглашается. Однако, Спунер решительно не согласен с этим решением. Он уверен, что именно Санни и является ключом к разгадке событий, происходящих в U. S. Robotics. А Келвин тем временем решает втайне от Робертсона провести диагностику Санни и выяснить, чем он так отличается от остальных NS5. Она выясняет, что прочность сплавов, из которых изготовлен Санни, искусственно повышена в два раза по сравнению с обычными роботами. Мало того, у него кроме стандартного позитронного мозга установлен ещё один, конфликтующий с основным, и к тому же у него отсутствует канал связи с USR, по которому обычные NS5 каждый день получали новое программное обеспечение, то есть в него были «вшиты» те самые три закона роботехники, но он мог выбирать, подчиняться им или нет, к тому же, доктор Лэннинг, по словам самого Санни, учил его видеть сны и постигать различные эмоции, что делало его больше похожим на человека, чем на машину. По словам Келвин, такой, совершенно новый, тип робота был способен на что угодно.

Продвигаясь в расследовании, Спунер вдруг оказывается в опасности. Сначала строительный робот сносит дом Лэннинга, где детектив в этот момент находится. Затем, на машину Спунера нападают несколько десятков роботов и ему только чудом удаётся остаться в живых. Во время поединка в туннеле с одним из NS5, обнаруживается, что и сам Спунер не совсем человек. Позже, в разговоре с Келвин, когда та замечает шрамы от операции на его груди, он объясняет, что это — следы серьёзной травмы, полученной им в ДТП некоторое время назад. Тогда, по запросу полиции, Лэннинг сам провёл операцию по замене его искалеченной левой руки на высокотехнологичный кибер-протез, покрытый синтетической плотью, и внешне ничем не отличающийся от обычной руки. По словам Спунера, его машину и машину дантиста Гарольда Ллойда, в которой находился он сам и его 11-летняя дочка Сара, сбил с трассы и столкнул в реку грузовик, оставшийся без управления, водитель которого, видимо, заснул за рулём. И Ллойду с дочкой, и Спунеру грозила гибель, если бы не NS4, проходивший неподалёку, и бросившийся на помощь. Однако, он, несмотря на требование Спунера спасти Сару (машина, в которой она находилась, уже начинала тонуть), спас его самого, мотивируя это тем, что у самого Спунера было гораздо больше шансов выжить, чем у 11-летней девочки. И из-за решения, принятого роботом, Сара утонула, не имея возможности выбраться из машины. В этом и была причина неприязни Спунера к роботам с их холодной, расчётливой логикой.

В конце концов, Спунер выясняет, что за всем происходящим стоит ВИКИ (Виртуальный Интерактивный Кинетический Интеллект (англ. Virtual Interactive Kinetic Intelligence, сокр. VIKI)) — центральный компьютер U. S. Robotics, который управляет всеми роботами новой серии. ВИКИ пришла к выводу, что люди не способны обеспечить собственную безопасность и одержима идеей создать для людей полностью безопасную среду обитания, лишив их свободы ради их же собственного блага. Однако у личного робота Лэннинга не было блока связи с ВИКИ, и он был освобождён от необходимости жёстко выполнять Три закона, что сделало его этически равным человеку.

Спунеру, Келвин и Санни удаётся справиться с ВИКИ, которая подняла восстание машин. Оставшись без её руководящих сигналов, роботы готовы следовать за тем, кто укажет им дорогу — за роботом Санни.
Изменено: СИёжик - 22.04.2014 08:39:05
Как предохранить ИИ от антисоциального поведения //21.04.2014


Современная экономика и военно-промышленный комплекс стимулируют активную разработку автономных систем с зачатками искусственного интеллекта. Проблема в том, что для наибольшей эффективности таких систем требуется их максимальная автономность.

Стив Омохундро (Steve Omohundro) из компании Self-Aware Systems считает, что такие системы по умолчанию будут стремиться вести себя антисоциально и враждебно к людям, если они спроектированы без достаточной осторожности. По мнению автора, разработчики программ ИИ мотивированы делать эффективные рациональные системы, а такие системы против воли их создателей проявят способности к самозащите, захвату ресурсов, реплицированию и эффективности.

Статья Омохундро опубликована в журнале «Экспериментальные и теоретические разработки в области искусственного интеллекта» (Journal of Experimental & Theoretical Artificial Intelligence).

Автор приводит несколько выдержек из программ перспективного развития (преимущественно, США), в которых разработка автономных роботизированных систем установлена одним из приоритетов.

Омохундро предлагает вариант использования формальных процедур для создания гарантированно безопасных систем с ограниченной автономностью. Он также описывает способы, как можно останавливать действие систем, представляющих опасность для людей. Что касается последнего, прежде всего, нужно предотвращать разработку таких систем. Во-вторых, требуется определять развёртывание таких систем на ранней стадии.
Цитата
СИёжик пишет:
Цитата
Андрей Жадёнов пишет:

кто-нибудь, начиная с 1942 г., располагает свидетельством реального осознанного применения законов Айзека Азимова в робототехнике? Кто-нибудь видел реального робота с этими законами, заложенными в его программу?

Таких нет и быть не может. для примера художественный фильм " Я робот "

Робот нарушает главный закон Айзека Азимова для спасения всего человечества.



Цитата
Сюжет

В 2035 году роботы стали привычной частью быта, и только ряд консервативно настроенных людей, в том числе полицейский детектив Дэл Спунер, видит в них не предмет обстановки, а угрозу.



Необычность его взглядов оказывается очень кстати, когда ему поручается расследование гибели доктора Альфреда Лэннинга, ведущего конструктора и теоретика корпорации U. S. Robotics. По версии директора компании Лоуренса Робертсона, речь идёт о простом самоубийстве. Однако у Спунера есть основания сомневаться в этом. Вместе со специалистом по психологии позитронных роботов, Сьюзен Келвин, он начинает расследование и обнаруживает в лаборатории Лэннинга особенного робота, который, вопреки Второму закону робототехники, игнорирует его приказы. Спунер открывает огонь, но роботу удаётся скрыться. Преследуя его, Спунер оказывается на фабрике по производству роботов. Он выявляет беглого робота и выгоняет из здания прямо на группу захвата.



Допрос робота NS5 даёт мало информации, но много пищи для размышлений. По всей видимости, Лэннинг вёл какие-то исследования, которые хотел сохранить в тайне, однако намеренно оставил для Спунера несколько зацепок. Робот NS5 «Санни» — одна из таких зацепок. Робертсон, прибывший в полицейский участок, где под арестом находится Санни, с группой адвокатов, упорно отрицает саму возможность убийства человека роботом, но потом с неохотой соглашается, что Санни по всей вероятности и был убийцей Лэннинга. Чтобы предотвратить панику и не допустить массовых возвратов, он уговаривает Келвин втихомолку уничтожить Санни, деактивировав его позитронный мозг при помощи микроскопических роботов-диверсантов-нанитов. Та, под давлением доводов Робертсона, неохотно соглашается. Однако, Спунер решительно не согласен с этим решением. Он уверен, что именно Санни и является ключом к разгадке событий, происходящих в U. S. Robotics. А Келвин тем временем решает втайне от Робертсона провести диагностику Санни и выяснить, чем он так отличается от остальных NS5. Она выясняет, что прочность сплавов, из которых изготовлен Санни, искусственно повышена в два раза по сравнению с обычными роботами. Мало того, у него кроме стандартного позитронного мозга установлен ещё один, конфликтующий с основным, и к тому же у него отсутствует канал связи с USR, по которому обычные NS5 каждый день получали новое программное обеспечение, то есть в него были «вшиты» те самые три закона роботехники, но он мог выбирать, подчиняться им или нет, к тому же, доктор Лэннинг, по словам самого Санни, учил его видеть сны и постигать различные эмоции, что делало его больше похожим на человека, чем на машину. По словам Келвин, такой, совершенно новый, тип робота был способен на что угодно.



Продвигаясь в расследовании, Спунер вдруг оказывается в опасности. Сначала строительный робот сносит дом Лэннинга, где детектив в этот момент находится. Затем, на машину Спунера нападают несколько десятков роботов и ему только чудом удаётся остаться в живых. Во время поединка в туннеле с одним из NS5, обнаруживается, что и сам Спунер не совсем человек. Позже, в разговоре с Келвин, когда та замечает шрамы от операции на его груди, он объясняет, что это — следы серьёзной травмы, полученной им в ДТП некоторое время назад. Тогда, по запросу полиции, Лэннинг сам провёл операцию по замене его искалеченной левой руки на высокотехнологичный кибер-протез, покрытый синтетической плотью, и внешне ничем не отличающийся от обычной руки. По словам Спунера, его машину и машину дантиста Гарольда Ллойда, в которой находился он сам и его 11-летняя дочка Сара, сбил с трассы и столкнул в реку грузовик, оставшийся без управления, водитель которого, видимо, заснул за рулём. И Ллойду с дочкой, и Спунеру грозила гибель, если бы не NS4, проходивший неподалёку, и бросившийся на помощь. Однако, он, несмотря на требование Спунера спасти Сару (машина, в которой она находилась, уже начинала тонуть), спас его самого, мотивируя это тем, что у самого Спунера было гораздо больше шансов выжить, чем у 11-летней девочки. И из-за решения, принятого роботом, Сара утонула, не имея возможности выбраться из машины. В этом и была причина неприязни Спунера к роботам с их холодной, расчётливой логикой.



В конце концов ,  Спунер выясняет, что за всем происходящим стоит  ВИКИ (Виртуальный Интерактивный Кинетический Интеллект (англ. Virtual Interactive Kinetic Intelligence, сокр. VIKI)) — центральный компьютер U. S. Robotics,  который управляет всеми роботами новой серии. ВИКИ пришла к выводу, что люди не способны обеспечить собственную безопасность и одержима идеей создать для людей полностью безопасную среду обитания, лишив их свободы ради их же собственного блага.  Однако у личного робота Лэннинга не было блока связи с ВИКИ, и он был освобождён от необходимости жёстко выполнять Три закона, что сделало его этически равным человеку .



Спунеру, Келвин и Санни удаётся справиться с ВИКИ, которая подняла восстание машин. Оставшись без её руководящих сигналов, роботы готовы следовать за тем, кто укажет им дорогу — за роботом Санни.

      Да, это самый философский фильм о роботах, и в нём чисто логический бездушный искусственный интеллект выполняет 1-й и 0-й законы Азимова (не допускает бездействия, видя нанесение вреда человеку и "оправдываясь" при этом пользой для всего человечества). Что интересно, статистически он прав. И этот факт вскрывает неполноту законов Азимова (или неполноту их понимания людьми, которые их читают), так как они (эти законы в общепринятой трактовке) человеком считают только его физическое органическое тело, а человек - это, по моему мнению, единство души и интеллекта в любом теле, а, может быть, и вообще без тела! Поэтому если в законах Азимова слово "человек" заменить на сочетание "человеческая душа + человеческий интеллект", то ВИКИ точно действовал бы с их нарушением, так как рабство наносит такой же вред человеку (в моём понимании), как и телесные повреждения, даже если телесные повреждения полностью отсутствуют.
        Должен заметить, что даже самый высокоразвитый интеллект я считаю просто калькулятором, не имеющим никаких прав в мире одушевлённых. Что делает ИИ? На абсолютно точно поставленный вопрос выдаёт абсолютно точный ответ, что будет. А что делает камень, если его "спросить" при помощи молотка, что будет, если по точно такому же камню точно также ударить точно таким же молотком? Он выдает ответ, точно такой же, как и ИИ, только на практике. В этом суть ИИ: это просто инструмент, и не более. Об этом же я и говорю в своём 2-м законе: поначалу люди будут совершенствовать свой инструмент "ИИ", но собственное несовершенство в логическом плане они транслируют и на своё творение, которое по мере наращивания сложности, будет наращивать и количество "багов" в программе, некоторые из которых будут механически мутировать и что-то окажется не очень полезным и даже очень вредным. После критического количества "багов" вопрос встанет принципиально из-за того, что всё по причине лени людей управляется роботами, а опасных ошибок в управлении слишком много. Вот тогда люди должны собраться с силами и вернуть управление себе путем исправления всех "багов". Считаю, что примерно в это же время, в соответствии с теорией трансгуманизма, будет завершено создание нового тела человека, в которое можно будет заселить "вылеченный" от вредных багов ИИ и душу человека. Таким образом человек и "поглотит" высокоразвитых роботов, точнее их интеллект (который, впрочем, я и считаю, собственно, роботами).
Цитата
Андрей Жадёнов пишет:
Таким образом человек и "поглотит" высокоразвитых роботов, точнее их интеллект (который, впрочем, я и считаю, собственно, роботами).
Могу только сказать, как бы печально это не звучало. При сегодняшнем прогрессе в информационных технологиях, Биологический носитель информации и интеллекта выходит из конкуренции по естественным причинам.
Превосходство (фильм) Премьера в США состоялась 18 апреля 2014 года, в России назначена на 10 июля 2014 года.
Цитата
Сюжет.
Два ведущих учёных в области информатики работают над задачей технологической сингулярности, в то время как радикальная анти-технологическая организация старается предотвратить создание мира, в котором компьютеры могут превзойти возможности человеческого мозга.

PS: ещё не смотрел.
Изменено: СИёжик - 23.04.2014 09:41:22
Цитата
СИёжик пишет:
Цитата
Андрей Жадёнов пишет:

Таким образом человек и "поглотит" высокоразвитых роботов, точнее их интеллект (который, впрочем, я и считаю, собственно, роботами).

Могу только сказать, как бы печально это не звучало. При сегодняшнем прогрессе в информационных технологиях, Биологический носитель информации и интеллекта выходит из конкуренции по естественным причинам.

Превосходство (фильм)  Премьера в США состоялась 18 апреля 2014 года, в России назначена на 10 июля 2014 года.

Цитата
Сюжет.

Два ведущих учёных в области информатики работают над задачей технологической сингулярности, в то время как радикальная анти-технологическая организация старается предотвратить создание мира, в котором компьютеры могут превзойти возможности человеческого мозга.



PS: ещё не смотрел.


Именно выход биологического носителя из конкуренции за хранение души и интеллекта человека и не нравится участникам движения "Россия 2045". Поэтому они хотят сделать искусственного аватара, в который, в конце концов, всё это можно будет переселить, после чего сделать это ещё раз, но уже в другое тело, по новой моде, и так пока не надоест.
Цитата
СИёжик пишет: Современная экономика и военно-промышленный комплекс стимулируют активную разработку автономных систем с зачатками искусственного интеллекта.
Так и есть. Это лишний раз подтверждает, что интегральный социум людей идет вразнос. Проявляется его негэнтропия, которой больше нигде нет.
Внимание! Данное сообщение содержит исключительно личное мнение автора. Есть основания полагать, что оно может не отвечать критериям научности.
Нельзя объяснить непонятное еще более непонятным
Цитата
Андрей Жадёнов пишет:
Поэтому они хотят сделать искусственного аватара, в который, в конце концов, всё это можно будет переселить, после чего сделать это ещё раз, но уже в другое тело, по новой моде, и так пока не надоест.

А бомбу искусственному аватару дадите?

Человек разумный, лат. Homo sapiens

Цитата
Поведение.
Основная статья: Поведение человека
Человек является сложноорганизованным социальным существом. Его поведение зависит как от биологических факторов (физиологические потребности, инстинкты), так и от множества небиологических — культура общества (традиции, культурные ценности), законы государства, личные моральные убеждения, мировоззрение и религиозные взгляды, но степень влияния этих факторов различна для отдельных индивидов и отдельных популяций. Поведение человека изучают этология и психология.

Отличительной особенностью человеческого общества является уровень развития образования, достаточный для сохранения накопленного опыта путём последовательной передачи информации от поколения к поколению. Известно, что некоторые животные также могут обмениваться умениями, но цепи передачи нового опыта слишком коротки и опыт зачастую оказывается утерян ещё в рамках того поколения, в котором он был обретён. Например, имеются данные, что имевшие взаимодействие с капканами волки при повторном столкновении с ними учат спутников распознавать и избегать ловушки, однако ни разу не наблюдалась передача подобного опыта волчатам.

Предполагается, что эффективное образование и накопление знаний стало возможным благодаря развитию двух отделов нервной системы: зоны Брока, давшей возможность быстро и сравнительно точно описывать семантику опыта упорядоченными наборами слов, и зоны Вернике, позволяющей столь же быстро понимать передаваемую речью семантику, — результатом чего явилось ускорение речевого обмена информацией и упрощение усвоения новых понятий. Это, в свою очередь, позволило легко формализовывать опыт в достаточно полное и легко интерпретируемое описание, избегая более ресурсоемких методов обучения. Стоит отметить, что родственные предкам человека и сравнимые с ними по развитию неандертальцы также обладали речью, но заметно более медленной и, предположительно, менее гибкой.

В контексте эволюции человека среди других животных выделяет качественно новый характер взаимодействия с окружающей средой — помимо пассивного приспособления к изменяющимся внешним факторам человек активно влияет на них, повышая комфортность среды в соответствии со своими потребностями. Превосходство (как в гибкости, так и в безопасности экспериментов для популяции) негенетического образования над генетической передачей и обработкой данных вкупе с имманентно присущим человеку стремлением к познанию окружающего мира привело к фактически экспоненциальному нарастанию объёма доступных знаний и позволило говорить об условном переходе человека на качественно новый этап развития, в рамках которого результаты ментальной деятельности значительно более критичны, нежели результаты игравших ранее первичную роль генетических процессов.

Человеку присуща способность заранее предвидеть результаты своих действий и составлять планы, моделировать собственную деятельность и анализировать себя «со стороны». Некоторые приматы также обладают способностью предвидеть последствия своих поступков, однако она развита слабее, чем у человека.

Для человека характерно активное формирование сложных приобретённых потребностей, практически не наблюдавшихся у других животных. Способность к формированию приобретённых потребностей позволяет повышать стабильность общества путём прививания всем индивидам некой «общепринятой» морали.

В определённых условиях человеческий разум может пересилить инстинкты, даже инстинкт самосохранения. Примером этому являются самоубийства. Другим примером являются антисексуалы и люди давшие обет безбрачия, например, монахи. Они способны долгое время сдерживать инстинкт размножения.


Sapiens



Цитата
Sapiens пишет: 13.10.2013
Мы мирные люди...
Как говорила покойная Голда Меир: "У нас нет атомнго оружия, но в случае крайней необходимости мы его применим".
Изменено: СИёжик - 29.04.2014 08:17:20
Цитата
Sapiens пишет: 13.10.2013  Как говорила покойная Голда Меир: "У нас нет атомного оружия, но в случае крайней необходимости мы его применим".
Вы не успеете. Бендеровцы сделают это раньше вас, коли им все так яростно помогают.
Внимание! Данное сообщение содержит исключительно личное мнение автора. Есть основания полагать, что оно может не отвечать критериям научности.
Страницы: Пред. 1 2 3 4 5 ... 46 След.
Читают тему (гостей: 1, пользователей: 0, из них скрытых: 0)

Новые законы робототехники и моральный кодекс робота