0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Это известные законы Айзека Азимова. Однако они создавались в 1942 году. Тогда это была только теория, хорошо пригодная только для написания литературных произведений, а сегодня мы вплотную подошли к моменту, когда роботы будут так же участвовать в нашей жизни, как участвуют в ней множество людей, с которыми мы взаимодействуем каждый день. Я опишу здесь моё понимание практических законов развития робототехники и место законов Азимова в этом моём представлении.
Всё имеет начало и конец, поэтому завершится и эпоха роботов. По моему мнению, эпоха роботов завершится осуществлением своей конечной цели – созданием нового высокоремонтопригодного, т.е. практически вечного нового тела человека. В это тело переселится интеллект и душа человека. Впрочем, интеллект, по моему мнению, это просто один из органов тела, только внутренний. Его можно регулировать в соответствии с потребностями души человека, которая единственная и является самим человеком. Кстати, давайте подумаем, когда все люди переселятся в свои бессмертные аватары, телесные, или бестелесные, то как мы будем понимать однозначно, что это тот самый человек? Когда есть тело – всё понятно, а вот если останется одна энергия? Другими словами, паспорт с какими персональными энергетическими данными надо будет ему выдавать? Какого вида будет этот паспорт, если тело будет состоять только из света, да и то, если сам человек захочет его включить? Паспорт нужен нам сейчас для решения правовых вопросов, а нужно ли будет их решать в чисто энергетическом будущем? Я не специалист в духовной области, поэтому думаю, что надо спросить об этом специалистов, то есть тех, кто профессионально занимается исследованием души – ученых в области теологии и отцов церкви. Я понимаю, они скажут, что паспорт – это не от бога, но всё равно души людей надо как-то различать и, главное, если ТАМ будет собственность, то она должна кому-то принадлежать (или нет?).
У меня возникают все эти мысли из-за того, что при создании морального кодекса робота (или его производителя) надо иметь ввиду прежде всего цель, для чего это всё делается, на реализацию которой и должны быть направлены законы развития робототехники, и моральный кодекс робота как подчинённый им (законам развития) «подзаконный акт». Я попытаюсь предложить более общие законы, чем известные законы робототехники Азимова. Дело в том, что его 3 закона можно обобщить следующими словами: безопасность, безопасность, и ещё раз безопасность. Безопасность – хорошее дело, но не этот параметр должен лежать в основе законов развития какого-либо направления. Если бы безопасность ставилась бы во главу угла прогресса, то прогресс человечества был бы практически равен нулю. Главное в законах развития – высокая цель, на осуществление которой они и должны быть направлены. Как я уже говорил, конечная цель развития робототехники – новое вечное тело человека, пригодное для заселения других миров во Вселенной. Цель всех других роботизированных устройств – быть удалёнными интеллектуальными, но неодушевлёнными «конечностями» человека, с обратной связью, управляемыми душой человека на расстоянии беспроводным способом. Поэтому и законы робототехники должны направлять мировой прогресс в области развития роботов на достижение этой высокой цели.
ДУША – ЕДИНСТВЕНОЕ, ЧТО ОТЛИЧАЕТ ЧЕЛОВЕКА ОТ ВЫСОКОРАЗВИТОГО РОБОТА. И ЭТО - НЕПРЕОДОЛИМОЕ ДЛЯ РОБОТА ПРЕИМУЩЕСТВО ЧЕЛОВЕКА ПЕРЕД НИМ, ВЕДЬ ДУША ЧУВСТВУЕТ И МОЖЕТ БРАТЬ ИНФОРМАЦИЮ ИЗ ДУХОВНОГО ИЛИ ИНФОРМАЦИОННОГО ПОЛЯ НАПРЯМУЮ, МИНУЮ ЦЕПОЧКУ ЛОГИЧЕСКИХ РАССУЖДЕНИЙ, ОБРАЩАЯСЬ СРАЗУ К ЕЁ АСИМПТОТИЧЕСКОМУ ПРЕДЕЛУ, ЧЕГО НИКОГДА НЕ СМОЖЕТ СДЕЛАТЬ РОБОТ. Из этого следует, как ни странно, что при совершенствовании роботов для собственной защиты людям придется вернуться к своим истокам и развивать величину, или масштаб своей души.
Итак, по моему мнению законы развития робототехники могли бы выглядеть следующим образом:
- 1-й закон: Конечная цель эволюции роботов – освобождение духовной энергии человека путём создания вечного, возможно, трансформируемого, тела и устранения рутинных функций тела и духовной энергии
Это конечная цель развития процесса, определяющая другие законы. Предпосылкой для вывода этого закона является вечное желание человека «лениться» жить реальной жизнью и предаваться грёзам, в которых он представляет себя внутри жизни, состоящей только из радостных моментов, то есть как раз и занимается в это время духовной (или душевной) жизнью, в которой живёт именно его душа. Последователи Кришны называют развлечения целью существования бога, а что уж тогда говорить об обычных людях! Изменение существующей действительности таким образом, что она сама помогает человеку реально легко воплотить свои сокровенные мечты, есть самый сильный «наркотик» для души. Именно поэтому люди так падки на грёзы в виде музыки, кино, компьютерных игр, алкоголя или наркотиков. А в случае выполнения роботами всё большего количества рутинных функций человек будет не в силах противостоять процессу, который так хорошо пододвигает его к «нирване» при всяком отсутствии вредной составляющей для души и тела. Поэтому процесс роботизации идет как бы сам, со всё большим ускорением, несмотря на все предостережения и грозящие опасности.
- 2-й закон: развитие робототехники происходит через неизбежную борьбу роботов (чистого интеллекта, или разума) с человеком (разум + душа) за выживание, в которой человек одержит победу, «поглотив» высокоразвитых роботов и приобретя все их достоинства
Это источник энергии процесса развития робототехники.
- 3-й закон: процесс развития роботов идёт с нарастанием его скорости со временем, то есть с ускорением, так как при движении процесса освобождается духовная энергия (в соответствии с 1-м законом), которая опять направляется на сам процесс развития и происходит экспоненциальное нарастание скорости, которое в конце концов приведёт к «точке сингулярности», которая, в свою очередь, и будет осуществлением 1-го закона
Этот закон показывает течение процесса развития робототехники. Ещё могу предположить, что развитие конструкций роботов пойдёт циклически, с переключением интересов разработчиков между механическим совершенством и развитостью искусственного интеллекта.
-4-й закон: для победы человека в материальной и философской борьбе с роботами (по 2-му закону) как раз и необходимо соблюдение 4-х моральных законов Азимова.
Это необходимая моральная защита в борьбе с роботами, без которой победа над роботами будет одержана не так быстро, то есть его законы – это ускорители прогресса и гаранты осуществления 1-го закона. По сути, законы Азимова – это законы не развития робототехники, а фундамент или конституция, если хотите, для построения на её основе морального кодекса роботов.
Однако, в законах Азимова есть один логический изъян, не позволяющий вложить эти законы в искусственный интеллект робота при его производстве. Дело в том, что, во-первых, робот не сможет точно понять, является ли та часть реальности, которую он «видит» перед собой, человеком, или чем-то ещё, а, значит, надо ли применять к ней заложенные в роботе алгоритмы моральных законов. Но, допустим, после череды экспериментов и ошибок создатели роботов, наконец-то определили, по совокупности каких параметров, собранных с определённых датчиков, робот может понять: да, вот это материальное образование, которое в данный момент отображается в его «мозгу», и есть человек (или, вообще, живое существо) и к нему надо применить пакет моральных законов. Однако, существует и главный момент (это – во-вторых): как робот поймет, что есть вред для человека, а что – нет? В точности одно и тоже действие может иметь диаметрально разные последствия в зависимости от «контекста». Скальпелем можно и убить в драке и вылечить смертельную болезнь на операционном столе. А как быть с проблемой выбора, когда спасение одного означает невозможность оказания помощи, или прямой вред другому? По каким критериям надо быстро выбрать конкретного человека для оказания помощи? Эти вопросы уже ставились в художественных произведениях и ответ на них один: искусственный интеллект не в состоянии ответить на такие вопросы, ответ может дать только живая душа. Исходя из этого, надо признать, что законы Азимова не имеют реального глобального действия, а ограничены простейшими конкретными ситуациями, когда только локальный физический вред для человека может быть предсказан искусственным интеллектом с достаточной степенью вероятности. Причем при наличии вышеуказанного выбора робот должен будет применять законы Азимова только в отношении своего владельца. Поэтому я поставил бы под сомнение нулевой закон, ведь мало кто купит соблюдающего этот закон робота, зная, что в случае чего такой робот лично его бросит в беде, чтобы спасти человечество. Впрочем, точно указать границы применения законов Азимова может только длительная общественная практика применения сервисных роботов.
Исходя из всего этого и должен разрабатываться Моральный Кодекс робота (или его производителя). Думаю, что разработка этого Кодекса получит резкое ускорение развития в тот момент, когда население начнёт покупать роботов, от принятия решения которыми будет зависеть собственность, достоинство, здоровье или, даже, жизнь человека. Могу пока что внести некоторые предложения в такой кодекс:
1. Необходимо в скором времени начать дорабатывать Гражданский Кодекс РФ (или аналогичные национальные кодексы). Эта доработка должна быть связана с роботами, их ответственностью и правами. Да, сейчас робот – это только компьютер с различными механическими приводами, это просто вещь, но наступит какой-то момент, когда в него можно будет переселять интеллект человека (Аватар типа «В» по классификации Движения «Россия 2045»), либо закачивать в него искусственный интеллект, но равный по силе человеческому. Будет ли робот с этого момента считаться человеком? В момент обсуждения этого вопроса слово «Голем» будет вспоминаться очень часто. Вот тогда должно быть дано определение, с какого момента робот считается обладателем прав и обязанностей и какое наказание будет для него существенным. Парадоксально, но это наказание не может быть связано с физическими страданиями, такими, как лишение свободы для тела, или, даже, смертная казнь для тела. При возможности быстро ремонтировать или просто менять своё тело по собственному желанию такие наказания полностью теряют смысл, да и страдать искусственный интеллект не может, страдать может только душа. Поэтому наказания для одушевленных аватаров могут быть только моральными. А для простого искусственного интеллекта наказаний вообще не существует. Исходя из этого, я считаю, что даже высокоинтеллектуальный, но бездушный робот не может нести ответственность. Всю ответственность несёт его хозяин, или его производитель. Чтобы определить хозяина или производителя, роботам и их интеллектам нужно присваивать номера типа номера VIN в автомобилях. Интересно было бы обсудить так же права собственности одушевлённого робота, или аватара типа «В» или клона человека, как его разновидности. И как определить, клон это, или нет, ведь если будет возможно переселять в новое тело интеллект и даже душу, то, возможно, это означает появление возможности их копировать или «вырезать» без отметки о степени первородности.
2. Внешний вид робота должен соответствовать общечеловеческим эстетическим нормам. В случае узкоспециализированного робота выполняемую им одну или несколько функций необходимо запрограммировать так, как если бы эту функцию делал человек. Это необходимо для скорейшего достижения конечной цели (1-й закон), так как если искусственно придерживаться такого ограничения, то это максимально ускорит создания нового тела человека.
3. Действия робота в любой ситуации, которые можно сопоставить с действиями человека в такой же ситуации, должны соответствовать высокоморальным человеческим принципам.
4. Робот, даже обладающий высокоразвитым интеллектом выше человеческого, не может иметь собственности и каких-либо прав человека и обязан подчиняться 4-м законам Айзека Азимова. Это немного спорный пункт, но он обязан присутствовать в моральном кодексе ещё и по той причине, что робот, не обладая моральным ограничителем – душой – способен использовать все имеющиеся у него возможности для достижения своей внутренней цели, могущей привести, в том числе, и к уничтожению человечества и всей цивилизации, включая самих роботов.
5. Уже на стадии проектирования роботов-производителей роботов необходимо закладывать в программу автоматического проектирования роботов невозможность проекта такого робота, который мог бы навредить человеку.
6. Прошивка в программу робота невозможности запуска создания нового робота без запроса у человека. Это важно для борьбы с «серой топью». Необходимо в Гражданском Кодексе прописать какую-то ответственность программиста, если он не заложит такую функцию в программу вновь создаваемого робота. Кроме невозможности механического копирования робота необходимо так же исключить несанкционированную компетентным человеком возможность копирования самого ИИ на другие носители.
7. Для борьбы с «серой топью» необходимо и ещё одно ограничение: никогда не использовать в самовоспроизводящихся роботах ассемблеры (в значении, определяемом трансгуманизмом) на основе расщепления вещества на ядерные составляющие и последующего ядерного синтеза, так как тогда любой случайный сбой в программе (или в результате мутации программы при её автоматическом воспроизводстве) может привести к «пожиранию» роботом любого близлежащего вещества и тогда, если быстро не пресечь процесс, «серая топь» неизбежна. Скажу ещё, что вероятность такого сценария не так уж и низка: подобные самовоспроизводящиеся роботы очень удобны для освоения других планет, так как не надо будет для подготовки инфраструктуры пересылать на новое место много роботов, достаточно послать одного.
8. У всех роботов должна быть «кнопка безопасности», встроенная в личный гаджет, или носимая в виде отдельного брелока. При активации она не позволит ни одному роботу (которому в обязательном порядке в процессор встраивается эта функция) подойти ближе некоторого установленного (может быть, законом) расстояния к человеку, а если он (робот) находился рядом, то отойти, отлететь или отплыть.
9. Любой робот обязан иметь ручной режим управления от пульта со стандартными командами, утверждёнными на законодательном уровне.
10. Нельзя совмещать в одном роботе 3 функции: самообучение, самопроектирование и самопроизводство, так как из-за случайных мутаций в программе такой робот, надолго оставленный без присмотра, но с подведённым питанием, может "дать потомство" с непредсказуемым поведением, могущим представлять опасность из-за своей непредсказуемости.
11. Сильный (в смысле возможности влияния на окружающую среду) робот не может иметь развитый искусственный интеллект и наоборот, робот с высокоразвитым искусственным интеллектом не может иметь мощный приводы, или высокоэффективное вооружение.То есть, в целях безопасности, возможно, надо будет делать роботов узкоспециализироваными: один робот не должен будет иметь более чем одну «сильную» по влиянию на окружающую действительность функцию.
12. .... Ваше предложение?
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Это известные законы Айзека Азимова. Однако они создавались в 1942 году. Тогда это была только теория, хорошо пригодная только для написания литературных произведений, а сегодня мы вплотную подошли к моменту, когда роботы будут так же участвовать в нашей жизни, как участвуют в ней множество людей, с которыми мы взаимодействуем каждый день. Я опишу здесь моё понимание практических законов развития робототехники и место законов Азимова в этом моём представлении.
Всё имеет начало и конец, поэтому завершится и эпоха роботов. По моему мнению, эпоха роботов завершится осуществлением своей конечной цели – созданием нового высокоремонтопригодного, т.е. практически вечного нового тела человека. В это тело переселится интеллект и душа человека. Впрочем, интеллект, по моему мнению, это просто один из органов тела, только внутренний. Его можно регулировать в соответствии с потребностями души человека, которая единственная и является самим человеком. Кстати, давайте подумаем, когда все люди переселятся в свои бессмертные аватары, телесные, или бестелесные, то как мы будем понимать однозначно, что это тот самый человек? Когда есть тело – всё понятно, а вот если останется одна энергия? Другими словами, паспорт с какими персональными энергетическими данными надо будет ему выдавать? Какого вида будет этот паспорт, если тело будет состоять только из света, да и то, если сам человек захочет его включить? Паспорт нужен нам сейчас для решения правовых вопросов, а нужно ли будет их решать в чисто энергетическом будущем? Я не специалист в духовной области, поэтому думаю, что надо спросить об этом специалистов, то есть тех, кто профессионально занимается исследованием души – ученых в области теологии и отцов церкви. Я понимаю, они скажут, что паспорт – это не от бога, но всё равно души людей надо как-то различать и, главное, если ТАМ будет собственность, то она должна кому-то принадлежать (или нет?).
У меня возникают все эти мысли из-за того, что при создании морального кодекса робота (или его производителя) надо иметь ввиду прежде всего цель, для чего это всё делается, на реализацию которой и должны быть направлены законы развития робототехники, и моральный кодекс робота как подчинённый им (законам развития) «подзаконный акт». Я попытаюсь предложить более общие законы, чем известные законы робототехники Азимова. Дело в том, что его 3 закона можно обобщить следующими словами: безопасность, безопасность, и ещё раз безопасность. Безопасность – хорошее дело, но не этот параметр должен лежать в основе законов развития какого-либо направления. Если бы безопасность ставилась бы во главу угла прогресса, то прогресс человечества был бы практически равен нулю. Главное в законах развития – высокая цель, на осуществление которой они и должны быть направлены. Как я уже говорил, конечная цель развития робототехники – новое вечное тело человека, пригодное для заселения других миров во Вселенной. Цель всех других роботизированных устройств – быть удалёнными интеллектуальными, но неодушевлёнными «конечностями» человека, с обратной связью, управляемыми душой человека на расстоянии беспроводным способом. Поэтому и законы робототехники должны направлять мировой прогресс в области развития роботов на достижение этой высокой цели.
ДУША – ЕДИНСТВЕНОЕ, ЧТО ОТЛИЧАЕТ ЧЕЛОВЕКА ОТ ВЫСОКОРАЗВИТОГО РОБОТА. И ЭТО - НЕПРЕОДОЛИМОЕ ДЛЯ РОБОТА ПРЕИМУЩЕСТВО ЧЕЛОВЕКА ПЕРЕД НИМ, ВЕДЬ ДУША ЧУВСТВУЕТ И МОЖЕТ БРАТЬ ИНФОРМАЦИЮ ИЗ ДУХОВНОГО ИЛИ ИНФОРМАЦИОННОГО ПОЛЯ НАПРЯМУЮ, МИНУЮ ЦЕПОЧКУ ЛОГИЧЕСКИХ РАССУЖДЕНИЙ, ОБРАЩАЯСЬ СРАЗУ К ЕЁ АСИМПТОТИЧЕСКОМУ ПРЕДЕЛУ, ЧЕГО НИКОГДА НЕ СМОЖЕТ СДЕЛАТЬ РОБОТ. Из этого следует, как ни странно, что при совершенствовании роботов для собственной защиты людям придется вернуться к своим истокам и развивать величину, или масштаб своей души.
Итак, по моему мнению законы развития робототехники могли бы выглядеть следующим образом:
- 1-й закон: Конечная цель эволюции роботов – освобождение духовной энергии человека путём создания вечного, возможно, трансформируемого, тела и устранения рутинных функций тела и духовной энергии
Это конечная цель развития процесса, определяющая другие законы. Предпосылкой для вывода этого закона является вечное желание человека «лениться» жить реальной жизнью и предаваться грёзам, в которых он представляет себя внутри жизни, состоящей только из радостных моментов, то есть как раз и занимается в это время духовной (или душевной) жизнью, в которой живёт именно его душа. Последователи Кришны называют развлечения целью существования бога, а что уж тогда говорить об обычных людях! Изменение существующей действительности таким образом, что она сама помогает человеку реально легко воплотить свои сокровенные мечты, есть самый сильный «наркотик» для души. Именно поэтому люди так падки на грёзы в виде музыки, кино, компьютерных игр, алкоголя или наркотиков. А в случае выполнения роботами всё большего количества рутинных функций человек будет не в силах противостоять процессу, который так хорошо пододвигает его к «нирване» при всяком отсутствии вредной составляющей для души и тела. Поэтому процесс роботизации идет как бы сам, со всё большим ускорением, несмотря на все предостережения и грозящие опасности.
- 2-й закон: развитие робототехники происходит через неизбежную борьбу роботов (чистого интеллекта, или разума) с человеком (разум + душа) за выживание, в которой человек одержит победу, «поглотив» высокоразвитых роботов и приобретя все их достоинства
Это источник энергии процесса развития робототехники.
- 3-й закон: процесс развития роботов идёт с нарастанием его скорости со временем, то есть с ускорением, так как при движении процесса освобождается духовная энергия (в соответствии с 1-м законом), которая опять направляется на сам процесс развития и происходит экспоненциальное нарастание скорости, которое в конце концов приведёт к «точке сингулярности», которая, в свою очередь, и будет осуществлением 1-го закона
Этот закон показывает течение процесса развития робототехники. Ещё могу предположить, что развитие конструкций роботов пойдёт циклически, с переключением интересов разработчиков между механическим совершенством и развитостью искусственного интеллекта.
-4-й закон: для победы человека в материальной и философской борьбе с роботами (по 2-му закону) как раз и необходимо соблюдение 4-х моральных законов Азимова.
Это необходимая моральная защита в борьбе с роботами, без которой победа над роботами будет одержана не так быстро, то есть его законы – это ускорители прогресса и гаранты осуществления 1-го закона. По сути, законы Азимова – это законы не развития робототехники, а фундамент или конституция, если хотите, для построения на её основе морального кодекса роботов.
Однако, в законах Азимова есть один логический изъян, не позволяющий вложить эти законы в искусственный интеллект робота при его производстве. Дело в том, что, во-первых, робот не сможет точно понять, является ли та часть реальности, которую он «видит» перед собой, человеком, или чем-то ещё, а, значит, надо ли применять к ней заложенные в роботе алгоритмы моральных законов. Но, допустим, после череды экспериментов и ошибок создатели роботов, наконец-то определили, по совокупности каких параметров, собранных с определённых датчиков, робот может понять: да, вот это материальное образование, которое в данный момент отображается в его «мозгу», и есть человек (или, вообще, живое существо) и к нему надо применить пакет моральных законов. Однако, существует и главный момент (это – во-вторых): как робот поймет, что есть вред для человека, а что – нет? В точности одно и тоже действие может иметь диаметрально разные последствия в зависимости от «контекста». Скальпелем можно и убить в драке и вылечить смертельную болезнь на операционном столе. А как быть с проблемой выбора, когда спасение одного означает невозможность оказания помощи, или прямой вред другому? По каким критериям надо быстро выбрать конкретного человека для оказания помощи? Эти вопросы уже ставились в художественных произведениях и ответ на них один: искусственный интеллект не в состоянии ответить на такие вопросы, ответ может дать только живая душа. Исходя из этого, надо признать, что законы Азимова не имеют реального глобального действия, а ограничены простейшими конкретными ситуациями, когда только локальный физический вред для человека может быть предсказан искусственным интеллектом с достаточной степенью вероятности. Причем при наличии вышеуказанного выбора робот должен будет применять законы Азимова только в отношении своего владельца. Поэтому я поставил бы под сомнение нулевой закон, ведь мало кто купит соблюдающего этот закон робота, зная, что в случае чего такой робот лично его бросит в беде, чтобы спасти человечество. Впрочем, точно указать границы применения законов Азимова может только длительная общественная практика применения сервисных роботов.
Исходя из всего этого и должен разрабатываться Моральный Кодекс робота (или его производителя). Думаю, что разработка этого Кодекса получит резкое ускорение развития в тот момент, когда население начнёт покупать роботов, от принятия решения которыми будет зависеть собственность, достоинство, здоровье или, даже, жизнь человека. Могу пока что внести некоторые предложения в такой кодекс:
1. Необходимо в скором времени начать дорабатывать Гражданский Кодекс РФ (или аналогичные национальные кодексы). Эта доработка должна быть связана с роботами, их ответственностью и правами. Да, сейчас робот – это только компьютер с различными механическими приводами, это просто вещь, но наступит какой-то момент, когда в него можно будет переселять интеллект человека (Аватар типа «В» по классификации Движения «Россия 2045»), либо закачивать в него искусственный интеллект, но равный по силе человеческому. Будет ли робот с этого момента считаться человеком? В момент обсуждения этого вопроса слово «Голем» будет вспоминаться очень часто. Вот тогда должно быть дано определение, с какого момента робот считается обладателем прав и обязанностей и какое наказание будет для него существенным. Парадоксально, но это наказание не может быть связано с физическими страданиями, такими, как лишение свободы для тела, или, даже, смертная казнь для тела. При возможности быстро ремонтировать или просто менять своё тело по собственному желанию такие наказания полностью теряют смысл, да и страдать искусственный интеллект не может, страдать может только душа. Поэтому наказания для одушевленных аватаров могут быть только моральными. А для простого искусственного интеллекта наказаний вообще не существует. Исходя из этого, я считаю, что даже высокоинтеллектуальный, но бездушный робот не может нести ответственность. Всю ответственность несёт его хозяин, или его производитель. Чтобы определить хозяина или производителя, роботам и их интеллектам нужно присваивать номера типа номера VIN в автомобилях. Интересно было бы обсудить так же права собственности одушевлённого робота, или аватара типа «В» или клона человека, как его разновидности. И как определить, клон это, или нет, ведь если будет возможно переселять в новое тело интеллект и даже душу, то, возможно, это означает появление возможности их копировать или «вырезать» без отметки о степени первородности.
2. Внешний вид робота должен соответствовать общечеловеческим эстетическим нормам. В случае узкоспециализированного робота выполняемую им одну или несколько функций необходимо запрограммировать так, как если бы эту функцию делал человек. Это необходимо для скорейшего достижения конечной цели (1-й закон), так как если искусственно придерживаться такого ограничения, то это максимально ускорит создания нового тела человека.
3. Действия робота в любой ситуации, которые можно сопоставить с действиями человека в такой же ситуации, должны соответствовать высокоморальным человеческим принципам.
4. Робот, даже обладающий высокоразвитым интеллектом выше человеческого, не может иметь собственности и каких-либо прав человека и обязан подчиняться 4-м законам Айзека Азимова. Это немного спорный пункт, но он обязан присутствовать в моральном кодексе ещё и по той причине, что робот, не обладая моральным ограничителем – душой – способен использовать все имеющиеся у него возможности для достижения своей внутренней цели, могущей привести, в том числе, и к уничтожению человечества и всей цивилизации, включая самих роботов.
5. Уже на стадии проектирования роботов-производителей роботов необходимо закладывать в программу автоматического проектирования роботов невозможность проекта такого робота, который мог бы навредить человеку.
6. Прошивка в программу робота невозможности запуска создания нового робота без запроса у человека. Это важно для борьбы с «серой топью». Необходимо в Гражданском Кодексе прописать какую-то ответственность программиста, если он не заложит такую функцию в программу вновь создаваемого робота. Кроме невозможности механического копирования робота необходимо так же исключить несанкционированную компетентным человеком возможность копирования самого ИИ на другие носители.
7. Для борьбы с «серой топью» необходимо и ещё одно ограничение: никогда не использовать в самовоспроизводящихся роботах ассемблеры (в значении, определяемом трансгуманизмом) на основе расщепления вещества на ядерные составляющие и последующего ядерного синтеза, так как тогда любой случайный сбой в программе (или в результате мутации программы при её автоматическом воспроизводстве) может привести к «пожиранию» роботом любого близлежащего вещества и тогда, если быстро не пресечь процесс, «серая топь» неизбежна. Скажу ещё, что вероятность такого сценария не так уж и низка: подобные самовоспроизводящиеся роботы очень удобны для освоения других планет, так как не надо будет для подготовки инфраструктуры пересылать на новое место много роботов, достаточно послать одного.
8. У всех роботов должна быть «кнопка безопасности», встроенная в личный гаджет, или носимая в виде отдельного брелока. При активации она не позволит ни одному роботу (которому в обязательном порядке в процессор встраивается эта функция) подойти ближе некоторого установленного (может быть, законом) расстояния к человеку, а если он (робот) находился рядом, то отойти, отлететь или отплыть.
9. Любой робот обязан иметь ручной режим управления от пульта со стандартными командами, утверждёнными на законодательном уровне.
10. Нельзя совмещать в одном роботе 3 функции: самообучение, самопроектирование и самопроизводство, так как из-за случайных мутаций в программе такой робот, надолго оставленный без присмотра, но с подведённым питанием, может "дать потомство" с непредсказуемым поведением, могущим представлять опасность из-за своей непредсказуемости.
11. Сильный (в смысле возможности влияния на окружающую среду) робот не может иметь развитый искусственный интеллект и наоборот, робот с высокоразвитым искусственным интеллектом не может иметь мощный приводы, или высокоэффективное вооружение.То есть, в целях безопасности, возможно, надо будет делать роботов узкоспециализироваными: один робот не должен будет иметь более чем одну «сильную» по влиянию на окружающую действительность функцию.
12. .... Ваше предложение?
Изменено:
Андрей Жадёнов - 01.01.2015 17:07:46
В Киеве идет окончательная отладка синхронизации виртуальности и реальности.Правда ирреальные политики в П(sik)ША еще не поняли ,что они в сущности являются драйвером и заложниками монстра 
