Как тогда относиться к вопросу о разумности у существа (человека), которое может пожертвовать собой, чтобы спасти другое живое существо, допуская с большой долей вероятности, что после этих действий перестанет существовать вообще? А самоубийца неразумен? Но ведь что отличает человека от животных – человек может пренебречь инстинктом самосохранения, когда жизнь ему становится не мила, в этом вопросе у него есть выбор, а не единственный пункт программы - сохранить себя как существующее.

А вера, религиозное чувство – это продукт разума? Нет, конечно, в «Бегущем по лезвию бритвы» в конце репликант показан уходящем добровольно из жизни, жертвующим собой ради (предположительно, об этом размышляют до сих) другого репликанта, уходящий из жизни с верой религиозного человека, но мне что-то не представляется ИИ, размышляющий подобно человеку и допускающий Бога (философствующий на эту тему).. как это будет сочетаться с другими, рациональными, в нем программами? - одному Богу известно.

И потом.  "Молекулы воздуха", "создать самолет.." С чего вдруг взялось, что создать ИИ, который бы «понимал» человека – тоже, что и создать самолёт? Писательница, создавшая чудовище Франкенштейна, никак в своем произведении не раскрывает, как было конкретно создано это существо из неживого (прикрываясь тем, что создатель монстра никому не рассказывал даже, чтобы подобное не повторили, забавный по уклончивости приём), но образ впечатляет. Должно ли верить в идентичность «разума» ИИ разуму человека по этой причине?  Мне иногда кажется, что вся эта заваруха с искусственными людьми и искусственными разумами основана на ощущении (ложной, ессно) неполноценности некоторых (некоторых, повторюсь) зацикленных мужчин, как существ, которые по своей биологии созданы так, что в их организмах не может развиваться другой живой организм из их вида, возникать и созревать ребенок (и тут Сигизмунд Фрейд с его теорией о кастрации поперхнулся..).
Некая предтеча прошлого для ИИ (если не считать гомункула) -
редтеча ИИ

При использовании понятия разума, разумности, следует указывать, в отношении какой из систем применяется это понятие. Отдельные живые системы  входят в иерархию живых систем более высокого уровня. Зачастую разобраться в этих хитросплетениях не просто.

Предельно утрирую.

Человек жертвует своей жизнью, спасая своих близких родственников. С точки зрения организма человека, это поступок неразумный. Но с точки зрения рода (а это тоже система, пронизанная связями на многих уровнях), это разумный поступок – он помог сохранить род (в данном случае, определённые генетические комбинации + определённые культурные навыки/традиции + конкретную группу особей и т.д.).

Человек спасается из горящего дома, спускаясь вниз по канату. При этом обдирая в кровь кожу на ладонях/пальцах. С точки зрения, клеток кожи – это самоубийственное поведение (они гибнут). С точки зрения базовых систем организма – это неразумное поведение (идут сигналы боли, течёт кровь, сдирается кожа). Но для человека в целом, это разумное поведение. Человек в целом, располагает гораздо большими интеллектуальными возможностями, чем любая из подсистем организма, а тем белее, чем любая клетка его организма.  Мало того человек в целом и знаниями располагает гораздо большими, чем любая из его клеток, любая из подсистем его организма (клетки кожи (и подсистемы организма) ничего не знают о пожаре, о многоэтажности, о возможности разбиться насмерть при падении и т.д.).

Далее. Социум перенаселён в условиях ограниченности пищевых и прочих ресурсов. И реакция социума будет проявляться очень разнообразно (на первый взгляд) до такой степени, что даже невозможно углядеть разумность в этом. Тут и ограничение рождаемости и численности населения (применения противозачаточных препаратов, гомосексуализма, отказа от детей, формирования правил поведения (и формализация этих правил в форм законов)), уменьшение потребления ресурсов (ограничения населения в питании (вплоть до пропаганды «здорового» образа жизни – вегетарианства, сыроедения)), уменьшение численности населения (войны, междоусобицы, исходы – покорение новых земель под флагом некоей идеи, распространение наркотиков (и даже их легализация) и т.д. и т.п. В общем всё то, что поможет сохранится социуму в условиях ограниченности пищевых и прочих ресурсов. По сути, весьма разумная в стратегическом плане реакция социума...

Механизмы апоптоза предназначены для самосохранения многоклеточного организма ценой гибели отдельных его клеток (в первую очередь, дефектных). С точки зрения этих клеток - поведение неразумное, с точки зрения организма - разумное. И если клетка поступит в данной ситуации по-своему (типа, на её взгляд, разумно), то организм ждёт беда (а следом и для этой клетки неизбежно наступит кирдык!) - например, клетка оказалась раковой (а в более лёгком варианте -  просто перестала выполнять свою функцию и стала обузой для других клеток организма).

В каждом отдельном случае надо рассматривать всё в комплексе. Моё определение дано в самом общем виде.

"С точки зрения организма человека, это поступок неразумный. Но с точки зрения рода (а это тоже система, пронизанная связями на многих уровнях), это разумный поступок – он помог сохранить род"  
Ну, например, женщина может пытаться спасать своего же маленького сына. С точки зрения поддержки рода это неразумно - сын может и не вырасти (болезни, опять же смерть), и не дать потомства, тем более женщина может родить ещё, а сын (будущий мужчина) рожать не может, тут более рациональнее было бы женщине не спасать, если рискует своей жизнью и фертильна. Но проблема вопроса не в этом. - Она спасает его, потому что любит его в своих ощущениях и забывает о себе. Вы сами сказали, что вербалика не способна объяснить всё. Почему уверены,  что понятие разума объяснимо (можно оформить вербально)?

Вернусь. В чём ошибка оформленной мысли - подмена наличия желания жить возможностью говорить об этом.