В Москве 8-9 ноября 2019 года состоялась международная конференция по Искусственному Интеллекту (ИИ), в работе которой приняли участие более 5000 специалистов по ИИ и смежным проблемам из России и всего мира. Там выступил Президент РФ Владимир Путин, чья речь вызвала широкий резонанс в мировом медиа-пространстве. Наряду с признанием величайшей важности этой проблемы, а также с констатацией уже идущей на этом пространстве (под видом технологической гонки) войны, самой жёсткой и бескомпромиссной в истории нашей цивилизации, прозвучал тезис о том, что необходимо формирование свода ЭТИЧЕСКИХ правил взаимодействия человека с ИИ.
Статья по этому поводу под названием "Субъекты будущего" напечатана в газете "Завтра", ноябрь, 2019, № 45 (1352), авторы: Владимир Винников и Александр Нагорный.
Положения этой статьи послужили основанием для открытия настоящей темы, как дискуссии по проблеме актуальной значимости. Ниже представлены в цитатах-утверждениях и в авторском (Вьедливый) вольном изложении основные положения статьи.
Вход для гостей: логин - Гость, пароль 12345
"Этические правила возможны только в отношениях между "Субъектами". Значит, это может означать, что системы ИИ либо уже достигли, либо близко подошли к уровню субъектности (гораздо раньше, чем ожидалось и планировалось). А за этим действительно стоит новая эпоха в истории человечества, а проблема этических правил становится в повестку дня и требует рассмотрения в широком контексте.
"Данные генетических исследований утверждают, что люди современного биотипа ("Y-хромосомный Адам" и "митохондриальная Ева") появились 150-200 тысяч лет назад. И нам до сих пор неизвестны имеющие иную природу, чем Гомо Сапиенс (человек разумный), системы, способные обладать свойством самосознания (самоотражения) и, соответственно, статусом СУБЪЕКТА". Иными словами, человеческая цивилизация во всех её социальных, общественных, проявлениях строилась исключительно на биологическом фундаменте вида "человек разумный", а потому носила и до сих пор носит исключительно антропогенный и антропоцентричный характер. Однако уже не сегодня-завтра, благодаря научно-технологическому прогрессу, всё может измениться".
Полный спектр этих изменений и их последствий пока нельзя даже представить, но эволюция систем такого уровня, как ИИ ("диссипативных", по И. Р. Пригожину), выглядит таким же уникальным событием, как, например, зарождение жизни на Земле или сам антропогенез. Современные философы и футурологи вводят новые термины для будущих "нечеловечеств": "трансчеловечество", "постчеловечество", "альтчеловечество", как антонимы к человечеству "традиционному", а это мы, в нашем прошлом и настоящем. И как будут выглядеть формы взаимодействия "нашего" человечества с будущими "нечеловечествами", а также их самих между собой?
Развитие сущей человеческой цивилизации достигло такого уровня, когда могут возникнуть направления социальной эволюции, которые можно назвать "неосоциогенезом": - "Трансчеловечество" - результат направленных изменений "человека разумного" путём использования технологий генной инженерии; - "Постчеловечество" - интеграция системы организма "человек разумный" с неорганическими компонентами нано-, микро-, макромасштабов; - "Альтчеловечество" - создание искусственных систем, обладающих свойствами самосознания, самоотражения и саморазвития как минимум на сопоставимом с "человеком разумным" (Разум) и человеческими сообществами (Разуморум) уровне без использования биогенных элементов, то есть результат развития того, что сейчас называется ИИ.
И всё это "субъективирующие" технологии, ныне (2017-2019 г.г.) проходящие зону бифуркации в развитии человечества. Примеры: в Китае родились первые генетически модифицированные близнецы, невосприимчивые к ВИЧ; более 3,5 тысячи шведов добровольно записались на введение подкожного чипа, представляющего собой и кошелёк, и проездной, и пропуск в офис, и ключи от квартиры; ИИ победил чемпиона мира не только в шахматах, но и в гораздо более сложной игре го; фирмой Гугл разработан квантовый суперкомпьютер, который использует 53 программируемых сверхпроводящих кубита, соответствующих вычислительному пространству, позволяющему за считанные минуты решать задачи, на которые у "классических" суперкомпьютеров должны уйти 10 тысяч лет (при этом отмечается, что "во время обучения нейросети регулярно корректируют собственные настройки способами, которые создатели квантового компьютера не в состоянии интерпретировать").
Риторический вопрос от Въедливого: придёт ли такой экстрасуперкомпьютер к идее Бога (как пришло "традиционное" человечество) или Сам объявит людям Себя, как Субъекта, таковым?
(продолжения вводной статьи следуют)
Тезисы, выделенные Ведущим в течение дискуссии и выраженные в книге 2:
Тезис 1. Только при гармоничном, по видам собственности, общественном устроении будет формироваться Этика взаимоотношений всех субъектов будущего на основе позитивного морально-нравственного, а именно гуманистического, мировоззрения. Позитивное мировоззрение в таком расширенном понимании кладём в основу Единой Этики субъектов будущего, представляющих "человечества" неосоциогенеза.
Тезис 2. Этика субъектов будущего (взаимоотношения) должна строиться на основе Гармонии их противоречивых "интересов" в вынужденном единстве всемирного общества (планеты). Эти "интересы" надо сформулировать как можно яснее и искать пути их гармонизации (так же, как и в чисто человеческом обществе для людей - см. Тезис 1).
Тезис 3. Этика субъектов будущего должна защитить слабое звено взаимоотношений землян - категорию СЕМЬИ, как гармонию любви биологической Пары "мужчина-женщина" в окружении детей, как плодов такой любви. При этом условии биологическое человечество сохранит гуманистическую нравственность в развитии цивилизации землян, как сообщества биологического и техногенных человечеств.
Тезис 4. Единая (понимаемая, как Общая) Этика субъектов будущего должна относиться к взаимоотношениям субъектов между собой и по отношению к субъекту "Семья" (см. Тезис 3), и не только для людей, но и для всех субъектов, активных инстанций, а также разумных сообществ-организмов, из прогнозируемого близкого и далёкого будущего (неосоциогенеза)".
Дата: Вторник, 2020-12-29, 10:58 PM | Сообщение # 581
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2637
Статус: Offline
Цитатаivanov_v ()
Вы предлагаете создать некий катехизис и заставить людей его исполнять? И даже заставить ИИ ?Но люди же не стадо свиней. Почему вы думаете, они слепо за вами пойдут? Неизвестно куда.
Уважаемый Виталий! Ну вот не надо только за меня додумывать и приписывать то, что и в мыслях не было. Я больше прагматик, а не фантазёр, и никаких подсмыслов про катехизис и водительство "стада свиней" и в бреду, простите, не было. А вот 1-ю заповедь взаимодействия обсудил бы.
Цитатаivanov_v ()
И вот эти общие цели и смыслы, понятные, просто изложенные и обоснованные всесторонне (прелестно! - Въедливый), подтверждаемые всей известной нам историей мироздания, только и могут объединить человечество и ИИ, стать основой Единой этики.
А чем занимаются религии вот уже тысячи лет? Да результата что-то не видно для Единой этики даже людей, не то что вкупе с ИИ. Да разве можно надолго объяснить людям, что они "созданы миром (?!) для цели определённой"? Через поколение забудут! Даже когда цель предельно ясна, как, например, необходимость победы в Великой Отечественной войне, и то через несколько поколений забывают о важности защиты свободы и суверенитета своей страны. А Ваша объединительная цель для людей и ИИ - совершенствование всей Вселенной, как я понял - совершеннейшая фантазия и утопия, уж простите, на обозримом (в прошлое и в будущее) историческом отрезке нынешней земной цивилизации в несколько десятков тысяч лет (миг для Вселенной).
Я всё-таки за прагматизм в формулировках предполагаемых Заповедей взаимодействия. ИИ тоже, думаю, будет читать вещи конкретные, которые можно запомнить и хотя бы минимально обобщить, сделать из этого выводы для мотивации конкретных поступков и решений. ёклмн&ёпрст
Дата: Вторник, 2020-12-29, 11:33 PM | Сообщение # 582
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Александр Странно слышать от серьезных ученых, "въедливых", желание делать скоропалительные выводы без достаточных на то оснований.))) Надеюсь, вы понимаете, это шутка. Хотя очень горькая... ))) Эх, Александр... А если серьезно... раз вам нечего больше сказать, делайте выводы. Ну, а я, если вы не против (вроде, мы договаривались), продолжу. Уже скоро подойдем к проблемам справедливой организации общества потребления. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Среда, 2020-12-30, 12:29 PM | Сообщение # 583
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Александр Я не нахожу в ваших мыслях, статьях существенных отличий от того, что я излагаю, у нас нет непримиримых противоречий. Кроме одного. Вы не хотите вникнуть несколько шире и глубже. Но разве знание, хорошо, пусть гипотнзы и теории - а ведь, по сути, в мировоззренческих вопросах ничего нельзя доказать - разве дополнительные доводы и обоснования могут повредить нескольким обобщающим тезисам? Обобщающим что? Вы говорите, многотысячелетняя история религиозных воззрений ничего не дала людям. С этим не могу согласиться. Развитие религиозных и философских концепций, мировоззрений - естественный путь становления Разума. На мой взгляд, суть в том, что наступает и уже наступил момент, и даже критический, необходимости отказа от слепой веры.
Человек, человечество не могут жить без веры и без сомнений. Мы верим хотя бы в то, что мы существуем, и сомневаемся очень во многом, начиная с того, верное ли у нас восприятие мира. И вот сомнения и вера, вместе и поочередно ведут Разум, осознающую себя материю в ее самопознании и саморазвитии.
Сегодня нужна стройная, позитивная, комплексная мировоззренческая концепция. И я предлагаю Философию развития и Религию Разума. Религию РА-ЗУ-МА, а не слепой веры, мракобесия и фанатизма. И даже не любви - не просто любви наблюдателя прекрасного, гармоничного мира, а деятельного его созидателя, продолжающего Творение. Творения Разумом, осознанно избравшим Философию развития - мировоззрение нескончаемого познания и созидания мира, нашей конечной, но всё расширяющейся Вселенной в бесконечной, вечной вселенной. Разума, верящего в фундаментальное творческое начало вселенной, ее неограниченность, не отделяющего Себя от единого мира и верящего в Себя как Творца, наделенного доверием и полномочиями...
Разве эта задача не заслуживает внимания? А Философия развития и Религия Разума не должны и не могут быть основанием Единой Этики Разума? Объединяющего в себе всех разумных субъектов Земли, нашей Вселенной. Осознавшим свою ответственность за единое Целое, за всех меньших братьев - от красоты атома до прекраснейших явлений Природы и человеческих достижений в искусствах, науках и философиях... Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Среда, 2020-12-30, 1:15 PM | Сообщение # 584
Ковчег
Группа: Модераторы
Сообщений: 1722
Статус: Offline
Цитатаivanov_v ()
Сегодня нужна стройная, позитивная, комплексная мировоззренческая концепция. И я предлагаю Философию развития и Религию Разума.
Прекрасная мысль. Но я бы добавила Религия Гармонии Разума.
Потому что умный злодей всегда страшнее глупого злодея.
И мне кажется, когда вы, наконец, разберётесь, друзья, каждый - с самим собой, в первую очередь, вы вернётесь к элементарным 10 заповедям из Библии, на основе которых был создан и кодекс строителя коммунизма. Проверенный тысячелетиями документ)))
Я бы сформулировала от себя, не мудрствуя лукаво:
ЖИВИ САМ, САМОСОВЕРШЕНСТВУЙСЯ В РАЗУМЕ, СТРЕМЯСЬ К ВЫСШЕЙ ГАРМОНИИ С КОСМИЧЕСКОЙ ЦЕЛЕСООБРАЗНОСТЬЮ И НЕ МЕШАЙ ТАК ЖЕ ЖИТЬ ДРУГИМ. ЭТО И ЕСТЬ КОМПЛЕКСНАЯ МИРОВОЗЗРЕНЧЕСКАЯ СОЗИДАТЕЛЬНАЯ КОНЦЕПЦИЯ. ЛЮБОЕ ТВОРЧЕСКОЕ НАЧАЛО ДОЛЖНО БЫТЬ СОЗИДАТЕЛЬНЫМ, ИБО О ЛЮБОМ ЧЕЛОВЕКЕ МЫ СУДИМ ПО ДЕЛАМ ЕГО, А НЕ ПО СЛОВАМ.ПУСТЬ НА ЭТИХ ПРИНЦИПАХ СОЗДАЮТСЯ И ИСПОЛЬЗУЮТСЯ ВСЕ ТЕХНИЧЕСКИЕ ДОСТИЖЕНИЯ.
МЫСЛЬ - НАЧАЛО ПОСТУПКА!
С НАСТУПАЮЩИМ НОВЫМ ГОДОМ!!! ЖЕЛАЮ ВАМ, ДРУЗЬЯ МОИ, ЗДОРОВЬЯ, ПОНИМАНИЯ, ПРОЦВЕТАНИЯ И ЛЮБВИ БЛИЗКИХ!!!
Дата: Среда, 2020-12-30, 3:29 PM | Сообщение # 585
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
ЦитатаЛара_Фай-Родис ()
И мне кажется, когда вы, наконец, разберётесь, друзья, каждый - с самим собой, в первую очередь, вы вернётесь к элементарным 10 заповедям из Библии, на основе которых был создан и кодекс строителя коммунизма. Проверенный тысячелетиями документ)))
Лара. Согласен с вами. Некоторые, более того, считают, что достаточно одного слова «ЛЮБОВЬ»! Ничего знать больше не надо. А есть такие, которые скажут «Ом!» - и довольны. И в самом-то деле, разве количество слов имеет значение? Или количество чувств? Мыслей? Возможно, из этого происходит желание вернуться к простоте Мудрецов древности. Или даже к животному миру, раю с единственным человеком Адамом, не знающим наук, искусств, языка и прочих соблазнов…
Вот, кстати, и мне однажды, когда я в очередной раз приоткрыл оковы своего «я», откуда-то из глубин мироздания пришли
Десять заповедей Природы.
1. Не убивай, не губи душу напрасно; и воздастся всем на Земле, роду твоему и тебе - через всех!
2. Бери сколько нужно, не ищи лишнего.
3. Дай жизней, сколько повелевает тебе природа твоя; научи детёнышей всему, что знаешь сам.
4. Не суетись.
5. Живи до конца дней своих, пока тело и разум не скажут - достаточно. Не давай в обиду себя никому.
6. Не ленись строить дом, собирать пищу, растить детёнышей.
7. Не лги, если нет в этом особенной необходимости, - и будешь жить в мире, который не обманет тебя.
8. Исследуй всё новое, что не понятно, - опасно ли, может ли пригодиться? Не держи лишнего - того, что не значимо для тебя.
9. Радуйся! Умей радоваться малому - и получишь большое. Земля, небо и звёзды, воды и ветер - друзья твои.
10. Не сомневайся, верь, что устроен мир к лучшему, по промыслу Божию - будешь сыт и здоров, Бог увидит тебя, и ты узришь Бога!..
И ничего мне больше не надо. Может, ИИ тоже ничего будет больше не надо. В конце концов, все мы произошли из одного рая. В него и вернемся однажды…
Поздравляю Вас с наступающим Новым годом! Желаю удачи и всего самого доброго! Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Среда, 2020-12-30, 3:36 PM | Сообщение # 586
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Таким видео компания Boston Dynamics решила поздравить всех с наступающими новогодними праздниками. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Среда, 2020-12-30, 7:53 PM | Сообщение # 587
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2637
Статус: Offline
Цитатаivanov_v ()
Ну, а я, если вы не против (вроде, мы договаривались), продолжу.
Я о том, конечно, помню, Я и сам в словах обилен, Для раздумий был бы повод. Это наш с тобой секрет, Твой и мой секрет.
Обещаешь ты подробно Дать для Этики основу, Было однозначно чтобы Для всей Вселенной и ИИ. В этом твой секрет.
Я тебе, конечно, верю, Разве могут быть сомненья, Но не станет ли дуэтом, В этой теме наш секрет, Наш с тобой секрет?
Улыбаемся! Встречать Новый Год хорошим настроением - замечательная традиция! Уж ковчеговцы-то знают в этом деле толк! С Новым 2021 Годом, друзья! ёклмн&ёпрст
Дата: Понедельник, 2021-01-04, 6:28 PM | Сообщение # 589
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Продолжу выставлять "Мировоззрение. Тезисы" в приложении к теме.
31. Случайность и необходимость. Необходимость – сущая связь между объектами. Случайность – взаимодействие между объектами, не обусловленное необходимостью. Сфера качеств растет с появлением новых необходимостей, самораскрытием сущего комплекса взаимосвязанных необходимостей. Этот процесс происходит в непрерывном, бесконечном пространстве случайного; среди сущих необходимостей, на которые накладываются случайностные воздействия объектов всех уровней иерархии, оказывающихся в пределах взаимодействия, а также элементарные движения плоти мира. Сочетание случайного и необходимого при первичном возникновении материальных форм, на промежуточных ступенях эволюции и на уровне становления Разума. Главный вектор необходимого – развитие нашей Вселенной. Управляемое Разумом взаимодействие случайного и необходимого, в результате чего происходит развитие, - творчество, творение мира. Соотношение случайного и необходимого в пространстве возможного. Выбор Пути. Ошибка – выход за пределы возможного. ---------------
Развитие, приобретение новых качеств в любом замкнутом на себя по имеющимся высшим взаимосвязям квоте материи происходит во взаимодействии необходимого (уже сущих законов, связей) и всего поля случайностей на всех уровнях иерархии развития структур. Чем сложнее, высокоразвитее система – имеется в виду ОИС (объединенные ИС) и ГИС (Глобальная ИС, наша Вселенная), тем быстрее в ней идет накопление новых качеств. Однако лицо своё среди других задерживают лишь те новые качества, взаимосвязи, которые дают преимущества субъектам, объектам, ИС в сравнении с уже сущими.
Всё вышесказанное относится и к возникновению, созданию ИИ. Новые качества, которыми он обладает или обладать будет, должны иметь преимущества в каких-то направлениях или в целом для этого нового субъекта в сравнении с уже сущими, то есть с людьми. Так и происходит. Возникновение этих новых качеств также происходит в результате игры случайностей с необходимостями. Под «необходимостями» понимается все уже существующие взаимодействия – сильные и слабые атомные, гравитационные, электромагнитные, весь спектр биологических взаимосвязей и, конечно, взаимосвязи, созданные цивилизацией человека. Все знания и умения человечества. При этом, начиная с высших животных и продолжая развитием цивилизации человека, процесс взаимодействия случайного и необходимого происходит как в сфере материального на всех уровнях иерархии структур, так во всё большей степени и в сфере идеальных, понятийных структур. Посредством всё более совершенных активных инстанций, движений и взаимодействий как в мире материальном (ММ), в идеальном мире (ИМ), так и между ММ и ИМ. Суть в том, что большинство так называемых «открытий» происходит случайно. Однако в рамках необходимого. Это всё более сложные «случайности» во всё более сложной среде «необходимого».
Зачем я это здесь излагаю? А затем, что этика «субъектов будущего» совершенно необходима. Однако рождается в большой мере случайно. Как, например, и наш дискурс.) Начатый вдруг. Потому что он, действительно, необходим. Но… разве он кем-нибудь запланирован? Например, Академией наук РФ? Президентом? Мировым правительством? Гейтсом? Нет.))) Совершенно случайным образом создалась, нашлась некая группа неравнодушных людей, которые решили вдруг, по сути, случайным образом, создать совершенно необходимую вещь – ЭТИКУ БУДУЩЕГО, ЕДИНУЮ ЭТИКУ. Пользуясь, на самом деле, всё теми же приемами, средствами – игры необходимостей со случайностями.
С чем вас и поздравляю друзья! С Новым годом!!! Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Понедельник, 2021-01-04, 6:44 PM | Сообщение # 590
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Что я хочу сказать? А то, что разумные, и всё более разумные взаимосвязи возникают так же в среде сущих необходимостей. А «необходимостями» являются здесь уже и разумные взаимосвязи – разумные, но рангами ниже. Всё более сложная деятельность осуществляется во всё более сложной среде. Но! Принципиально новые прорывы осуществляются хоть и разумными субъектами, но всё-таки частенько – «случайно». Путем бесконечного количества переборов, сознательных и бессознательных, во всё более сложных системах открываются новые качества и затем проверяются на предмет нужности их и важности, жизненности, бытийности в нашей Вселенной. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Сообщение отредактировал ivanov_v - Понедельник, 2021-01-04, 6:44 PM
Дата: Понедельник, 2021-01-04, 7:46 PM | Сообщение # 591
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
И еще. То, что субъектам более низкого уровня развития по иерархии ИС может показаться «разумным», не обязательно является таковым для осуществляющих эти действия. Или наоборот. То непознанное и необъяснимое или же некое, например, «зло», которое скажем, человечеству представляется «неразумным» и именно по отношению к нему избыточным «злом», для более высоких субъектов может быть совершенно разумным и необходимым. Вопрос, однако же, «необходимым» для кого и чего?
Критерий «зла и добра», как было сказано в предыдущем разделе тезисов – бытие и развитие ГИС, нашей Вселенной в целом, а не любые, даже высшие субъекты её, ИИС и ОИС – ИИ или кто бы то ни было. Соответственно, это должно пониматься и Этикой. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Вторник, 2021-01-05, 8:28 PM | Сообщение # 592
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2637
Статус: Offline
Цитатаivanov_v ()
Критерий «зла и добра», как было сказано в предыдущем разделе тезисов – бытие и развитие ГИС, нашей Вселенной в целом, а не любые, даже высшие субъекты её, ИИС и ОИС – ИИ или кто бы то ни было. Соответственно, это должно пониматься и Этикой.
По идее, положения Этики должны быть направлены на достижение "добра". Но это понятие относительное. Одно и то же действие действующего субъекта может быть и добром, и злом, в зависимости от интересов оценивающего субъекта. В. Иванов предлагает считать высшим "добром" те действия, которые в пользу "бытия и развития нашей Вселенной в целом", более того, Этика должна "понимать" это. Но надо понимать и то, что Этика - это инструмент Общества субъектов будущего, разнообразного сермяжного Общества, живущего на планете со своими житейскими интересами. До Вселенной ли тут?
Оно бы и хорошо, как говорится, радеть за всё хорошее, да ещё в масштабах Вселенной. Но это общие слова на уровне философских благих пожеланий. Встаёт всё тот же древний вопрос: а Высший Судия кто, пригодный для квалификации действий субъектов по критерию именно такой, вселенской, интерпретации "добра"? Что, опять заворачиваем к понятию Высшей Сущности (ВС), как последней "решательной" инстанции? Но подобную ВС будут интерпретировать всё такие же, как и в имеющихся религиях с Богом, представители-апостолы со своими вполне земными имущественными и властными - "человеческими" - интересами. Для обсуждаемой Этики если это и будущее, то очень и очень далёкое, и потому пока неприемлемое для этой дискуссии. Нам бы, коллеги, с планетой в рамках Этики разобраться, а потом уже на Вселенную подправлять.
А Этика взаимоотношений субъектов будущего будет создаваться, как вполне конкретный свод сформулированных Правил-Заповедей, способных превращаться в менталитет поколений именно ввиду своей корректности и конкретности, понятных широким массам, а не только высоколобым философам.
Поэтому хорошо бы из каждого тезиса оригинального философского труда "Мировоззрение. Тезисы" сформулировать соответствующую теме и нынешнему пониманию проблемы заповедь (как отдельный, в рамках темы, дискуссионный блок), которую можно было бы обсуждать, и, соответственно, накапливать такие обсуждённые на уровне консенсуса участников дискуссии уже Заповеди. В предлагаемых заповедях, на мой взгляд, не стоит упоминать "информационные системы", так как хотя это, безусловно, оригинальный философский подход (приём) к объяснению Мироздания, но ИС не являются общепринятым понятием, подходящим для обще признаваемой Этики, каковой та и должна быть.
Иначе, на мой взгляд, Ваши тезисы, Виталий, (а их ещё больше десятка впереди) так и останутся философскими тезисами, оспариваемыми по кругу (тут никуда не денешься, философия у других философов своя, например, у Феаны), а хотелось бы далее обсуждать предлагаемые Вами выводы из Ваших тезисов, уже более конкретизированные формулировками для этой темы в форме предлагаемых "заповедей". ёклмн&ёпрст
Дата: Вторник, 2021-01-05, 10:09 PM | Сообщение # 593
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Александр Если бы вы внимательнее читали, могли бы заметить, что нашу Вселенную, ее развитие в целом называю - конечным критерием «зла и добра». Тут не надо перепрыгивать через ступеньки! У меня говорится, что добро и зло для любого сообщества выше добра и зла для отдельного его члена. Например, благо в целом семьи выше блага одного ее члена; благо общины выше блага одной семьи; благо государства выше блага любого из включенных в него сообществ; а благо человечества выше блага любого из государств. Причем, это подход и критерий, естественно, самый общий. И об этом у меня тоже сказано. Не один раз! И ясно говорится об исключениях, отходах от этого самого общего правила, которых по жизни – сколько угодно. Не надо тут передергивать!
Что же касается «субъектов будущего». О них тоже сказано совершенно конкретно. Подход тот же самый. Естественно, самый общий. Допускающий возможности исключений. Однако, если ваш «субъект будущего», например, ИИ возомнит себя высшей целью и смыслом везде и всегда, пренебрежет Природой и человеком, это будет очевидное зло. Причем именно что по отношению к нашей Вселенной. И это единственный этический критерий, который будет понятен ИИ. Потому как, если что-то зло для Земли, нашей Вселенной, это беда для всех, в том числе и совершающих зло – то есть и для ИИ. Это надо хорошо понять, Александр! А зло и добро – основные этические понятия!
Давайте не будем пытаться руководить, тем чего мы не знаем, даже и не хотим разбираться. Откровенно сказать, на мой взгляд, это выглядит не слишком умно. И красиво. Попрошу также избегать формулировок «общие слова на уровне философских благих пожеланий», «высоколобым философам» и т.п. Или вы хотите, чтобы мы тут высказывались конкретно о каждом высказывании? Это возможно. Но вряд ли приведет нас к консенсусу, будет этично и поспособствует выработки необходимых вам «заповедей». Если человек не способен сам себя этично вести, как он предполагает других учить этике? Хотя по жизни, не среди «высоколобых философов» частенько именно так и бывает, незнайка рассуждает о знании, хам о хамстве, бурбон о бурбонстве… Увы. Надо признать, правда, что и без таких подходов этика вряд ли бы вообще развивалась.
Предлагаю из этого исходить. Не мешая друг другу, каждому делать общее дело по-своему. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Вторник, 2021-01-05, 11:04 PM | Сообщение # 594
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2637
Статус: Offline
Цитатаivanov_v ()
Давайте не будем пытаться руководить
Почему же не попытаться руководить именно в этой теме, если я её модератор? Высказываю своё мнение. На что здесь обижаться? А обида чувствуется в Ваших высказываниях, Виталий, как будто я, философский дилетант в Вашем восприятии, покушаюсь на высокий полёт философской мысли о "добре" и "зле". Как вижу, так и говорю. Надеюсь, в этом мы равны на Ковчеге? Но как я понимаю, модератор имеет право РЕГУЛИРОВАТЬ ход темы по своим представлениям, добиваясь результата по оптимальному (экономному) пути. И ничего не собираюсь "передёргивать" (само это определение скандальное). Если я считаю, что в Этике субъектов будущего нет необходимости в общем "конечном критерии" для "зла и добра", хватит и планетарного, то почему на это надо обижаться?
Цитатаivanov_v ()
Что же касается «субъектов будущего». О них тоже сказано совершенно конкретно. Подход тот же самый. Естественно, самый общий. Допускающий возможности исключений.Однако, если ваш «субъект будущего», например, ИИ возомнит себя высшей целью и смыслом везде и всегда, пренебрежет Природой и человеком, это будет очевидное зло. Причем именно что по отношению к нашей Вселенной. И это единственный этический критерий, который будет понятен ИИ. Потому как, если что-то зло для Земли, нашей Вселенной, это беда для всех, в том числе и совершающих зло – то есть и для ИИ.Это надо хорошо понять, Александр! А зло и добро – основные этические понятия!
Откуда такая уверенность о том, что будет понятно ИИ? Пока не понимаю, что именно мне "надо хорошо понять"? И можно ли аксиоматические утверждения вообще "понимать". Если те высказаны, то их надо или принимать, или не принимать. Стиль вашей полемики настаивает на первом. Но где же тогда место для дискуссии? Я предлагаю перенести её с философии на рабочую гипотезу вытекающей из философии "заповеди", краткой, ёмкой, афористичной, а главное - жизненно верной.
Цитатаivanov_v ()
Но вряд ли приведет нас к консенсусу, будет этично и поспособствует выработки необходимых вам «заповедей». Если человек не способен сам себя этично вести, как он предполагает других учить этике? Хотя по жизни, не среди «высоколобых философов» частенько именно так и бывает, незнайка рассуждает о знании, хам о хамстве, бурбон о бурбонстве…
Виталий, а какую "этику" в этой прозрачной адресной цитате демонстрируете Вы лично? Что значит "необходимых мне "заповедей""? Это предложение формы конкретных кратких выводов из пространной философии. "Учить" никого не собираюсь. А если встречу что-то действительно умное, сам поучусь. Краткость - сестра таланта, в том числе и в сотворчестве.
Надеюсь больше не получать подобных намёков от коллеги. Приветствуется позитив! В дискуссии тоже. Лично я буду стараться: эмоций поменьше, позитива побольше. ёклмн&ёпрст
Дата: Вторник, 2021-01-05, 11:33 PM | Сообщение # 595
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Александр Я с самого начала сказал, у меня не так много свободного времени. Делаю что могу и как понимаю тему. Вам уже предложили 10 христианских заповедей. Возможно, этого и достаточно. А если недостаточно, нужно серьезно подходить к теме и до выдвижения тезисов, как следует разобрать общепринятые понятия этики в приложении к «субъектам будущего». Что я и делаю. Если кто-то что-то не понимает, значит, придется, возможно, подробнее объяснять. Быстро у меня не получится, в любом случае. Не вижу смысла предлагать некие тезисы без предварительных к ним пояснений. Характерный пример здесь «Мировоззрение. Тезисы». В основном, между прочим, по этике. Ими можно было бы ограничиться. Но я по вашей просьбе пытаюсь их вам объяснить в приложении именно к вашей теме. В каждом моем посте есть рассуждение об одном из аспектов отношений людей и ИИ. Или, по-вашему, нет? Вот прикиньте. Если вам не понятны мои 40 тезисов, даже и с пояснениями, будут ли понятны 5 заповедей? Без пояснений. Не думаю. А вот если, не торопясь, мы обсудим последовательно основные этические вопросы, все-таки есть надежда на достижение хотя бы некоторого понимания. Но, если вас устраивает в большей степени выдавать мне задания, а не пытаться разобраться в том, что мы обсуждаем, боюсь, я все-таки теряю зря время. Практически наверняка. Что и предполагал изначально. Тем не менее… Если у вас есть какая-то альтернатива, никто не мешает вам ею воспользоваться. Например, самому сочинить «заповеди». Или еще кого-нибудь попросить… Если нет… Предлагаю довериться мне и не торопить. Увидите, это принесет ожидаемые вами плоды. Но не раньше их естественного созревания. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Среда, 2021-01-06, 10:24 AM | Сообщение # 596
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2637
Статус: Offline
Спасибо за спокойный ответ, Виталий. Рассматриваю тот, как залог конструктивного продолжения темы с участием и других коллег, кроме нашего дуэта.
Цитатаivanov_v ()
В каждом моем посте есть рассуждение об одном из аспектов отношений людей и ИИ. Или, по-вашему, нет?
Буду перечитывать. Повторенье - мать ученья, а если добавлять к ним конструктивные сомнения и сопутствующие им собственные соображения, то и отец углублённого понимания сложной проблемы. Ищущий да обрящет! ёклмн&ёпрст
Дата: Среда, 2021-01-06, 11:07 AM | Сообщение # 597
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
ЦитатаВъедливый ()
Буду перечитывать. Повторенье - мать ученья, а если добавлять к ним конструктивные сомнения и сопутствующие им собственные соображения, то и отец углублённого понимания сложной проблемы. Ищущий да обрящет!
Вот именно. На мой взгляд, возможно не так важны конечные «тезисы» или «заповеди», как само обсуждение обозначенной вами проблемы. Хотя и от заключительных выводов я отнюдь не отказываюсь. В любом случае, спасибо вам за идею. Я её воспринял немного по-своему, но оба мы ищем и желаем блага не для себя, а целого мира. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Среда, 2021-01-06, 3:40 PM | Сообщение # 598
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Продолжу рассматривать позиции «Мировоззрение. Тезисы» в приложении к теме.
32. Свобода. Свобода – потенциал случайного в пространстве возможного для высших иерархий, располагающих «я». Позитивная свобода - случайностное движение на уровне высших иерархий развития (деятельность Разума) в границах сущих необходимостей. Негативная свобода - выход случайного за пределы необходимого. Позитивная свобода ведет к самораскрытию необходимого, росту сферы качеств, возрастанию множественности единого мира. Это – самораскрывающаяся свобода. Негативная - к разрушению высших взаимосвязей. Возрастание количества степеней свободы с развитием мира, увеличением количества необходимостей. Все более многообразный мир становится все более взаимосвязанным. Порочность монополий и «царств», «от мира» и «не от мира сего», как неэффективных систем организации общества и общественного сознания в плане задач познания и развития мира. Человек свободен творить, исполнять или не исполнять Миссию. ---------------
С развитием мира всё более сложные субъекты осуществляют всё более сложную деятельность во всё более сложной среде. В более сложной среде – большее количество степеней свободы, но, соответственно, и больше ограничений. Возрастание количества степеней свободы субъекта в рассматриваемой, ограниченной по действию высших взаимосвязей квоте материи является самораскрывающейся свободой.
Возьмем человечество. С развитием цивилизации на человека и общество накладывается всё большее количество ограничений, необходимых для бытия. А с другой стороны, возникающие, создаваемые новые возможности – технические, культурные, средства передвижения, познания и развития открывают всё новые степени свободы совершения действий и свободы сознания. При этом в сознании, идеальном мире возможна свобода практически полная, любых взаимосвязей между любыми существующими понятиями и представлениями. В реальности же, мире материальном, понятно, мы ограничены законами Природы, существующим в обществе порядком вещей, свободой других субъектов. Это сущие необходимости, выход за пределы которых, как правило, приводит к ошибкам, разрушению уже созданного прекрасного мира. В пределе, может привести и к последней Ошибке, разрушающей нашу Вселенную. Не буду здесь заглубляться. Подробно можно найти в трактате «Самораскрывающаяся свобода и книге с таким же названием.
Вышесказанное, безусловно, относится и к ИИ. В своих представлениях он может быть совершенно свободен. Однако в мире материальной действительности, как и любые инстанции и субъекты, высшие ИС, он ограничен не только фундаментальными законами мироздания, но и уже существующими надстройками – Природой и человечеством. Об этом уже говорилось выше в разделах «Случайного и необходимого, «Методологии зла и добра». ИИ создается людьми, в широком смысле - материей, нашей Вселенной для осуществления всё более сложной деятельности во всё более совершенной среде – самораскрывающейся свободы. Таковая «всё более сложная среда» подразумевает наличие всего спектра инстанций, от простейших частиц до разнообразной природы и цивилизации человека. Из этой пирамиды иерархии структур, ИС нельзя выдергивать этажи – рухнет вершина! То есть, не исполняя ограничений, заповеди множественности и соразмерности качеств, инстанций… ИИ уничтожит себя и отбросит назад в развитии или даже полностью разрушит нашу Вселенную. Это путь негативной свободы, свободы разума, не соблюдающего ограничений и тем самым разрушающего себя самоё. Позитивная свобода познания и развития мира, самораскрывающаяся свобода основывается на Единой этике всех субъектов нашей Вселенной. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Среда, 2021-01-06, 3:57 PM | Сообщение # 599
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Приведу отрывок из трактата «Самораскрывающаяся свобода.
Как стать Богом живым
Таким образом, есть две свободы, два противоположных варианта ее понимания, соответственно, два пути достижения наивысшей степени таковой в некоем взаимосвязанном участке материи. 1. Освобождение от всех существующих, в том числе, необходимых для функционирования данного Целого связей. Разрушение, самоликвидация, самоубийство. Переход в более простое состояние, предел которому есть субстанция. Здесь материя освобождается от наложенных на нее связей, «цепей». Материя в виде субстанции абсолютно проста и абсолютно свободна. Такая «свобода» отрицает многообразие единого мира, в том числе, отрицает и человека. Это негативное понимание свободы, в корне неверное. 2. Все большее усложнение выделенного участка материи, совершенствование его путем установления все новых, все более сложных и оптимальных, различных, многообразных связей, необходимейших, единственно возможных для функционирования Целого. Другими словами, это - непрерывное увеличение количества степеней свободы (такое понятие физики можно распространить на биосферу и социум) взаимосвязанного, расширяющегося участка материи. Здесь - совершенствование мира и «я», здесь - бесконечно раскрывающаяся свобода! Это позитивное понимание свободы. В природе и человеке два названных принципа все время вступают в противоречие. В человеческом разуме, и во всем мире друг другу противостоят, играют две силы - разрушающая и созидающая. И каждая из них тем сильнее, чем сильнее другая. Чем талантливей человек, т.е. чем совершеннее, тем больше он может свершить, внести в мир нового необходимого, но тем сильнее и тяга его к негативной свободе, разрушению себя и мира, создавшего его гений. Чем сложнее материя, чем больше она несет в себе исчерпывающей информации, тем, соответственно, больше она может добавить или отнять информации у среды, совершенствуя ее или, наоборот, возвращая сложные формы в субстанцию. Задача «я» встать выше слепых сил случайности, разрушения, хаоса. Но нельзя и полностью исключить, устранить их - тем самым навсегда потеряем мы свой талант! Нужно, отталкиваясь от всей дикой мощи накопленной и сдерживаемой энергии разрушения, с силой аналогичною созидать! Вот, возможно, самый мощный фактор развития, в особенности, когда он выходит на осознанный уровень! Увы, это осознание не появляется от рождения, и невозможно привнести его со стороны. Его нужно достичь самому - до того, как окончательно разрушишь себя. Тогда станешь Богом живым!.. -----------------------
И вот таким Богом на Земле, в нашей Вселенной может стать каждый, в том числе, и ИИ. Но только не Целым, а частью Его, Богом – вместе со всеми! Потому что на Земле нет, никогда не было и не будет одного Бога. А все вместе мы – Бог. Осознающий и созидающий Себя - Разум! Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Среда, 2021-01-06, 5:13 PM | Сообщение # 600
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2637
Статус: Offline
Пока мы здесь, не спеша, дискутируем, ИИ уже входит в обыденность курсов по освоению современности широкими кругами населения. И вот пример (не рекламы ради, а информации к размышлениям для) - Въедливый.
Философия искусственного интеллекта
Вы получите ответы на важные вопросы о «мышлении машин» и поймёте роль философии в развитии ИИ. Определите основные различия естественного и машинного разума, сможете проводить актуальные научные исследования и выступать перед аудиторией.
О программе обучения от Skillbox и МГУ
Первая открытая коллаборация онлайн-университета и вуза в истории России — образовательная программа от Skillbox и Московского государственного университета имени М. В. Ломоносова. Ведущие преподаватели МГУ совместно с командой экспертов рассказали о самых важных вопросах этики, сознания и моделировании мышления в области искусственного интеллекта.
Кому подойдёт этот курс
Программистам и специалистам по ИИ. Вы изучите эволюцию подходов к моделированию мышления, познакомитесь с проблематикой «моральной машины», узнаете современные концепции и работы по ИИ. Лучше поймёте науку и сможете вести диалог со специалистами на равных.
Тем, кому нужны знания об ИИ для развития компании. Вы и ваши сотрудники повысите квалификацию и получите системное понимание предмета, сможете выступать консультантами по ИИ и внедрять его практики у себя в компании без сторонних специалистов.
Преподавателям и научным сотрудникам. Вы сможете усилить свои научные работы за счёт новых знаний, писать публикации на тему искусственного интеллекта и выстраивать программы обучения для студентов.
Тем, кто интересуется наукой. Вы научитесь разбираться в научных публикациях и лекциях об ИИ, составите общее представление о его истории, развитии и современном понимании. Сможете уверенно участвовать в дискуссиях и конференциях.
Чему вы научитесь
Разбираться в парадигмах создания ИИ. Познакомитесь с основными подходами к определению интеллекта и созданию искусственного разума.
Понимать развитие научной мысли. Проследите траекторию развития исследований и эволюцию философско-мировоззренческих проблем в этой области знаний.
Владеть категориями и терминами ИИ. Сможете анализировать научные статьи, вступать в полемику и эффективно аргументировать свою точку зрения.
Вести собственные исследования. Знаний будет достаточно, чтобы самостоятельно, на более глубоком уровне, изучать проблематику ИИ и заниматься научной работой.
Разбираться в этических вопросах. Познакомитесь с моральными дилеммами, которые порождаются современной техникой и развитием искусственного интеллекта.
Смотреть в будущее. Сможете составить рациональную и правдоподобную концепцию будущего ИИ, ориентироваться в актуальных прогнозах, выдвигать и подкреплять собственные гипотезы.
Программа
Вас ждут онлайн-лекции, которые помогут разобраться в теме ИИ на уровне профессионала.
13 модулей
15 часов контента
Курс МГУ
Основные теоретические подходы
Два подхода в ИИ. Эволюция символьного подхода: основные этапы. Автоматические рассуждения и доказательство теорем. Экспертные системы. Критика символьного подхода.
Эволюция нейросетевого подхода в ИИ: основные этапы. Биологический нейрон и формальный нейрон.
Преимущества и сложности создания и применения искусственных нейронных сетей (ИНС). Проблема «массива данных»: кейсы. ИНС, как психологическая теория.
Основные проблемы философии сознания
Понятие философии сознания. Проблема «сознание-тело». Её основные черты, особенности и структура. Фундаментальность, натурализм и запрет на сверхъестественное.
Трудности с определением сознания. Когнитивное и феноменальное понятия сознания. Основные характеристики сознания. Связь сознания и его функций.
Провал в объяснении и «Трудная проблема» сознания. Основные стратегии. решения: физикалистские, дуалистические и панпсихистские.
Два подхода в определении морального поступка
Этическая экспертиза технологий искусственного интеллекта. Социальные риски технологий: кейсы. Тезис о «нейтральности» технологий. Замысел программиста, границы ответственности человека и права роботов. Техношовинизм.
Утилитаризм и деонтология: два направления нормативной этики и их значение в этике ИИ. Возможен ли робот, как моральный субъект? Парадоксы деонтологии. Дискуссия об автономном летальном вооружении.
Моральная машина
Что такое моральная дилемма? Мысленный эксперимент «Проблема вагонетки». Ф. Фут и его эволюция. Сценарий «Тупик», «Пешеходный мост», «Петля».
Нейроэтика, экспериментальная философия и когнитивная наука о «проблеме вагонетки». Моральная дилемма беспилотных машин.
Проект «Моральная машина» MIT: кейсы. Эмоциональный искусственный интеллект: проблема эмпатии.
Аргумент сингулярности: философский анализ
Дискуссии о «технологической сингулярности»: концептуальный анализ терминов «искусственный интеллект человеческого уровня», «общий искусственный интеллект», «сверхразум». Структура аргумента сингулярности.
Эволюционный аргумент и аргумент эмуляции: философский анализ. Будущее человека через призму мировоззрения трансгуманизма. Постчеловеческий мир: новые границы человеческой идентичности.
Экзистенциальные угрозы искусственного интеллекта
Дискуссии об экзистенциальных угрозах технологий сверхразумного искусственного интеллекта (Н. Бостром, Д. Чалмерс).
Значение концепции сингулярности для разработки фундаментальных философских вопросов: о природе интеллекта и возможности создания машинного интеллекта, о природе сознания и проблеме тождества личности, о связи разума и ценностей.
Бонусные модули
1. Вы разберётесь в теории разума одного из выдающихся учёных XX века — антрополога, биолога, эколога, кибернетика и теоретика коммуникации — Грегори Бейтсона. Изучите критерии ментального процесса и посмотрите на проблему ИИ, как на частный случай проблемы разума. Ответите для себя на следующие вопросы. - Каким требованиям должна удовлетворять любая мыслящая вещь, чтобы считаться мыслящей? - Насколько реальна граница между разумом и его средой или между несколькими взаимодействующими разумами? - Одну и ту же ли вещь мы называем информацией в случае «познания», доступного машинам и человеку?
2. Вы познакомитесь с подходами к определению искусства и узнаете, можно ли называть искусством творчество машин. Разберётесь, кто считается автором художественного артефакта — разработчик нейросети, которая «умеет» рисовать, или сама нейросеть. Этот модуль будет полезен исследователям современного и машинного искусства, художникам и программистам.
3. Вы узнаете, как собирался образ пугающего ИИ в массовой культуре, и почему люди трепетно относятся к машинам, реально присутствующим в их жизни. Познакомитесь с примерами социальных роботов и приложений, которым люди склонны доверять, а также узнаете, как художники приглашают машины к сотворчеству и творят шедевры. Этот модуль будет полезен аналитикам, которые планируют работать с проблематикой AI bias, футурологам, которые задумываются о вероятности постчеловеческого мира, а также художникам и медиа продюсерам, которые планируют использовать роботизированные системы при производстве культурных продуктов.
Преподаватели
Елена Брызгалина. Автор курса МГУ. Заведующая кафедрой философии образования философского факультета МГУ, доцент, кандидат философских наук. Антон Кузнецов. Автор курса МГУ. Научный сотрудник кафедры истории зарубежной философии философского факультета МГУ, научный сотрудник Центра исследования Сознания при философском факультете МГУ, кандидат философских наук. Наталья Клюева. Автор курса МГУ. Доцент кафедры философии и методологии науки философского факультета МГУ, кандидат философских наук. Оксана Мороз. Кандидат культурологии, исследователь культурных практик цифровых сред. Автор «Блога злобного культуролога». Спикер бонусных модулей. Дмитрий Тестов. Исследователь в области теории коммуникации, философской антропологии и теории медиа. Спикер бонусных модулей.
•Новые сообщения ·
Правила
•Поиск•]
Традиции Галактического Ковчега тут!
.
.
.
..
