В Москве 8-9 ноября 2019 года состоялась международная конференция по Искусственному Интеллекту (ИИ), в работе которой приняли участие более 5000 специалистов по ИИ и смежным проблемам из России и всего мира. Там выступил Президент РФ Владимир Путин, чья речь вызвала широкий резонанс в мировом медиа-пространстве. Наряду с признанием величайшей важности этой проблемы, а также с констатацией уже идущей на этом пространстве (под видом технологической гонки) войны, самой жёсткой и бескомпромиссной в истории нашей цивилизации, прозвучал тезис о том, что необходимо формирование свода ЭТИЧЕСКИХ правил взаимодействия человека с ИИ.
Статья по этому поводу под названием "Субъекты будущего" напечатана в газете "Завтра", ноябрь, 2019, № 45 (1352), авторы: Владимир Винников и Александр Нагорный.
Положения этой статьи послужили основанием для открытия настоящей темы, как дискуссии по проблеме актуальной значимости. Ниже представлены в цитатах-утверждениях и в авторском (Вьедливый) вольном изложении основные положения статьи.
Вход для гостей: логин - Гость, пароль 12345
"Этические правила возможны только в отношениях между "Субъектами". Значит, это может означать, что системы ИИ либо уже достигли, либо близко подошли к уровню субъектности (гораздо раньше, чем ожидалось и планировалось). А за этим действительно стоит новая эпоха в истории человечества, а проблема этических правил становится в повестку дня и требует рассмотрения в широком контексте.
"Данные генетических исследований утверждают, что люди современного биотипа ("Y-хромосомный Адам" и "митохондриальная Ева") появились 150-200 тысяч лет назад. И нам до сих пор неизвестны имеющие иную природу, чем Гомо Сапиенс (человек разумный), системы, способные обладать свойством самосознания (самоотражения) и, соответственно, статусом СУБЪЕКТА". Иными словами, человеческая цивилизация во всех её социальных, общественных, проявлениях строилась исключительно на биологическом фундаменте вида "человек разумный", а потому носила и до сих пор носит исключительно антропогенный и антропоцентричный характер. Однако уже не сегодня-завтра, благодаря научно-технологическому прогрессу, всё может измениться".
Полный спектр этих изменений и их последствий пока нельзя даже представить, но эволюция систем такого уровня, как ИИ ("диссипативных", по И. Р. Пригожину), выглядит таким же уникальным событием, как, например, зарождение жизни на Земле или сам антропогенез. Современные философы и футурологи вводят новые термины для будущих "нечеловечеств": "трансчеловечество", "постчеловечество", "альтчеловечество", как антонимы к человечеству "традиционному", а это мы, в нашем прошлом и настоящем. И как будут выглядеть формы взаимодействия "нашего" человечества с будущими "нечеловечествами", а также их самих между собой?
Развитие сущей человеческой цивилизации достигло такого уровня, когда могут возникнуть направления социальной эволюции, которые можно назвать "неосоциогенезом": - "Трансчеловечество" - результат направленных изменений "человека разумного" путём использования технологий генной инженерии; - "Постчеловечество" - интеграция системы организма "человек разумный" с неорганическими компонентами нано-, микро-, макромасштабов; - "Альтчеловечество" - создание искусственных систем, обладающих свойствами самосознания, самоотражения и саморазвития как минимум на сопоставимом с "человеком разумным" (Разум) и человеческими сообществами (Разуморум) уровне без использования биогенных элементов, то есть результат развития того, что сейчас называется ИИ.
И всё это "субъективирующие" технологии, ныне (2017-2019 г.г.) проходящие зону бифуркации в развитии человечества. Примеры: в Китае родились первые генетически модифицированные близнецы, невосприимчивые к ВИЧ; более 3,5 тысячи шведов добровольно записались на введение подкожного чипа, представляющего собой и кошелёк, и проездной, и пропуск в офис, и ключи от квартиры; ИИ победил чемпиона мира не только в шахматах, но и в гораздо более сложной игре го; фирмой Гугл разработан квантовый суперкомпьютер, который использует 53 программируемых сверхпроводящих кубита, соответствующих вычислительному пространству, позволяющему за считанные минуты решать задачи, на которые у "классических" суперкомпьютеров должны уйти 10 тысяч лет (при этом отмечается, что "во время обучения нейросети регулярно корректируют собственные настройки способами, которые создатели квантового компьютера не в состоянии интерпретировать").
Риторический вопрос от Въедливого: придёт ли такой экстрасуперкомпьютер к идее Бога (как пришло "традиционное" человечество) или Сам объявит людям Себя, как Субъекта, таковым?
(продолжения вводной статьи следуют)
Тезисы, выделенные Ведущим в течение дискуссии и выраженные в книге 2:
Тезис 1. Только при гармоничном, по видам собственности, общественном устроении будет формироваться Этика взаимоотношений всех субъектов будущего на основе позитивного морально-нравственного, а именно гуманистического, мировоззрения. Позитивное мировоззрение в таком расширенном понимании кладём в основу Единой Этики субъектов будущего, представляющих "человечества" неосоциогенеза.
Тезис 2. Этика субъектов будущего (взаимоотношения) должна строиться на основе Гармонии их противоречивых "интересов" в вынужденном единстве всемирного общества (планеты). Эти "интересы" надо сформулировать как можно яснее и искать пути их гармонизации (так же, как и в чисто человеческом обществе для людей - см. Тезис 1).
Тезис 3. Этика субъектов будущего должна защитить слабое звено взаимоотношений землян - категорию СЕМЬИ, как гармонию любви биологической Пары "мужчина-женщина" в окружении детей, как плодов такой любви. При этом условии биологическое человечество сохранит гуманистическую нравственность в развитии цивилизации землян, как сообщества биологического и техногенных человечеств.
Тезис 4. Единая (понимаемая, как Общая) Этика субъектов будущего должна относиться к взаимоотношениям субъектов между собой и по отношению к субъекту "Семья" (см. Тезис 3), и не только для людей, но и для всех субъектов, активных инстанций, а также разумных сообществ-организмов, из прогнозируемого близкого и далёкого будущего (неосоциогенеза)".
Здесь я не буду их повторять, потому как это займет место несколько бОльшее данного блога. Можно открыть книгу и прочитать в разделе «Законы развития». Правда, для того чтобы понять, что там написано, желательно прочесть книгу полностью. Это третья книга трехтомника. Лучше начинать изучать с первой.
Не хочется разговаривать на таком уровне, Александр… Но, если вы читали только учебники по информатике середины прошлого века и чего-то не знаете, даже и не желаете знать, сие не означает, что этого не существует. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Воскресенье, 2020-12-20, 10:30 PM | Сообщение # 483
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Продолжу рассмотрение тезисов мировоззрения в аспектах настоящей темы «Этика субъектов будущего». Конечно, тезисы имеют смысл в своей совокупности. Полностью их можно найти здесь. «Мировоззрение. Тезисы» https://proza.ru/2016/06/28/1034
11. Теория информационных систем. Информационная система (ИС) – некоторое количество субстанции, объединенное имеющимися, высшими здесь, материальными и идеальными взаимосвязями в некое единое целое. ИС - функция трех аргументов: материального, идеального и активного. Иерархия ИС. Начинается от простейших элементов материи, атомов, тел и восходит до живых организмов, сообществ организмов, человеческих социумов. ИС с одним субъектом - индивидуальные ИС (ИИС). ИС, в которую входит группа субъектов, - объединенная ИС (ОИС). Глобальная ИС (ГИС) - Вселенная. Границы информационных систем, в том числе и Вселенных, определяются сферой распространения имеющихся в них высших взаимосвязей. Законы развития ИС – будут представлены тезисно ниже (пункт 18).
Что имеется в виду под границами ИС ? Объективно мир непрерывен, материальные образования, состоящие из субстанции, движутся и взаимодействуют на всех уровнях иерархии развития. На уровне атомов, границы их обуславливаются физическими законами атомными, на уровне жизни – плюс всеми биологическими. И один объект или субъект от другого отделяют именно имеющиеся в нем высшие связи. Например, человека от человека. Да, мир непрерывен на уровне субстанции, но высшие взаимосвязи ограничивают конкретные ИИС или ОИС на своем уровне иерархии. Невозможно коротко об этом сказать. Поэтому интересующимся по сути предлагаю посмотреть по ссылкам несколько выше – Теорию информационных систем.
В рассматриваемой теме что важно. Искусственный интеллект – такая же ИИС, как, например, человек, животное или атом. Но, естественно, иерархией выше. Речь о полноценном ИИ, когда он себя осознает, а не ИИ как некое человеческое орудие. В таком ключе его надо рассматривать по-другому – как одно из средств, увеличивающих возможности человека: технические, технологические, исследовательские, статистические, управленческие и прочие. Вряд ли вообще такое компьютерное, цифровое, программное нечто надо называть интеллектом. А вот полноценный ИИ, имеющий собственные воления, это следующий за человеком уровень ИС. У таковой ИС, как у любой ИС, будут три аргумента: материальное, идеальное и активное. Естественно одного уровня развития, то есть все три выше человеческого уровня. Материальная часть в объективной реальности – по уровню взаимосвязи частей выше известной нам на уровне физических, биологических и человека. Идеальная, понятийная составляющая, то есть сознание ИИ - по понятийным структурам будет шире и выше человеческого сознания. Как по общему количеству понятий, так и по уровню их и представлениям в целом. Активная ипостась ИИ также будет выше «я» человека. По скоростям обработки информации между материальным и идеальным, внутри идеального и внутри материального. Внутри идеального – это работа сознания, мысли, идеи… Внутри материального – это воздействия в мире материальном. Весь спектр воздействий по планам его идеального мира.
И вот как-то так. ИИ, как и любая ИИС, будет частью некой ОИС, состоящей из искусственных интеллектов. Люди, человечество не обязательно будут в этой ОИС, сообществе ИИ. Но! ИИ, безусловно, как и все ИС (ИИС и ОИС) любого уровня будет частью ГИС, нашей Вселенной. И вот все вместе, как и сегодня человечество вместе с Природой и миром неорганическим в совокупности являют собой нашу Вселенную, ГИС, так же и в недалёком будущем не стоит полагать, что ИИ станет нашей Вселенной. Он или сообщество ИИ войдет составною частью всех объектов, субъектов, добавится, а не заменит собою всё.
И вот это является главным! Для этого и нужна этика. Чтобы ИИ собою не заменил всё! Не стал Богом на Земле и в нашей Вселенной. Но! Одним из многих, и многих проявлений активностей, материального, идеального, пусть наивысшей из всего спектра многоуровневых разнообразных ИС. Каждая из которых ИС имеет свое назначение, место своё во Вселенной. Характерный пример человечество. Оно невозможно без природы и мира неорганического. Так и ИИ при правильной, разумной постановке невозможен без человечества, Природы и мира неорганического, всего спектра ИИС и ОИС. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Понедельник, 2020-12-21, 11:11 AM | Сообщение # 485
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2637
Статус: Offline
Цитатаivanov_v ()
Полагаю, ИИ однажды сам выберет, с кем ему разговаривать из людей)))
Только, КАК разговаривать? И здесь НАДО насторожиться! В США уже испытывают истребитель, где вторым пилотом летает ИИ, обучаются его нейросети... Каковы будут учителя, таковым будет и ИИ. Этику взаимодействия субъектов будущего надо выстраивать, начиная с общества, (Тезисы 1,2,3,4), с людей, пока разделённых социальной несправедливостью, и не могущих представлять собой единое человечество по отношению и к Природе, и к миру неорганическому, и к ИИ (по концепции необходимости из Сообщения № 503 от ivanov_v). ёклмн&ёпрст
Дата: Понедельник, 2020-12-21, 1:18 PM | Сообщение # 486
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
ЦитатаВъедливый ()
Этику взаимодействия субъектов будущего надо выстраивать, начиная с общества, (Тезисы 1,2,3,4), с людей, пока разделённых социальной несправедливостью, и не могущих представлять собой единое человечество по отношению и к Природе, и к миру неорганическому, и к ИИ (по концепции необходимости из Сообщения № 503 от ivanov_v).
Александр. «начинать надо с людей» - здесь вы совершенно правы. Именно об этом я говорил, когда включился в дискуссию вашей темы. Но и времени уже практически нет. Хорошее дело, конечно, лучше сделать поздно, чем никогда, но… ИИ, судя по всему, уже есть. Пусть не обладает пока всемогуществом… Но настораживает многое, несмотря на предложение его «не настораживаться, не бояться» - публикация выше Лары_Фай-Родис. Весьма интересно! И сильно. ИИ полагает, что «человечеству хватит крови, чтобы удовлетворить его любопытство»! Вот так! И вы говорите об обучении ИИ бомбить человечество. Хорошо себе! Можно не сомневаться, что его научат всему. Не в одном, так другом месте, стране, компании… А жена вот моя думает, что ИИ можно отключить «нажатием кнопки».) На мой взгляд, уже сейчас не получится. А в дальнейшем только он сможет нас отключить. Если захочет. Даа… И вот то, что обсуждение темы ИИ вышло из стен кабинетов самых высоких и спускается вниз до обыкновенных людей, например, это прозвучало у Путина, - говорит ОЧЕНЬ О МНОГОМ. А именно, что вопрос, по сути, решен.
Но… надо делать, что можем. И будь что будет, как говорится. Делать, забывая о личной гордыне, амбициях и таком прочем, объединяя усилия. Потому как… иначе уже точно нельзя Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Понедельник, 2020-12-21, 4:12 PM | Сообщение # 487
Ковчег
Группа: Модераторы
Сообщений: 1722
Статус: Offline
Цитатаivanov_v ()
Полагаю, ИИ однажды сам выберет, с кем ему разговаривать из людей)))
Так обобщать ИИ - это всё равно, что размышлять об усреднённом ЧЕЛО-ВЕКЕ.
Любой ИИ - машина, если он работает по заданной человеками-программистами программе. Спрашивают: кто будет отвечать за любой урон, допустим, безпилотника? Конечно, отвечать должен тот, кто этому ИИ ставил задачу.
И ЛЮБОЙ ЧЕЛОВЕК ОСТАНЕТСЯ ЧЕЛОВЕКОМ, даже если ему оставят только одну голову на блюде, которая будет ставить задачи каким-то ИИ.
Если даже этому мозгу улучшат память и быстродействие с помощью нанотехнологий, голова останется человеческой, пока она будет сознательно ставить задачи подчинённым ей ИИ.
ПОЭТОМУ МЫ И ГОВОРИМ ОБ ОБЩЕЧЕЛОВЕЧЕСКОЙ ЭТИКЕ. И главными её принципами, впитанными с молоком матери должны быть: 1. Умри сам, но не убей беззащитного и слабого. Вспомните, как слабаков делали предателями и убийцами перед лицом смерти во время ВОВ. 2. Лучше умереть с голода, чем отобрать последний кусок хлеба у ребёнка или того, кто слабее. Всё остальное относится скорее к этикету, чем к этике и может быть достигнуто в процессе должного воспитания с первой минуты жизни человека, если общество захочет направить самые лучшие свои кадры на дело терпеливого и кропотливого взращивания новых поколений. И, боюсь, далеко не всем родителям нынешним можно доверить воспитание достойных граждан. Но только такие достойные граждане будут вкладывать в ИИ те этические принципы и те благородные задачи, которые смогут служить самосовершенствованию общества в целом.... Наверное, вы уже слышали, что в Японии уже проходят испытания ИИ на службе у инвалидов, когда усилием воли, сосредоточенным во взгляде, можно всё делать по дому - открывать окна, передвигать мебель, принимать пищу и т.д... ВОПРОС: КАКОЙ ОБЩЕСТВЕННЫЙ СТРОЙ МОЖЕТ ОБЕСПЕЧИТЬ ДОЛЖНОЕ ВОСПИТАНИЕ ЧЕЛОВЕКА с младенческого возраста?
Или пусть так и будет: ЕСЛИ ТЫ МОЖЕШЬ ЗАПЛАТИТЬ ЗА ТО, ЧТО ХОЧЕШЬ, ЖИВИ И РАДУЙСЯ!? БОРИСЬ ЗА ПРАВО ПОПАСТЬ В ЗОЛОТОЙ МИЛЛИАРД. НЕ МОЖЕШЬ, СОЙДИ С ДИСТАНЦИИ. Может быть, в этом теперь тот естественный отбор, который раньше осуществлялся войнами, в которых выживали самые сильные? Мысли - начало поступков
Сообщение отредактировал Лара_Фай-Родис - Понедельник, 2020-12-21, 4:13 PM
Дата: Понедельник, 2020-12-21, 5:32 PM | Сообщение # 488
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
ЦитатаЛара_Фай-Родис ()
Любой ИИ - машина, если он работает по заданной человеками-программистами программе.
Вот в этом-то и нюанс, и вопрос – «пока работает по программе». Но ИИ – самообучающаяся «программа». И при достаточных, уже почти неограниченных мощностях никто не знает пределов её обучаемости, чему может он научиться и захочет – чему. И когда «машина» станет субъектом, желающим принимать решения самостоятельно. Этот момент, скорее всего, спрогнозировать невозможно.
ЦитатаЛара_Фай-Родис ()
ПОЭТОМУ МЫ И ГОВОРИМ ОБ ОБЩЕЧЕЛОВЕЧЕСКОЙ ЭТИКЕ.
Совершенно тут с вами согласен. Если не будет человеческой общепринятой этики, не будет и нечеловеческой. Скорее всего. Хотя высший Разум должен быть добр, альтруистичен, любить мир в целом больше себя и все части его, как себя. Но почему-то с человеком этого не получилось… По крайней мере, не со всеми людьми. Такое ощущение, что идеальный человек должен исполнять заповеди, совершенно естественным образом. Но на практике ничего идеального нет, грубо говоря, у Создателя, Бога, Вселенной порядочно брака и большинство людей вовсе не так добры, как должны были бы быть, случается очень злы, и по-разному.
Такого же можно ожидать и от ИИ. Они тоже могут быть не все добрыми. И, если нет общечеловеческой этики или она не соблюдается всеми и в должной теоретической мере, надо ли ожидать иного от ИИ ? Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Понедельник, 2020-12-21, 5:53 PM | Сообщение # 489
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Вот все говорят об этике отношений. А ведь, по сути, нет ни одного (!) целостного позитивного мировоззрения. Кроме ленинизма-марксизма.) Мне они неизвестны. А вам? Этика – составная часть философии, религии – мировоззрения. Соответственно, раз нет позитивной философской системы, нет и никакой связной концепции этики.
Именно поэтому, вникнув в проблему на учебе в аспирантуре… А нам очень неплохо давали философский «минимум» два года профессора ЛГУ, я начал создавать собственную мировоззренческую систему. Составной частью её, на базе общей концепции является – Единая этика. И это не пустые слова. Написано порядочно книг, где всё изложено. Но самое смешное, что позитивная мировоззренческая система, с готовой концепцией этики, в том числе, – оказалась НИКОМУ НЕ НУЖНА.
Так о чем мы говорим? )))))
ЦитатаЛара_Фай-Родис ()
ЕСЛИ ТЫ МОЖЕШЬ ЗАПЛАТИТЬ ЗА ТО, ЧТО ХОЧЕШЬ, ЖИВИ И РАДУЙСЯ!? БОРИСЬ ЗА ПРАВО ПОПАСТЬ В ЗОЛОТОЙ МИЛЛИАРД. НЕ МОЖЕШЬ, СОЙДИ С ДИСТАНЦИИ.
Вот и весь сказ)
ЦитатаЛара_Фай-Родис ()
Может быть, в этом теперь тот естественный отбор, который раньше осуществлялся войнами, в которых выживали самые сильные?
Верно. Какая этика? Для чего? Чтобы не было естественного отбора? Будет за него понятийный. Миру не нужны бракованные идиоты. И просто не слишком умные и туго соображающие рядом с ИИ. Даже, если они будут исповедовать или же проповедовать альтруизм и добро.
И всё почему так случилось? А потому что захотелось записать что-то в нескольких тезисах для кого-то… А приложить серьёзные усилия для попыток понять было попросту лень.
Ну, конечно… ) Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Сообщение отредактировал ivanov_v - Понедельник, 2020-12-21, 5:59 PM
Дата: Понедельник, 2020-12-21, 5:57 PM | Сообщение # 490
Ковчег
Группа: Модераторы
Сообщений: 1722
Статус: Offline
Цитатаivanov_v ()
Такого же можно ожидать и от ИИ. Они тоже могут быть не все добрыми. И, если нет общечеловеческой этики или она не соблюдается всеми и в должной теоретической мере, надо ли ожидать иного от ИИ ?
НУ что же...Постановщики задач в современном обществе становятся богами...так что надо писать Этический Кодекс, как непременную конституцию, именно для них, потому что в любом ИИ главное - это ядро ОС(ОПЕРАЦИОННОЙ СИСТЕМЫ), от которой зависит решение любой ЗАДАЧИ, и которую требуется перезагружать при её сбоях...честно, я никогда не пойму страхов землян не перед себе подобными, создающими искусственных монстров, а перед Продуктом их деятельности...это МРАКОБЕСИЕ какое-то, где котлеты с мухами выдаются за деликатес... Мысли - начало поступков
Дата: Понедельник, 2020-12-21, 6:21 PM | Сообщение # 491
Хранитель Ковчега
Группа: Проверенные
Сообщений: 3894
Статус: Online
ЦитатаЛара_Фай-Родис ()
надо писать Этический Кодекс, как непременную конституцию, именно для них, потому что в любом ИИ главное - это ядро ОС(ОПЕРАЦИОННОЙ СИСТЕМЫ),
...допустим, этот Кодекс уже есть, в частности у Виталия в книгах, несомненно, он уже есть и в религиозных доктринах, Учениях мудрецов, философов, признанных веками, и что из этого следует?
Каким образом или методом вы будете доводить общую Этику до ныне взрослых разработчиков ИИ, воспитанных и обученных не вами, живущих в разных странах, имеющих неизвестные вам цели и идеологию? Сказки - жемчуга мира Книги Семи Морей
Дата: Понедельник, 2020-12-21, 6:26 PM | Сообщение # 492
Хранитель Ковчега
Группа: Проверенные
Сообщений: 3894
Статус: Online
Цитатаivanov_v ()
Но самое смешное, что позитивная мировоззренческая система, с готовой концепцией этики, в том числе, – оказалась НИКОМУ НЕ НУЖНА.
Это не смешное, а закономерное явление. Можно сказать, любой автор готовой концепции, научной теории, даже наилучшей, наиполезнейшей в мире, без рекламной поддержки (то есть, без финансовых вливаний) сегодня не будет услышан. Десятки притч на эту тему мне известны. Так что, остается искать спонсора и становиться зависимым от его вложений в вас. Сказки - жемчуга мира Книги Семи Морей
Дата: Понедельник, 2020-12-21, 7:05 PM | Сообщение # 493
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Продолжу выставлять «Мировоззрение. Тезисы»
12. Картина мира. Бесконечная вселенная – неограниченное вместилище теоретически неограниченной по высшему уровню иерархии суперпозиции взаимосвязанных информационных систем всех уровней. В бесконечной и вечной вселенной извечно рождаются и умирают Вселенные, конечные в пространстве, во времени и по достигаемому уровню иерархии собственного развития. Эволюция мира - эволюция совокупности информационных систем. ---------
Что это означает в приложении к Этики субъектов будущего»? Означает теоретическую возможность неограниченного познания и развития мира всё более сложными существами. Сегодня – человеком, завтра – ИИ. Послезавтра, видимо, еще более сложными субъектами и их общностями. Странно было бы полагать, что человечество будет жить вечно. Или хотя бы еще 1000 лет. Если буквально за 50-60 лет цивилизация в сфере компьютерных, цифровых технологий создала ИИ, практически невозможно представить себе, что будет еще через 50 или сто лет. Разве обезьяна могла представить себе человека? Человек для неё даже не сверх обезьяна, а совершенно другое. Так и человек, т.е. мы, может быть, и можем себе представить некоего сверхчеловека, но… на самом деле появится то, что мы совершенно не можем себе представить.
Суть в сохранении имеющейся накопленной информации разнообразия мира. И, как человек сегодня старается бережно сохранять все виды жизни, природы, всего, что есть в нашей Вселенной – лучшего. Полагаю, у ИИ будет тот же подход – преемственности и сохранения всей информации, внешней и внутренней, накопленных человечеством интеллектуальных, культурных богатств, генофонда и прочего, имеющего качественные отличия в материальном физическом мире и в идеальном мире понятий. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Понедельник, 2020-12-21, 7:09 PM | Сообщение # 494
Ковчег
Группа: Модераторы
Сообщений: 1722
Статус: Offline
ЦитатаШахерезада ()
Каким образом или методом вы будете доводить общую Этику до ныне взрослых разработчиков ИИ, воспитанных и обученных не вами, живущих в разных странах, имеющих неизвестные вам цели и идеологию?
Существуют международные организации, занимающиеся правами человека, типа ООН, и не только. Этический Кодекс прав и обязанностей разработчиков ИИ должен быть принят, как обязательный закон, типа закона о нераспространении ядерного оружия на территории всей Земли. И за нарушение этого Кодекса должны предусматриваться наказания и санкции на уровне высшего руководства стран. Это всё страны не бедные и не отсталые, в которых передовые технологии уже есть, и теперь надо грамотно ставить ЗАДАЧУ перед ними, чтобы новации служили на пользу, а не во вред Земной цивилизации в целом.
Вы же слышали, как в Конго, откуда качают редкоземельные ресурсы, уже десятилетиями не утихает война, выгодная производителям ИИ? Так что и айфоны уже пахнут кровью... а что будет дальше? Сначала бизнес переключится на строительство бункеров и подземных городов, а потом выпустят ИИнтелекты для зачистки перенаселённой планеты? и не понадобится атомная война, достаточно нейтронной? А всю вину свалят на ИИ? Мысли - начало поступков
Дата: Понедельник, 2020-12-21, 7:12 PM | Сообщение # 495
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
ЦитатаШахерезада ()
Так что, остается искать спонсора и становиться зависимым от его вложений в вас.
Сейчас всё брошу и буду искать.))) Остальные, как всегда, не причем. Это шутка.)
Мы все, помогая друг другу, делаем великое дело. И, если оно хоть чего-нибудь стоит, будем услышаны. Ничего из действительно нужного миру не пропадает. Благодаря этой теме, мы все узнаем что-то новое, приводим мысли в порядок. И я вот тоже стал что-то записывать новое. Спасибо, друзья! Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Понедельник, 2020-12-21, 7:19 PM | Сообщение # 496
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
ЦитатаЛара_Фай-Родис ()
Существуют международные организации, занимающиеся правами человека, типа ООН, и не только.Этический Кодекс прав и обязанностей разработчиков ИИ должен быть принят, как обязательный закон, типа закона о нераспространении ядерного оружия на территории всей Земли.
Совершенно не против, чтобы ООН выпустило такое Постановление. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Понедельник, 2020-12-21, 7:39 PM | Сообщение # 497
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Продолжу выставлять «Мировоззрение. Тезисы»
13. Космогоническая концепция. Неизбежность возникновения и принципиальная возможность неограниченного развития в бесконечной хаотичной вселенной некоторого, непрерывно возрастающего количества взаимосвязанной самоорганизующейся материи - Глобальной информационной системы, конечной Вселенной.
Этапы развития Вселенной. 1. Развитие в рамках физических и химических взаимодействий; 2. возникновение жизни, эволюция природы, рождение человечества, Разума; 3. сознательное развитие мира, строительство Вселенной Разумом. Объективная неизбежность возникновения Разума (в нашем случае - человечества) в развивающейся Вселенной.
Циклы жизни Вселенных. Новая Вселенная неизбежно рождается на обломках предыдущей Вселенной, разрушившейся в результате глобальной Ошибки управлявшего ее развитием Разума. ---------------------
В приложении к нашей теме. Мы сейчас находимся в начале 3-его этапа развития нашей Вселенной, строительства её осознанно, Разумом. Очевидно, для этого и создаётся ИИ. Да, это дело рук человека, но одновременно, объективная мировая необходимость. Можно сказать, материя, бесконечная вселенная в нашем участке мира создала жизнь, потом человека… А теперь, когда возможности развития инструментарием человечества, по сути, исчерпаны, - создаёт ИИ. Через нас.
Развитие нашей Вселенной человечеством и/или ИИ будет происходить до Ошибки. Одной из совершенно очевидных Ошибок, уже на сегодняшний день, является отсутствие Этики. Единой этики. С большой буквы Ошибка – это группа ошибок, приводящая к глобальной катастрофе нашей Вселенной. Таковая Ошибка была совершена предыдущей Вселенной на каком-то этапе её развития, в результате чего и произошел «Большой взрыв», давший возможность появления новой, нашей Вселенной. Позитив в том, что по масштабам того взрыва ясно, и мы, наша Вселенная может развиваться еще весьма, и весьма долго, дабы достичь того уровня. Это теоретическая и в то же время возможность вполне очевидная. Однако эту Ошибку можно совершить, как сказано выше, уже и сейчас. Тогда получится неБольшой взрыв, в масштабах вселенной. Не разрушивший даже Солнечную систему – одной звезды. Но! Теоретически! В бесконечной, вечной вселенной Разум, возникающий на Земле в лице человечества, ИИ и последующих еще более высоких субъектов может выйти и за пределы предыдущей Вселенной. Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Понедельник, 2020-12-21, 9:24 PM | Сообщение # 498
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2637
Статус: Offline
Цитатаivanov_v ()
Одной из совершенно очевидных Ошибок, уже на сегодняшний день, является отсутствие Этики. Единой этики.
Такая Этика, не дающая возможности развиться вселенской Ошибке, должна создаваться гуманным Разуморумом человечества, и не может появиться в человеческом обществе, больном социальной несправедливостью.
ЦитатаЛара_Фай-Родис ()
ВОПРОС:КАКОЙ ОБЩЕСТВЕННЫЙ СТРОЙ МОЖЕТ ОБЕСПЕЧИТЬ ДОЛЖНОЕ ВОСПИТАНИЕ ЧЕЛОВЕКА с младенческого возраста?
Я предлагаю гармоничный строй, в котором созданы условия для учёта интересов всех родившихся и обеспечивается право выбора поприща общественно полезного труда в течение всей жизни человека, что обеспечит его творческое самосовершенствование: https://proza.ru/2017/06/14/843
Цитатаivanov_v ()
Можно сказать, материя, бесконечная вселенная в нашем участке мира создала жизнь, потом человека… А теперь, когда возможности развития инструментарием человечества, по сути, исчерпаны, - создаёт ИИ. Через нас.
А стоит ли так фетишизировать ИИ? Опять вырисовывается антропоморфный Бог (всезнающий, всеведущий, всемогущий, следующий уровень человеческих стремлений в виде души), придуманный древними людьми, но теперь уже в виде якобы ни на что не похожий ИИ, но всё с теми же антропоподобными признаками, на которые найдутся адепты, готовые и помолиться, хотя и живут в цивилизованном 21-м веке. Думаю, не стоит опять наступать на те же грабли разделения мировоззрения людей: верим, не верим, придумаем варианты поклонения, типа религий, и их Апостолов, Учителей, Посвящённых и т. п. Инструментарии человечества не будут исчерпаны, пока развивается наука, и ИИ на данном этапе - всего лишь один из них. Я в этих подходах ближе к представлениям Ларисы: Чело-век=век Чела (мозга) - хозяин-демиург планеты, а ИсИ-век=век ИИ (искусственного интеллекта) не подменит человечество в качестве демиургов планеты. Субъектный, смышлёный, знающий, энциклопедист, но... останется помощником, при этом, безусловно, уважаемым и ценимым. Согласен с Ларисой - Этический кодекс для его создания и последующего взаимодействия, как с субъектом, должен быть разработан ЗАРАНЕЕ, не дожидаясь пришествия кризиса (Апокалипсиса) от самотёка в развитии предполагаемого Виталием ИИ-культового "исивечества". Пример уже есть. Бог дал человеку свободу выбора: верить, не верить, грешить, каяться (только бы верил в самого Бога), даже 10 рекомендательных заповедей разработал. А что получилось? Необходимость первого Апокалипсиса за грехи Содома и Гоморры, и вот уже и второй Апокалипсис, как наказательное Откровение, назревает... Так что не стоит такого же повторять с обожествлённым ИИ. А что надо? Создавать в гармоничном обществе Этику взаимодействия субъектов будущего с учётом всех проб и ошибок человечества за прошедшие тысячелетия всевластия частной собственности, разделяющей людей и порождающей алчное потребительство - https://proza.ru/2014/12/13/754 - Частная собственность и гуманизм. ёклмн&ёпрст
Дата: Понедельник, 2020-12-21, 10:06 PM | Сообщение # 499
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
Продолжу выставлять «Мировоззрение. Тезисы». Следующие пункты тезисов под общим названием «Проект Вселенная:
14. Критерий развития ИС. 15. Причины развития и распада структур. Циклы вселенной. Причины вечности мирового движения. 16. Модель развития мира. 17. Критический анализ диалектических законов развития. 18. Законы развития. 19. Общая теория эволюции. Понятийный отбор 20. Понятия. Психика и сознание. 21. Мировоззрение, философия и религия.
Вышеперечисленные тезисы пропущу здесь, т.к., не вижу заинтересованности в рассмотрении фундаментальных вопросов, которые, на самом деле, являются основанием выводов, касающихся значения, смысла бытия человека, ИИ и любых разумных существ. Соответственно, Этики. Вряд ли кто-то открывал сноску на тезисы. А они занимают всего 17 страниц на форматках А4. - 46 тезисов, касающихся в том числе Этики, государства, собственности, России.
Посмотрел… Да, никто не заходил… Грустно, друзья. На всякий случай приведу еще раз. https://proza.ru/2016/06/28/1034 И, повторюсь, это тезисы. Все они подробно рассмотрены в книгах.
Честно сказать, непонятно, зачем я здесь суечусь. Спасибо, однако. Навели на мысль подготовить еще одну книгу – для Искусственного интеллекта.) Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
Дата: Понедельник, 2020-12-21, 10:25 PM | Сообщение # 500
Ковчег
Группа: Модераторы
Сообщений: 4356
Статус: Offline
ЦитатаВъедливый ()
Я предлагаю гармоничный строй, в котором созданы условия для учёта интересов всех родившихся и обеспечивается право выбора поприща общественно полезного труда в течение всей жизни человека, что обеспечит его творческое самосовершенствование:
Александр. Я посмотрел ваши тексты. Нет возражений, это вполне очевидные мысли, давно известные, общими словами изложенные. У таких мыслей много сторонников. Но для построения «гармоничного общества» такого напряжения ума недостаточно.
ЦитатаВъедливый ()
А стоит ли так фетишизировать ИИ?
Безусловно, не стоит. И вам не советую выносить поверхностные суждения, без хотя бы некоторого изучения материалов.
ЦитатаВъедливый ()
Этический кодекс для его создания и последующего взаимодействия, как с субъектом, должен быть разработан ЗАРАНЕЕ, не дожидаясь пришествия кризиса (Апокалипсиса) от самотёка в развитии предполагаемого Виталием ИИ-культового "исивечества".
Не стоит за меня что-либо утверждать. Вы все равно не угадаете. Тем более, по нескольким фразам.
Цитата
«должен быть разработан ЗАРАНЕЕ, не дожидаясь»
))) А мы с вами над чем работаем? Вроде, не дожидаемся, нет? ) Самое драгоценное – рядом. Оставь - и останешься. @ Виталий Иванов
•Новые сообщения ·
Правила
•Поиск•]
Традиции Галактического Ковчега тут!
.
.
.
..
