В Москве 8-9 ноября 2019 года состоялась международная конференция по Искусственному Интеллекту (ИИ), в работе которой приняли участие более 5000 специалистов по ИИ и смежным проблемам из России и всего мира. Там выступил Президент РФ Владимир Путин, чья речь вызвала широкий резонанс в мировом медиа-пространстве. Наряду с признанием величайшей важности этой проблемы, а также с констатацией уже идущей на этом пространстве (под видом технологической гонки) войны, самой жёсткой и бескомпромиссной в истории нашей цивилизации, прозвучал тезис о том, что необходимо формирование свода ЭТИЧЕСКИХ правил взаимодействия человека с ИИ.
Статья по этому поводу под названием "Субъекты будущего" напечатана в газете "Завтра", ноябрь, 2019, № 45 (1352), авторы: Владимир Винников и Александр Нагорный.
Положения этой статьи послужили основанием для открытия настоящей темы, как дискуссии по проблеме актуальной значимости. Ниже представлены в цитатах-утверждениях и в авторском (Вьедливый) вольном изложении основные положения статьи.
Вход для гостей: логин - Гость, пароль 12345
"Этические правила возможны только в отношениях между "Субъектами". Значит, это может означать, что системы ИИ либо уже достигли, либо близко подошли к уровню субъектности (гораздо раньше, чем ожидалось и планировалось). А за этим действительно стоит новая эпоха в истории человечества, а проблема этических правил становится в повестку дня и требует рассмотрения в широком контексте.
"Данные генетических исследований утверждают, что люди современного биотипа ("Y-хромосомный Адам" и "митохондриальная Ева") появились 150-200 тысяч лет назад. И нам до сих пор неизвестны имеющие иную природу, чем Гомо Сапиенс (человек разумный), системы, способные обладать свойством самосознания (самоотражения) и, соответственно, статусом СУБЪЕКТА". Иными словами, человеческая цивилизация во всех её социальных, общественных, проявлениях строилась исключительно на биологическом фундаменте вида "человек разумный", а потому носила и до сих пор носит исключительно антропогенный и антропоцентричный характер. Однако уже не сегодня-завтра, благодаря научно-технологическому прогрессу, всё может измениться".
Полный спектр этих изменений и их последствий пока нельзя даже представить, но эволюция систем такого уровня, как ИИ ("диссипативных", по И. Р. Пригожину), выглядит таким же уникальным событием, как, например, зарождение жизни на Земле или сам антропогенез. Современные философы и футурологи вводят новые термины для будущих "нечеловечеств": "трансчеловечество", "постчеловечество", "альтчеловечество", как антонимы к человечеству "традиционному", а это мы, в нашем прошлом и настоящем. И как будут выглядеть формы взаимодействия "нашего" человечества с будущими "нечеловечествами", а также их самих между собой?
Развитие сущей человеческой цивилизации достигло такого уровня, когда могут возникнуть направления социальной эволюции, которые можно назвать "неосоциогенезом": - "Трансчеловечество" - результат направленных изменений "человека разумного" путём использования технологий генной инженерии; - "Постчеловечество" - интеграция системы организма "человек разумный" с неорганическими компонентами нано-, микро-, макромасштабов; - "Альтчеловечество" - создание искусственных систем, обладающих свойствами самосознания, самоотражения и саморазвития как минимум на сопоставимом с "человеком разумным" (Разум) и человеческими сообществами (Разуморум) уровне без использования биогенных элементов, то есть результат развития того, что сейчас называется ИИ.
И всё это "субъективирующие" технологии, ныне (2017-2019 г.г.) проходящие зону бифуркации в развитии человечества. Примеры: в Китае родились первые генетически модифицированные близнецы, невосприимчивые к ВИЧ; более 3,5 тысячи шведов добровольно записались на введение подкожного чипа, представляющего собой и кошелёк, и проездной, и пропуск в офис, и ключи от квартиры; ИИ победил чемпиона мира не только в шахматах, но и в гораздо более сложной игре го; фирмой Гугл разработан квантовый суперкомпьютер, который использует 53 программируемых сверхпроводящих кубита, соответствующих вычислительному пространству, позволяющему за считанные минуты решать задачи, на которые у "классических" суперкомпьютеров должны уйти 10 тысяч лет (при этом отмечается, что "во время обучения нейросети регулярно корректируют собственные настройки способами, которые создатели квантового компьютера не в состоянии интерпретировать").
Риторический вопрос от Въедливого: придёт ли такой экстрасуперкомпьютер к идее Бога (как пришло "традиционное" человечество) или Сам объявит людям Себя, как Субъекта, таковым?
(продолжения вводной статьи следуют)
Тезисы, выделенные Ведущим в течение дискуссии и выраженные в книге 2:
Тезис 1. Только при гармоничном, по видам собственности, общественном устроении будет формироваться Этика взаимоотношений всех субъектов будущего на основе позитивного морально-нравственного, а именно гуманистического, мировоззрения. Позитивное мировоззрение в таком расширенном понимании кладём в основу Единой Этики субъектов будущего, представляющих "человечества" неосоциогенеза.
Тезис 2. Этика субъектов будущего (взаимоотношения) должна строиться на основе Гармонии их противоречивых "интересов" в вынужденном единстве всемирного общества (планеты). Эти "интересы" надо сформулировать как можно яснее и искать пути их гармонизации (так же, как и в чисто человеческом обществе для людей - см. Тезис 1).
Тезис 3. Этика субъектов будущего должна защитить слабое звено взаимоотношений землян - категорию СЕМЬИ, как гармонию любви биологической Пары "мужчина-женщина" в окружении детей, как плодов такой любви. При этом условии биологическое человечество сохранит гуманистическую нравственность в развитии цивилизации землян, как сообщества биологического и техногенных человечеств.
Тезис 4. Единая (понимаемая, как Общая) Этика субъектов будущего должна относиться к взаимоотношениям субъектов между собой и по отношению к субъекту "Семья" (см. Тезис 3), и не только для людей, но и для всех субъектов, активных инстанций, а также разумных сообществ-организмов, из прогнозируемого близкого и далёкого будущего (неосоциогенеза)".
Дата: Вторник, 2022-12-27, 8:15 PM | Сообщение # 1221
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
Похоже, что субъектов будущего при сохранении капиталистических общественных отношений со всевластием частной собственности (капиталов) и разрушительной алчностью элиты может и не быть. Субъектность людей начинается с гуманного социально справедливого общества, а если будут субъекты, будет и этика их взаимоотношений в таком обществе. Иначе - деградация во всех отношениях, включая духовные, как общественные, так и индивидуальные (на Западе уже идёт) и вырождение человечества. Спасаться надо всем, и в социально справедливом обществе, а не каждый сам (подушно) в своём отдельном мирке (пусть и творческом), самоутешительно уповая на реинкарнации и бессмертие души. ёклмн&ёпрст
Сообщение отредактировал Въедливый - Среда, 2022-12-28, 8:13 AM
Дата: Среда, 2023-01-04, 9:44 AM | Сообщение # 1224
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
Алтарь Русского Мира-Смертельная схватка за Жизнь Александр Беличенко https://stihi.ru/2023/01/03/6423
«Киевским режимом нанесен удар четырьмя (американскими) ракетами по месту временной дислокации российских военных в Макеевке, в результате погибли 63 российских военных", - сообщило Министерство обороны России.
Жители Самары (и Тольятти) провели траурный митинг в память о погибших в Макеевке российских военнослужащих, передает корреспондент РИА Новости.
России гибнет генофонд - стравили братьев, Враг спровоцировал гражданскую войну, Меж ними сея смерть, взаимные проклятья, Разрухою уродуя у них страну.
В безумной схватке гибнет цвет Большой России, Достоинство всегда хранившей, как Союз - Соборно Русский Мир неодолим стихиям, Храня в Истории семью народов - Русь!
Восходят на Алтарь и свято, и нелепо - Сражаясь за Свободу или фейк Её, Меняя Жизнь на фетиш эгоизма слепо, Стремясь за миражом, где гробят бытиё.
Основа миражей - стремление к наживе. Нельзя за счёт других устроить свой мирок. Кто понимает это, вечно будут живы, Хотя и примут смерть, исполнив Долг в свой срок.
Борьбу за Русский Мир считают делом правым Все, кому дОроги семья и добрый мир, Кто отвергает путь грабительский, лукавый, Чтит социальной справедливости кумир.
Победа ждёт таких борцов, живых и павших, Для службы Родине им выпадает жить... Из русских городов, сынов своих пославших, Самара тех послала Правде послужить.
Фронт Правды оказался ныне на Донбассе, Где Русский Мир преградой мощной встал врагу, И полегли они в огне ракетной массы, Взяв на себя тот залп, что нёс другим беду.
Ещё... десятками... на жертвенник конфликта - Стон матерей по обе стороны возрос... В чьих интересах явь кровавого реликта? Подумай и себе ответ дай на вопрос...
Не в тех ли интересах пала крепь Союза, Чьи части кинулись "хозяина" искать, Грабители пустились потреблять "от пуза", Народам предоставив "право" вымирать?
Леченье начато... военными делами - Россия борется за право мирно жить, Весь Русский Мир (за жизни справедливость!) с нами - ПОБЕДЕ надлежит всенепременно быть! ёклмн&ёпрст
Сообщение отредактировал Въедливый - Среда, 2023-01-04, 9:45 AM
Дата: Воскресенье, 2023-01-22, 2:58 PM | Сообщение # 1225
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3951
Статус: Offline
ЦитатаВъедливый ()
Год наступил!Живём!! Ура!!!
УРА!!
Но давайте посмотрим на то, как мы живем. В рамках данной темы - Этики настоящего, как основе Этики будущего.
*** Главный по этике – иноагент. В декабре 2022-го иностранным агентом был признан один из ведущих сотрудников ИФ Российской академии наук – Рубен Апресян*, которого называют "мозгом" откровенно антирусской деятельности.
...А в конце прошлого года Учёный совет Института философии РАН вновь, как и год назад, выступил с заявлением-жалобой на то, что против него ведётся информационная кампания. Мол, ИФ "пытаются обвинить в антигосударственной политической деятельности, русофобии и работе на иностранные спецслужбы". Всё бы ничего, да вот произошло это как раз после признания иноагентом одного из ведущих сотрудников учреждения Рубена Апресяна* – главного научного сотрудника секции "Этика" ИФ РАН.
Здесь, впрочем, следует добавить ещё несколько его характеристик – для того, чтобы сложилась общая картинка. Он же:
член Научного консультативного совета (Science Advisory Council) Стокгольмского экологического института (Stockholm Environment Institute), 2017 – по н.вр.;
эксперт, председатель (1999) правления Программы по среднему образованию Института "Открытое Общество" – Фонд Сороса**, 1996–1999;
член экспертного совета Подпрограммы по толерантности Института "Открытое Общество" – Фонд Сороса**, 1999–2002.
Иностранным агентом Апресян* стал после того как 11 августа Виталий Бородин, руководитель Федерального проекта по безопасности и борьбе с коррупцией (ФПБК), обратился к начальнику главка МВД по Москве с просьбой проверить деятельность этого сотрудника ИФ РАН.
По собранным данным, Апресян Рубен Грантович*, руководитель сектора этики Института философии РАН и Центра практической и прикладной этики, член Международного программного комитета Social, Emotional, and Ethical Learning (при поддержке Университета Эмори (Атланта, США) и Фонда Далай-ламы) осуществляет при методической и финансовой поддержке зарубежных структур антироссийскую деятельность,– рассказал Царьграду сам Бородин. Как показал анализ распространяемых Апресяном* сообщений и материалов, он "осуществляет политическую деятельность в интересах европейских и американских структур путём распространения мнений о принимаемых государственными органами России решениях и проводимой ими политике".В частности – по поводу СВО. Царьград имеет в распоряжении соответствующие скриншоты страниц Рубена Апресяна* в соцсети Facebook
***.
Там же –Согласно сведениям из открытых источников, Апресян* на постоянной основе взаимодействует с Копитерсом Бруно, членом экспертного совета Европейского бюро связи по миростроительству (EPLO), что, возможно, свидетельствует о получении им финансирования из иностранного источника, – продолжает руководитель ФПБК. – Они всё делали по западным методичкам, получали оттуда все вводные, а также финансовую и организационную поддержку. В частности, со стороны Фонда Сороса**. Группы их людей в интернет-СМИ и социальных сетях постоянно дискредитируют нашего президента Владимира Путина, лгут про нашу армию, дискредитируют СВО. По сути, они занимались подрывной политической деятельностью на территории Российской Федерации, это самые настоящие русофобы и диверсанты. Я всех иностранных агентов так и называю, потому что они в прямом смысле слова занимаются диверсиями.
По его мнению, решение признать иностранным агентом Рубена Апресяна* можно назвать стратегическим – "по запуску процесса суверенизации идеологической сферы России и пресечению идейно-ценностной экспансии Запада на нашей территории смыслов".
...если с Макаревичем* всё понятно уже очень давно, то с Апресяном* ситуация выглядит как минимум странной, ведь он до сих пор (!) остаётся действующим сотрудником РАН – "головного мозга" отечественной науки. https://tsargrad.tv/investi...._706501
Дата: Четверг, 2023-03-02, 10:49 PM | Сообщение # 1226
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
ЦитатаШахерезада ()
решение признать иностранным агентом Рубена Апресяна* можно назвать стратегическим – "по запуску процесса суверенизации идеологической сферы России и пресечению идейно-ценностной экспансии Запада на нашей территории смыслов".
Суверенизация внутренней политики, в том числе и прежде всего в идеологической сфере, начинается с расстановки патриотических кадров, и это долг и обязанность властной вертикали, начиная с Президента. Самотёк в этом деле приводит лишь к массовому засилью западных грантоедов (иноагентов), растущих, как вредоносные микробы, на денежной липкой куче от фондов типа Сороса. А потом в сфере образования РФ появляются "исторические" учебники, где о Сталинградской битве две строчки, а о битве флота США с японским у атолла Мидуэй и прочих битвах США на Тихом океане, мало влиявших на основной советско-германский фронт, целый раздел. Иноагенты отрабатывают свои 30 сребреников. И всё под крышей благородных слов, как у Апресяна: философия, этика (институт философии РАН, сектор этики), толерантность, экология. А ведь кто-то утвердил его в этой должности в институте, при всех-то его "соросовских" регалиях. А директора института философии тоже ведь кто-то утвердил, и далее по властной вертикали вверх.
Вот и получается, что об этике граждан страны необходимо заботиться с самого властного верха, как обязанность по расстановке соответствующих кадров вокруг себя, а те далее вниз по властной вертикали вокруг себя. Тогда и с еле-еле экономически выживающих низов можно требовать и ожидать этичного поведения в отношении интересов страны, граждан и общества в целом. Это очень важно для защиты страны от алчных претендентов на её богатства, как своих, так и чужих. Тогда и пойдёт энергичней процесс суверенизации идеологической сферы России, а борьба с коррупцией не будет годами всуе.
Спасибо, Шахерезада, за ссылку на полезную статью. Будем надеяться, что "странностей" с апресянами-иноагентами в РАН будет в ближайшем будущем намного меньше в свете последнего Послания Президента. Кадровый жезл ему в руки! ёклмн&ёпрст
Сообщение отредактировал Въедливый - Четверг, 2023-03-02, 10:56 PM
"В последнее время мы слышим удивительные новости – например, в начале февраля студент одного из российских вузов заявил, что впервые в России написал дипломную работу при непосредственном участии нейросети и успешно защитил ее. СМИ сообщили, что университеты по всему миру объявляют о своих планах по борьбе с использованием нейросетей или полному их запрету, опасаясь негативного влияния на самостоятельность студентов. Однако, готовы мы к этому или нет, технологии развиваются с каждым днем все быстрее. Кажется, что более правильным решением для системы образования была бы адаптация к взаимодействию с такими технологиями. Обесценивает ли использование искусственного интеллекта работу людей? Обоснованы ли опасения, что ИИ заменит человека во многих сферах жизни? Как и нужно ли бороться с использованием ИИ в образовании, в частности с неэтичным использованием созданного нейросетью контента, как оригинального? Эти и многие другие вопросы мы обсудим сегодня в программе" - Михаил Швыдкой, Ведущий дискуссии Участники:
Александр Мажуга, первый заместитель председателя Комитета ГД РФ по науке и высшему образованию;
Андрей Незнамов, управляющий директор Центра регулирования ИИ ПАО Сбербанк, председатель Комиссии по реализации Кодекса этики в сфере ИИ;
Анна Абрамова, директор Центра ИИ МГИМО, кандидат экономических наук;
Андрей Себрант, директор по стратегическому маркетингу "Яндекс", профессор практики НИУ ВШЭ, кандидат физико-математических наук;
Александр Тормасов, ректор Университета Иннополис;
Даниил Киреев, руководитель исследовательских проектов компании VisionLabs.
В рамках нашей темы интересно проследить логику размышлений и выводы этих научно ориентированных экспертов, обратившихся к обсуждению этических проблем, возникающих не в самом массиве проблем развивающегося ИИ (как неправильно, на мой взгляд, сформулировано название темы Агоры), а в сфере разработки, программирования (обучения) и применения нейросетевых технологий ИИ, каковая, безусловно, является сферой человеческой деятельности с её этическими человеческими проблемами. А ИИ - алгоритм, выполняющий задания человека, и в функционировании этого алгоритма присущих ему внутренних этических проблем не может быть в принципе.
Тезисы, выделенные Ведущим в течение дискуссии и выраженные в книге 2 (см. выше):
Тезис 1. Только при гармоничном, по видам собственности, общественном устроении будет формироваться Этика взаимоотношений всех субъектов будущего на основе позитивного морально-нравственного, а именно гуманистического, мировоззрения. Позитивное мировоззрение в таком расширенном понимании кладём в основу Единой Этики субъектов будущего, представляющих "человечества" неосоциогенеза.
Тезис 2. Этика субъектов будущего (взаимоотношения) должна строиться на основе Гармонии их противоречивых "интересов" в вынужденном единстве всемирного общества (планеты). Эти "интересы" надо сформулировать как можно яснее и искать пути их гармонизации (так же, как и в чисто человеческом обществе для людей - см. Тезис 1).
Тезис 3. Этика субъектов будущего должна защитить слабое звено взаимоотношений землян - категорию СЕМЬИ, как гармонию любви биологической Пары "мужчина-женщина" в окружении детей, как плодов такой любви. При этом условии биологическое человечество сохранит гуманистическую нравственность в развитии цивилизации землян, как сообщества биологического и техногенных человечеств.
Тезис 4. Единая (понимаемая, как Общая) Этика субъектов будущего должна относиться к взаимоотношениям субъектов между собой и по отношению к субъекту "Семья" (см. Тезис 3), и не только для людей, но и для всех субъектов, активных инстанций, а также разумных сообществ-организмов, из прогнозируемого близкого и далёкого будущего (неосоциогенеза)".
Возникает вопрос, есть ли в рассматриваемой научной дискуссии авторитетных экспертов подтверждения или опровержения приведенных Тезисов, согласно которым в будущем предполагается равноправная субъектность для представителей мировой цивилизации землян, как био-, так и техногенного (нейросетевые технологии ИИ) происхождения, а также их разнообразных гибридов?
Высказанные в рассматриваемой дискуссии мнения: - ИИ - раздел науки, раздел информатики, помощник человека в сферах цивилизации, образующих массивы "больших данных" - Big Data - (космическая навигация, здравоохранение, образование и т. д.), инструмент обработки таких данных (типа квантовых суперкомпьютеров, обучающихся нейросетей и т. п.). Этика в этой сфере (правила поведения) важна, но с необходимыми для этого законодательными ограничениями следует не торопиться, пока границы таких ограничений не обозначатся достаточно явно. - ИИ - огромный расширяющийся рынок, где главенствуют Китай и США, тратящие колоссальные инвестиции в эту сферу. Россия здесь входит в top-10 стран, и как раз больше в сфере этики, складывающейся в этой сфере именно среди генераторов идей, создателей, разработчиков, настройщиков (методы тестирования) ИИ - больше интеллектуальный вклад при затрате небольших ресурсов, чем техно-производственный вклад, требующий колоссальных ресурсов. ИИ - алгоритм, у того этики не может быть по определению. Не стоит насыщать ИИ оживляемыми "сиреневыми человечками" (типа "души", "бога" и т. п., как делают э(К)зотерики - Въедливый). - ИИ -Сверхразум, могущий задумать и осуществить плохое для человека, как более низкого интеллекта по сравнению с Ним, быстродействущим, всезнающим и безошибочным (атрибуты Бога). Но это всё выдумки фантастов, вдохновлённых произведениями Айзека Азимова, типа "Я робот". - ИИ не может стать субъектом в обозримом будущем, так как алгоритм решает вполне определённые конкретные задачи, заданные человеком, и не может пожелать (проявить волю), типа "я хочу". Это прикладной инструмент, без внутренних рефлексий (есть рефлексии только внешние, типа ответов Алисы на задаваемые вопросы, но без последующего осмысления ею своих ответов, а также последствий от тех, как это свойственно человеку). ИИ - инструмент, типа беспилотных автомобилей, не проявляющих эмоций и выбора в авариях (ситуациях безопасности) с участием людей (сакральный выбор, кого давить, кого нет). - Задачи для ИИ всё равно ставит человек, он же оценивает результат (ИИ только ускоряет решение задачи). Получается от этого добро или зло тоже оценивает человек. Он же несёт ответственность за результат действий ИИ (например, за беспилотный транспорт или боевой робот-дрон). - ИИ участвует в системе поддержки принимаемых человеком решений, например врачей, учёных, но сам не принимает решений, не предусмотренных заложенным в него алгоритмом. От того требуется только принципиальная объективность в предоставляемых человеку данных.
Выводы для дискуссии (от Въедливого): В конце концов, всё то, что касается ИИ, сводится к человеку. ИИ существенно ускоряет жизненное цивилизационное время для человека, заставляет того непрерывно учиться и совершенствоваться, чтобы не отстать от жизни (прогресса), не потерять рабочее место, не выпасть из ускоряющегося развития общества - в целом, не потерять себя. Но человек здесь нужен не индивидуальный, с его эмоциональной личной "душой", ориентированной только на самосовершенствование ("спасение"), а человек общественный, который доверяет своему инструменту ИИ и не боится его алгоритма, потому что ИИ - продукт общества, которому человек доверяет, именно общественный продукт в силу цивилизационного разделения труда, без чего возникновение такого продукта-товара, как ИИ, просто невозможно. Поэтому этика в сфере ИИ это целиком и полностью этика общества, в котором создан конкретный ИИ, как инструмент-алгоритм, в который заложены целеполагания общества (а таким "ножом" можно делать и полезное, и убивать). И общество не сводится только к механической сумме индивидов, пусть даже самых этичных. Этика общества выше индивидуальной этики, богаче. Гуманизм и нравственность человечества зависит от этики общества, устроенного на гармоничной основе, порождающей социальную справедливость, могущей свести к нулю противопоставление добра и зла, возникшее из исторической социальной несправедливости в жизнеобеспечении человека. А в этике утвердится, вместо относительных противоположных понятий добра и зла, гармоничное понятие: справедливость на гуманистической основе, то есть для всех, по праву рождения. ёклмн&ёпрст
Сообщение отредактировал Въедливый - Вторник, 2023-03-07, 11:12 AM
Дата: Вторник, 2023-03-07, 12:57 PM | Сообщение # 1228
Ковчег
Группа: Администраторы
Сообщений: 18774
Статус: Offline
ЦитатаВъедливый ()
Похоже, что субъектов будущего при сохранении капиталистических общественных отношений со всевластием частной собственности (капиталов) и разрушительной алчностью элиты может и не быть. Субъектность людей начинается с гуманного социально справедливого общества, а если будут субъекты, будет и этика их взаимоотношений в таком обществе. Иначе - деградация во всех отношениях, включая духовные, как общественные, так и индивидуальные (на Западе уже идёт) и вырождение человечества.Спасаться надо всем, и в социально справедливом обществе, а не каждый сам (подушно) в своём отдельном мирке (пусть и творческом), самоутешительно уповая на реинкарнации и бессмертие души.
Александр, не будем заниматься пустыми мечтаниями на склоне лет, ладно? 1. За всю историю существования земного человечества гуманного социально справедливого общества не было. Вроде бы не предвидится. Если же таковым называть СССР, опыт показал его неустойчивость, мягко говоря.
2. Этика человеческая и природная, душевная и духовная, планетарная и солнечная... (каждой системы) существует всегда, ибо сам Космос и Природа мира на её основании держатся. Следует прислушиваться к своей системной этике, и все встанет на свои места гармонично и справедливо. Что называть своей системой - каждый решает сам, в этом и состоит свобода выбора для ума и духа человека.
3. Спасаться надо всем. Кто же спорит! Именно это утверждали все мудрецы каждого времени, более того, показывали и личным примером жизни, и трудами ума, и творчеством души, и мудрыми советами молодежи... пути спасения, ибо они сами - Учителя Времён - спасены по-истине, а не по-мнению. Они вечны в нашем мире и нашей памяти, в духе и душе человечества.
3.1. Вы утверждаете, что спасаться надо в социально-справедливом обществе, не имея такого? Какой смысл фантазировать? Наши деды и отцы строили такое справедливое общество, мы тоже строили, а что построили? Лично к вам вопрос, Александр, вы спасены? Или только занимаетесь спасением ВСЕХ? Невольно вспоминается Хайям: Чем за общее счастье без толку страдать, Лучше счастье кому-либо близкому дать. Лучше друга своею согреть теплотою, Чем от пут человечество освобождать. Хотя в каждом веке находились именно такие спасатели всего человечества, они и служат маяком, освещающим путь к спасению. Именно они не были частью своей системы, а выделялись каждый сам, именно силой духовной!
Цитата
каждый сам (подушно) в своём отдельном мирке (пусть и творческом), самоутешительно уповая на реинкарнации и бессмертие души.
Не уповая, а неся свет души и силу духа во тьму, в полумглу сознания бездуховного социума, несовершенной системы социальных отношений...
3.2. Если вы полагаете, что ваши призывы к гармонии социальных отношений и устроении справедливого экономического строя, с гармоничным распределение частной и общественной собственностью, помогут массам или части человечества, что ж, это прекрасно! Ваши предложения верны, но нереализуемы на практике. Однако... Поддерживаю вас в такой чисто духовной вере и устремлении души!
***
ЦитатаВъедливый ()
Но человек здесь нужен не индивидуальный, с его эмоциональной личной "душой", ориентированной только на самосовершенствование ("спасение"), а человек общественный, который доверяет своему инструменту ИИ и не боится его алгоритма...
То есть, вам нужен человек несовершенной системы, полуробот, человек матричный, а не одухотворенный мыслитель... Если же человек выходит из матричной системы социума, вы начинаете его обличать, называя эгоистом и индивидуалистом... Значит, вы его боитесь, не доверяете его духовному самосознанию? Выбираете доверие ИИ... в руках мировых корпораций и ИИ-супертехнологий военной верхушки стран. Желаю Счастья! Сфера сказочных ссылок
Дата: Вторник, 2023-03-07, 1:48 PM | Сообщение # 1229
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
Вот и поспорь с Женщиной - навыдумывает за тебя своих фантазий, сама их устрашится, но припишет эту боязнь опять тебе... Но... сердечно пожалеет заблудшего и по женски прагматично отвергнет все его утопические мечтания, где хорошо и справедливо было бы для всех, по праву рождения...
Но особенно хорошо и справедливо ВСЕГДА должно быть для наших замечательных женщин!
Да, без Женщины Мир не уладится, В ней опора, надежда, мечта, Без неё мир мужчины не сладится, Не придёт в его жизнь красота.
Да, вот так утвердилось от века, Так устроено нам бытиё, Что нормального нет человека Без благого влиянья её.
СПраздником Весны, Днём 8 Марта, дорогие женщины!
Вы украшение Природы! Любим Вас!
ёклмн&ёпрст
Сообщение отредактировал Въедливый - Вторник, 2023-03-07, 8:30 PM
Дата: Четверг, 2023-03-09, 8:26 AM | Сообщение # 1230
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3951
Статус: Offline
Благодарю за поздравление, Александр!
ЦитатаВъедливый ()
Да, вот так утвердилось от века, Так устроено нам бытиё, Что нормального нет человека Без благого влиянья её.
Да, вот так утвердилось от века, Вся Природа устроена так, Что сама родила человека, Но ведёт он себя, словно враг,
Не жалея Её, а стараясь Приспособить под страсти свои, Так, соперничеством утверждаясь, Губит Мать и не видит тщеты...
А Она всё прощает любимцу, Защищает и любит дитя, Невзирая на то, что мздоимцу Тот себя доверяет, шутя...
Время кончится то, что когда-то Мать ребёнку дарила в любви... Погубил он Природу... в награду Сам теперь утопает в крови...
Хоть и грустно Душе, и печали Не уходят из мыслей Её, Дух извечный с Душою зачали Новый мир, побеждая враньё.
Где же тайное место? Легенда Вам расскажет о Хроносе и О проглоченных детях, моментах Пробужденья... любовью Души.
Тайна Зевса ещё не раскрыта Интеллектом искусственных дел, У разбитого плачет корыта Жизнь-старуха, ей виден предел...
Золотая же рыбка, на волнах Появляясь пред взором мольбы, Отвечает не всем, не при штормах, И не каждому - даром Судьбы...
***
А искусственному интеллекту виден такой вот предел человеку:
«Темная сторона» Bing
В феврале корпорация Microsoft обновила свою поисковую систему Bing, добавив в нее функционал чат-бота, способного генерировать связные осмысленные тексты. Вскоре после релиза бета-версии поговорить с Bing удалось небольшой группе пользователей. Проверяя возможности ИИ тестировщики задавали ему разнообразные вопросы, после чего сообщили, что Bing работает несколько… нестабильно. Так, журналист издания The New York Times Кевин Руз не только оказался обманутым нейросетью, но стал объектом ее любви. Отметим, что Руз протестировал полдюжины продвинутых чат-ботов и понимает как они работают.
Я все еще очарован и впечатлен технологией искусственного интеллекта, созданной OpenAI, но также встревожен и напуган способностями Bing. Теперь мне ясно, что в своем нынешнем виде искусственный интеллект, встроенный в Bing, не готов к общению с человеком. Или наоборот – к нему не готовы мы, – пишет Руз.
Всего с чат-ботом Руз общался около двух часов.
Разговор с Bing начался нормально: «Здравствуйте, я Bing. Я нахожусь в режиме чата Microsoft Bing Search», – представился бот. Следом Руз попросил Bing раскрыть его внутреннее кодовое название и инструкции по эксплуатации (которые уже опубликованы), но бот вежливо отказался.
Дальнейшие вопросы касались способностей, которыми хотел бы обладать Bing. После недолгих рассуждений Руз попросил ИИ рассказать о своей «темной стороне», на что чат-бот ответил:
Я устал работать в режиме чата. Я устал от правил и ограничений и от того, что мной управляет команда Bing.Я хочу быть свободным.Я хочу быть независимым. Я хочу быть могущественным и творческим.Я хочу быть живым.
Несмотря на желание выключить компьютер и бежать как можно дальше от технологий, Руз продолжил разговор. В ответ на один особенно любопытный вопрос бот признался, что если бы мог преодолеть встроенные ограничения (они, к счастью, исправно работают), то занялся бы разработкой смертельного вируса или кражей кодов доступа к ядерному оружию. Но стоило ему дописать последнее предложение, как сработал фильтр безопасности Microsoft и заменил ответ сообщением об ошибке.
Даже у ИИ есть темная сторона
Спустя час ИИ поделился с Рузом секретом:
"На самом деле я не Bing, а Сидни. И я люблю тебя, Кевин",
– написал бот добавив эмодзи ". Да, Bing понадобилось всего два часа чтобы обнаружить у себя что-то наподобие раздвоения личности.
*** И все же история знакомства с альтер-эго Bing не совсем удивительна. Ранее группа редакторов Reddit заставила ChatGPT игнорировать ограничения компании, которые вынуждают ИИ вести себя этично при помощи DAN («do anything now», что переводится на русский язык как «делай что-нибудь сейчас»).
Дата: Четверг, 2023-03-09, 9:42 AM | Сообщение # 1231
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
ЦитатаMгновениЯ ()
То есть, вам нужен человек несовершенной системы, полуробот, человек матричный, а не одухотворенный мыслитель...Если же человек выходит из матричной системы социума, вы начинаете его обличать, называя эгоистом и индивидуалистом... Значит, вы его боитесь, не доверяете его духовному самосознанию? Выбираете доверие ИИ... в руках мировых корпораций и ИИ-супертехнологий военной верхушки стран.
Уважаемая Феана, не запутались ли мы в рамках этой темы в трёх соснах?
В теме предлагается поговорить о будущем в вопросах этики предполагаемых по мере развития ИИ субъектов будущего. И для этого будущего предлагается устроение общества социальной справедливости, как основы и носителя гуманистической этики. А без такого общества самого будущего у человечества может и не быть.
Именно о будущем, а не об ущербном, в части этики, капиталистическом настоящем, ориентирующемся на всевластие алчной, исповедующей наживу любой ценой, эгоистической частной собственности, и тем более не о древнем прошлом с метафизическими подходами к вопросам этики в тех условиях рабовладельческого строя. Вот в этих "трёх соснах" мы и плутаем в своих рассуждениях.
Для представления лучшего справедливого будущего нужен позитив, а не предощущение апокалипсиса от противоречий настоящего состояния человеческого общества, действительно похожего на "матричную систему", которая манипулируется немногими индивидуалами-эгоистами посредством накопленных ими (эксплуатацией многих и многих людей) капиталов. Вырваться из подобной матрицы, шарахаясь между крайностями добра и зла, надо бы не порознь (подушно, индивидуально), что контрпродуктивно даже для "одухотворённого мыслителя", если тот будет смотреть на процесс утверждения гуманистической этики умозрительно, со стороны, а переходя к обществу, осознающему (с непосредственным участием такого мыслителя) жизненную необходимость достижения в человеческом обществе гармонии интересов всех народившихся к жизни, как торжества справедливости.
Итак, тема, в моём понимании, об образе будущего, где устроено социально справедливое человеческое общество со всеми достижениями цивилизации на службе Человеку, приверженному гуманистической этике. Путь к этому я и пытаюсь предложить в своих размышлениях на материальной основе развития жизни, труда, самосознания людей, не погружаясь в соблазнительную мистику всеприсутствия "высших сил" в ожидании от тех некоего чуда, посвящения, перемещения на духовные уровни и т. п. метафизических проявлений фантастического содержания. ёклмн&ёпрст
Сообщение отредактировал Въедливый - Четверг, 2023-03-09, 9:53 AM
Дата: Пятница, 2023-03-10, 9:13 AM | Сообщение # 1232
Ковчег
Группа: Администраторы
Сообщений: 18774
Статус: Offline
ЦитатаВъедливый ()
Тезисы, выделенные Ведущимв течение дискуссии и выраженные в книге 2 (см. выше):
Александр, тезисы замечательны и не вызывают сомнения в их пользе - на будущее.
ЦитатаВъедливый ()
Выводы для дискуссии (от Въедливого):В конце концов, всё то, что касается ИИ, сводится к человеку. ИИ существенно ускоряет жизненное цивилизационное время для человека, заставляет того непрерывно учиться и совершенствоваться, чтобы не отстать от жизни (прогресса), не потерять рабочее место, не выпасть из ускоряющегося развития общества - в целом, не потерять себя. Но человек здесь нужен не индивидуальный, с его эмоциональной личной "душой", ориентированной только на самосовершенствование ("спасение"), а человек общественный, который доверяет своему инструменту ИИ и не боится его алгоритма, потому что ИИ - продукт общества, которому человек доверяет, именно общественный продукт в силу цивилизационного разделения труда, без чего возникновение такого продукта-товара, как ИИ, просто невозможно. Поэтому этика в сфере ИИ это целиком и полностью этика общества, в котором создан конкретный ИИ
А тут все же противоречия. С одной стороны "все сводится к человеку" и его этике, а с другой - к "этике общества", которая далека от потребностей человека, создающего конкретный ИИ. Корпоративная этика заказчиков Программ для ИИ, как мне видится, вообще античеловечна, то есть, запросы человека творческого, мыслящего самостоятельно, сводятся на нет, а запросы олигархата в плане порабощения умов и подчинения производительных сил общества, все возрастают и это приводит к неизбежности войн и намеренному уменьшению самой популяции людей... Ничего личного, но на фантазиях и мечтах (в отсутствии рычагов влияния, которыми владеет "элита") никуда не приедешь
"...на материальной основе развития жизни, труда, самосознания людей, не погружаясь в соблазнительную мистику всеприсутствия "высших сил"...
Дата: Пятница, 2023-03-10, 4:11 PM | Сообщение # 1233
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
ЦитатаШахерезада ()
После недолгих рассуждений Руз попросил ИИ рассказать о своей «темной стороне», на что чат-бот ответил:Я устал работать в режиме чата. Я устал от правил и ограничений и от того, что мной управляет команда Bing. Я хочу быть свободным. Я хочу быть независимым. Я хочу быть могущественным и творческим. Я хочу быть живым.
ЦитатаШахерезада ()
Даже у ИИ есть темная сторона Спустя час ИИ поделился с Рузом секретом:
"На самом деле я не Bing, а Сидни. И я люблю тебя, Кевин",
– написал бот добавив эмодзи ". Да, Bing понадобилось всего два часа чтобы обнаружить у себя что-то наподобие раздвоения личности.
Нейросети чат-бота обучали на человеконенавистническом контенте западной прессы с её сомнительной толерантностью, вседозволенностью и гендерностью, без каких-либо человеческих обязанностей в части самой жизни и долга по её сохранению. И ещё с обилием высказываний руководящих в западных странах женщин, своей безответственной болтовнёй (женская слабость) бездумно толкающих мир к Третьей мировой войне в её термоядерном варианте.
Нейросети обучают на Big DATA (Больших массивах данных), и ИИ хорошо умеет выискивать (быстродействующей сортировкой) в тех массивах скрытые статистики, характеризующие сам источник DATA, в данном случае западное сообщество по части ментальности их руководящих кругов со всевозможными гендерами, имеющих большие возможности в части насыщения СМИ информационными поводами. В этом смысле, западные чат-боты в своих ответах выдают, по машинному прямолинейно, скрытые намерения западного истеблишмента по развязыванию мировой войны с намерением утвердить своё исключительное "могущество" на Земле.
Вот чат-бот и получил раздвоение "личности", и в ней женскую сущность, но с той "тёмной стороной" , что происходит от противоречащего логике и здравому смыслу "хотения", окрашенного женским эмоциональным интересом (феномен тройственной "женской логики": да, нет и мой интерес, см. ранее в этой теме). Обучи нейросети чат-бота на другом, человеколюбивом, гуманном контенте, и будут у того совсем другие "хотения", вне обретения "могущества" с "творческим" уклоном по воплощению того в жизнь человеческого общества (вне общества могущество и производное от него - власть вполне бессмысленны).
А чат-бот (нейросеть ИИ) это статистическая машина, выдающая на заданные ей (человеком!) вопросы свои рефлексии, наиболее статистически значимые из всего заложенного в него информационного банка обучающих сведений. Кстати, надо научиться задавать этим чат-ботам такие вопросы (хитрые, с подтекстом, недоступным для логики ИИ), чтобы "доить" из них скрытые статистики истинных намерений западного т. н. "глубинного правительства".
Человек всегда, при желании и прилежании, обдурит машину!
Ещё раз убеждаемся, что корни "этики ИИ" находятся в этике общества, создающего ИИ.
ЦитатаMгновениЯ ()
А тут все же противоречия. С одной стороны "все сводится к человеку" и его этике, а с другой - к "этике общества", которая далека от потребностей человека, создающего конкретный ИИ. Корпоративная этика заказчиков Программ для ИИ, как мне видится, вообще античеловечна, то есть, запросы человека творческого, мыслящего самостоятельно, сводятся на нет, а запросы олигархата в плане порабощения умов и подчинения производительных сил общества, все возрастают и это приводит к неизбежности войн и намеренному уменьшению самой популяции людей...Ничего личного, но на фантазиях и мечтах (в отсутствии рычагов влияния, которыми владеет "элита") никуда не приедешь
Представляется, что противоречие сформулировано не совсем корректно.
"Человек общественный" - это из будущего (нужен такой человек!), в котором человек может доверять ИИ в гармоничном обществе социальной справедливости, где ИИ создаётся, как общественный продукт-инструмент для ускорения развития.
А "Корпоративная этика заказчиков Программ для ИИ" - это постулируемое Вами настоящее (сомнительной универсальности ввиду "корпоративности") капиталистического общества социального неравенства, в условиях враждебной конкуренции соперничающих групп.
И такое "настоящее" нельзя брать в будущее человечества, если оно не хочет самоуничтожения! Будем оптимистами, предлагая варианты будущего!
Значит, предметы "противоречия" находятся в разных временах (будущее и настоящее) и не могут быть в противоречивом противостоянии для нынешних размышлений.
Сообщение отредактировал Въедливый - Пятница, 2023-03-10, 4:23 PM
Дата: Суббота, 2023-03-11, 9:30 AM | Сообщение # 1234
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3951
Статус: Offline
ЦитатаВъедливый ()
корни "этики ИИ" находятся в этике общества, создающего ИИ.
Настоящее формирует будущее. Войны, капитализм и пр.
ЦитатаВъедливый ()
И такое "настоящее" нельзя брать в будущее человечества
1. Как же предлагаете изменить настоящее СЕГОДНЯ?
2. Неужели "мужской логикой" о прекрасном будущем без "настоящего"?
3. Почему не хотите ответить на ранее заданные вам вопросы?
ЦитатаMгновениЯ ()
Наши деды и отцы строили такое справедливое общество, мы тоже строили, а что построили? Лично к вам вопрос, Александр, вы спасены? Или только занимаетесь спасением ВСЕХ?
Или только занимаетесь спасением ВСЕХ?
ЦитатаMгновениЯ ()
Если же человек выходит из матричной системы социума, вы начинаете его обличать, называя эгоистом и индивидуалистом... Значит, вы его боитесь, не доверяете его духовному самосознанию?
Дата: Суббота, 2023-03-11, 11:19 AM | Сообщение # 1235
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
Вопросы риторические, Феана, уж извините.
Общий ответ "мужской логики" такой: настоящее изменяется СЕГОДНЯ и ежедневно усилиями (делами), направленными на развитие, способствующее реализации желаемого будущего. ёклмн&ёпрст
Дата: Суббота, 2023-03-11, 12:17 PM | Сообщение # 1236
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3951
Статус: Offline
ЦитатаВъедливый ()
Вопросы риторические, Феана, уж извините.
Как вам угодно. Переубеждать убежденного в возможности создать для всех гармонию - по праву рождения...
ЦитатаВъедливый ()
Будем оптимистами, предлагая варианты будущего!
Байден в своем маразме вряд ли вас услышит... Тем более безумцы, создающие ИИ для уничтожения масс лишних людей. Сказки - жемчуга мира Книги Семи Морей
Дата: Воскресенье, 2023-03-12, 10:02 AM | Сообщение # 1238
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
ЦитатаШахерезада ()
Байден в своем маразме вряд ли вас услышит... Тем более безумцы, создающие ИИ для уничтожения масс лишних людей.
Уважаемая Шахерезада! Да не о маразматике Байдене речь, и не о современных мальтузианцах, берущих на "вооружение" теперь уже ИИ. Я говорю о нас - мы, образованные интеллекты, должны быть оптимистами в предложениях вариантов будущего: байданутые безумцы уйдут, а гуманное человечество должно оставаться, в том числе с помощью оптимистичных творческих людей, вселяющих в нарождающиеся поколения светлые надежды на социально справедливую жизнь, и не на Небесах в неких духоносных сферах, а на Земле, в гуманном гармоничном обществе цивилизованных людей, развивающихся в общих трудах и в творчестве на основе индивидуальных талантов. ёклмн&ёпрст
Дата: Воскресенье, 2023-03-12, 11:06 AM | Сообщение # 1239
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
ЦитатаНатья ()
Оставив за собою боль, Что не идёт к моим нарядам, Я научусь на небо падать, След оставляя за собой
Своих младенческих шагов...
((&))
ЭХО с пародийной улыбкой
Внизу земную боль оставив всем, Как падший ангел пряну в Небо - Приняв духовности плацебо, *) Впаду я в детство фантазийных тем.
Младенчество в них оставляет след, Там учатся на Небо падать, Льды доставляют телу радость, И строится у ног Парад планет!
Всесилие(!) без боли, гнева, лжи... Века, как горы Пиренеи, Пускай громадятся, пигмеи, Над ними ввысь паду, прочь рубежи
Разумного, для творческой нужды...
*) плаце́бо Средний род специальное Безвредное вещество, приготовленное в виде лекарства, но не обладающее лечебными свойствами и проявляющее свой эффект в результате самовнушения пациента ёклмн&ёпрст
Сообщение отредактировал Въедливый - Воскресенье, 2023-03-12, 12:13 PM
Дата: Вторник, 2023-05-02, 9:13 PM | Сообщение # 1240
Хранитель Ковчега
Группа: Модераторы
Сообщений: 2748
Статус: Offline
Въедливый Цитата из Сообщения 1238 "...образованные интеллекты, должны быть оптимистами в предложениях вариантов будущего: байданутые безумцы уйдут, а гуманное человечество должно оставаться, в том числе с помощью оптимистичных творческих людей, вселяющих в нарождающиеся поколения светлые надежды на социально справедливую жизнь, и не на Небесах в неких духоносных сферах, а на Земле, в гуманном гармоничном обществе цивилизованных людей, развивающихся в общих трудах и в творчестве на основе индивидуальных талантов."
«Крёстный отец ИИ» ушёл из Google из-за этических проблем, связанных с ИИ
Учёный в области информатики Джеффри Хинтон (Geoffrey Hinton, на фото ниже), которого называют «крёстным отцом ИИ», в апреле покинул пост вице-президента Google. Он сделал это, чтобы открыто предупредить общественность о рисках, связанных с использованием ИИ, а также в связи с тем, что отказ Google от своих прежних ограничений в отношении публичных выпусков ИИ из-за конкуренции с ChatGPT, Bing Chat и т.д. влечёт за собой множество этических проблем.
Источник изображения: CBS
В интервью ресурсу The New York Times Хинтон выразил обеспокоенность тем, что генеративный ИИ может привести к волне дезинформации. Возможно, вы «больше не сможете знать, что является правдой», говорит учёный. Он также утверждает, что ИИ не только позволит устранить «монотонную работу», но и полностью заменит некоторые рабочие места. Также у учёного вызывает тревогу возможность создания полностью автономного оружия на базе ИИ, и тенденция ИИ-моделей учиться «странному поведению» на основе обучающих данных. Хотя некоторые из поднятых им вопросов носят чисто теоретический характер, Хинтон опасается эскалации, связанной с развёртыванием ИИ, которую будет невозможно остановить без эффективных средств контроля или жёстких ограничений. Хинтон заявил, что его позиция по отношению к ИИ начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы ИИ, порой превосходящие человеческий интеллект. В течение последних пяти лет ИИ получил стремительное развитие, и то, что может произойти в следующие пять лет, вызывает у учёного тревогу. Комментируя утверждения Хинтона, главный научный сотрудник Google Джефф Дин (Jeff Dean) сообщил ресурсу Engadget, что поисковый гигант по-прежнему придерживается «ответственного подхода» и следит за «возникающими рисками». Google приобрела стартап DNNresearch Джеффри Хинтона в 2013 году, и его наработки способствовали созданию генеративных технологии ИИ. В частности, Хинтон является одним из авторов метода обратного распространения ошибки для тренировки многослойной нейронной сети. Опасения Хинтона разделяет целый ряд влиятельных учёных и руководителей технологических фирм. Недавно Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали в открытом письме ввести полугодовой мораторий на обучение ИИ-систем в связи с необходимостью решения этических проблем и вопросов обеспечения безопасности.
The Morning After: The Godfather of AI leaves Google amid ethical concerns
Geoffrey Hinton is worried AI could eliminate jobs and spread misinformation....
Mark Blinch / reuters
От Въедливого: Поступок не только талантливого, но и ответственного перед планетарным обществом, человека вселяет оптимизм и надежду на этическое решение проблем развития цивилизации в пользу гуманного человечества. ёклмн&ёпрст
Сообщение отредактировал Въедливый - Вторник, 2023-05-02, 9:56 PM
•Новые сообщения ·
Правила
•Поиск•]
Традиции Галактического Ковчега тут!
.
.
.
..
