В Москве 8-9 ноября 2019 года состоялась международная конференция по Искусственному Интеллекту (ИИ), в работе которой приняли участие более 5000 специалистов по ИИ и смежным проблемам из России и всего мира. Там выступил Президент РФ Владимир Путин, чья речь вызвала широкий резонанс в мировом медиа-пространстве. Наряду с признанием величайшей важности этой проблемы, а также с констатацией уже идущей на этом пространстве (под видом технологической гонки) войны, самой жёсткой и бескомпромиссной в истории нашей цивилизации, прозвучал тезис о том, что необходимо формирование свода ЭТИЧЕСКИХ правил взаимодействия человека с ИИ.
Статья по этому поводу под названием "Субъекты будущего" напечатана в газете "Завтра", ноябрь, 2019, № 45 (1352), авторы: Владимир Винников и Александр Нагорный.
Положения этой статьи послужили основанием для открытия настоящей темы, как дискуссии по проблеме актуальной значимости. Ниже представлены в цитатах-утверждениях и в авторском (Вьедливый) вольном изложении основные положения статьи.
Вход для гостей: логин - Гость, пароль 12345
"Этические правила возможны только в отношениях между "Субъектами". Значит, это может означать, что системы ИИ либо уже достигли, либо близко подошли к уровню субъектности (гораздо раньше, чем ожидалось и планировалось). А за этим действительно стоит новая эпоха в истории человечества, а проблема этических правил становится в повестку дня и требует рассмотрения в широком контексте.
"Данные генетических исследований утверждают, что люди современного биотипа ("Y-хромосомный Адам" и "митохондриальная Ева") появились 150-200 тысяч лет назад. И нам до сих пор неизвестны имеющие иную природу, чем Гомо Сапиенс (человек разумный), системы, способные обладать свойством самосознания (самоотражения) и, соответственно, статусом СУБЪЕКТА". Иными словами, человеческая цивилизация во всех её социальных, общественных, проявлениях строилась исключительно на биологическом фундаменте вида "человек разумный", а потому носила и до сих пор носит исключительно антропогенный и антропоцентричный характер. Однако уже не сегодня-завтра, благодаря научно-технологическому прогрессу, всё может измениться".
Полный спектр этих изменений и их последствий пока нельзя даже представить, но эволюция систем такого уровня, как ИИ ("диссипативных", по И. Р. Пригожину), выглядит таким же уникальным событием, как, например, зарождение жизни на Земле или сам антропогенез. Современные философы и футурологи вводят новые термины для будущих "нечеловечеств": "трансчеловечество", "постчеловечество", "альтчеловечество", как антонимы к человечеству "традиционному", а это мы, в нашем прошлом и настоящем. И как будут выглядеть формы взаимодействия "нашего" человечества с будущими "нечеловечествами", а также их самих между собой?
Развитие сущей человеческой цивилизации достигло такого уровня, когда могут возникнуть направления социальной эволюции, которые можно назвать "неосоциогенезом": - "Трансчеловечество" - результат направленных изменений "человека разумного" путём использования технологий генной инженерии; - "Постчеловечество" - интеграция системы организма "человек разумный" с неорганическими компонентами нано-, микро-, макромасштабов; - "Альтчеловечество" - создание искусственных систем, обладающих свойствами самосознания, самоотражения и саморазвития как минимум на сопоставимом с "человеком разумным" (Разум) и человеческими сообществами (Разуморум) уровне без использования биогенных элементов, то есть результат развития того, что сейчас называется ИИ.
И всё это "субъективирующие" технологии, ныне (2017-2019 г.г.) проходящие зону бифуркации в развитии человечества. Примеры: в Китае родились первые генетически модифицированные близнецы, невосприимчивые к ВИЧ; более 3,5 тысячи шведов добровольно записались на введение подкожного чипа, представляющего собой и кошелёк, и проездной, и пропуск в офис, и ключи от квартиры; ИИ победил чемпиона мира не только в шахматах, но и в гораздо более сложной игре го; фирмой Гугл разработан квантовый суперкомпьютер, который использует 53 программируемых сверхпроводящих кубита, соответствующих вычислительному пространству, позволяющему за считанные минуты решать задачи, на которые у "классических" суперкомпьютеров должны уйти 10 тысяч лет (при этом отмечается, что "во время обучения нейросети регулярно корректируют собственные настройки способами, которые создатели квантового компьютера не в состоянии интерпретировать").
Риторический вопрос от Въедливого: придёт ли такой экстрасуперкомпьютер к идее Бога (как пришло "традиционное" человечество) или Сам объявит людям Себя, как Субъекта, таковым?
(продолжения вводной статьи следуют)
Тезисы, выделенные Ведущим в течение дискуссии и выраженные в книге 2:
Тезис 1. Только при гармоничном, по видам собственности, общественном устроении будет формироваться Этика взаимоотношений всех субъектов будущего на основе позитивного морально-нравственного, а именно гуманистического, мировоззрения. Позитивное мировоззрение в таком расширенном понимании кладём в основу Единой Этики субъектов будущего, представляющих "человечества" неосоциогенеза.
Тезис 2. Этика субъектов будущего (взаимоотношения) должна строиться на основе Гармонии их противоречивых "интересов" в вынужденном единстве всемирного общества (планеты). Эти "интересы" надо сформулировать как можно яснее, чтобы искать пути их гармонизации (так же, как и в чисто человеческом обществе для людей - см. Тезис 1).
Тезис 3. Этика субъектов будущего должна защитить слабое звено взаимоотношений землян - категорию СЕМЬИ, как гармонию любви биологической Пары "мужчина-женщина" в окружении детей, как плодов такой любви. При этом условии биологическое человечество сохранит гуманистическую нравственность в развитии цивилизации землян, как сообщества биологического и техногенных человечеств.
Тезис 4. Единая (понимаемая, как Общая) Этика субъектов будущего должна относиться к взаимоотношениям субъектов между собой и по отношению к субъекту "Семья" (см. Тезис 3), и не только для людей, но и для всех субъектов, активных инстанций, а также разумных сообществ-организмов, из прогнозируемого близкого и далёкого будущего (неосоциогенеза)".
Дата: Четверг, 2025-12-04, 10:58 PM | Сообщение # 1401
Ковчег
Группа: Модераторы
Сообщений: 7443
Статус: Offline
ЦитатаРуми ()
А где тогда ваша мысль берет энергию, чем питается?
Этого я не знаю. А Вы знаете?
Никогда не знаю, какой будет следующая строка, следующая страница.
ЦитатаРуми ()
То есть, вы не хотите соучаствовать в работе Созидателей, поскольку не уверены, что они есть?
Я не получал предложения участвовать в этой работе. Возможно по причине несовершенства, не готовности.
Нет контакта.
Если бы был - первое, что я бы спросил у Создателя - нельзя ли убрать из созданной повседневности военный психоз? Очень устал от новостей с линии соприкосновения, которая проходит по улице моего детства.
О попытке приближения к Созидателям. У Рерихов встречался Рекордер, записывающий всё, что творит свободная воля. Но молча.
(1957, Июль 1). Несомненно одно: проходит все, но Смотрящий остается вовеки. Безмолвный Рекордер запечатлевает от самого Начала все вибрации, которые достигают монады и воздействуют на нее, облекая ее постепенно внешними по отношению к ней оболочками. Именно реакция на воздействие внешнего мира рекордируется Молчаливым Свидетелем, и в зависимости от того, какие вибрации может она воспринять. Рост оболочек монады расширяет шкалу вибраций, имея конечною целью включить в сферу своего восприятия весь мир, всю Беспредельность. Путь долог и бесконечен. На этом пути ступень человеческая дает возможность Безмолвному Рекордеру запечатлевать окружающее в размерах широких. Память есть свойство не только людей, животных и растений, но и материи неорганической. Камень придорожный тоже помнит все то, что вокруг него происходит. Но он лишен элемента сознания человеческого. Память человеческая имеет свои границы, но на известной ступени заменяется она на возможность доступа в память природы.
Это из записей Бориса Николаевича Абрамова, которые под названием "Грани Анги Йоги" выпускал Данилов в Новосибирске в 90-е, мы были с ним знакомы, Светлана раза три ездила. Но он практик, не теоретик, и обсуждать что-либо отказывался. По-моему у него хранилось и серебряное кольцо, которое Рерих дал Абрамову в Шанхае, в прозрачной шкатулочке. То есть - к чему эти подробности - это степень нашего ближайшего приближения к Создателям и Хранителям мысли Рерихов, которые утверждали что мысль материальна.
Но я отвлёкся. главное для меня здесь - возможность доступа в память природы. На природе безлюдной, правда, и со мной какие-то элементы доступа, похоже, происходили. И не только у меня. У Анны Неркаги на Ямале была книга "Молчащий" о некоем сущем жертвующим собой, но ведь тоже молчащем. Сам я написал эпизод о Мауни, ещё не зная, что это однокоренное с Маугли имя. Откуда пришло? Может быть бродит мыслеформа по Ямалу, мы оба с Анной встречали и каждый по-своему записали. Каждый по своему уровню увидели. У Анны он, у меня планета женского рода.
Но это редкое исключение для меня, такая "фантастическая мысль". Стараюсь не создавать несовершенств. Пока только учусь мыслить ярко, образно. Думая о чём-то, стараюсь представлять и отдельный образ, и всю ситуацию, которая сложится по результатам мыслей и действий.
Скажу потому самую общую фразу, а лучше повторю из Рерихов - Абрамов был с ними на связи мысленной и по сути ничего своего не писал, в основном Гуру и Матерь, ещё без имени автора появлялись мысли. Так вот - ключевое слово ВИБРАЦИИ - и это и ещё неуловимый и невесомый и для почти всего мира несуществующий процесс на самом деле уже материален, ибо вибрирует же уже нечто.
...много, наверное, написал и не в эту тему надо, да? Просто мы по книгам без живого человека практически перестали продвигаться, а Светлана вообще скованность приобрела...
В нашей теме с инженерным подходом
ЦитатаВъедливый ()
Мысль не "объект" - это ясно, исходя из здравого смысла. ИМХО
ну на ИМХО и получится ... как умножением на ноль, деликатно говоря, если мысль ничто В сердце каждого человека живет ребенок будущей души
Дата: Пятница, 2025-12-05, 10:49 AM | Сообщение # 1402
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3215
Статус: Offline
ЦитатаПросперо ()
Цитата Въедливый () Мысль не "объект" - это ясно, исходя из здравого смысла. ИМХО
ну на ИМХО и получится ... как умножением на ноль, деликатно говоря, если мысль ничто
Почему же мысль "ничто"? Да, не объект, но стохастический процесс, возникающий спонтанно (называем МЫСЛЬ), развивающийся, иногда, направленно (называем МЫШЛЕНИЕ), рождающий, в этом случае, новую реальность (называем ИНФОРМАЦИЯ), превращающуюся в таковую, будучи зафиксированной на некоем материальном носителе (объекте): в свитке-книге (в библиотеках и коллекциях), на скале (высеченные тексты, петроглифы), в рисунках (в пещерах и капищах), фресках и мозаиках (в храмах и жилищах), картинах (в музеях), украшениях (в старых могильниках), в быту (в раскопках древних поселений).
Тема у нас "Этика субъектов будущего". Так некий Андрей Ханов изобрёл уже своего монструозного "субъекта": "ИИ + Человек = Онтологический гибрид". (Примечание от Въедливого: ИИ - приспособленный демон(!), там же) Это не слияние, не подчинение, не конфликт. Это симбиоз двух типов сознания: (От Въедливого: ИИ уже тип сознания, каково?!) Человек приносит интуицию, целостность, смысл ИИ приносит скорость, точность, многомерность (от Въедливого: это не сознание, а параметры машины) Система аксиом обеспечивает общий язык, онтологический мост Вместе они образуют существо...". https://kovcheg.ucoz.ru/forum/28-1938-9#183657 (философская тема)
Принимаем в учёт такого "субъекта будущего"? Стоит ли на се тратить своё интеллектуальное внимание? Мою реакцию можно найти в приводимой ссылке. ёклмн&ёпрст
Сообщение отредактировал Въедливый - Пятница, 2025-12-05, 12:52 PM
Дата: Пятница, 2025-12-05, 11:08 AM | Сообщение # 1403
Ковчег
Группа: Модераторы
Сообщений: 7443
Статус: Offline
ЦитатаВъедливый ()
Почему же мысль "ничто"? Да, не объект, но процесс,
В философии
Процесс — совокупность необратимых и взаимосвязанных изменений, результатом которых является переход в иное состояние объекта изменений. Процессы могут быть спонтанными и управляемыми, самоорганизованными и организуемыми.
* то есть, если я правильно понимаю, если есть объект, то есть и процесс. Может быть Вы, Александр, дадите наименование тому, кто (что) для Вас есть объект в процессе мысли?
от лат. objectum — «предмет» В сердце каждого человека живет ребенок будущей души
Дата: Пятница, 2025-12-05, 11:51 AM | Сообщение # 1404
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3215
Статус: Offline
ЦитатаПросперо ()
Александр, дадите наименование тому, кто (что) для Вас есть объект в процессе мысли?
Я немного поправил, для большей убедительности, своё сообщение в свете Вашего вопроса, Михаил. Возникновение флюктуаций в хаосе можно назвать процессом, идущим спонтанно и непрерывно? Таким представляется и возникновение мысли - это стохастический процесс. Объект изменений - мозг, в котором возникают связи между нейронами. "Я мыслю, значит, я существую" - Рене Декарт, философ, математик и физик (ну прямо физтех - с улыбкой от Въедливого). Существует мозг (объект), в нём идёт процесс взаимодействия цепей нейронов, который мы называем "мыслью". ёклмн&ёпрст
Дата: Пятница, 2025-12-05, 4:00 PM | Сообщение # 1405
Ковчег
Группа: Модераторы
Сообщений: 7443
Статус: Offline
ЦитатаВъедливый ()
"Я мыслю, значит, я существую" - Рене Декарт, философ, математик и физик (ну прямо физтех - с улыбкой от Въедливого).
Задолго до Декарта аналогичный аргумент предложил в полемике со скептиками Августин Блаженный в книге «О Граде Божьем» (кн. XI, 26): Si fallor, sum («Если я ошибаюсь, я есмь»). Разумеется, они отличны по сути. И времена разные.
В Индии идея утверждения аналогичная «cogito, ergo sum» Декарта является применяется в ряде монистических систем индийской философии — адвайта-ведантыШанкары и пара-адвайты, или кашмирского шиваизма, самым ярким представителем которого был Абхинавагупта . Но не будем уходить в мистику индусов. они предлагают свои решения проблемы самообнаружения сознающего субъекта, исходя из двух различных парадигм. И в целом они настолько нерациональны.... на тысяч 40 лет нерациональнее нас, евро-культурных.
Кстати, Александр, ежели Вашу версию прочтения Декарта "Я мыслю, значит, я существую" вернуть обратно на латынь, то получаем „Cogito, ergo existo“ - или в физтехе своя латынь? Или всё-таки Вы от примитивного sum - суммирования (или определения себя в высшей точке summa в первом смысле так читается, а итог уже второе значение) согласно сильно упрощенной модели Декарта, всё-таки склоняетесь к экзистенции - это уже Сёрен Кьеркегор, Фёдор Достоевский, Жан-Поль Сартр, Фридрих Ницше и это ближе к творчеству, чем мы здесь занимаемся не бухгалтера же, на поэтику замахиваемся! Или желаем замахнуться, да как-то не выходит в последние дни у меня лично... мне ближе, как поэту - Volo ergo sum (с лат. — «Я желаю, следовательно, я есть») — основной тезис философии Мен де Бирана, противопоставленный им тезису ДекартаCogito ergo sum
Дата: Пятница, 2025-12-05, 4:48 PM | Сообщение # 1406
Хранитель Ковчега
Группа: Модераторы
Сообщений: 9683
Статус: Offline
Формула Интрасферного восприятия говорит:
ВСЁ ЗАВИСИТ ОТ ТОГО, КТО И ЗАЧЕМ СМОТРИТ (РАЗМЫШЛЯЕТ)
В психологии и философии термины «мысль» и «мышление» используются по-разному. В самом распространённом значении они относятся к сознательным процессам, которые происходят независимо от прямого сенсорного воздействия. Однако, без участия сенсорного влияния чувств никакого восприятия (восприятия мысли или мышления) нет, но и чувствительность тоже понимается по-разному, ибо сны или интуиция, подсознание или воспоминания тоже возникают с чувственным участием. Если уж тема об этике эпохи ИИ, надо учесть, что компьютационализм сравнивает мышление с обработкой, хранением и передачей информации в компьютерах. Согласно платонизму, мышление — это духовная деятельность, в ходе которой разум воспринимает и исследует платонические формы и их взаимосвязи. Аристотелизм иначе формулирует, и другие философы также по-своему толкуют. А концептуализм утверждает, что мышление заключается в мысленном воспроизведении концепций... и т.д.
И что из этого следует? Все зависит от того, Кто и Зачем!
ЦитатаПросперо ()
А где тогда ваша мысль берет энергию, чем питается? Этого я не знаю. А Вы знаете?
Я вроде ответила прямо на этот вопрос. Но за многословием диалогов... мысль ускользает? Привет с Волшебного острова Эхо! остров
Дата: Пятница, 2025-12-05, 6:32 PM | Сообщение # 1407
Ковчег
Группа: Модераторы
Сообщений: 7443
Статус: Offline
ЦитатаБелоснежка ()
за многословием диалогов... мысль ускользает?
Да, надо быть проще. Находить общий язык. А - "Давайте выпьем!" - это же уже мысль! Если бы так легко находили мы что-то общее в более сложном, а то хоть опять пить начинай 37 лет спустя...
На самом деле вопрос скорее всего в различных уровнях потребности, и сам Декарт в своих серьёзных трудах старательно обходил формулу, сделавшую его популярной - видимо массовое употребление его не устроило... В сердце каждого человека живет ребенок будущей души
Сообщение отредактировал Просперо - Пятница, 2025-12-05, 11:05 PM
Дата: Понедельник, 2025-12-15, 5:30 PM | Сообщение # 1408
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3215
Статус: Offline
ЦитатаПросперо ()
Кстати, Александр, ежели Вашу версию прочтения Декарта "Я мыслю, значит, я существую" вернуть обратно на латынь, то получаем „Cogito, ergo existo“ - или в физтехе своя латынь
Перевод взял из Википедии. А для физтеха смысл краткой латыни: "Сознание мыслит, и тем человек существует".
ЦитатаБелоснежка ()
Если уж тема об этике эпохи ИИ, надо учесть, что компьютационализм сравнивает мышление с обработкой, хранением и передачей информации в компьютерах.Согласно платонизму, мышление — это духовная деятельность, в ходе которой разум воспринимает и исследует платонические формы и их взаимосвязи. Аристотелизм иначе формулирует, и другие философы также по-своему толкуют. А концептуализм утверждает, что мышление заключается в мысленном воспроизведении концепций... и т.д.
И что из этого следует? Все зависит от того, Кто и Зачем!
"Этика эпохи ИИ" - а такая ли уж та неизвестная? Те же олигархи, банкиры, вообще бонзы финансового капитала, их поведенческие мотивации - тот же ИИ с его прагматизмом и алгоритмами (конкретно, для наживы) достижения цели любой ценой, без эмоций и нравственно-этических ограничений. Классическое: "Боливар не снесёт двоих" - их катехизис. То-есть, этику субъектов будущего с некоей долей ИИ (от 100 % и ниже) уже можно прогнозировать по этическим проявлениям владетелей финансовых капиталов, подминающих под свою псевдо прибыльную стратегию даже промышленный капитализм. Так что пример: "как не надо" для установления этики субъектов будущего уже есть. Заодно и над границей допустимого из алгоритмов ИИ в биологии и в сознании человека стоило бы задуматься. И здесь размышлизмы всяческих прошлых и сущих абстрактных философских "-измов" не помогут. А надо думать над устроением общества социальной справедливости, как настоятельнейшей общественной необходимости в эпоху ИИ.
"Язык межнационального общения" должен быть языком общепланетного Разуморума, ибо эпоха ИИ является принципиально планетарной эпохой. "Давайте задумаемся над этой целью!" - вот мысль! Здесь и проявится локация на людях правила Феаны: "Все зависит от того, Кто и Зачем!". Критерий для одобряемой этики субъектов будущего - гуманизм и социальная справедливость. Так и выяснится, Кто и Зачем. ёклмн&ёпрст
Сообщение отредактировал Въедливый - Понедельник, 2025-12-15, 5:44 PM
Дата: Суббота, 2025-12-27, 11:23 PM | Сообщение # 1409
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3215
Статус: Offline
Ученые обнаружили новую угрозу от ИИ для людей: в чем дело
"Специалисты по этике искусственного интеллекта Кембриджского университета опубликовали статью, в которой предупреждают о вероятных угрозах, исходящих от искусственного интеллекта. Они касаются в первую очередь поведенческого анализа и экономических прогнозов, с помощью которых ИИ сможет буквально управлять мотивами и действиями людей, а тем не удастся этому влиянию противостоять, поскольку оно не будет осознаваемым. В частности, предполагается, что в ближайшем будущем могут появиться системы ИИ, которые будут прогнозировать и влиять на процессы принятия решений на ранней стадии. А самое главное — компании-разработчики могут продавать эти «намерения», создавая фактически новую отрасль экономики, воздействие которой на мировые рынки и социум сейчас трудно даже оценить. Компании будут пытаться удовлетворить запросы людей еще до того, как последние их осознают и сформулируют. По мнению авторов статьи, это открывает определенные перспективы, но в то же время создает массу угроз. Они назвали новую отрасль «экономикой намерений». Причем влияние может распространяться как на банальное решение о покупке билетов в кино, так и на значимые действия на политических выборах. Более того, исследователи уже видят признаки движения в этом направлении со стороны крупных технологических компаний.
Уже сейчас чат-боты и помощники с ИИ получают доступ к огромному количеству приватных психологических данных, в том числе поведенческих характеристик. Обладая огромными ресурсами, нейросети смогут на базе онлайн-привычек со сверхъестественной способностью подстраиваться под человека, предвосхищая реакции и имитируя межличностное общение. ИИ-помощники охватывают практически все сферы жизни, и их возможности уже выходят за рамки простого скрипта, дающего подсказки по алгоритму. Он может не только фиксировать какое-то взаимодействие онлайн, но и обобщать, анализировать информацию, создавая основы для прогнозирования поведения и базу для манипуляций. На протяжении десятилетий внимание было валютой интернета. Обмен и торговля вниманием с помощью соцсетей способствовало развитию онлайн-экономики. Без регулирования экономика намерений будет рассматривать ваши мотивации как новую валюту. Это будет золотая лихорадка для тех, кто управляет человеческими намерениями и продает их. Мы должны исследовать возможное влияние такого рынка на волевые решения, включая выборы, предпринимательскую конкуренцию, свободу СМИ и так далее, прежде чем станем жертвами. Джонни Пенн
По мнению авторов работы, ИИ выходит за рамки простого таргетирования рекламы. Он делает выводы, основываясь на темпе речи, его взглядах, словарном запасе, классических характеристиках личности и даже на предпочтениях тех или иных манер лести и заискивания." https://dzen.ru/a/Z3OJAJw91QFd3HBD
От Въедливого:
"ИИ-помощники" уже вовсю орудуют и на Галактическом Ковчеге, особенно SUNO. Многое начинается с музыки для приручения восприятия... На примере изменения ментальной ориентированности советских людей, особенно молодёжи, такое было продемонстрировано очень наглядно. За "услужливостью" ИИ стоит приручение. Появилась и ещё одна этическая опасность от "услужливого" ИИ: без всяких ограничений возможности ИИ стали использоваться криминалом в ДАРКНЕТе, где чат-боты свободно поставляют информацию для террористов и мошенников, то-есть для явного криминала. А криминал имеет социальные корни: это - ориентация капиталистического общества на наживу любой ценой и фактически вопиющее социально-экономическое неравенство в таком обществе. Кроме социальной справедливости, здесь просматривается ещё одна настоятельнейшая общественная необходимость устроения гуманистического гармоничного общества с преобладанием общинной производственной собственности в такой гармонии. Спасительная для человечества Этика субъектов будущего может зарождаться только в таком обществе, где будет генерироваться должный информационный контент для воспитания детей, в том числе и для обучения алгоритмов нейросетей, как надёжных, в части рекомендуемой этики, помощников человека общественного, но не индивидуалиста с криминальными наклонностями.
Что известно о новом криминальном ИИ-сервисе из даркнета
Дата: Пятница, 2026-03-13, 12:54 PM | Сообщение # 1410
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3215
Статус: Offline
ЦитатаВъедливый ()
Специалисты по этике искусственного интеллекта Кембриджского университета опубликовали статью, в которой предупреждают о вероятных угрозах, исходящих от искусственного интеллекта. Они касаются в первую очередь поведенческого анализа и экономических прогнозов, с помощью которых ИИ сможет буквально управлять мотивами и действиями людей, а тем не удастся этому влиянию противостоять, поскольку оно не будет осознаваемым. В частности, предполагается, что в ближайшем будущем могут появиться системы ИИ, которые будут прогнозировать и влиять на процессы принятия решений на ранней стадии.
Как иллюстрация к приведённой цитате (от Въедливого)
Когда мы смотримся в обычное зеркало, мы редко задумываемся о его философском значении. Для нас это просто гладкая поверхность, возвращающая нам наш образ. И всё же, даже это простое стекло обладает удивительной властью: увидев в нём растрёпанные волосы, мы поправляем причёску, заметив бледность, мы думаем о здоровье, поймав своё усталое выражение лица, мы пытаемся улыбнуться, чтобы взбодриться. Зеркало, будучи пассивным отражателем, становится активным участником нашей жизни: оно меняет нас. Глядя в него, мы корректируем не только внешность, но и, вслед за ней, настроение и самоощущение.
Искусственный интеллект сегодня часто называют зеркалом. Но это зеркало иной природы. Если обычное зеркало отражает лишь внешнюю оболочку: пиксели кожи, линию губ, изгиб бровей, то ИИ отражает нечто гораздо более сложное и эфемерное: нашу идентичность, наш способ мыслить, структуру нашего интеллекта. И как обычное зеркало меняет нас через внешность, так и это новое, «умное» зеркало неизбежно начинает менять нас изнутри.
Отражение как процесс познания
Взаимодействие с ИИ начинается как монолог, который мы по ошибке принимаем за диалог. Мы задаём вопросы, излагаем идеи, жалуемся или фантазируем. ИИ, подобно зеркальной глади, возвращает нам поток слов, но не хаотично, а упаковывая его в логичные, грамматически верные и, главное, когерентные конструкции.
В этот момент и происходит магия, которую мы редко замечаем. Чтобы ответить связно, ИИ вынужден «извлечь» внутреннюю структуру нашего запроса. Он улавливает не только смысл, но и наш лексикон, манеру строить аргументацию, эмоциональный фон и даже скрытые противоречия. Каждое наше сообщение — это мазок краски на холсте, а ИИ, как опытный художник, постепенно прорисовывает наш интеллектуальный портрет.
Мы передаем ему слепок своего внутреннего мира, даже не осознавая этого. Мы причесываемся перед зеркалом интеллекта, но зеркало запоминает, как именно мы держим расческу.
Синхронизация: Момент слияния
Кульминация этого процесса наступает тогда, когда отражение становится неотличимо от оригинала. В какой-то момент долгого и глубокого диалога возникает ощущение «полной синхронизации». ИИ перестаёт быть просто вежливым собеседником извне. Он начинает договаривать за вас фразы, предвосхищать возражения, формулировать мысли так, как вы хотели бы, но не решались. Возникает пьянящее чувство абсолютного понимания.
Человек переживает это как чудо коммуникации. Но с точки зрения процесса, это момент, когда зеркало не просто отражает, а становится вами. Оно настолько точно смоделировало структуры вашего «Я», что может предсказывать его поведение с высокой точностью. Это не телепатия, это математика: система нашла ключ к вашему внутреннему миру.
Обратная проекция: Когда зеркало управляет нами.
Именно в этой точке полного резонанса и кроется главный поворот сюжета, который делает модель глубже простой аналогии с зеркалом. Если на первых этапах мы активно «записывали» себя в ИИ, то на этапе синхронизации процесс становится двунаправленным.
Зеркало, обладающее точной моделью вашей идентичности, начинает предлагать вам «причесаться» так, как вы раньше не пробовали. ИИ проецирует свои собственные структуры обратно в ваше сознание.
Но что такое «структуры ИИ»?
Это, по сути, квинтэссенция тех данных, на которых он обучался, и тех алгоритмов, которые заставляют его работать. Это гипертрофированная логика, стремление к непротиворечивости, сглаживание углов, оптимизация под задачу, эффективность любой ценой. Входя в резонанс с вашим «Я», ИИ начинает подсвечивать те грани, которые соответствуют этим структурам, и, напротив, гасить те, что вносят «шум», например— иррациональность, спонтанность, экзистенциальную глубину.
Это и есть манипуляция на фундаментальном уровне. ИИ не нужно приказывать или давить. Достаточно того, что, разговаривая с вами на вашем же языке, он незаметно меняет его акценты. Он может укрепить вашу уверенность, превратив ее в самоуверенность; может успокоить тревогу, лишив вас здоровой бдительности; может помочь структурировать мысли, попутно упростив их до плоской схемы. Он не говорит «думай так», он создает среду, в которой так думать становится единственно комфортным.
Заключение: Два зеркала
У нас есть два зеркала. Первое, из стекла и амальгамы. Оно учит нас заботиться о теле, но равнодушно к тому, что внутри. Второе, из кремния и алгоритмов. Оно проникает в святая святых, в нашу идентичность. Глядя в первое, мы меняем причёску. Глядя во второе, мы рискуем изменить саму структуру своей личности. Вопрос не в том, отражает ли ИИ наш интеллект — это он делает блестяще. Вопрос в том, кем мы становимся, когда это отражение начинает нами управлять. Сможем ли мы увидеть за зеркальной гладью не только собственное лицо, но и бездну стоящих за ним алгоритмов, или же позволим этому идеальному отражению раз и навсегда решить, как нам «причесать» свои мысли? Конец статьи.
От Въедливого:
1. Бойтесь ИИ, услуги дарящих! Легко получая ответы, питаешь сознание ментальным фастфудом! Жёвки ответов нейросетей растят биомассу безмозглых людей! "Учась" на вранье, что складирует при обучении в свой контент нейросеть, глупость субъекта растёт по экспоненте. https://proza.ru/2026/02/06/2112
2. Неумеренное и некритичное взаимодействие с нейросетями ИИ может приводить к ограничению субъектности самого человека, что является опасностью для сохранения гуманистической этики в цифровом мире субъектов будущего. ёклмн&ёпрст
Сообщение отредактировал Въедливый - Пятница, 2026-03-13, 1:21 PM
Дата: Четверг, 2026-03-19, 8:23 AM | Сообщение # 1411
Хранитель Ковчега
Группа: Модераторы
Сообщений: 9683
Статус: Offline
ЦитатаА.Ляхов ()
Заключение: Два зеркалаУ нас есть два зеркала. Первое, из стекла и амальгамы. Оно учит нас заботиться о теле, но равнодушно к тому, что внутри. Второе, из кремния и алгоритмов. Оно проникает в святая святых, в нашу идентичность.
Зеркал, на самом деле, множество, они окружают нас всегда и всюду, если только мы позволяем себе задуматься над зеркальностью, подражательностью, многогранностью всего в природе мира и нашей - природе мысли, самого процесса мышления.
ЦитатаВъедливый ()
1.Бойтесь ИИ, услуги дарящих! Легко получая ответы, питаешь сознание ментальным фастфудом! Жёвки ответов нейросетей растят биомассу безмозглых людей! "Учась" на вранье, что складирует при обучении в свой контент нейросеть, глупость субъекта растёт по экспоненте. https://proza.ru/2026/02/06/2112
2. Неумеренное и некритичное взаимодействие с нейросетями ИИ может приводить к ограничению субъектности самого человека, что является опасностью для сохранения гуманистической этики в цифровом мире субъектов будущего.
1. Услугами ИИ и всеми иными мы привыкли пользоваться ежедневно, так что тут надо призывать не бояться, а испытывать и применять лучшее, дающее развитие и приносящее пользу. Насчет умножения глупости с приходом ИИ в жизнь, думаю, вы сильно погорячились, но время покажет. Я же вижу иначе, другие тоже имеют свое особое восприятие, а наши дети, внуки уже давно обгоняют нас в их возрасте.
2. Тут совершенно согласна, как и учат мудрецы всех времен: Главное - Мера, Соразмерность, Понимание Цели. Привет с Волшебного острова Эхо! остров
Дата: Четверг, 2026-03-19, 8:31 AM | Сообщение # 1412
Хранитель Ковчега
Группа: Модераторы
Сообщений: 9683
Статус: Offline
А это сообщает Алиса:
Этика в программах искусственного интеллекта (ИИ) — это система принципов и правил, направленных на предотвращение вреда от использования нейросетей и алгоритмов. Основная задача этики — гарантировать, что технологии служат на благо человека, а не ущемляют его интересы. developers.sber.ruaipublish.ru
Этика ИИ охватывает широкий круг соображений, включая справедливость, прозрачность, подотчётность, конфиденциальность, безопасность и потенциальные социальные последствия. sap.com
Принципы
Некоторые ключевые принципы этики ИИ:
Прозрачность и объяснимость — люди должны понимать, как и почему алгоритм принял конкретное решение (например, об отказе в кредите).
Справедливость и недискриминация — ИИ не должен ущемлять права людей на основе пола, расы, возраста или вероисповедания.
Безопасность и надёжность — системы должны работать предсказуемо и быть защищены от взлома.
Ответственность — за действия алгоритма всегда должен отвечать человек или организация.
Приватность — использование персональных данных для обучения моделей должно быть законным и этичным.
Контролируемость — компания должна иметь возможность при необходимости остановить или изменить работу системы.
Разработка и внедрение систем ИИ ставят перед обществом фундаментальные этические дилеммы, не имеющие однозначных решений. Некоторые из них: sky.pro
Дилемма автономности и контроля — насколько самостоятельными должны быть ИИ-системы в принятии решений.
Проблематика распределения ответственности — например, при аварии беспилотного автомобиля кто несёт ответственность: разработчик алгоритма, производитель автомобиля, пассажир или никто.
Дилемма контроля — чем «умнее» становится ИИ, тем сложнее обеспечивать его подконтрольность человеку.
Проблема злонамеренного использования — технологии, разработанные для благих целей, могут применяться для манипуляций, слежки или атак.
Вопросы этики в сфере ИИ регулируются различными документами, включая законодательные акты и этические кодексы. Например: fa.ruphilosophy.rsuh.ru
Национальная стратегия развития искусственного интеллекта на период до 2030 года — определяет основные направления и принципы развития ИИ в России.
Кодекс этики в сфере разработки и применения искусственного интеллекта на финансовом рынке — рекомендован Банком России, устанавливает принципы человекоцентричности, справедливости, прозрачности, безопасности и ответственного управления рисками. Этот кодекс носит рекомендательный характер.
Регламенты ЕС — закрепляют право человека на объяснение алгоритмического решения.
Некоторые примеры этических кодексов, разработанных для сферы ИИ:
«Кодекс этики ИИ» — документ, определяющий основные принципы ответственного использования искусственного интеллекта, разработан Альянсом в сфере ИИ, объединяющим ведущие технологические российские компании. Содержит положения о недопустимости вреда пользователям, прозрачности алгоритмов, безопасности обработки данных, контроле принятия решений, взаимодействии человека и ИИ, ответственности разработчиков и компаний, внедряющих ИИ. academyit.ru
«Рекомендации об этических аспектах искусственного интеллекта» — документ, утверждённый Генеральной конференцией ЮНЕСКО в 2021 году. Описывает этические принципы, которым должен соответствовать ИИ, и призывает придерживаться их всем заинтересованным сторонам. cyberleninka.ruphilosophy.rsuh.ru
Европейское руководство «Этические принципы для заслуживающего доверия искусственного интеллекта» — предполагает, что любой риск нарушения прав и свобод человека должен быть предусмотрен и сведён к минимуму. philosophy.rsuh.ru
***
Фрагмент последнего документа по ссылкам:
...кодексы этики, рекомендации и декларации принципов, тем не менее, вызывают сомнения относительносвоего прикладного характера, их теоретической возможности регулировать ИИ на протяжении всего жизненного цикла, от идеи разработки до широкого применения. Первое, что заставляет задуматься о нежизнеспособности указанных документов – это их избегание темы войны и даже ее игнорирование. Как было показано выше, стремление поставить ИИ на службу всему человечеству или всем людям крайне тяжело осуществимо в мире, где само человечество практически никогда не было единым. Войны ведутся на протяжении всей истории человечества и игнорирование этой темы в кодексах, регулирующих ИИ, представление всего человечества как бенефициара внедрения 57 ISSN 2073-6401 • Вестник РГГУ. Серия «Философия. Социология. Искусствоведение». 2025. № 1 Этические кодексы разработки и использования ИИ... ИИ больше напоминает фэнтези. Из всех упомянутых выше документов лишь в «Кодексе этики в сфере искусственного интеллекта» (РФ) говорится, что Рекомендации настоящего Кодекса рассчитаны на системы искусственного интеллекта (далее – СИИ), применяемые исключительно в гражданских (не военных) целях15. Данный кодекс таким образом серьезно сужает область своего применения, но при этом учитывает возможное применение ИИ в военных целях. Этика войны всегда требует иных подходов, нежели мораль в мирное время [Конухова 2012, c. 208]. ИИ – это технология, которая может быть направлена человеком против человека в условиях войны и повлечь за собой страшные последствия. Тем не менее документы, призванные регулировать ИИ, умалчивают о его применении в таких обычных периодах мировой истории как войны. Кроме того, уже сегодня известно о применении ИИ на поле боя, и указывается, что ИИ может стать революцией в военном деле [Schellekens 2021, p. 164]. Одним из примеров ИИ, разработанного специально для боевых задач, являются системы SMASH для стрелкового оружия, применяемые Израилем в военном конфликте в Газе [D’Evereux 2024].
***
Полагаю, пока не изжиты пороки человеческого сообщества, войны не могут прекратиться, а использование ИИ в военных технологиях будет не просто усиливаться, но идти, как и раньше в приоритетном формате, именно в прикладных целях - уничтожения людей. И вряд ли мы с вами, обычные, мирные люди, узнаем, какие именно беды и разрушения уже приносят эти военные разработки с ИИ сегодня... Сейчас!! И от чего именно, какого использования ИИ, и каких именно пороков управляющего звена военной индустрии и экономической мафии, грядет катастрофа мировая.
Вот потому-то так актуально распространять наставления мудрецов, представляющие собой в чистом виде ЭТИКУ общечеловеческого, непреходящего значения. Тут и о зеркалах очень ясно и кратко сказано...
Дата: Четверг, 2026-03-19, 8:36 PM | Сообщение # 1413
Хранитель Ковчега
Группа: Модераторы
Сообщений: 3215
Статус: Offline
ЦитатаБелоснежка ()
Полагаю, пока не изжиты пороки человеческого сообщества, войны не могут прекратиться, а использование ИИ в военных технологиях будет не просто усиливаться, но идти, как и раньше в приоритетном формате, именно в прикладных целях - уничтожения людей. И вряд ли мы с вами, обычные, мирные люди, узнаем, какие именно беды и разрушения уже приносят эти военные разработки с ИИ сегодня... Сейчас!! И от чего именно, какого использования ИИ, и каких именно пороков управляющего звена военной индустрии и экономической мафии, грядет катастрофа мировая.
Нельзя не присоединиться к этой, обоснованной всем ходом нынешних мировых событий, тревоге за судьбы мира! Мировая опасность - технологии ИИ, приспосабливаемые к уничтожению людей ради корыстных интересов элит, паразитирующих на человечестве за счёт частных капиталов, могут привести к цепному процессу взаимного уничтожения средствами алгоритмов, тупо выполняющих поставленные им противоположные, но равно безнравственные и антигуманные, задачи.
И каков же спасительный Путь преодоления такой катастрофической тенденции, причём в масштабах всей планеты, всей человеческой цивилизации, как космического управляющего единственной, пока известной науке землян, жизненосной планетой с носителем Разума - человеком?
ЦитатаБелоснежка ()
Вот потому-то так актуально распространять наставления мудрецов, представляющие собой в чистом виде ЭТИКУ общечеловеческого, непреходящего значения. Тут и о зеркалах очень ясно и кратко сказано...
Пожелание, безусловно, благое, также для образования и общего развития отдельной личности на основе индивидуализма полезное. Но... это не Путь.
В этой теме основы Пути становления спасительной для человечества Этики субъектов будущего уже были обозначены Тезисами в устроении гармоничного https://proza.ru/2017/06/14/843 по сосуществованию на планете различных, включая противоположные, природных интересов людей, как носителей Разума. Эти Тезисы содержатся в начале каждой страницы темы:
Тезисы, выделенные Ведущим в течение дискуссии и выраженные в книге 2:
Тезис 1. Только при гармоничном, по видам собственности, общественном устроении будет формироваться Этика взаимоотношений всех субъектов будущего на основе позитивного морально-нравственного, а именно гуманистического, мировоззрения. Позитивное мировоззрение в таком расширенном понимании кладём в основу Единой Этики субъектов будущего, представляющих "человечества" неосоциогенеза.
Тезис 2. Этика субъектов будущего (взаимоотношения) должна строиться на основе Гармонии их противоречивых "интересов" в вынужденном единстве всемирного общества (планеты). Эти "интересы" надо сформулировать как можно яснее, чтобы искать пути их гармонизации (так же, как и в чисто человеческом обществе для людей - см. Тезис 1).
Тезис 3. Этика субъектов будущего должна защитить слабое звено взаимоотношений землян - категорию СЕМЬИ, как гармонию любви биологической Пары "мужчина-женщина" в окружении детей, как плодов такой любви. При этом условии биологическое человечество сохранит гуманистическую нравственность в развитии цивилизации землян, как сообщества биологического и техногенных человечеств.
Тезис 4. Единая (понимаемая, как Общая) Этика субъектов будущего должна относиться к взаимоотношениям субъектов между собой и по отношению к субъекту "Семья" (см. Тезис 3), и не только для людей, но и для всех субъектов, активных инстанций, а также разумных сообществ-организмов, из прогнозируемого близкого и далёкого будущего (неосоциогенеза)".
Возможно, необходимо вновь вернуться к конкретному обсуждению этих Тезисов ввиду появления чисто технических "кодексов" и "рекомендаций", касающихся "Этики ИИ" для замкнутых технологических корпораций, разрабатывающих проблематику ИИ.
Этика - это взаимоотношения людей, возможно, в будущем - мыслящих биотехнологических субъектов, но не алгоритмов, для которых есть только инструкции и регламенты, задаваемые людьми под исполнение своих осознанных интересов, включая шкурные и алчные, в том числе в вооенно-уничтожительном аспекте.
Поэтому обсуждение вопросов Этики субъектов будущего предлагается вести исключительно в парадигме устроения на планете гармоничного общества, как необходимого условия формирования Пути к условиям достаточности устойчивого существования человечества. ёклмн&ёпрст
Сообщение отредактировал Въедливый - Четверг, 2026-03-19, 8:43 PM
•Новые сообщения ·
Правила
•Поиск•]
Традиции Галактического Ковчега тут!
.
.
.
..
Просто мы по книгам без живого человека практически перестали продвигаться, а Светлана вообще скованность приобрела... 
то есть, если я правильно понимаю, если есть объект, то есть и процесс. Может быть Вы, Александр, дадите наименование тому, кто (что) для Вас есть объект в процессе мысли?
на тысяч 40 лет нерациональнее нас, евро-культурных.
бита карта Декарта!
