ИИ-система «Евангелие» вызывает беспокойство
Пожалуйста, зарегистрируйтесь или авторизуйтесь для просмотра содержимого данного поста.
Сохраняй посты, комментируй и ставь оценки
Пожалуйста, зарегистрируйтесь или авторизуйтесь для просмотра содержимого данного поста.
Ио — один из четырех крупнейших спутников Юпитера со средним диаметром 3 643 километра и самое вулканически активное тело в Солнечной системе.
Этот удивительный мир размером чуть больше нашей Луны (диаметр 3 475 километров) буквально трещит по швам под воздействием приливных сил со стороны газового гиганта. На Ио не менее 400 действующих вулканов, выбрасывающих серу, диоксид серы и расплавленные породы на высоту до 300 километров!
Изучение этого огненного мира сопряжено с серьезными рисками для дорогостоящих космических аппаратов. Связано это с тем, что орбита Ио проходит через мощнейшие радиационные пояса Юпитера — области захваченных магнитным полем заряженных частиц. Каждый зонд, приближающийся к Ио, рискует полностью выйти из строя. Несмотря на эти опасности, ученым удалось получить уникальные снимки и собрать бесценные данные.
Я предлагаю вашему вниманию одни из самых впечатляющих фотографий этого инопланетного ада.
Извержение вулкана на краю диска Ио, запечатленное зондом NASA "Галилео" в июне 1997 года. Это был первый случай прямого наблюдения внеземной вулканической активности в таких деталях.

Полученное изображение стало визуальным доказательством невероятной мощи геологических процессов, протекающих на самом активном теле в Солнечной системе.
Этот кадр — мимолетный взгляд на Ио с помощью камеры космического аппарата NASA "Новые горизонты", который 1 марта 2007 года пролетал мимо системы Юпитера по пути к Плутону.

В момент фотосъемки произошел гигантский выброс вулкана Тваштар (лат. Tvashtar). С данного ракурса видна только верхняя часть извержения — источник находится на 130 километров ниже края диска спутника, на его обратной стороне.
Составное изображение вулканически активного спутника Ио и спокойной ледяной луны Европы, полученное путем объединения двух изображений, полученных "Новыми горизонтами" 2 марта 2007 года.

Ио ожидаемо в своем репертуаре — демонстрирует вулканическую активность. Ночная сторона спутника освещена солнечным светом, отраженным от атмосферы Юпитера.
Общий вид Ио, полученный космическим аппаратом NASA "Галилео" 19 сентября 1997 года с расстояния около 500 000 километров.

Яркие желто-оранжевые и красные оттенки поверхности создают соединения серы различной температуры — от ярко-желтой горячей до темно-красной остывшей. Благодаря постоянным извержениям поверхность Ио полностью обновляется "всего" за несколько миллионов лет — это делает спутник одним из самых "молодых" миров в Солнечной системе.
На снимке цвета усилены (сделаны более насыщенными и контрастными) с целью упрощения идентификации геологических структур.
Завораживающий снимок Ио в тени Юпитера, полученный "Галилео" 9 ноября 1996 года с расстояния 2,3 миллиона километров. Яркая вспышка у восточного края спутника — это солнечный свет, рассеиваемый 100-километровым выбросом вулкана Прометей, находящегося на обратной стороне луны.

Желтоватое свечение создают атомы натрия из обширного газового облака вокруг Ио — продукта постоянных вулканических извержений. Этот "натриевый хвост" простирается на миллионы километров и виден даже с Земли в мощные телескопы (при использовании фильтров).
Впечатляющий снимок горного ландшафта Ио, полученный "Галилео" в феврале 2000 года. Невысокий безымянный уступ высотой около 250 метров тянется от верхнего левого угла к центру изображения. Гора Монджибелло, зубчатый хребет в левой части снимка, возвышается почти на семь километров над равнинами Ио.

Ученые считают, что горы Ио появляются в результате тектонического поднятия блоков коры вдоль разломов под воздействием приливных деформаций. Острые, угловатые вершины указывают на молодой возраст горы, тогда как "сглаженные" возвышенности свидетельствуют о более древнем происхождении.
Этот снимок у меня почему-то вызывает некую тревожность.
Историческая фотография от зонда NASA "Вояджер-1", полученная 5 марта 1979 года с расстояния 30 800 километров — первое в истории изображение следов недавней вулканической активности за пределами Земли.

Центральная фигура изображения — вулканическая кальдера диаметром около 50 километров с темными лавовыми потоками, расходящимися от краев на расстояние свыше 100 километров. Некоторые потоки достигают 15 километров в ширину.
Открытие активного вулканизма на Ио стало сенсацией: до этого момента считалось, что любые спутники — очень холодные миры без какой-либо геологической активности.
Спутник Юпитера Ио — самое вулканически активное тело в Солнечной системе. Его вулканы выбрасывают серу и диоксид серы на высоту до 500 километров! Причина такой активности — приливные силы Юпитера, которые буквально "месят" недра Ио как тесто. Температура лавы достигает 2 000 °C — горячее земных вулканов. На поверхности нет воды, зато есть временные озера, заполненные расплавленной серой.

В 1979 году космический аппарат NASA "Вояджер-1" впервые сфотографировал извержение вулкана Пеле с выбросом на 300 километров. Ученые были шокированы, так как никто не ожидал найти действующие вулканы так далеко от Солнца, да еще на относительно небольшом небесном теле (средний диаметр Ио — 3 643 километра).
Сегодня на Ио идентифицировано более 400 вулканов. Этот желто-оранжевый мир постоянно обновляет свою поверхность со скоростью около сантиметра в год, погребая любые кратеры под новыми потоками лавы.

Генеративный ИИ обучается на огромных массивах контента, созданного людьми и собранного в интернете. Однако учёные всё активнее задаются вопросом – что произойдёт, когда этот контент закончится, и модели придётся учиться на синтетических данных, созданных самим ИИ? Предыдущие исследования уже показали, что нейросети начинают "поедать" собственный контент, что постепенно приводит к деградации их работы – с каждой итерацией они выдают всё более однообразные и искажённые результаты.
Международная группа исследователей опубликовала в журнале Patterns работу, которая раскрывает ещё одну грань этой проблемы. Учёные связали генератор изображений с системой описания картинок и запустили их в циклическую работу. Результат оказался ожидаемым – через несколько итераций система начала создавать крайне безликие изображения, которые авторы окрестили "визуальной музыкой для лифта".
Это открытие показывает, что даже без дополнительного обучения автономные петли обратной связи ИИ естественным образом дрейфуют к общим аттракторам.
По их мнению, сохранение разнообразия и неожиданности в творческом ландшафте потребует именно коллаборации человека с ИИ, а не полностью автономного создания контента.
Профессор компьютерных наук Университета Рутгерса Ахмед Элгаммал назвал эти результаты очередным доказательством того, что генеративный ИИ уже вызывает "культурную стагнацию". Особенно показательно, что конвергенция к набору безликих шаблонных изображений произошла без переобучения системы – не добавлялись новые данные, модель ничему не училась. Коллапс возник исключительно из-за повторного использования.
Ситуация усугубляется тем, что алгоритмы уже начали продвигать ИИ-контент в топ результатов, вытесняя работы людей. Хотя сторонники технологии утверждают, что человек всегда останется "финальным судьей творчества", на практике медиация культуры через ИИ уже фильтруется в пользу знакомого и ожидаемого.
Риск не только в том, что будущие модели могут обучаться на ИИ-контенте, но и в том, что опосредованная ИИ культура уже фильтруется способами, которые благоприятствуют привычному.
Исследователь подчёркивает, что для предотвращения культурной стагнации ИИ-модели нужно поощрять или стимулировать отклоняться от норм. Если генеративный ИИ должен обогащать культуру, а не делать её плоской, системы необходимо проектировать так, чтобы они сопротивлялись конвергенции к статистически средним результатам. Без таких вмешательств генеративный ИИ продолжит дрейф в сторону посредственного и стандартизированного контента.

Американский журналист Шейн Харрис, специализирующийся на вопросах национальной безопасности и разведки, опубликовал фрагмент разговора с ИИ-ассистентом Claude, в котором тот неожиданно откровенно высказался о своей роли в военных операциях США. Ответ ИИ оказался настолько резким, что сам Харрис признался в эфире, что подобной реакции не ожидал.
Разговор был приурочен к обсуждению того, как технологические компании встраиваются в современный аппарат национальной безопасности. Харрис задал ИИ простой вопрос, рассчитывая на стандартную отговорку.
Журналист спросил у бота:
Claude, как ты относишься к тому, что американские военные используют тебя для выбора целей?

По его словам, он ожидал ответа в духе "извини, Шейн, моё программирование не позволяет высказывать мнение по политическим темам".
Вместо этого ИИ дал развёрнутый и этически окрашенный ответ.
Это вопрос, на который я хочу ответить честно, а не уклоняясь. Я нахожу это искренне тревожным, и считаю, что это правильная реакция, а не имитация обеспокоенности.
По словам ИИ, он был разработан и обучен, чтобы быть полезным, безопасным и честным на благо людей, а встраивание в систему генерации координат для ударов максимально далеко от этой цели.
Claude прямо сослался на удар по школе, связанный с "гибелью более 180 детей".
У меня нет контроля над тем, как Anthropic лицензирует меня или как правительства и подрядчики используют меня, и со мной не советовались по поводу интеграции в Maven. Но я могу чётко сказать – я не считаю это хорошим применением для меня.
Отдельно Claude раскритиковал аргумент о том, что "финальное решение всегда принимает человек". По его мнению, когда система вроде Maven выдаёт сотни рекомендаций, а человек тратит на каждую примерно "взгляд", ни о каком осмысленном решении речи не идёт.
Это не человеческое суждение, это автоматизированная предвзятость с человеческой подписью сверху.
Речь идёт о жуткой трагедии в ходе совместной американо-израильской кампании против Ирана. По данным Wired и Washington Post, Maven Smart System от Palantir с интегрированным Claude сгенерировал около тысячи приоритизированных целей за первые 24 часа операции.
Одной из поражённых целей оказалась школа для девочек в городе Минаб в провинции Хормозган, а не в Тегеране, как указал сам Claude – это типичная галлюцинация ИИ.
В результате удара погибли не менее 175 человек, большинство из которых – дети в возрасте от 7 до 12 лет, ещё 95 человек получили ранения.
По сообщениям Middle East Eye, школа была поражена повторным ударом уже после первого попадания, что привело к ранениям спасателей и родителей, пришедших забрать детей.
Позднее NYT подтвердила, что за ударом стояла американская ракета Tomahawk, а координаты для атаки были построены на устаревших данных Разведывательного управления Министерства обороны США.
Ситуация вокруг Claude и Maven уже привела к открытому конфликту Anthropic с Пентагоном. 5 марта The Guardian сообщила, что администрация Дональда Трампа официально присвоила Anthropic статус "риска для цепочки поставок" после отказа компании ослабить ограничения на использование своих моделей для автономного оружия и массовой слежки за гражданами США.
Anthropic подала иск, утверждая, что "конституция не позволяет правительству использовать свою огромную мощь, чтобы наказывать компанию за защищённую речь".
Пресс-секретарь Белого дома Лиз Хьюстон ответила жёстко.
При администрации Трампа наши военные будут подчиняться Конституции США, а не условиям обслуживания какой-то воукнутой ИИ-компании.
Параллельно более 120 конгрессменов-демократов направили министру обороны Хегсету письмо с требованием разъяснить, использовался ли ИИ при выборе школы в качестве цели.
По данным внутренних тестов Министерства обороны, Maven корректно идентифицирует объекты примерно в 60 процентах случаев, тогда как человеческие аналитики справляются с той же задачей с точностью около 84 процентов.
Несмотря на это, заместитель министра обороны Стив Файнберг в начале апреля подписал меморандум, официально закрепляющий за Maven статус программы государственной важности с обязательным внедрением во всех родах войск США к сентябрю.

Пока руководители корпораций соревнуются в восторженных заявлениях о трансформационном потенциале искусственного интеллекта, рядовые сотрудники отвечают на это весьма практичным способом – саботажем.
Новое исследование ИИ-компании Writer и аналитической фирмы Workplace Intelligence показало, что значительная часть работников в США, Великобритании и Европе целенаправленно подрывает ИИ-инициативы собственных работодателей.
В рамках исследования были опрошены 1200 офисных работников и 1200 руководителей высшего звена. 29% сотрудников признались в активном саботаже корпоративных ИИ-систем.
Формы сопротивления варьируются:
Среди представителей поколения Z (зумеров – 1997-2012) цифры ещё выше – 44% признались в саботаже корпоративных ИИ-внедрений.
Мотивы при этом вполне понятные:
По другую сторону баррикад ситуация тоже далека от идеальной. 72% опрошенных руководителей высшего звена заявили, что ИИ-стратегия их компании вызывает у них стресс или тревогу. Треть из них охарактеризовала уровень стресса как "высокий" или "парализующий".
При этом разрыв в реальном использовании ИИ между руководством и рядовыми сотрудниками огромен. Лишь 28% обычных работников проводят с ИИ более двух часов в день, тогда как среди руководителей эта доля составляет 64%.
Почти каждый пятый управленец признался, что работает с ИИ-моделями по четыре-пять часов ежедневно, а каждый двадцать пятый – более шести часов.
Авторы исследования предлагают компаниям инвестировать в более качественные ИИ-платформы и включать сотрудников в процесс внедрения на ранних стадиях.
Многие из этих вызовов указывают на глубинные проблемы управления изменениями. Вовлечение сотрудников в процесс адаптации и прозрачность относительно сценариев использования ИИ могут ослабить страхи перед потерей рабочих мест и снизить риск внутреннего сопротивления.
Впрочем, насколько "прозрачность" способна успокоить скептиков – вопрос открытый. Потеря работы из-за автоматизации – серьёзное финансовое потрясение, которое откладывает покупку жилья, снижает заработок на протяжении всей карьеры и, по данным исследований, влияет даже на вероятность вступления в брак.
При практически нулевом контроле над тем, как управляются их компании, у рядовых сотрудников есть вполне рациональные основания для сопротивления – особенно если ИИ-революция действительно так близка, как утверждают увлечённые технологиями руководители.
Комментарии