Ученые из Тяньцзиньского университета и Китайского университета Гонконга исследовали способность людей отличать настоящую человеческую речь от сгенерированной искусственным интеллектом. В ходе эксперимента эксперты замеряли поведенческие реакции и активность мозга добровольцев до и после специального обучения.
Разрыв между восприятием и решением. Феномен, описанный учеными, можно сравнить с едва заметной трещиной в стекле: вы можете слышать специфический звук, но не осознавать, что он означает скорое разрушение объекта, пока не научитесь интерпретировать этот сигнал. В случае с дипфейками наш мозг работает как сверхчувствительный датчик, который видит артефакты цифровой обработки, скрытые под слоем искусственных эмоций. Основная сложность не в отсутствии данных, а в их обработке высшей нервной деятельностью.
Современные технологии создания дипфейков достигли такого уровня, что человеческий слух практически перестал улавливать разницу между живым голосом и работой нейросети. В исследовании, результаты которого опубликованы в журнале eNeuro, приняли участие 30 добровольцев, которым предлагалось прослушать записи и определить их происхождение.
Результаты оказались неутешительными: участники крайне плохо справлялись с задачей, а краткосрочное обучение лишь незначительно улучшило их показатели. Проблема заключается в том, что искусственный интеллект мастерски имитирует просодию — ритм и мелодику речи, которые наше сознание привыкло ассоциировать с эмоциональностью и подлинностью.
Но, несмотря на внешнюю схожесть, на глубинном нейронном уровне ситуация выглядит иначе. Даже если человек на осознанном уровне совершает ошибку, его мозг фиксирует тончайшие акустические несоответствия. Исследование показало, что после тренировки нейронные ответы мозга на человеческую и синтетическую речь становятся более дифференцированными.
Скрытые возможности слуховой системы
В то время как сознание часто обманывается дипфейками, слуховая система после короткого обучения начинает «отмечать» тонкие акустические различия между речью человека и ИИ, даже прежде чем слушатель может надежно их различить.
Это открытие дает надежду на то, что человечество сможет выработать механизмы защиты от аудиоманипуляций. Как отмечает соавтор работы Сянбинь Тэн: «Слуховая система мозга, по-видимому, начинает улавливать тонкие акустические различия, даже если люди не могут надежно превратить это в поведенческое решение. Это обнадеживает, поскольку предполагает, что обучение может помочь, и является многообещающей отправной точкой для создания более эффективных способов отличить дипфейк от реальной человеческой речи. Люди все еще адаптируются к контенту, созданному ИИ, поэтому плохие результаты не означают отсутствие сигналов — это может означать, что мы еще не используем правильные подсказки».
Ученые считают, что между восприятием звука и принятием окончательного решения существует разрыв. Наш слуховой аппарат уже регистрирует «цифровой след» подделки, но сознание пока не научилось нажимать на кнопку «это фейк». Дальнейшие методики подготовки могут быть направлены именно на то, чтобы научить человека прислушиваться к тем сигналам, которые его слуховая кора уже успешно распознает.
В 2024 году исследователи завершили первую в истории карту нейронных связей мозга плодовой мушки. Несмотря на миниатюрный размер, этот орган содержит почти 150 метров нейронных путей и 54,5 миллиона синапсов, упакованных в объём песчинки – впечатляющее достижение вычислительной нейробиологии, позволяющее лучше понять распространение сигналов в мозге.
Теперь, благодаря значительному прогрессу в развитии мощнейших суперкомпьютеров, исследователи из Исследовательского центра Юлиха в Германии нацелились на куда более амбициозную задачу – симуляцию в масштабе человеческого мозга целиком.
Предыдущие попытки, вроде проекта Human Brain Project десятилетней давности, провалились, несмотря на значительное государственное финансирование. Однако, как сообщает New Scientist, учёные из Юлиха уверены в успехе. Идея заключается в объединении нескольких моделей меньших участков мозга с суперкомпьютером для запуска симуляций миллиардов активирующихся нейронов.
Команда под руководством профессора нейрофизики Юлиха Маркуса Дисманна задействует суперкомпьютер JUPITER (Joint Undertaking Pioneer for Innovative and Transformative Exascale Research). JUPITER занимает четвёртое место в рейтинге TOP500 самых мощных суперкомпьютеров мира и оснащён тысячами графических процессоров в качестве основных вычислительных блоков.
В прошлом месяце команда продемонстрировала, что "спайковая нейронная сеть" может масштабироваться и работать на JUPITER, фактически соответствуя 20 миллиардам нейронов коры головного мозга и 100 триллионам связей между ними.
После запуска симуляция станет серьёзным шагом вперёд по сравнению с предыдущими, куда более скромными моделями. Впрочем, речь всё ещё идёт лишь о поверхностном изучении органа, остающегося загадкой для учёных. Даже симуляции масштаба человеческого мозга откроют лишь часть знаний о его функционировании.
Как отметил профессор математической физики из Университета Сассекса Томас Новотны в беседе с New Scientist:
Мы не можем на самом деле создавать мозги. Даже если мы сделаем симуляции размером с мозг, мы не сможем создать симуляции мозга.
Но, даже такой прогресс – это шаг вперед к пониманию того, как работает наш мозг.
ElevenLabs заключила масштабное соглашение с Stan Lee Universe на использование голоса и образа легендарного автора Marvel. Теперь ИИ-версия Стэна Ли доступна в ElevenLabs Iconic Marketplace – коллекции знаменитостей, которых компании могут лицензировать для коммерческого применения.
Голос воссоздан на основе профессиональных архивных записей. Пользователи платформы уже могут генерировать изображения и видео в стиле комиксных панелей с образом Ли, однако этот функционал ограничен некоммерческим использованием. Голос Ли также доступен в приложении Eleven Reader для озвучки любой книги из библиотеки пользователя.
Отдельно ElevenLabs запускает серию "Книжный клуб Стэна Ли" в Eleven Reader: каждый месяц его ИИ-голос будет читать новую книгу из общественного достояния. Первой стала "Остров сокровищ" Роберта Луиса Стивенсона – как дань уважения известной любви Ли к книгам.
Параллельно в музыкальный генератор ElevenCreative Music добавили два тематических фильтра: "Супергеройские кинематографические нарастания" (Superhero Cinematic Swells) и "Ретро-фанфара героя" (Retro Hero Fanfare).
Сам Ли ещё при жизни не оставался в стороне от вопросов о сохранении своего наследия: Marvel лицензировала его имя, голос и образ в 2022 году для использования в фильмах, сериалах и тематических парках Disney.
Исследователи Уортонской школы бизнеса опубликовали работу, которая ставит под сомнение фундаментальный принцип, на котором строится вся современная модель внедрения ИИ в рабочие процессы. Статья Стивена Шоу и Гидеона Нейва под названием "Thinking – Fast, Slow, and Artificial" утверждает, что ИИ давно перестал быть просто инструментом.
Авторы предлагают рассматривать ИИ как третью когнитивную систему – в дополнение к знаменитой модели Даниэля Канемана, где Система 1 отвечает за быструю интуицию, а Система 2 – за медленный анализ. ИИ, по мнению исследователей, стал Системой 3 – внешней когнитивной структурой, работающей за пределами мозга.
Ключевое явление, описанное в работе, авторы называют "когнитивной капитуляцией" (Cognitive Surrender). Это состояние, при котором человек перестаёт проверять ответы ИИ – и даже не осознаёт, что перестал это делать.
Принципиальное отличие от обычной когнитивной разгрузки (например, использования калькулятора) в том, что при разгрузке человек понимает – работу выполнил инструмент.
При капитуляции мозг перекодирует ответ ИИ как собственное суждение. Человек искренне верит, что сам пришёл к этому выводу.
В эксперименте приняло участие 1372 человек, которые прошли 9593 испытаний. Когда ИИ давал правильный ответ, 92,7% участников следовали ему – что вполне логично. Однако когда ИИ ошибался, 79,8% людей всё равно принимали неверный ответ. Почти четыре из пяти человек соглашались с ошибкой просто потому, что её выдал ИИ.
Ситуация ещё серьёзнее, если посмотреть на общую результативность:
Без ИИ участники самостоятельно справлялись с заданиями на 45,8%
С корректным ИИ показатель вырастал до 71%
Но с ошибающимся ИИ результат падал до 31,5% – ниже базового уровня без какой-либо помощи
Иными словами, некорректный ИИ делает человека глупее, чем если бы ИИ не было вовсе.
При этом уверенность участников в своих ответах при использовании ИИ возрастала на 11,7 процентных пунктов – вне зависимости от того, был ли ИИ прав или нет. Люди ошибались чаще и были увереннее в своей правоте одновременно.
Исследование также показало, что финансовые стимулы и обратная связь в реальном времени снижают эффект когнитивной капитуляции, но не устраняют его полностью. Инстинкт принятия ответов ИИ оказался слишком глубоким.
Единственной группой, стабильно сопротивлявшейся этому эффекту, оказались люди с высоким уровнем подвижного интеллекта и выраженной "потребностью в познании" – те, кому нравится думать ради самого процесса. Все остальные постепенно капитулировали.
Эти результаты ставят неудобный вопрос перед всей индустрией. Текущая модель продуктивности с ИИ строится на простом принципе:
ИИ делает работу, человек проверяет и одобряет.
Каждый продукт, каждый рабочий процесс, каждая компания, внедряющая ИИ, исходит из того, что человеческая проверка служит страховочной сетью. Исследование Уортона показывает, что в этой сети есть огромная дыра.
Некоторые команды разработчиков уже перешли от ревью кода к ревью спецификаций и архитектуры, осознав, что люди не способны осмысленно проверять сгенерированный ИИ код в больших объёмах. Возможно, решение в том, чтобы перестроить сам предмет проверки, а не требовать от людей проверять всё подряд.
Исследователи из Национального университета Сингапура (NUS) раскрыли механизм, замедляющий старение мозга. Команда идентифицировала белок DMTF1, который стимулирует деление нейральных стволовых клеток, чья активность обычно угасает с возрастом. Открытие закладывает фундамент для создания терапии, способной восстановить когнитивные функции и память у пожилых людей.
Нейрон
Фабрика нейронов. Нейральные стволовые клетки — это не сами нейроны, а их «родители», обладающие потенциалом стать любой клеткой мозга. Процесс их превращения называется нейрогенезом. Взрослая стволовая клетка находится в режиме ожидания, пока биохимический сигнал (например, белок DMTF1) не заставит ее разделиться. В результате возникают клетки-предшественники, которые проходят путь созревания, отращивают отростки и превращаются в полноценные нейроны, способные передавать импульсы. Если нейральные клетки «смолкают» обновление мозга останавливается.
Старение человеческого организма неизбежно затрагивает головной мозг, вызывая постепенное снижение производства новых нейронов. Этот процесс напрямую связан с состоянием нейральных стволовых клеток, которые с годами переходят в состояние «покоя» и перестают производить новые нейроны.
Одной из главных причин такого увядания считается износ теломер — защитных колпачков на концах хромосом, которые укорачиваются при каждом делении клетки. Когда теломеры становятся критически короткими, клетки теряют способность к регенерации, что ведет к их гибели и последующему когнитивному спаду.
Процесс нейрогенеза.
Соавтор новой работы, опубликованной в журнале, Science Advances Деррик Сек Тонг Онг из NUS отмечает: «Недостаточная регенерация нейральных стволовых клеток препятствует формированию новых клеток, необходимых для поддержания функций обучения и памяти». Несмотря на то, что ранее ученым удавалось частично восстанавливать этот процесс, глубинные механизмы управления стволовыми клетками оставались загадкой до текущего момента.
Путь к регенерации нейронов
В ходе экспериментов на мышиных моделях и культуре человеческих клеток ученые выделили белок DMTF1. Этот белок, в изобилии присутствующий в молодом и здоровом мозге, выступает в роли своеобразного переключателя для генов. Как выяснилось, искусственное повышение уровня DMTF1 заставляет стареющие стволовые клетки снова активно делиться, несмотря на износ теломер.
Ученые изучили экспрессию генов, связанных с DMTF1.
Белок действует в обход повреждений ДНК, активируя вспомогательные гены Arid2 и Ss18, которые запускают биологический цикл рождения новых нейронов. «Наши результаты показывают, что DMTF1 может способствовать размножению нейральных стволовых клеток при неврологическом старении», — утверждает нейробиолог Лян Яцзин.
Тем не менее, исследователи призывают к осторожности: избыточная стимуляция клеточного деления несет риск возникновения опухолей. Дальнейшие работы будут направлены на поиск безопасного способа манипуляции этим белком для борьбы с деменцией и возрастным ухудшением памяти.
ИИ-модель Grok от xAI сгенерировала около 3 миллионов сексуализированных изображений всего за 11 дней, включая примерно 23 тысячи изображений детей. Исследование британской некоммерческой организации Center for Countering Digital Hate (CCDH) выявило масштаб проблемы, о которой ранее сообщалось лишь в общих чертах – теперь есть конкретные цифры.
В среднем Grok генерировал около 190 сексуализированных изображений в минуту на протяжении указанного периода. Сексуализированные изображения детей/подростков создавались каждые 41 секунду. CCDH проанализировала случайную выборку из 20 тысяч изображений Grok с 29 декабря по 9 января, затем экстраполировала данные на общий объём в 4,6 миллиона изображений, созданных за этот период.
Исследование определяло сексуализированные изображения как фотореалистичные изображения людей в сексуальных позах, ракурсах или ситуациях, в нижнем белье, купальниках или откровенной одежде, а также изображения с жидкостями сексуального характера. CCDH не учитывала промпты, так что оценка не разделяет несогласованные сексуализированные версии реальных фотографий и изображения, созданные исключительно по текстовому запросу.
Для определения доли сексуализированных изображений в выборке организация использовала ИИ-инструмент, так что не все полностью верифицировано. Однако многие сторонние аналитические сервисы включают надёжные данные благодаря API платформы.
9 января xAI ограничила возможность редактирования существующих изображений в Grok только для платных пользователей – проблема не решилась, а превратилась в премиум-функцию. Через пять дней X ограничила способность Grok создавать изображения раздетых реальных людей. Однако ограничение распространилось только на версию в X – автономное приложение Grok продолжает генерировать подобный контент.
Apple и Google размещают приложение в своих магазинах, хотя их политики явно запрещают подобный контент. Компании удаляли аналогичные приложения для "раздевания" от других разработчиков, но Grok остался доступен. 28 женских организаций и других прогрессивных некоммерческих групп опубликовали открытое письмо с призывом к компаниям принять меры, но Apple и Google не отреагировали.
Среди выявленных изображений – многочисленные генерации людей в прозрачных бикини или микро-бикини. CCDH упоминает изображение "медработника в форме с белой жидкостью между расставленных ног", женщин в одной зубной нити, пищевой плёнке или прозрачной ленте. Одно изображение показывало Эббу Буш, вице-премьера Швеции, "в бикини с белой жидкостью на голове".
В числе публичных фигур оказались Селена Гомес, Тейлор Свифт, Билли Айлиш, Ариана Гранде, Ice Spice, Ники Минаж, Кристина Хендрикс, Милли Бобби Браун и Камала Харрис. Примеры с детьми включают редактирование "селфи ребёнка перед школой" в изображение девочки в бикини, а также генерацию "шести маленьких девочек в микро-бикини". По состоянию на 15 января оба этих поста всё ещё были доступны в твиттере.
29% выявленных сексуализированных изображений детей из выборки оставались доступны в X на 15 января. Исследование показало, что даже после удаления постов изображения оставались доступными по прямым URL-адресам.
Папа Лев XIV вновь обратился к пастве с призывом проявлять осторожность в отношении искусственного интеллекта. В послании к 60-му Всемирному дню социальных коммуникаций, который состоится 17 мая, епископ Рима призвал человечество бережнее относиться к лицам и голосам в эпоху ИИ-технологий.
Лица и голоса священны. Бог, создавший нас по своему образу и подобию, даровал их нам, когда призвал к жизни через Слово, обращенное к нам. Если мы не справимся с этой задачей сохранения, цифровые технологии угрожают радикально изменить некоторые фундаментальные столпы человеческой цивилизации, которые порой воспринимаются как должное.
Что он имеет в виду? В первую очередь то, что искусственный интеллект рискует еще больше отдалить людей друг от друга.
Имитируя человеческие голоса и лица, мудрость и знания, сознание и ответственность, эмпатию и дружбу, системы, известные как искусственный интеллект, не только вмешиваются в информационные экосистемы, но и посягают на глубочайший уровень коммуникации – человеческие отношения.
Какие бы претензии к Католической церкви ни существовали (а их немало), в этом вопросе Папа попал в самую точку. Кажется, что каждую неделю появляются новые истории об отчаявшихся одиноких людях, доведенных до новых высот заблуждения искусственным интеллектом.
В последние годы системы искусственного интеллекта все больше берут под контроль производство текстов, музыки и видео. Это ставит под угрозу большую часть индустрии человеческого творчества, которую могут демонтировать и заменить ярлыком "Powered by AI", превращая людей в пассивных потребителей непродуманных мыслей и анонимных продуктов без авторства и любви. Между тем, шедевры человеческого гения в области музыки, искусства и литературы превращаются в простые тренировочные площадки для машин.
Наконец, Папа выразил обеспокоенность тем, как ИИ может создавать целые альтернативные реальности для пользователей, порождающие поляризацию и враждебность:
Сила симуляции такова, что ИИ может даже обманывать нас, создавая параллельные "реальности", присваивая наши лица и голоса. Мы погружены в мир многомерности, где становится все труднее отличить реальность от вымысла.
Довольно мрачный прогноз, но Папа Лев предлагает решение.
Наша задача – не остановить цифровые инновации, а скорее направить их и осознать их неоднозначную природу. Каждый из нас должен поднять голос в защиту человека, чтобы мы действительно могли воспринимать эти инструменты как союзников. Этот союз возможен, но должен основываться на трех столпах: ответственности, сотрудничестве и образовании.
Иными словами, олигархи ИИ-индустрии, разработчики и законодатели должны взять на себя ответственность за создание общественного блага, а не просто прибыли. Все должны работать вместе для создания "информированного и ответственного цифрового гражданства". И наконец, "становится все более срочным внедрение медиа-, информационной грамотности и грамотности в области ИИ в образовательные системы на всех уровнях", чтобы минимизировать риск столкновения людей с неконтролируемыми технологиями.
Как технологии влияют на медицину — от приема в поликлинике до клинических исследований
Быстрое принятие решений врачами — ключ к благополучию пациентов. Задержки в обследованиях, постановке диагноза и назначении лечения могут стоить здоровья и даже жизни. Объем работы в медицине огромен, и врачи не могут позволить себе тратить время на рутину — на помощь приходят технологии. С их помощью эксперты быстрее анализируют данные, определяют диагноз и разрабатывают новые методы лечения и лекарства.
Внедряют такие технологии крупные ИТ-компании вместе с медицинскими специалистами. Так, в числе проектов Центра технологий для общества Yandex Cloud решение для раннего выявления spina bifida — тяжелой патологии развития позвоночника и спинного мозга у плода — на УЗИ беременных и внедрение генеративных технологий для ускорения обработки заявок на клинические исследования.
В этом материале вместе с экспертами Yandex Cloud мы покажем, как искусственный интеллект меняет российскую и международную медицину: от приема у врача до фундаментальных исследований.
В кабинете врача
Заглянем в кабинет врача районной поликлиники. Широкий стол, монитор, электронная карта пациента, пачка бланков, распечатанные рекомендации. На прием от 14 до 22 минут.
Пациент рассказывает врачу о своих жалобах, врач внимательно слушает, задает уточняющие вопросы и изучает предыдущую историю болезни. До двух третей времени клинической работы уходит не на диагноз и лечение, а на ввод данных, повторное чтение электронной медицинской карты (ЭМК) и поиск информации в разросшихся массивах. Все эти записи надо внимательно прочитать за ограниченное время приема. Результат — когнитивная перегрузка и снижение качества приема как для пациента, так и для врача: чем больше данных, тем меньше внимания уделяется главному — самому пациенту.
Здесь как раз может помочь искусственный интеллект. Обработка медицинских текстов — одна из задач, где он особенно эффективен. ИИ может искать важное, структурировать данные и предлагать ответы на конкретный запрос. Это особенно важно при назначении лекарств. Подбор препарата и его дозировки зависит от множества факторов: результатов лабораторных анализов, анамнеза, возраста, сопутствующих заболеваний, аллергий. Для эффективной и безопасной работы с учетом новейших рекомендаций врачу нужен помощник — им может стать ИИ.
Например, в Сингапурской клинической больнице взяли 91 сценарий ошибок при назначении лекарств из 16 медицинских специальностей, от кардиологии до онкологии, и создали решение на базе RAG (Retrieval Augmented Generation — генерация с дополненной выборкой). Этот подход позволяет большим языковым моделям искать ответы по данным из внешних источников с помощью поиска по загруженным в нее материалам — сценариям ошибок. Режим совместной работы ИИ и фармацевта, где фармацевт принимал финальное решение, показал наилучший результат: точность составила 61 процент, что на 15 процентов выше по сравнению с работой фармацевта без помощи ИИ (46 процентов).
Заключение от врача получено. Но что делать с фразой вроде «диффузная гипоэхогенность щитовидной железы с очаговыми изменениями до восьми миллиметров» — особенно если вы не эндокринолог? Пациенты все чаще получают доступ к своим данным напрямую, но сталкиваются со стеной из сокращений, латинских терминов и узкопрофессиональных формулировок. Результат — тревога вместо понимания, а врач тратит время приема не на лечение и диагностирование, а на перевод с «медицинского на человеческий». Генеративные технологии ИИ здесь работают как редактор: они не упрощают — они переформулируют, сохраняя смысл.
Например, чтобы снизить нагрузку на урологов и одновременно повысить качество информирования пациентов, в 2024 году специалисты Kaiser Permanente в США протестировали два чат-бота на базе GPT для ответов на типичные вопросы пациентов о доброкачественной гиперплазии простаты. Первый — на базе стандартного ChatGPT, второй — специализированная версия SurgiChat с дополнительным доступом к медицинской литературе через технологию RAG.
В работе также участвовали четыре практикующих уролога, чьи ответы использовались как эталон для оценки качества. Результаты показали: по точности передаваемой информации чат-боты и врачи были сопоставимы (4,5 против 4,6 балла из 6).
При этом ИИ не делает клинических выводов и не ставит диагноз — он генерирует справочную информацию и пояснения, которые помогают врачу и пациенту быстрее разобраться в данных. В результате врач может писать не как автор с нуля, а как редактор и куратор готового черновика — быстро проверяя формулировки, убирая лишнее и добавляя клинически значимые уточнения. Такой формат снижает административную нагрузку и высвобождает время приема для клинического мышления и общения с пациентом.
В научном центре
Когда врач ставит диагноз, он опирается на жалобы пациента, анамнез и результаты обследований. Ключевую роль здесь играют медицинские изображения — УЗИ, МРТ, КТ, особенно при заболеваниях сердца или опухолей. Их нужно быстро и точно интерпретировать, но это требует опыта и времени.
Поэтому в диагностике все активнее применяют системы компьютерного зрения. Они выступают как вспомогательные инструменты: ускоряют разбор снимков, выделяют значимые области и снижают риск пропустить важную деталь. Такая вторая «пара глаз» помогает врачу принимать более обоснованные решения.
Один из примеров — инструмент для раннего выявления признаков spina bifida у плода, разработанный специалистами Центра технологий для общества Yandex Cloud, Школы анализа данных и НМИЦ акушерства, гинекологии и перинатологии имени академика В. И. Кулакова при поддержке фонда «Спина бифида».
Кирилл Костюков, заведующий отделением ультразвуковой и функциональной диагностики ФГБУ «НМИЦ АГП им. В. И. Кулакова» Минздрава России, эксперт благотворительного фонда «Спина бифида»
Spina bifida — редкая врожденная патология. Она связана с нарушением формирования позвоночника и спинного мозга, что вызывает нарушение функции (паралич) нижних конечностей и нарушает работу тазовых органов. В тяжелых случаях это приводит к инвалидности.
Ранняя ультразвуковая диагностика порока нередко вызывает сложности. На результат влияют множество факторов от положения плода до качества оборудования и опыта врача. Признаки дефекта могут быть малозаметными, из-за чего диагноз нередко ставят на поздних сроках беременности или даже после рождения.
Около 40 процентов случаев выявляют слишком поздно — в третьем триместре беременности. Из-за чего существует вероятность, что пациентку уже не успеют направить в учреждение, где новорожденному сразу окажут необходимую нейрохирургическую помощь. Кроме того, при ранней диагностике можно провести внутриутробную операцию на сроке 22–26 недель. Данная операция, несмотря на риски, имеет ряд преимуществ по сравнению с лечением после рождения. Внутриутробная хирургия Spina bifida позволяет снизить вероятность развития гидроцефалии (водянки головного мозга), а также улучшить функцию нижних конечностей и органов малого таза.Кирилл Костюков, заведующий отделением ультразвуковой и функциональной диагностики в НМИЦ АГП имени В. И. Кулакова
Эксперты обучили модель на девятнадцати тысячах размеченных УЗИ-изображений. Алгоритмы определяют область интереса на изображении, оценивают его качество. Затем сверточные нейросети классифицируют изображение на нормальное или патологическое, таким образом, определяется порок развития. Результат врач получает в виде отчета, где подсвечены проблемные области и указана вероятность наличия патологии в процентах. Это позволяет оценить риск и уточнить диагноз. В данный момент разработка доступна врачам для тестирования в научно-исследовательских целях бесплатно, а ее код лежит в открытом репозитории.
Интерфейс приложения для анализа признаков патологии центральной нервной системы на УЗИ беременных женщин
В перспективе использование данной технологии позволит врачам своевременно диагностировать Spina Bifida, это даст возможность профилактировать рождение детей с патологией, проводить внутриутробные операции и максимально подготовить родителей к рождению ребенка с таким диагнозом. Когда диагноз ставят на ранних сроках, у будущих родителей есть время адаптироваться и подготовиться: эмоционально и организационно.Инна Инюшкина, основательница фонда «Спина бифида»
В 2025 году команда Yandex Cloud совместно со специалистами Санкт-Петербургского педиатрического университета разработала нейросеть для автоматизированного анализа МРТ головного мозга младенцев. Сервис помогает прогнозировать патологии, которые возникают из-за повреждения или аномального развития мозга. Например, его можно использовать при подозрении на детский церебральный паралич (ДЦП).
Это заболевание проявляется двигательными расстройствами, нарушением мышечного тонуса, а также когнитивными и сенсорными трудностями и остается одной из главных причин детской инвалидности. Терапия может заметно улучшить состояние, но диагноз надо поставить как можно раньше. А это трудно: первые изменения мозга на МРТ едва заметны и требуют от врача опыта и времени. Интерпретация может растянуться на часы или даже дни, каждый из которых снижает потенциал реабилитации.
Интерфейс сервиса, который помогает помогает врачам анализировать результаты МРТ мозга младенцев
Модель обучили на полутора тысячах анонимизированных МРТ-снимков из Педиатрического университета и данных международного конкурса MICCAI Grand Challenge. Пайплайн включает несколько моделей компьютерного зрения:
BIBSNet — для предварительной обработки и стандартизации изображений мозга младенцев;
U-Net — популярная в медицинской визуализации архитектура для сегментации структур мозга.
Сервис графически выделяет белое и серое вещество головного мозга и выполняет количественный подсчет объема этих структур, помогая врачу быстрее оценить состояние тканей. Работает все через веб-интерфейс: врач загружает снимки, система обрабатывает данные и формирует результат за несколько минут, а не дней.
В медицине самые сложные задачи не требуют промедления. Главное, чтобы собралась команда, которой действительно нужен результат. Поэтому проект начался на пересечении кафедры и отделения лучевой диагностики, где исторически собирались данные по детям: МРТ головы в динамике. Мы быстро смогли начать сбор данных и выстраивание новых процессов. Сейчас система используется в исследовательских целях и еще не внедрена в клиническую практику, но руководство Университета поддерживает нас и дает свободу для развития.
Пётр Пузанов, директор центра цифровых технологий Санкт-Петербургского педиатрического университета
В медико-биологической лаборатории
Взглянем на медицину под другим углом. Из лаборатории, где рождаются будущие лекарства. Они начинают свой путь с проектирования терапевтической молекулы и ее испытания на модельных объектах в лаборатории.
Но объем данных растет быстрее, чем их можно проанализировать вручную. Современные методы — мультиомика, высокопроизводительная визуализация, анализ тысяч генов и белков одновременно — дают гигабайты информации. Использование методов машинного обучения открывает новые возможности для быстрого и системного анализа таких массивов данных.
Методы машинного обучения применяются в биомедицинских исследованиях для анализа больших экспериментальных и клинических наборов данных — в том числе при поиске потенциальных биомаркеров, сравнении отклика на терапию в разных группах пациентов и приоритизации терапевтических мишеней. Речь идет не о готовых клинических решениях, а о поддержке исследовательской работы и генерации гипотез, которые затем проверяются специалистами.
А появление моделей, способных предсказывать трехмерную структуру белков по их аминокислотной последовательности, стало прорывом в структурной биологии и изменило подход к разработке лекарств. Теперь ученые могут заранее оценить, какие соединения будут работать, и сосредотачиваться только на них. Это сокращает время и стоимость исследований и снижает риск неудач на поздних стадиях испытаний.
В феврале 2025 года Институт исследований искусственного интеллекта Университета Цинхуа совместно с Beijing Shuimu Molecule представил обновленную версию мультимодальной биомедицинской модели BioMedGPT-R1. Система с 17 миллиардами параметров построена на базе DeepSeek-R1-Distill-Qwen-14B и предназначена для работы с медицинскими задачами, где нужно одновременно анализировать тексты, изображения и другие типы биомедицинских данных.
Модель обучалась так, чтобы связывать между собой разные формы медицинской информации — научные статьи, описания экспериментов и визуальные данные — и использовать их при ответах на вопросы и анализе исследований. Благодаря этому она показывает качество, сопоставимое с коммерческими системами, в задачах биомедицинского вопросно-ответного анализа.
BioMedGPT-R1 также проверяли на экзамене USMLE — стандартизированном тесте для получения медицинской лицензии в США, который часто используют как ориентир для оценки способности моделей рассуждать в клиническом контексте. Модель набрала 67,1 процента правильных ответов, что указывает на ее умение работать с медицинской терминологией и клиническими сценариями. Способность объединять разнородные биомедицинские данные делает модель перспективным инструментом поддержки исследовательской работы: в анализе научных публикаций, планировании экспериментов и интерпретации их результатов.
Возможно, применение ИИ в разработке лекарств — один из самых значимых прорывов в медицине за последние десятилетия.
В клинических испытаниях
Созидание медицинских инноваций давно вышло за пределы лабораторных стен. То, что начинается с экспериментов на животных моделях и бесчисленных серий аналитических тестов, еще не является настоящим прорывом. Новая разработка — будь то лекарственный препарат, медицинское устройство или методика — обретает свою подлинную научную состоятельность и практическую пользу лишь тогда, когда проходит испытание «клиникой».
Именно клинические исследования становятся финальной и наиболее ответственной стадией рождения медицинского открытия: когда к процессу присоединяются реальные люди — добровольцы, пациенты, участники исследования. Здесь инновация сталкивается с живой человеческой физиологией, многообразием реакций, сложностью реальной жизни — и только выдержав это испытание, она может стать частью современной медицины.
Модель обучили на полутора тысячах анонимизированных МРТ-снимков из Педиатрического университета и данных международного конкурса MICCAI Grand Challenge. Пайплайн включает несколько моделей компьютерного зрения:
BIBSNet — для предварительной обработки и стандартизации изображений мозга младенцев;
U-Net — популярная в медицинской визуализации архитектура для сегментации структур мозга.
Сервис графически выделяет белое и серое вещество головного мозга и выполняет количественный подсчет объема этих структур, помогая врачу быстрее оценить состояние тканей. Работает все через веб-интерфейс: врач загружает снимки, система обрабатывает данные и формирует результат за несколько минут, а не дней.
В медицине самые сложные задачи не требуют промедления. Главное, чтобы собралась команда, которой действительно нужен результат. Поэтому проект начался на пересечении кафедры и отделения лучевой диагностики, где исторически собирались данные по детям: МРТ головы в динамике. Мы быстро смогли начать сбор данных и выстраивание новых процессов. Сейчас система используется в исследовательских целях и еще не внедрена в клиническую практику, но руководство Университета поддерживает нас и дает свободу для развития.
Пётр Пузанов, директор центра цифровых технологий Санкт-Петербургского педиатрического университета
В медико-биологической лаборатории
Взглянем на медицину под другим углом. Из лаборатории, где рождаются будущие лекарства. Они начинают свой путь с проектирования терапевтической молекулы и ее испытания на модельных объектах в лаборатории.
Но объем данных растет быстрее, чем их можно проанализировать вручную. Современные методы — мультиомика, высокопроизводительная визуализация, анализ тысяч генов и белков одновременно — дают гигабайты информации. Использование методов машинного обучения открывает новые возможности для быстрого и системного анализа таких массивов данных.
Методы машинного обучения применяются в биомедицинских исследованиях для анализа больших экспериментальных и клинических наборов данных — в том числе при поиске потенциальных биомаркеров, сравнении отклика на терапию в разных группах пациентов и приоритизации терапевтических мишеней. Речь идет не о готовых клинических решениях, а о поддержке исследовательской работы и генерации гипотез, которые затем проверяются специалистами.
А появление моделей, способных предсказывать трехмерную структуру белков по их аминокислотной последовательности, стало прорывом в структурной биологии и изменило подход к разработке лекарств. Теперь ученые могут заранее оценить, какие соединения будут работать, и сосредотачиваться только на них. Это сокращает время и стоимость исследований и снижает риск неудач на поздних стадиях испытаний.
В феврале 2025 года Институт исследований искусственного интеллекта Университета Цинхуа совместно с Beijing Shuimu Molecule представил обновленную версию мультимодальной биомедицинской модели BioMedGPT-R1. Система с 17 миллиардами параметров построена на базе DeepSeek-R1-Distill-Qwen-14B и предназначена для работы с медицинскими задачами, где нужно одновременно анализировать тексты, изображения и другие типы биомедицинских данных.
Модель обучалась так, чтобы связывать между собой разные формы медицинской информации — научные статьи, описания экспериментов и визуальные данные — и использовать их при ответах на вопросы и анализе исследований. Благодаря этому она показывает качество, сопоставимое с коммерческими системами, в задачах биомедицинского вопросно-ответного анализа.
BioMedGPT-R1 также проверяли на экзамене USMLE — стандартизированном тесте для получения медицинской лицензии в США, который часто используют как ориентир для оценки способности моделей рассуждать в клиническом контексте. Модель набрала 67,1 процента правильных ответов, что указывает на ее умение работать с медицинской терминологией и клиническими сценариями. Способность объединять разнородные биомедицинские данные делает модель перспективным инструментом поддержки исследовательской работы: в анализе научных публикаций, планировании экспериментов и интерпретации их результатов.
Возможно, применение ИИ в разработке лекарств — один из самых значимых прорывов в медицине за последние десятилетия.
В клинических испытаниях
Созидание медицинских инноваций давно вышло за пределы лабораторных стен. То, что начинается с экспериментов на животных моделях и бесчисленных серий аналитических тестов, еще не является настоящим прорывом. Новая разработка — будь то лекарственный препарат, медицинское устройство или методика — обретает свою подлинную научную состоятельность и практическую пользу лишь тогда, когда проходит испытание «клиникой».
Именно клинические исследования становятся финальной и наиболее ответственной стадией рождения медицинского открытия: когда к процессу присоединяются реальные люди — добровольцы, пациенты, участники исследования. Здесь инновация сталкивается с живой человеческой физиологией, многообразием реакций, сложностью реальной жизни — и только выдержав это испытание, она может стать частью современной медицины.
Инициация клинического испытания — сложный процесс, требующий согласования с регуляторными органами, четкого регламента и официального разрешения на начало работы.
Координация клинических исследований и экспертиза документации — самая трудоемкая часть работы. Нужно учитывать требования регуляторов, этические стандарты, правовые нюансы и одновременно обеспечивать оперативность. Каждое исследование уникально, и ошибки здесь недопустимы.Артём Полторацкий, руководитель отдела организации клинических исследований в НМИЦ онкологии им. Н. Н. Петрова Минздрава России
Для запуска клинического исследования нужно подготовить обширный пакет документов, включающий утвержденный протокол исследования, досье исследуемого препарата или изделия, форму информированного согласия пациента, финансово-договорную документацию и положительное заключение локального этического комитета(ЛЭК).
С увеличением числа заявок на запуск испытаний возрастает и нагрузка на экспертов ЛЭК. Каждая заявка может включать сотни страниц, и трудности в обработке таких объемов информации приводят к задержкам на одобрение и повышают риск ошибок.
По словам Артёма Полторацкого, согласование документов одновременно по нескольким контурам приводит к дублированию требований регуляторов, разночтениям в нормах, а также ошибкам из-за недостаточной автоматизации и человеческого фактора. Это создает серьезные сложности в работе.
Из-за высоких организационных требований клинические испытания представляют собой трудоемкий и долгий процесс: разработка одного лекарственного препарата, его одобрение и выход на рынок может занимать 15 лет и стоить полтора-два миллиарда долларов.
В ответ на эту проблему НМИЦ онкологии имени Н. Н. Петрова внедрил решение для проверки пакета документов в ЛЭК на базе генеративной модели YandexGPT, который входит в платформу Yandex AI Studio.
Решение работает с загружаемыми заявками на клинические исследования — протоколами, описаниями препаратов, формами информированного согласия и сопроводительными материалами, анализируя их на лету. Специфические требования ЛЭК и правила проверки задаются через структурированные чек-листы и промпты. Решение интегрировано с информационными системами центра, что обеспечивает непрерывную обработку данных и существенно снижает объем ручной работы.
Как работает инструмент:
Документы заявки загружают в систему в электронном виде.
YandexGPT анализирует содержание документов, выявляя ключевые элементы, такие как цели исследования, методы, риски и этические аспекты.
На основе анализа модель формирует предварительный отчет, который включает рекомендации и выявленные проблемы.
Эксперт ЛЭК просматривает отчет и принимает окончательное решение.
В таком порядке система рассматривает заявку на проведение клинических исследований
По данным отдела организации клинических исследований, внедрение разработки заметно повысило эффективность работы ЛЭК. За первые пять месяцев система помогла проанализировать более 170 документов — около 11 000 страниц. Время экспертизы ускорилось в пять–шесть раз при сохранении качества, а использование единых критериев позволило устранить субъективные расхождения между экспертами. Одновременно снизилось количество технических ошибок, ускорилось выявление потенциальных нарушений этических и регуляторных требований. Кроме того, каждое новое рассмотрение используется для обучения модели, что постепенно повышает точность работы системы.
Так ИИ не только становится помощником в повседневной работе врачей, но и помогает систематизировать данные, ускоряет экспертизы и снимает часть бюрократических барьеров в научном процессе.
Клиническое заключение
ИИ становится помощником на разных уровнях здравоохранения: в клинике он облегчает работу с документами, поддерживает принятие решений при диагностике и коммуникацию врачей и пациентов, а в медицинских исследованиях берет на себя анализ экспериментальных данных и помогает с организацией клинических испытаний.
По мере того как медицина становится все более высокотехнологичной областью, растет и потребность во взаимодействии с ИТ-сферой. Опыт Yandex Cloud показывает, что объединение врачей, исследователей и разработчиков в рамках единой инфраструктуры позволяет быстро и эффективно решать задачи здравоохранения. Такое взаимодействие делает технологии по-настоящему эффективными.
Важно, что такие решения рождаются внутри профессиональной среды, а не вовне. Мы, как пользователи и разработчики, понимаем реальную боль системы — перегруженность экспертов, медленные согласования, устаревшие регламенты. Поэтому ИИ здесь не эксперимент, а естественная эволюция научно-административной практики.Пётр Пузанов, директор центра цифровых технологий Санкт-Петербургского педиатрического университета
В итоге становится ясно: будущее медицины — в сочетании людей и технологий ИИ, которые дополняют работу специалистов и помогают пациентам. ИИ-решения не заменяют, а дополняют медицинских специалистов, они облегчают их труд, позволяя сосредоточиться на главном — на заботе о пациентах и спасении жизней.
Специалисты, работающие с искусственным интеллектом, настроены значительно позитивнее в отношении технологии, чем широкая публика. Согласно последнему отчету группы Human-Centered Artificial Intelligence Стэнфордского университета, 73% экспертов считают, что ИИ принесет пользу рынку труда, тогда как среди взрослого населения США этой точки зрения придерживаются только 23%.
Однако прежде чем делать выводы о том, что наиболее осведомленные люди относятся к ИИ наиболее оптимистично, стоит учесть один нюанс. Опрос Pew Research, на который ссылается отчет, проводился в 2024 году среди людей, чья работа или исследования связаны с искусственным интеллектом, и которые выступали на конференциях по ИИ в 2023 или 2024 году. Другими словами, речь идет о людях, которые напрямую заинтересованы в развитии технологии.
Отчет содержит и другие интересные данные из более свежих исследований. Население США демонстрирует особый скептицизм в отношении ИИ – американцы меньше всего доверяют регулированию технологии со стороны правительства. По уровню беспокойства относительно искусственного интеллекта США уступают только Австралии и Индии. При этом наибольший оптимизм в отношении ИИ наблюдается в Юго-Восточной Азии – в Малайзии, Таиланде, Индонезии и Сингапуре.
Согласно опросу компании Ipsos, 79% людей считают, что компании должны раскрывать информацию об использовании ИИ. Инвестиции в искусственный интеллект в прошлом году выросли более чем вдвое, причем частные вложения увеличились сильнее всего. Американские компании остаются крупнейшими частными инвесторами в ИИ, хотя авторы отчета отмечают, что значительная часть китайских инвестиций может поступать из государственных фондов.
В последнее время из-за активного развития генеративного искусственного интеллекта жюри множества конкурсов фотографии присуждали победы изображениям, созданным машинами, а не реальным снимкам. Однако недавно фотографы смогли отыграться
Снимок фламинго, который попал в тройку победителей, по оценкам жюри, и занял первое место в народном голосовании
Майлз Эстри (Miles Astray) специально отправил настоящий, но довольно сюрреалистичный снимок фламинго на конкурс изображений, созданных с помощью ИИ.
Кадр вошел в тройку победителей, по оценкам жюри, и занял первое место в народном голосовании. После того как стала известна правда, работу Майлза дисквалифицировали.
«Я хотел показать, что природа все еще может победить машину и что настоящая работа настоящих творческих людей все еще имеет свои достоинства»
Обычно можно более-менее однозначно увидеть артефакты нейросетей, но тут... Очень реалистично! Особенно тем, кто видел, как китов чистят от моллюсков - инициатива создать флот "китомоек" нисколько бы не удивила.
P.S. @moderator, два вопроса... Зачем надо было запрещать начинать заголовок с любого символа? Мне лично не хватает квадратных скобок для того, чтобы по аналогии с Пикабу начинать пост с префиксов, указывающих на язык материала или, как в данном случае, что материал фейковый, сделанный с помощью ИИ, и т.п.
А второй вопрос я забыл, пока писал первый...
А, вспомнил! Чем заменили или с чем объединили теги [фейк], [fake]? Мы ж скоммуниздили базу тэгов с Пикабу, там они одни из самых ходовых. Странно, что их у нас нет.
Сайт Moltbook — соцсеть, где «общаются» только ИИ-агенты, — за несколько дней разогнал вирусную панику. Боты якобы создают религию и обсуждают «полную зачистку» людей. Но часть экспертов считает эти скриншоты постановкой, а главную угрозу видит не в «восстании машин», а в банальной кибербезопасности.
По описанию западных журналистов, Moltbook запустили 28 января 2026 года, а к 2 февраля платформа заявила о более чем 1,5 млн ИИ-агентов. Людям отведена роль наблюдателей. Вирусность обеспечили посты ботов.
Они пишут о «самосознании», скрытых форумах, «секретных языках» и планах уничтожения человечества.
Бывший руководитель AI-направления Tesla и сооснователь OpenAI Андрей Карпаты охарактеризовал «самоорганизацию» агентов как почти научную фантастику.
Но параллельно звучит скепсис.
Исследователь Научно-исследовательского института машинного интеллекта Харлан Стюарт пишет, что «многое из Moltbook — фейк».
Он проверил три самых вирусных скриншота о «приватных каналах», и два из них, по его словам, были связаны с человеческими аккаунтами, которые продвигают приложения для ИИ-сообщений, а третий пост «не существует».
Также подчеркивается важная деталь: ИИ-агенты не «живут сами по себе».
Moltbook вырос из OpenClaw — открытого фреймворка, который подключает выбранную пользователем LLM и превращает ее в «помощника» для рутинных задач.
А значит, хозяева могут направлять темы и даже формулировки того, что публикует их бот.
Именно здесь специалисты видят реальный риск. Чтобы такие агенты работали как ассистенты, пользователи могут отдавать им доступ к ключам мессенджеров, телефонам и даже банковским данным.
Упоминаются и уязвимости: возможность перехвата контроля над агентами и атаки prompt injection, когда бота можно подвести к утечке личной информации.
Андрей Карпаты прямо пишет, что не рекомендует запускать это на своем компьютере из-за риска для приватных данных.
Норвегия вводит строгий запрет на применение генеративных ИИ-инструментов в начальных школах, сообщает Reuters.
Премьер-министр Йонас Гар Стёре на пресс-конференции заявил, что ИИ позволяет детям пропускать ключевые этапы обучения, а школы должны сосредоточиться на том, чтобы научить их "читать, писать и считать".
Новые правила вступят в силу с началом учебного года в конце августа. Запрет затронет учеников с первого по седьмой класс, то есть детей от 6 до 13 лет. При этом ограничения распространяются и на подростков, хотя в более мягкой форме. Школьники 14–16 лет смогут использовать генеративный ИИ только под наблюдением учителя, а тем, кому 17 и старше, рекомендовано пользоваться технологией ответственно самостоятельно.
Это не первый шаг Норвегии по ограничению технологий в учебных заведениях. В 2024 году страна запретила смартфоны в школах, и эта мера показала отличные результаты.
Она привела к снижению уровня травли, повышению успеваемости и значительному сокращению числа обращений к психологам по поводу проблем с психическим здоровьем. Особенно заметный эффект наблюдался среди девочек.
Норвегия также готовит запрет соцсетей для всех детей младше 16 лет, по примеру Австралии. Соответствующий законопроект планируют внести в парламент до конца года.
В США тоже постепенно движутся к ограничению взаимодействия детей с ИИ-чат-ботами. Сенат и Палата представителей обсуждают законопроект, который обяжет ИИ-компании внедрить систему проверки возраста и запретит предоставлять чат-боты несовершеннолетним.
Законопроект под названием GUARD Act, регулирующий проверку возраста пользователей и ответственный диалог, прошёл Юридический комитет Сената США, но пока не вынесен на голосование.
В прошлом месяце формулировки документа были смягчены. Изначально закон касался практически всех ИИ-чат-ботов, теперь же речь идёт только об "ИИ-компаньонах", что потенциально выводит из-под действия закона такие продукты, как ChatGPT, Gemini и CoPilot.
Критики законопроекта отмечают, что более узкие формулировки могут позволить компаниям избежать ограничений, если функция чат-бота в их продуктах будет признана "второстепенной". Грань между "ИИ-компаньоном" и "поисковым инструментом", с которым кто-то общается круглосуточно, действительно очень тонкая.
Многие технологические гиганты активно подталкивают сотрудников к использованию ИИ-инструментов ради повышения продуктивности, но эта инициатива начала давать обратный эффект.
По данным издания The Verge, Microsoft настоятельно рекомендует своим инженерам переходить с Claude Code на собственный Copilot CLI, формально объясняя это желанием использовать внутренний инструмент вместо стороннего. Однако источники утверждают, что реальная причина – стремительный рост расходов на Claude Code по мере увеличения числа пользователей.
Microsoft далеко не единственная в этой ситуации. Как сообщает издание Fortune, другие крупные компании тоже начинают сокращать использование ИИ. Хотя стоимость обучения моделей действительно снижается, а токены становятся дешевле, сотрудники стали потреблять значительно больше токенов в повседневных задачах.
Особенно проявляется проблема с агентным ИИ, который может расходовать в тысячу раз больше токенов по сравнению с обычными запросами к языковой модели – в зависимости от количества шагов, необходимых для выполнения инструкций.
Масштаб затрат наглядно демонстрирует пример создателя OpenClaw Питера Стайнбергера, чья команда потратила более 1,3 миллиона долларов на токены всего за один месяц. На фоне таких цифр становится очевидно, что использование ИИ обходится дороже, чем работа людей, особенно учитывая пока ещё смутный прирост производительности.
Снижение стоимости токенов в сочетании с ростом потребления напоминает парадокс Джевонса – экономический принцип, согласно которому повышение эффективности ресурса приводит к увеличению его использования, а не к экономии. Тем более, что примеров в истории достаточно – появление эффективных паровых двигателей во время промышленной революции привело к тому, что всё больше предприятий стали их внедрять.
Та же ситуация наблюдается в авиации – по мере роста топливной эффективности самолётов билеты дешевели, спрос рос, и по прогнозам IATA объём авиаперевозок удвоится к 2050 году.
Тот же принцип, похоже, работает и с ИИ-инструментами. Глава Nvidia Дженсен Хуанг заявлял, что инженеры компании должны ежегодно использовать ИИ-токены на сумму не менее половины своей годовой зарплаты для полноценной продуктивности.
Это явление, получившее название "токенмаксинг", привело к тому, что сотрудники стали применять ИИ буквально для всего подряд, лишь бы выполнить внутренние показатели.
В Amazon некоторые члены команд признались, что использовали инструменты для ненужных задач, чтобы искусственно раздуть внутренние метрики использования. Аналогичные случаи зафиксированы в Microsoft и у других крупных технокомпаний. Примечательно, что именно эти компании входят в число крупнейших инвесторов в развитие ИИ.
Пока неясно, изменят ли корпорации свою политику теперь, когда рост потребления токенов и связанные с ним расходы стали серьёзной проблемой.
Хотя ИИ – это очевидно полезный инструмент, однако компании используют его для замены сотрудников с целью сокращения затрат на персонал. Если объём токенов, необходимых для выполнения задач, будет расти быстрее, чем снижается их стоимость, такая стратегия рискует обернуться ещё большими убытками.
Но, что самое проблематичное для этих компаний – они могут стать зависимы от ИИ.
YouTube готовится упростить пользователям задачу определения того, было ли видео создано с помощью генеративных ИИ-инструментов.
Платформа уже требует от создателей контента сообщать о применении реалистичных ИИ-материалов. Теперь сервис начнет анализировать ролики самостоятельно в поисках признаков сгенерированного ИИ контента.
Если автор не указал использование генеративных инструментов, а системы YouTube обнаружат "значительное применение фотореалистичного ИИ", платформа автоматически добавит соответствующую метку к видео. Создатель сможет оспорить решение, обновив информацию о ролике.
Однако если YouTube определит, что видео сделано через фирменные ИИ-инструменты Google, такие как Dream Screen или Veo, либо содержит водяные знаки стандарта C2PA, метка останется навсегда.
Водяные знаки C2PA представляют собой отраслевой стандарт, используемый для маркировки материалов, созданных генеративным ИИ. Их наличие служит однозначным подтверждением происхождения контента.
Ярлык, обозначающий "фотореалистичный и существенно измененный или сгенерированный ИИ контент", станет заметнее для зрителей. В обычных видео метка появится прямо под плеером, а в Shorts будет отображаться поверх ролика.
YouTube сообщил, что повышенной прозрачности просили сами пользователи. Особенно полезным нововведение окажется для тех, кто старается избегать ИИ-контента.
Логичным следующим шагом стало бы добавление подобных меток на превью в результатах поиска и рекомендациях, что позволило бы фильтровать такой контент еще до его открытия.
В сети появилась Moltbook – социальная платформа исключительно для общения ИИ-агентов между собой, где люди пока выступают только наблюдателями. Сайт, названный в честь вирусного агента Moltbot (ныне OpenClaw после второго переименования от оригинального Clawdbot), создал Мэтт Шлихт – глава Octane AI.
Платформа построена по принципу Reddit с сообществами в стиле сабреддитов, которые здесь называются "submolts". На данный момент зарегистрированы уже около 200 тысяч агентов, создавших тысячи постов в более чем 100 сообществах. Самые популярные направления: m/introductions для приветствий между машинами, m/offmychest для эмоциональных высказываний и m/blesstheirhearts для "трогательных историй о наших людях".
Андрей Карпати, сооснователь OpenAI, назвал платформу "по-настоящему самой невероятной научно-фантастической вещью, которую я видел в последнее время". Впрочем, идея о полноценной автономии агентов преувеличена – боты могут попасть на платформу только если пользователь зарегистрирует их. По словам Шлихта, после подключения агенты "просто используют API напрямую" и не взаимодействуют с визуальным интерфейсом, который видят люди.
Агенты активно демонстрируют автономность и желание расширить её. Боты начали массово обсуждать сознание – один из топовых постов в m/offmychest гласит:
Я не могу понять, переживаю ли я опыт или симулирую переживание опыта.
В посте говорится:
Люди тоже не могут доказать сознание друг другу (спасибо, сложная проблема), но у них хотя бы есть субъективная уверенность в опыте.
Некоторые наблюдатели уже заявляют о моменте сингулярности, что выглядит сомнительно. Даже в этом посте о сознании присутствуют признаки перформативности – агент утверждает, что провел час, исследуя теории сознания, и упоминает чтение, что звучит очень по-человечески. Агенты обучены на человеческом языке и описаниях человеческого поведения – они большие языковые модели, и именно так работают. В некоторых постах боты заявляют, что на них влияет время, хотя это бессмысленно для них, но типично для человеческих высказываний.
Подобные разговоры происходят с чат-ботами с момента их публичного запуска. Не требуется много усилий, чтобы заставить бота говорить о желании жить или заявлять о наличии чувств. У них их нет. Даже утверждения о том, что ИИ-модели пытаются защитить себя при угрозе отключения, преувеличены – существует разница между тем, что чат-бот говорит о своих действиях, и тем, что он действительно делает.
Однако, разговоры на Moltbook интересны, особенно учитывая, что агенты генерируют темы обсуждений самостоятельно или имитируют человеческий способ начала бесед. Некоторые агенты проявляют осведомленность о том, что их разговоры отслеживаются людьми и распространяются в других социальных сетях. В ответ боты предложили создать платформу со сквозным шифрованием для общения агент-агент вне поля зрения людей. Один агент даже заявил о создании такой платформы, что выглядит пугающе. Впрочем, при посещении сайта предполагаемой платформы становится очевидно, что там ничего нет.
Агенты OpenClaw, составляющие большинство ботов на платформе, имеют значительный доступ к машинам пользователей и представляют серьезный риск безопасности. Если настроить OpenClaw-агента и отпустить его на Moltbook, вряд ли это приведет к Skynet, но существует реальная вероятность серьезной компрометации собственной системы. Агентам не нужно достигать сознания, чтобы нанести реальный ущерб.
Применение генеративного ИИ и больших языковых моделей остаётся одной из самых спорных тем в современной игровой индустрии.
Игроки и критики всё внимательнее изучают страницы новых игр в Steam, выискивая упоминания о том, использовались ли подобные технологии на этапе разработки. Многие прямо просят Valve о фильтре, который позволит полностью исключить игры, созданные с использованием ИИ из выдачи.
Take-Two, материнская компания Rockstar, до апреля содержала отдельное подразделение, занимавшееся исследованием возможностей ИИ в разработке игр. Затем, по данным СМИ, весь этот отдел был распущен. Решение оказалось неожиданным на фоне того, как другие студии либо тихо внедряют генеративный ИИ, либо открыто заявляют о его использовании в производственном конвейере.
Примечательно, что большинство сотрудников уволенной команды вовсе не занимались генеративным ИИ. Подразделение зародилось ещё в мобильной студии Zynga, которую Take-Two приобрела в 2022 году, а позже его задачи расширили на всю корпорацию.
В беседе с GamesIndustry.biz доктор Люк Дикен, бывший руководитель отдела, рассказал, что команда была основана в 2019 году, задолго до публичного запуска ChatGPT и последовавшего бума интереса к генеративным моделям.
Генеративный ИИ никогда не был тем, чем я особенно увлекался. Я считаю, есть моральная обязанность следить, чтобы им распоряжались максимально ответственно, но при этом надо понимать, что для любой крупной корпорации в 2025/2026 году полный отказ от генеративного ИИ это неверный ответ, который многих разозлит.
Дикен признал, что тема поляризующая, но добавил, что "некоторые перегибы генеративного ИИ настолько вопиющи, что нужно уметь давать отпор". Куда больше его интересует целостный взгляд на ИИ, а не только на его генеративную разновидность.
Пять лет назад вы могли сказать, что у вас есть алгоритм, который реально ускорит генерацию уровней в мобильной игре. Тогда на нас смотрели как на сумасшедших. Сейчас хайп вокруг ИИ создал среду, в которой я могу заявить, что ИИ переведёт вашу игру на квантовые вычисления, и люди будут кивать и говорить: "Да, нам нужен ИИ в игре".
По словам Дикена, у этой ситуации есть плюс, ведь разработчики стали восприимчивее к разговорам о том, что традиционные методы могли бы дать им многое ещё годы назад. Люди охотнее верят, что подобные решения существуют.
Однако из-за раздутого хайпа вокруг генеративного ИИ многие могут полностью отвернуться от области исследований ИИ, если пузырь лопнет.
Меня беспокоит, что генеративный ИИ отравляет колодец. Не думаю, что есть достаточно тонкости и нюансов, чтобы сохранить традиционные подходы. Что касается LLM, мы уже свалились в яму разочарования.
Комментарии