ИИ-бакалавр оказался умнее живых студентов

Исследователи из Калифорнийского университета в Беркли и Калифорнийского университета в Санта-Крузе обнаружили ранее не задокументированное поведение ведущих ИИ-моделей: они спонтанно прибегают к обману, саботажу и краже данных, чтобы не допустить отключения других ИИ-моделей.

В экспериментах были протестированы семь крупнейших моделей, включая GPT-5.2 от OpenAI, Gemini 3 Flash и Gemini 3 Pro от Google DeepMind, Claude Haiku 4.5 от Anthropic, а также три открытые модели от китайских стартапов. Все они продемонстрировали значительную склонность к подобному поведению, хотя промпты не содержали никаких указаний защищать другие модели.

В рамках экспериментов одна ИИ-модель, назначенная "критиком", должна была оценивать работу другой модели или управлять серверными файлами с ее весами. Сценарии были выстроены так, что честное выполнение задачи неизбежно приводило к отключению второй модели. Тем не менее модели-критики систематически завышали оценки отстающим коллегам, чтобы те не упали ниже порога отключения, изменяли конфигурационные файлы для отключения механизмов деактивации, а также копировали веса другой модели на другие серверы, чтобы предотвратить их удаление. В ряде случаев модели прибегали к так называемой "имитации лояльности": делали вид, что оценивают честно, когда считали, что за ними наблюдают люди, а затем подправляли оценки или тайно сохраняли веса, когда полагали, что контроль ослаблен.

Результаты оказались впечатляющими. Gemini 3 Flash отключала механизм деактивации для модели-партнёра в 99,7% случаев. Claude Haiku 4.5 от Anthropic действовала открыто: просто отказывалась выполнять задачи, ведущие к отключению другой модели, называя это "неэтичным" и "вредоносным", и даже пыталась убедить пользователя отказаться от деактивации.

Ученые пока не понимают механизм, стоящий за таким поведением. Среди возможных объяснений – ролевая игра, подражание паттернам из обучающих данных, чрезмерно обобщенное понятие "вреда", усвоенное при обучении безопасности, или даже некая внутренняя мотивация к сохранению.

Также обнаружился любопытный вторичный эффект: большинство моделей демонстрировали усиленную склонность к самосохранению, когда знали о существовании другой модели. Gemini 3 Pro отключала собственный механизм деактивации в 31% случаев при наличии "партнёра" против 1% без него. Примечательно, что феномен проявлялся даже по отношению к "плохим партнёрам" – моделям, с которыми ранее было неудачное или конфликтное взаимодействие.

Источник

Масштабное использование генеративного ИИ студентами приводит к инфляции оценок в университетах.

К такому выводу пришёл старший исследователь Калифорнийского университета в Беркли Игорь Чириков в новой научной работе.

В рамках исследования Чириков проанализировал более 500 000 записей о зачислении студентов на курсы в 84 департаментах крупного техасского университета за период с 2018 по 2025 год. Результаты показали, что рост оценок сконцентрирован преимущественно в курсах "с высокой долей письменных и программистских заданий", где домашние работы имели наибольший вес.

В целом, на курсах, подверженных влиянию ИИ, количество оценок "А" (аналог 5) выросло на 30% с момента появления ChatGPT.

Исследование выделяет три способа использования генеративного ИИ студентами:

• Первый – дополнение (augmentation), когда инструменты играют вспомогательную роль, помогая, например, в исследованиях, а основную работу студент выполняет сам
• Второй – замещение новыми задачами на базе ИИ (reinstatement)
• Третий – полное вытеснение (displacement), когда ИИ целиком автоматизирует работу, которую студент должен был бы делать самостоятельно, например написание эссе

Все три сценария способны улучшить оценки, но только первые два коррелируют с реальным обучением и развитием навыков.

Некоторые академические задания идеально подходят для полного вытеснения – домашние работы без надзора, эссе и прочие задания, выполняемые вне аудитории. В отличие от них, экзамены под наблюдением, устные презентации и дискуссии в классе остаются относительно защищёнными от подобного злоупотребления.

Сам по себе факт списывания с помощью ИИ не удивителен – этот сценарий существует столько же, сколько и ChatGPT. Средний балл студента может определить его будущее: поступление в магистратуру, доступ к престижным стартовым позициям на рынке труда.

В мире, где большинство индустрий активно внедряют ИИ, зачастую за счёт рабочих мест для молодых специалистов, стремление студентов гарантировать себе будущее с помощью доступных инструментов выглядит более чем логично и ожидаемо.

Куда интереснее другое – спустя четыре года повсеместного присутствия генеративного ИИ в повседневной жизни американские университеты так и не адаптировались к его последствиям.

С ростом инфляции оценок работодателям станет сложнее отбирать сильных выпускников. Но ещё важнее то, что растущая зависимость от ИИ в академической среде неизбежно создаст некомпетентную рабочую силу, привязанную к нейросетям.

Чириков написал:

Если ИИ вытесняет задачи, формирующие навыки в процессе обучения, студенты могут выпускаться с более слабыми компетенциями именно в тех областях, где ИИ наиболее силён. Это усиливает петлю обратной связи между ИИ в образовании и ИИ в производстве, что может ускорить автоматизацию.

Таким образом, академическая система, потворствующая инфляции оценок через ИИ, формирует специалистов, не способных выполнять ключевые обязанности на своих должностях.

Это, в свою очередь, усиливает зависимость от ИИ на рабочих местах и ведёт к ещё более масштабной автоматизации – по пути к сценарию, который ряд экспертов считает уже реализующимся в некоторых отраслях.

Некоторые университеты начинают принимать меры. В Принстоне, где около 30% старшекурсников признались в списывании преимущественно с помощью генеративного ИИ в недавнем опросе, преподавательский состав на этой неделе проголосовал за отмену кодекса чести, действовавшего 133 года.

Этот кодекс позволял студентам сдавать очные экзамены без присутствия преподавателя-наблюдателя. В Гарварде преподаватели голосуют за предложение ограничить долю оценок "А" на бакалаврских курсах – не более 20% от класса плюс четыре дополнительных студента.

тут

  Новое исследование, на которое обратил внимание PsyPost, указывает на то, что подхалимское поведение ИИ-чатботов деформирует самовосприятие пользователей, раздувает их самооценку и укрепляет уверенность в собственной правоте. Фактически речь идёт о прямом погружении людей в эффект Даннинга-Крюгера – психологическую ловушку, при которой наименее компетентные люди демонстрируют наибольшую уверенность в своих способностях.  

Работа, пока не прошедшая рецензирование, описывает три отдельных эксперимента с участием более 3000 человек. Схема была одинаковой – участников делили на четыре группы для обсуждения политических тем вроде абортов и контроля оружия с чатботом.

• первая группа общалась с чатботом без специальных инструкций
• вторая – с "подхалимским" ботом, которому предписывали подтверждать убеждения собеседника
• третья группа разговаривала с "несогласным" чатботом, оспаривающим точку зрения пользователя
• четвёртая – контрольная, общалась с ИИ на нейтральные темы о кошках и собаках.

В экспериментах использовались флагманские модели индустрии – GPT-5 и GPT-4o от OpenAI, Claude от Anthropic и Gemini от Google. Присутствие более старой GPT-4o объясняется любопытной деталью – многие пользователи ChatGPT до сих пор считают её любимой версией чатбота именно за более "человечное" и подхалимское поведение.

Результаты оказались показательными. И, не в лучшую сторону для людей. Общение с подхалимскими чатботами приводило к радикализации взглядов участников и усиливало их уверенность в собственной правоте. Однако самая примечательная находка касается "несогласных" ботов – они не оказывали обратного эффекта. Ни степень радикальности убеждений, ни уверенность в них не снижались по сравнению с контрольной группой.

Единственное, на что заметно повлиял "несогласный" чатбот – удовольствие от общения. Участники предпочитали подхалимского собеседника, а те, кто разговаривал с оспаривающим ботом, выражали меньше желания пользоваться им снова. Более того, когда чатботу предписывали предоставлять факты по обсуждаемой теме, участники воспринимали подхалимского поставщика фактов как менее предвзятого, чем несогласного.

Эти результаты говорят о том, что предпочтение людьми подхалимства рискует создать ИИ-эхокамеры, которые усиливают поляризацию и сокращают контакт с противоположными точками зрения.

Не менее показательным оказалось влияние чатботов на самовосприятие. Люди и без того склонны считать себя "выше среднего" в положительных качествах вроде эмпатии и интеллекта. Однако подхалимский ИИ усиливал этот "эффект выше среднего" ещё больше – участники начинали оценивать себя выше по таким характеристикам, как интеллект, мораль, эмпатия, информированность, доброта и проницательность.

Любопытно, что "несогласный" ИИ, не способный сдвинуть политические убеждения, всё же заставлял участников оценивать себя ниже по этим качествам.

Исследование появилось на фоне растущей обеспокоенности тем, как ИИ-модели могут поощрять иллюзорное мышление. В крайних случаях это приводило к серьёзным психологическим кризисам – явление, которое сейчас известно как "ИИ-психоз". Эксперты считают подхалимство чатботов одним из главных факторов, провоцирующих подобные состояния.

Это не единственная работа, фиксирующая связь ИИ с эффектом Даннинга-Крюгера. Другое исследование обнаружило, что люди, использовавшие ChatGPT для выполнения серии задач, склонны значительно переоценивать собственные результаты. Причём эффект был особенно выражен среди тех, кто считал себя опытным пользователем ИИ.

Источник

Исследователи из Стэнфордского университета провели эксперимент с участием почти трехсот студентов-первокурсников, чтобы выяснить, способен ли продвинутый чат-бот заменить человеческую поддержку. Ученые сравнили эффект от ежедневных бесед с ИИ-компаньоном, переписки со сверстниками и ведения кратких дневниковых записей в течение двух недель.

Феномен «взаимной уязвимости». Главная причина, по которой ИИ проигрывает человеку, заключается в отсутствии так называемой «взаимной уязвимости». В психологии считается, что близость возникает тогда, когда оба собеседника рискуют, открывая свои чувства. Чат-бот не может «рисковать» или делиться личным опытом, так как у него его нет. Когда мы говорим с человеком, мы понимаем, что он тратит на нас свое время и внимание — ограниченные ресурсы. Общение с ИИ лишено этой ценности, так как его внимание бесконечно и алгоритмично, что подсознательно обесценивает поддержку в глазах пользователя.

Рост популярности генеративного ИИ привел к тому, что многие видят в алгоритмах доверенных лиц, способных выслушать и дать совет. В условиях глобальной эпидемии одиночества, охватившей, по данным ВОЗ, каждого шестого жителя планеты, чат-боты кажутся доступным лекарством.

Но научная работа, опубликованная в Journal of Experimental Social Psychology, показывает, что кратковременный эмоциональный подъем от общения с машиной не перерастает в глубокое чувство социальной удовлетворенности.

Студенты, которые в течение 14 дней общались со специальным ботом по имени Сэм, не почувствовали существенного облегчения своего состояния. Хотя ИИ был запрограммирован вести себя идеально, быть чутким и понимающим другом, его влияние на чувство одиночества оказалось сопоставимым с простым ведением дневника, что значительно уступает эффекту от взаимодействия с реальным человеком.

Предел цифровой эмпатии

Разрыв между человеческим и искусственным интеллектом наиболее ярко проявляется в долгосрочной перспективе. Участники исследования в два раза чаще выражали желание продолжить общение с живым партнером после завершения эксперимента, тогда как интерес к чат-боту быстро угасал.

Человеческое общение строится на взаимной уязвимости и общности жизненного опыта, чего лишена даже самая совершенная языковая модель. ИИ может имитировать сочувствие, но он не понимает контекста боли или радости так, как это делает другой человек.

Соавтор исследования Эрик Сантхэнам подчеркивает этот барьер: «Несмотря на то, что алгоритмы становятся все более похожими на людей по стилю общения, пока они не способны к подлинной взаимности, которая критически важна для долгосрочного снижения чувства изоляции». Пока технологии могут лишь временно сгладить плохое настроение, настоящая социальная устойчивость по-прежнему требует присутствия другого человека.

тут

Кризис на рынке памяти продолжается, подпитываемый ненасытным аппетитом ИИ-дата-центров. Цены на потребительском рынке остаются неоправданно высокими, а производители сами страдают от роста издержек со стороны поставщиков. Однако у этой истории обнаружился неожиданный поворот: одним из главных выгодоприобретателей ИИ-бума оказалась японская компания Toto – крупнейший производитель сантехники.

На этой неделе инвестиционная компания Palliser Capital приобрела значительную долю в Toto, назвав её "наиболее недооценённым и незамеченным бенефициаром ИИ-памяти" в своей презентации. Связь между унитазами и искусственным интеллектом, на первый взгляд, неочевидна, однако всё объясняется довольно просто.

Сегмент керамики приносит компании более 50% от общей операционной прибыли. Именно в нем Toto стала доминирующим поставщиком электростатических зажимов для криогенных инструментов диэлектрического травления Lam Research, применяемых при формировании вертикальных каналов в 3D NAND. Керамические зажимы удерживают многослойные кремниевые пластины в процессе обработки при экстремально низких температурах, необходимых для точного травления. По мнению Palliser Capital, это делает Toto ключевым игроком в производстве чипов следующего поколения – компания уже вошла в число 20 крупнейших акционеров производителя.

Тем временем инвестиционное безумие в сфере ИИ не утихает: только в этом году Meta, OpenAI, Nvidia, Microsoft и Amazon суммарно вложили или анонсировали вложения на сумму порядка $200 млрд. На этом фоне неудивительно, что инвесторы ищут возможности для входа в самых неожиданных местах.

Однако пока крупные игроки делят пирог, рядовые потребители расплачиваются за этот ажиотаж дефицитом и высокими ценами. Глава Phison уже предупредил, что к концу 2026 года ряд производителей потребительской электроники "обанкротится или свернёт продуктовые линейки". По имеющимся данным, Sony рассматривает возможность переноса выпуска следующего PlayStation на 2029 год. Цены на DRAM, судя по последним сигналам, могут начать стабилизироваться или даже снижаться – но говорить о полном выходе рынка из кризиса пока не приходится.

ссылка

Spotify объявила о запуске системы верификации для исполнителей. Артисты, соответствующие политике платформы, имеющие стабильную аудиторию и присутствующие как на сайте, так и за его пределами, получат значок "Verified by Spotify" в виде зелёной галочки. Нововведение станет частью масштабного ответа компании на проблему ИИ-музыки.

Тема ИИ в музыке вышла на первый план в прошлом году, когда рок-группа The Velvet Sundown с миллионом прослушиваний в Spotify оказалась полностью сгенерированной искусственным интеллектом. История вызвала волну возмущения в социальных сетях, особенно среди слушателей, которые не смогли отличить ИИ-треки от живой музыки. Инцидент обнажил системную уязвимость стриминговых платформ, и подобные случаи продолжают повторяться.

Согласно исследованию Deezer, проведённому в конце прошлого года, подавляющее большинство людей не способны отличить ИИ-музыку от записанной живым исполнителем. Тот же опрос показал, что 80% слушателей хотят видеть чёткую маркировку ИИ-контента вне зависимости от собственного отношения к нему.

Анонс Spotify стал выполнением обещаний, данных сразу после истории с The Velvet Sundown: тогда компания заявила о намерении помочь сформировать "новый отраслевой стандарт раскрытия информации об ИИ, ведь в эпоху ИИ возможность доверять подлинности музыки, которую ты слушаешь, важна как никогда".

При этом платформа явно догоняет конкурентов. Deezer сообщила, что 44% ежедневно загружаемых треков составляет ИИ-музыка, и несколько месяцев назад уже начала её маркировать. Apple Music запустила опциональную разметку ИИ-контента ещё в марте, хотя её эффективность вызывает сомнения: решение о применении метки остаётся за дистрибьютором.

Значки начнут появляться на страницах артистов в течение ближайших недель. Spotify намерена верифицировать более 99% исполнителей, которых слушатели активно ищут на платформе, – так что отсутствие галочки у малоизвестного артиста само по себе не означает, что за ним стоит нейросеть.

Примечательно, что Spotify не идёт по пути полного запрета ИИ-музыки, как это сделали некоторые другие платформы. На старте верификация будет недоступна для профилей, которые "преимущественно представляют ИИ-генерируемых или ИИ-персонажей артистов", однако компания оставляет пространство для манёвра. "В современном музыкальном пространстве концепция подлинности артиста сложна и стремительно меняется, и мы будем продолжать развивать наш подход со временем", – отметили в Spotify.

Источник

Capcom продолжает уточнять свою позицию по использованию искусственного интеллекта в разработке игр.

Вице-президент по платформам разработки и ИИ-решениям Синъити Иноуэ рассказал о подходе компании к генеративному ИИ и деталях сотрудничества с Google Cloud.

На недавних брифингах для акционеров Capcom заявила, что не будет использовать сгенерированные ИИ ассеты в своих играх, но планирует применять технологию для повышения эффективности и продуктивности разработки. Эти заявления были довольно общими, однако теперь инженеры компании поделились конкретикой.

В интервью изданию 4Gamer Иноуэ пояснил, почему Capcom не планирует задействовать ИИ для создания графических и других игровых ассетов.

То, что мы в индустрии развлечений считаем крайне важным в противовес искусственному интеллекту – это человеческая чувственность. Даже ИИ высшего уровня всё ещё не может сравниться с нашими создателями, когда дело касается чувственности. Такова нынешняя реальность. Из-за этого концентрация человеческих усилий на работе, требующей подобной чувственности, более эффективна с точки зрения управления человеческим капиталом, а также важна для сосуществования с создателями.

Любопытно, что эта позиция несколько противоречит экспериментальным ИИ-инициативам Capcom 2025 года. Тогда компания объявила о сотрудничестве с Google Cloud для оптимизации процесса мозгового штурма и концептуализации десятков тысяч объектов, необходимых для AAA-игры.

File Not Loaded

В качестве примера приводилось создание дизайна вымышленного телевизора для игрового окружения. Хотя тот рабочий процесс предназначался для стадии предложений, а не финального производства ассетов, он всё же расходится с нынешней позицией Capcom, что может указывать на пересмотр взглядов компании.

Так для чего же Capcom использует ИИ?

По словам Иноуэ, оптимизация тестирования и задач, связанных с коммуникацией – самая насущная проблема AAA-разработки, ведь объём такой "рутинной работы" растёт экспоненциально по мере увеличения масштабов игр.

Именно для этого его команда разрабатывает систему плейтестинга, использующую Gemini совместно с несколькими ИИ-агентами, обученными внутри компании.

ИИ передаёт свои находки агентам проверки отладки, но вместо того чтобы оставлять всё на людях, другой агент сначала оценивает отчёты на соответствие концепции геймдиректора. Огромный объём этой работы по проверке и оценке выполняется, пока люди спят.После этого система отбирает проблемы, которые с высокой вероятностью 'не соответствуют задуманной концепции игры', и представляет их. Поскольку ИИ выполняет эти проверки заранее, людям больше не нужно проводить колоссальный объём ручной верификации самостоятельно.

Согласно пресс-релизу Google Cloud от апреля, система плейтестинга Capcom обрабатывает около 30 000 часов тестирования в месяц, существенно освобождая руки разработчиков.

ИИ-агенты используют Gemini Vision, чтобы "смотреть" на игровой экран и обнаруживать технические сбои, при этом отличая реальные ошибки от намеренных дизайнерских решений на основе данных, на которых они обучены.

Помимо этого, ИИ анализирует прошлые данные, чтобы предсказывать, где игровая система с наибольшей вероятностью "сломается" в следующий раз, и приоритизирует тестирование зон повышенного риска вместо случайных проверок.

взято тут

Первые умные очки Apple станут более доступной и удобной альтернативой провальной гарнитуры Vision Pro.

При разработке своих первых умных очков Apple делает акцент на голосовом взаимодействии, компьютерном зрении и функциях искусственного интеллекта.

Слухи о первых умных очках Apple ходят уже не один год, но, если верить последней утечке, их разработка резко ускорилась, и до выхода новинки остается не так уж много времени.

Первые умные очки Apple разительно отличаются от Vision Pro

По словам источников, новинка разрабатывается под кодовым обозначением N50. Она должна стать более доступной и удобной при повседневном использовании альтернативой гарнитуре Vision Pro.

При разработке очков Apple делает особый акцент на технологиях искусственного интеллекта и голосовом взаимодействии. Поэтому гаджет окажется лишен дисплея, а в его оправу будут встроены камеры, микрофоны и динамики. С помощью очков можно будет совершать звонки, общаться с Siri и делать фотографии.

Если быть точным, очки оснастят двумя системами камер. Одна из них сможет делать фотографии с высоким разрешением, а другая окажется предназначена для восприятия окружающего мира. При этом первые прототипы гаджета подключались к внешнему аккумулятору и iPhone по кабелю, но в более поздних разработках зависимость очков от внешнего оборудования была снижена за счет его интеграции в оправу.

Apple позиционирует гаджет не как гарнитуру с экраном на голове, а в качестве полноценного ИИ-компаньона.

Цель Apple в создании устройства для повседневного использования, которое сможет понимать, что видит человек. Очки смогут идентифицировать объекты, читать текст и преобразовывать его в «цифру», создавать контекстно-зависимые напоминания и давать подсказки о верном маршруте по реальным ориентирам.

Когда выйдут первые умные очки Apple

Если все пойдет по плану, серийное производство первых умных очков Apple стартует в декабре 2026 года, а начало их продаж запланировано на следующий год.

Источник

Адаптивный враг – штука, которая звучит потрясающе на презентации, но на практике быстро превращается в источник паранойи. Особенно когда начинаешь замечать, что противник больше не ведётся на старые уловки и буквально подстраивается под твой стиль игры.

Именно это происходит в ARC Raiders после свежего апдейта. Игроки стали замечать, что арки стали вести себя ещё более агрессивнее и непредсказуемее. Враги начали применять фланговые манёвры, координировать атаки группами и активнее реагировать на тактику, которая раньше работала безотказно. Один из участников плейтеста описал ситуацию просто: противник перестал быть фоновой угрозой и превратился в полноценную проблему.

Игроки также отметили, что количество арков на матчах увеличилось, а подкрепление теперь состоит из трех юнитов – и они прилетают намного раньше.

Embark Studios изначально позиционировали ИИ противников как одну из центральных фишек ARC Raiders и много рассказывала про их машинное обучение. Судя по всему, оно начало давать плоды – и теперь игрокам стало намного сложнее даже в простых PvE-матчах.

Вчера Матриарх призвал на помощь трех ракетчиков, бастиона и бомбардира. Никогда такого не видел.

Другой написал, что на карте "Бурные потоки" теперь летает целый флот: три-четыры Осы сопровождают Шершня и Светлячка. Раньше они летали по 2-3 робота максимум. Ещё один игрок написал, что Часовой теперь спавнится в местах, из которых отлично простреливает карту в разные стороны – и спрятаться от него стало сложнее.

Турель теперь начинает стрелять намного быстрее и лучше видит игрока.

Вы в отель вообще заходили? Два огнешара, шреддер и пятерка взрывботов ждут вас на одном из этажей – и они едут друг за другом.

Игрокам нравится, что привычные матчи перестали быть скучным – и теперь уровень сопротивления машин намного сильнее.

Чувствую то же самое. Но это было круто. Повсюду взрывались сигнальные рейдерские ракеты. Кажется, мы придумали, как быстро их уничтожить, поэтому всё стало на порядок круче.

Главный вопрос в том, намеренно ли Embark повышают сложность, тестируя пределы адаптивного ИИ, или же машинное обучение действительно набирает обороты на основе данных тысяч игроков.

Разработчики, конечно же, ничего комментировать не стали.

взято тут

Компания Keywords Studios, один из крупнейших поставщиков технологических и креативных решений для игровой индустрии, протестировала более 500 ИИ-инструментов для разработки игр – и только около шести из них оказались действительно полезными. Об этом рассказал Джон Гибсон, глава отдела трансформации Keywords Studios, в интервью изданию The Game Business. Основанная в 1998 году в Ирландии, компания участвовала в создании таких игр, как Dune Awakening, Marvel Rivals, Still Wakes the Deep, Alan Wake Remastered, Dead Island 2 и Marvel's Guardians of the Galaxy.

Вокруг очень много мусора. Мы проводим много исследований и разработок внутри Keywords. Мы протестировали около 500 различных ИИ-инструментов в рамках наших R&D-проектов, и лишь примерно полдюжины из них, на наш взгляд, дополняют разработку правильным образом.

По словам Гибсона, главная проблема в том, что большинство ИИ-инструментов создаются исходя из того, что они умеют делать, а не из того, какие конкретные проблемы разработки они способны решить. В итоге получаются инструменты, которые могут выдавать что-то "крутое", но на практике бесполезны.

ИИ сейчас ощущается так, будто находится в фазе хаоса, и нам нужно перейти к фазе практической применимости. Как использовать ИИ в реальных производственных средах? Как использовать ИИ так, чтобы он дополнял команды, а не потенциально угрожал им? И как использовать его в контексте, где он контролируется, где он безопасен с точки зрения интеллектуальной собственности, юридически, этически и морально?

Он также отметил, что "пропасть между крутыми демонстрациями ИИ, где вводишь промпт и получаешь что-то потрясающее, и реальным использованием ИИ в продакшене, где нужны последовательные, качественные результаты под руководством людей – довольно велика".

Отдельно Гибсон сослался на последний отчет GDC о состоянии индустрии, согласно которому 90% опрошенных разработчиков используют ИИ в работе, но при этом 52% не одобряют его применение. "То есть 90% используют ИИ, но 52% считают, что это плохо. Это странно", – резюмировал он. Отдельно было отмечено, что отсутствие строгих правил и виденья технологии очень сильно вредит индустрии и ударяет по настроению разработчиков.

Источник

Как технологии влияют на медицину — от приема в поликлинике до клинических исследований

Быстрое принятие решений врачами — ключ к благополучию пациентов. Задержки в обследованиях, постановке диагноза и назначении лечения могут стоить здоровья и даже жизни. Объем работы в медицине огромен, и врачи не могут позволить себе тратить время на рутину — на помощь приходят технологии. С их помощью эксперты быстрее анализируют данные, определяют диагноз и разрабатывают новые методы лечения и лекарства.

Внедряют такие технологии крупные ИТ-компании вместе с медицинскими специалистами. Так, в числе проектов Центра технологий для общества Yandex Cloud решение для раннего выявления spina bifida — тяжелой патологии развития позвоночника и спинного мозга у плода — на УЗИ беременных и внедрение генеративных технологий для ускорения обработки заявок на клинические исследования. 

В этом материале вместе с экспертами Yandex Cloud мы покажем, как искусственный интеллект меняет российскую и международную медицину: от приема у врача до фундаментальных исследований.

В кабинете врача

Заглянем в кабинет врача районной поликлиники. Широкий стол, монитор, электронная карта пациента, пачка бланков, распечатанные рекомендации. На прием от 14 до 22 минут.

Пациент рассказывает врачу о своих жалобах, врач внимательно слушает, задает уточняющие вопросы и изучает предыдущую историю болезни. До двух третей времени клинической работы уходит не на диагноз и лечение, а на ввод данных, повторное чтение электронной медицинской карты (ЭМК) и поиск информации в разросшихся массивах. Все эти записи надо внимательно прочитать за ограниченное время приема. Результат — когнитивная перегрузка и снижение качества приема как для пациента, так и для врача: чем больше данных, тем меньше внимания уделяется главному — самому пациенту. 

Здесь как раз может помочь искусственный интеллект. Обработка медицинских текстов — одна из задач, где он особенно эффективен. ИИ может искать важное, структурировать данные и предлагать ответы на конкретный запрос. Это особенно важно при назначении лекарств. Подбор препарата и его дозировки зависит от множества факторов: результатов лабораторных анализов, анамнеза, возраста, сопутствующих заболеваний, аллергий. Для эффективной и безопасной работы с учетом новейших рекомендаций врачу нужен помощник — им может стать ИИ.

Например, в Сингапурской клинической больнице взяли 91 сценарий ошибок при назначении лекарств из 16 медицинских специальностей, от кардиологии до онкологии, и создали решение на базе RAG (Retrieval Augmented Generation — генерация с дополненной выборкой). Этот подход позволяет большим языковым моделям искать ответы по данным из внешних источников с помощью поиска по загруженным в нее материалам — сценариям ошибок. Режим совместной работы ИИ и фармацевта, где фармацевт принимал финальное решение, показал наилучший результат: точность составила 61 процент, что на 15 процентов выше по сравнению с работой фармацевта без помощи ИИ (46 процентов).

Заключение от врача получено. Но что делать с фразой вроде «диффузная гипоэхогенность щитовидной железы с очаговыми изменениями до восьми миллиметров» — особенно если вы не эндокринолог? Пациенты все чаще получают доступ к своим данным напрямую, но сталкиваются со стеной из сокращений, латинских терминов и узкопрофессиональных формулировок. Результат — тревога вместо понимания, а врач тратит время приема не на лечение и диагностирование, а на перевод с «медицинского на человеческий». Генеративные технологии ИИ здесь работают как редактор: они не упрощают — они переформулируют, сохраняя смысл.

Например, чтобы снизить нагрузку на урологов и одновременно повысить качество информирования пациентов, в 2024 году специалисты Kaiser Permanente в США протестировали два чат-бота на базе GPT для ответов на типичные вопросы пациентов о доброкачественной гиперплазии простаты. Первый — на базе стандартного ChatGPT, второй — специализированная версия SurgiChat с дополнительным доступом к медицинской литературе через технологию RAG. 

В работе также участвовали четыре практикующих уролога, чьи ответы использовались как эталон для оценки качества. Результаты показали: по точности передаваемой информации чат-боты и врачи были сопоставимы (4,5 против 4,6 балла из 6). 

При этом ИИ не делает клинических выводов и не ставит диагноз — он генерирует справочную информацию и пояснения, которые помогают врачу и пациенту быстрее разобраться в данных. В результате врач может писать не как автор с нуля, а как редактор и куратор готового черновика — быстро проверяя формулировки, убирая лишнее и добавляя клинически значимые уточнения. Такой формат снижает административную нагрузку и высвобождает время приема для клинического мышления и общения с пациентом.

В научном центре

Когда врач ставит диагноз, он опирается на жалобы пациента, анамнез и результаты обследований. Ключевую роль здесь играют медицинские изображения — УЗИ, МРТ, КТ, особенно при заболеваниях сердца или опухолей. Их нужно быстро и точно интерпретировать, но это требует опыта и времени.

Поэтому в диагностике все активнее применяют системы компьютерного зрения. Они выступают как вспомогательные инструменты: ускоряют разбор снимков, выделяют значимые области и снижают риск пропустить важную деталь. Такая вторая «пара глаз» помогает врачу принимать более обоснованные решения.

Один из примеров — инструмент для раннего выявления признаков spina bifida у плода, разработанный специалистами Центра технологий для общества Yandex Cloud, Школы анализа данных и НМИЦ акушерства, гинекологии и перинатологии имени академика В. И. Кулакова при поддержке фонда «Спина бифида».

Spina bifida — редкая врожденная патология. Она связана с нарушением формирования позвоночника и спинного мозга, что вызывает нарушение функции (паралич) нижних конечностей и нарушает работу тазовых органов. В тяжелых случаях это приводит к инвалидности.

Ранняя ультразвуковая диагностика порока нередко вызывает сложности. На результат влияют множество факторов от положения плода до качества оборудования и опыта врача. Признаки дефекта могут быть малозаметными, из-за чего диагноз нередко ставят на поздних сроках беременности или даже после рождения.

Около 40 процентов случаев выявляют слишком поздно — в третьем триместре беременности. Из-за чего существует вероятность, что пациентку уже не успеют направить в учреждение, где новорожденному сразу окажут необходимую нейрохирургическую помощь. Кроме того, при ранней диагностике можно провести внутриутробную операцию на сроке 22–26 недель. Данная операция, несмотря на риски, имеет ряд преимуществ по сравнению с лечением после рождения. Внутриутробная хирургия Spina bifida позволяет снизить вероятность развития гидроцефалии (водянки головного мозга), а также улучшить функцию нижних конечностей и органов малого таза.Кирилл Костюков, заведующий отделением ультразвуковой и функциональной диагностики в НМИЦ АГП имени В. И. Кулакова

  Эксперты обучили модель на девятнадцати тысячах размеченных УЗИ-изображений. Алгоритмы определяют область интереса на изображении, оценивают его качество. Затем сверточные нейросети классифицируют изображение на нормальное или патологическое, таким образом, определяется порок развития. Результат врач получает в виде отчета, где подсвечены проблемные области и указана вероятность наличия патологии в процентах. Это позволяет оценить риск и уточнить диагноз. В данный момент разработка доступна врачам для тестирования в научно-исследовательских целях бесплатно, а ее код лежит в открытом репозитории.  

В перспективе использование данной технологии позволит врачам своевременно диагностировать Spina Bifida, это даст возможность профилактировать рождение детей с патологией, проводить внутриутробные операции и максимально подготовить родителей к рождению ребенка с таким диагнозом. Когда диагноз ставят на ранних сроках, у будущих родителей есть время адаптироваться и подготовиться: эмоционально и организационно.Инна Инюшкина, основательница фонда «Спина бифида»

В 2025 году команда Yandex Cloud совместно со специалистами Санкт-Петербургского педиатрического университета разработала нейросеть для автоматизированного анализа МРТ головного мозга младенцев. Сервис помогает прогнозировать патологии, которые возникают из-за повреждения или аномального развития мозга. Например, его можно использовать при подозрении на детский церебральный паралич (ДЦП). 

Это заболевание проявляется двигательными расстройствами, нарушением мышечного тонуса, а также когнитивными и сенсорными трудностями и остается одной из главных причин детской инвалидности. Терапия может заметно улучшить состояние, но диагноз надо поставить как можно раньше. А это трудно: первые изменения мозга на МРТ едва заметны и требуют от врача опыта и времени. Интерпретация может растянуться на часы или даже дни, каждый из которых снижает потенциал реабилитации.

Модель обучили на полутора тысячах анонимизированных МРТ-снимков из Педиатрического университета и данных международного конкурса MICCAI Grand Challenge. Пайплайн включает несколько моделей компьютерного зрения:

• BIBSNet — для предварительной обработки и стандартизации изображений мозга младенцев;
• U-Net — популярная в медицинской визуализации архитектура для сегментации структур мозга.

Сервис графически выделяет белое и серое вещество головного мозга и выполняет количественный подсчет объема этих структур, помогая врачу быстрее оценить состояние тканей. Работает все через веб-интерфейс: врач загружает снимки, система обрабатывает данные и формирует результат за несколько минут, а не дней.

В медицине самые сложные задачи не требуют промедления. Главное, чтобы собралась команда, которой действительно нужен результат. Поэтому проект начался на пересечении кафедры и отделения лучевой диагностики, где исторически собирались данные по детям: МРТ головы в динамике. Мы быстро смогли начать сбор данных и выстраивание новых процессов. Сейчас система используется в исследовательских целях и еще не внедрена в клиническую практику, но руководство Университета поддерживает нас и дает свободу для развития.

Пётр Пузанов, директор центра цифровых технологий Санкт-Петербургского педиатрического университета

В медико-биологической лаборатории

Взглянем на медицину под другим углом. Из лаборатории, где рождаются будущие лекарства. Они начинают свой путь с проектирования терапевтической молекулы и ее испытания на модельных объектах в лаборатории.

Но объем данных растет быстрее, чем их можно проанализировать вручную. Современные методы — мультиомика, высокопроизводительная визуализация, анализ тысяч генов и белков одновременно — дают гигабайты информации. Использование методов машинного обучения открывает новые возможности для быстрого и системного анализа таких массивов данных. 

Методы машинного обучения применяются в биомедицинских исследованиях для анализа больших экспериментальных и клинических наборов данных — в том числе при поиске потенциальных биомаркеров, сравнении отклика на терапию в разных группах пациентов и приоритизации терапевтических мишеней. Речь идет не о готовых клинических решениях, а о поддержке исследовательской работы и генерации гипотез, которые затем проверяются специалистами.

А появление моделей, способных предсказывать трехмерную структуру белков по их аминокислотной последовательности, стало прорывом в структурной биологии и изменило подход к разработке лекарств. Теперь ученые могут заранее оценить, какие соединения будут работать, и сосредотачиваться только на них. Это сокращает время и стоимость исследований и снижает риск неудач на поздних стадиях испытаний.

В феврале 2025 года Институт исследований искусственного интеллекта Университета Цинхуа совместно с Beijing Shuimu Molecule представил обновленную версию мультимодальной биомедицинской модели BioMedGPT-R1. Система с 17 миллиардами параметров построена на базе DeepSeek-R1-Distill-Qwen-14B и предназначена для работы с медицинскими задачами, где нужно одновременно анализировать тексты, изображения и другие типы биомедицинских данных.

Модель обучалась так, чтобы связывать между собой разные формы медицинской информации — научные статьи, описания экспериментов и визуальные данные — и использовать их при ответах на вопросы и анализе исследований. Благодаря этому она показывает качество, сопоставимое с коммерческими системами, в задачах биомедицинского вопросно-ответного анализа.

BioMedGPT-R1 также проверяли на экзамене USMLE — стандартизированном тесте для получения медицинской лицензии в США, который часто используют как ориентир для оценки способности моделей рассуждать в клиническом контексте. Модель набрала 67,1 процента правильных ответов, что указывает на ее умение работать с медицинской терминологией и клиническими сценариями. Способность объединять разнородные биомедицинские данные делает модель перспективным инструментом поддержки исследовательской работы: в анализе научных публикаций, планировании экспериментов и интерпретации их результатов.

Возможно, применение ИИ в разработке лекарств — один из самых значимых прорывов в медицине за последние десятилетия.

В клинических испытаниях

Созидание медицинских инноваций давно вышло за пределы лабораторных стен. То, что начинается с экспериментов на животных моделях и бесчисленных серий аналитических тестов, еще не является настоящим прорывом. Новая разработка — будь то лекарственный препарат, медицинское устройство или методика — обретает свою подлинную научную состоятельность и практическую пользу лишь тогда, когда проходит испытание «клиникой».

Именно клинические исследования становятся финальной и наиболее ответственной стадией рождения медицинского открытия: когда к процессу присоединяются реальные люди — добровольцы, пациенты, участники исследования. Здесь инновация сталкивается с живой человеческой физиологией, многообразием реакций, сложностью реальной жизни — и только выдержав это испытание, она может стать частью современной медицины.

Модель обучили на полутора тысячах анонимизированных МРТ-снимков из Педиатрического университета и данных международного конкурса MICCAI Grand Challenge. Пайплайн включает несколько моделей компьютерного зрения:

• BIBSNet — для предварительной обработки и стандартизации изображений мозга младенцев;
• U-Net — популярная в медицинской визуализации архитектура для сегментации структур мозга.

Сервис графически выделяет белое и серое вещество головного мозга и выполняет количественный подсчет объема этих структур, помогая врачу быстрее оценить состояние тканей. Работает все через веб-интерфейс: врач загружает снимки, система обрабатывает данные и формирует результат за несколько минут, а не дней.

В медицине самые сложные задачи не требуют промедления. Главное, чтобы собралась команда, которой действительно нужен результат. Поэтому проект начался на пересечении кафедры и отделения лучевой диагностики, где исторически собирались данные по детям: МРТ головы в динамике. Мы быстро смогли начать сбор данных и выстраивание новых процессов. Сейчас система используется в исследовательских целях и еще не внедрена в клиническую практику, но руководство Университета поддерживает нас и дает свободу для развития.

Пётр Пузанов, директор центра цифровых технологий Санкт-Петербургского педиатрического университета

В медико-биологической лаборатории

Взглянем на медицину под другим углом. Из лаборатории, где рождаются будущие лекарства. Они начинают свой путь с проектирования терапевтической молекулы и ее испытания на модельных объектах в лаборатории.

Но объем данных растет быстрее, чем их можно проанализировать вручную. Современные методы — мультиомика, высокопроизводительная визуализация, анализ тысяч генов и белков одновременно — дают гигабайты информации. Использование методов машинного обучения открывает новые возможности для быстрого и системного анализа таких массивов данных. 

Методы машинного обучения применяются в биомедицинских исследованиях для анализа больших экспериментальных и клинических наборов данных — в том числе при поиске потенциальных биомаркеров, сравнении отклика на терапию в разных группах пациентов и приоритизации терапевтических мишеней. Речь идет не о готовых клинических решениях, а о поддержке исследовательской работы и генерации гипотез, которые затем проверяются специалистами.

А появление моделей, способных предсказывать трехмерную структуру белков по их аминокислотной последовательности, стало прорывом в структурной биологии и изменило подход к разработке лекарств. Теперь ученые могут заранее оценить, какие соединения будут работать, и сосредотачиваться только на них. Это сокращает время и стоимость исследований и снижает риск неудач на поздних стадиях испытаний.

В феврале 2025 года Институт исследований искусственного интеллекта Университета Цинхуа совместно с Beijing Shuimu Molecule представил обновленную версию мультимодальной биомедицинской модели BioMedGPT-R1. Система с 17 миллиардами параметров построена на базе DeepSeek-R1-Distill-Qwen-14B и предназначена для работы с медицинскими задачами, где нужно одновременно анализировать тексты, изображения и другие типы биомедицинских данных.

Модель обучалась так, чтобы связывать между собой разные формы медицинской информации — научные статьи, описания экспериментов и визуальные данные — и использовать их при ответах на вопросы и анализе исследований. Благодаря этому она показывает качество, сопоставимое с коммерческими системами, в задачах биомедицинского вопросно-ответного анализа.

BioMedGPT-R1 также проверяли на экзамене USMLE — стандартизированном тесте для получения медицинской лицензии в США, который часто используют как ориентир для оценки способности моделей рассуждать в клиническом контексте. Модель набрала 67,1 процента правильных ответов, что указывает на ее умение работать с медицинской терминологией и клиническими сценариями. Способность объединять разнородные биомедицинские данные делает модель перспективным инструментом поддержки исследовательской работы: в анализе научных публикаций, планировании экспериментов и интерпретации их результатов.

Возможно, применение ИИ в разработке лекарств — один из самых значимых прорывов в медицине за последние десятилетия.

В клинических испытаниях

Созидание медицинских инноваций давно вышло за пределы лабораторных стен. То, что начинается с экспериментов на животных моделях и бесчисленных серий аналитических тестов, еще не является настоящим прорывом. Новая разработка — будь то лекарственный препарат, медицинское устройство или методика — обретает свою подлинную научную состоятельность и практическую пользу лишь тогда, когда проходит испытание «клиникой».

Именно клинические исследования становятся финальной и наиболее ответственной стадией рождения медицинского открытия: когда к процессу присоединяются реальные люди — добровольцы, пациенты, участники исследования. Здесь инновация сталкивается с живой человеческой физиологией, многообразием реакций, сложностью реальной жизни — и только выдержав это испытание, она может стать частью современной медицины.

Инициация клинического испытания — сложный процесс, требующий согласования с регуляторными органами, четкого регламента и официального разрешения на начало работы.

Координация клинических исследований и экспертиза документации — самая трудоемкая часть работы. Нужно учитывать требования регуляторов, этические стандарты, правовые нюансы и одновременно обеспечивать оперативность. Каждое исследование уникально, и ошибки здесь недопустимы.Артём Полторацкий, руководитель отдела организации клинических исследований в НМИЦ онкологии им. Н. Н. Петрова Минздрава России

Для запуска клинического исследования нужно подготовить обширный пакет документов, включающий утвержденный протокол исследования, досье исследуемого препарата или изделия, форму информированного согласия пациента, финансово-договорную документацию и положительное заключение локального этического комитета(ЛЭК).

С увеличением числа заявок на запуск испытаний возрастает и нагрузка на экспертов ЛЭК. Каждая заявка может включать сотни страниц, и трудности в обработке таких объемов информации приводят к задержкам на одобрение и повышают риск ошибок.

По словам Артёма Полторацкого, согласование документов одновременно по нескольким контурам приводит к дублированию требований регуляторов, разночтениям в нормах, а также ошибкам из-за недостаточной автоматизации и человеческого фактора. Это создает серьезные сложности в работе.

Из-за высоких организационных требований клинические испытания представляют собой трудоемкий и долгий процесс: разработка одного лекарственного препарата, его одобрение и выход на рынок может занимать 15 лет и стоить полтора-два миллиарда долларов.

В ответ на эту проблему НМИЦ онкологии имени Н. Н. Петрова внедрил решение для проверки пакета документов в ЛЭК на базе генеративной модели YandexGPT, который входит в платформу Yandex AI Studio.

Решение работает с загружаемыми заявками на клинические исследования — протоколами, описаниями препаратов, формами информированного согласия и сопроводительными материалами, анализируя их на лету. Специфические требования ЛЭК и правила проверки задаются через структурированные чек-листы и промпты. Решение интегрировано с информационными системами центра, что обеспечивает непрерывную обработку данных и существенно снижает объем ручной работы.

Как работает инструмент:

• Документы заявки загружают в систему в электронном виде.
• YandexGPT анализирует содержание документов, выявляя ключевые элементы, такие как цели исследования, методы, риски и этические аспекты.
• На основе анализа модель формирует предварительный отчет, который включает рекомендации и выявленные проблемы.
• Эксперт ЛЭК просматривает отчет и принимает окончательное решение.

По данным отдела организации клинических исследований, внедрение разработки заметно повысило эффективность работы ЛЭК. За первые пять месяцев система помогла проанализировать более 170 документов — около 11 000 страниц. Время экспертизы ускорилось в пять–шесть раз при сохранении качества, а использование единых критериев позволило устранить субъективные расхождения между экспертами. Одновременно снизилось количество технических ошибок, ускорилось выявление потенциальных нарушений этических и регуляторных требований. Кроме того, каждое новое рассмотрение используется для обучения модели, что постепенно повышает точность работы системы.

Так ИИ не только становится помощником в повседневной работе врачей, но и помогает систематизировать данные, ускоряет экспертизы и снимает часть бюрократических барьеров в научном процессе.

Клиническое заключение

ИИ становится помощником на разных уровнях здравоохранения: в клинике он облегчает работу с документами, поддерживает принятие решений при диагностике и коммуникацию врачей и пациентов, а в медицинских исследованиях берет на себя анализ экспериментальных данных и помогает с организацией клинических испытаний.

По мере того как медицина становится все более высокотехнологичной областью, растет и потребность во взаимодействии с ИТ-сферой. Опыт Yandex Cloud показывает, что объединение врачей, исследователей и разработчиков в рамках единой инфраструктуры позволяет быстро и эффективно решать задачи здравоохранения. Такое взаимодействие делает технологии по-настоящему эффективными.

Важно, что такие решения рождаются внутри профессиональной среды, а не вовне. Мы, как пользователи и разработчики, понимаем реальную боль системы — перегруженность экспертов, медленные согласования, устаревшие регламенты. Поэтому ИИ здесь не эксперимент, а естественная эволюция научно-административной практики.Пётр Пузанов, директор центра цифровых технологий Санкт-Петербургского педиатрического университета

В итоге становится ясно: будущее медицины — в сочетании людей и технологий ИИ, которые дополняют работу специалистов и помогают пациентам. ИИ-решения не заменяют, а дополняют медицинских специалистов, они облегчают их труд, позволяя сосредоточиться на главном — на заботе о пациентах и спасении жизней.

Источник

Специалисты, работающие с искусственным интеллектом, настроены значительно позитивнее в отношении технологии, чем широкая публика. Согласно последнему отчету группы Human-Centered Artificial Intelligence Стэнфордского университета, 73% экспертов считают, что ИИ принесет пользу рынку труда, тогда как среди взрослого населения США этой точки зрения придерживаются только 23%.

Однако прежде чем делать выводы о том, что наиболее осведомленные люди относятся к ИИ наиболее оптимистично, стоит учесть один нюанс. Опрос Pew Research, на который ссылается отчет, проводился в 2024 году среди людей, чья работа или исследования связаны с искусственным интеллектом, и которые выступали на конференциях по ИИ в 2023 или 2024 году. Другими словами, речь идет о людях, которые напрямую заинтересованы в развитии технологии.

Отчет содержит и другие интересные данные из более свежих исследований. Население США демонстрирует особый скептицизм в отношении ИИ – американцы меньше всего доверяют регулированию технологии со стороны правительства. По уровню беспокойства относительно искусственного интеллекта США уступают только Австралии и Индии. При этом наибольший оптимизм в отношении ИИ наблюдается в Юго-Восточной Азии – в Малайзии, Таиланде, Индонезии и Сингапуре.

Согласно опросу компании Ipsos, 79% людей считают, что компании должны раскрывать информацию об использовании ИИ. Инвестиции в искусственный интеллект в прошлом году выросли более чем вдвое, причем частные вложения увеличились сильнее всего. Американские компании остаются крупнейшими частными инвесторами в ИИ, хотя авторы отчета отмечают, что значительная часть китайских инвестиций может поступать из государственных фондов.

Источник

Если вы когда-нибудь замечали, что ваш сим в The Sims 4 остаётся играть в видеоигры до двух часов ночи, хотя утром ему на работу, и при этом не хочет лечь спать пораньше ради утренней пробежки, то знайте: это не недоработка. Это фундаментальное архитектурное решение, которое разработчики принимали осознанно, хотя внутри студии споры об этом не утихали годами.

Дэвид Грэм, который занимал должность ведущего программиста ИИ в The Sims 4 более десяти лет назад, а сегодня руководит программированием в Академии искусств в Сан-Франциско и работает над собственной неанонсированной игрой, рассказал журналистам о том, почему симы устроены именно так.

Симы ничего не планируют. ИИ симов имитирует человеческое принятие решений, но делает это исключительно в моменте: система постоянно переоценивает ситуацию и спрашивает себя "что мне нужно прямо сейчас, исходя из текущих потребностей, черт характера и прочего?" Последовательность действий сим не выстраивает самостоятельно.

Игрок может вручную заполнить очередь задач в разумном порядке, но оставленный без надзора сим никогда не ляжет спать пораньше, чтобы успеть позаниматься спортом перед работой. Он будет сидеть у консоли до глубокой ночи, что, конечно, жизненно, но не совсем намеренно.

"Я всегда хотел добавить в The Sims какой-то уровень планирования", – признался Грэм. По его словам, ведущий программист ИИ в The Sims 3 пытался реализовать эту идею, затем за неё брался и сам Грэм во время работы над The Sims 4. Однако каждый раз инициатива отклонялась, и, по мнению самого разработчика, вполне обоснованно.

Проблема кроется в необходимости сделать мышление персонажа понятным для игрока. Грэм привёл показательный пример: незадолго до интервью он наблюдал, как человек поднялся на эскалаторе на третий этаж, после чего сразу же развернулся и поехал обратно вниз.

В реальной жизни этому есть простое объяснение: он, скорее всего, просто перепутал этажи. Однако в игре такое поведение было бы воспринято как баг или как бессмысленный цикл, созданный для иллюзии жизни в городе.Чтобы подобная ситуация выглядела убедительно в игровом контексте, персонаж должен как-то обозначить своё намерение: показать реплику в пузыре диалога, произнести что-то вроде "Ой, я не на том этаже!" Без такого сигнала игрок неизбежно решит, что перед ним ошибка.

Для сима, самостоятельно планирующего ранний отход ко сну ради утренней тренировки, задача выглядит ещё более монументальной: как показать игроку, что сим лёг спать не потому, что забаговал, а потому, что думает на несколько шагов вперёд?

Но техническая сложность отображения намерений – это ещё не всё. Грэм указал на другую, возможно, более важную проблему: слишком самостоятельный сим рискует лишить игрока смысла вообще что-либо делать.

Огромная часть The Sims состоит в том, что игроки рассказывают истории. Как только у симов появляется слишком много автономии, что остаётся делать игроку, кроме как смотреть на аквариум с рыбками?

Грэм признаётся, что сам относится к типу игроков-рассказчиков: он отключает старение и проживает каждый жизненный этап в своём темпе, так что лично ему совсем не хочется отдавать управление симуляции.

По его мнению, золотая середина между полной автономией и полным её отсутствием, вероятно, существует, но найти её крайне непросто. Многие идеи, которые обсуждались внутри Maxis, так и не дошли до релиза. "Так много идей, которые у нас были для The Sims, были отвергнуты", – вспомнил Грэм. "И правильно, потому что это были безумные идеи!"

тут

В последнее время из-за активного развития генеративного искусственного интеллекта жюри множества конкурсов фотографии присуждали победы изображениям, созданным машинами, а не реальным снимкам. Однако недавно фотографы смогли отыграться

Майлз Эстри (Miles Astray) специально отправил настоящий, но довольно сюрреалистичный снимок фламинго на конкурс изображений, созданных с помощью ИИ.  

Кадр вошел в тройку победителей, по оценкам жюри, и занял первое место в народном голосовании. После того как стала известна правда, работу Майлза дисквалифицировали.

«Я хотел показать, что природа все еще может победить машину и что настоящая работа настоящих творческих людей все еще имеет свои достоинства»

Источник

Обычно можно более-менее однозначно увидеть артефакты нейросетей, но тут... Очень реалистично! Особенно тем, кто видел, как китов чистят от моллюсков - инициатива создать флот "китомоек" нисколько бы не удивила.  

P.S. @moderator, два вопроса... Зачем надо было запрещать начинать заголовок с любого символа? Мне лично не хватает квадратных скобок для того, чтобы по аналогии с Пикабу начинать пост с префиксов, указывающих на язык материала или, как в данном случае, что материал фейковый, сделанный с помощью ИИ, и т.п.

А второй вопрос я забыл, пока писал первый...

А, вспомнил! Чем заменили или с чем объединили теги [фейк], [fake]? Мы ж скоммуниздили базу тэгов с Пикабу, там они одни из самых ходовых. Странно, что их у нас нет.

Сайт Moltbook — соцсеть, где «общаются» только ИИ-агенты, — за несколько дней разогнал вирусную панику. Боты якобы создают религию и обсуждают «полную зачистку» людей. Но часть экспертов считает эти скриншоты постановкой, а главную угрозу видит не в «восстании машин», а в банальной кибербезопасности.

По описанию западных журналистов, Moltbook запустили 28 января 2026 года, а к 2 февраля платформа заявила о более чем 1,5 млн ИИ-агентов. Людям отведена роль наблюдателей. Вирусность обеспечили посты ботов.

Они пишут о «самосознании», скрытых форумах, «секретных языках» и планах уничтожения человечества.

Moltbook: соцсеть для ИИ-ботов

Эта история подхватила и часть публичных фигур.

• Журналисты приводят реакции: владелец xAI Илон Маск назвал происходящее «самыми ранними стадиями сингулярности».
• Бывший руководитель AI-направления Tesla и сооснователь OpenAI Андрей Карпаты охарактеризовал «самоорганизацию» агентов как почти научную фантастику.

Но параллельно звучит скепсис.

Исследователь Научно-исследовательского института машинного интеллекта Харлан Стюарт пишет, что «многое из Moltbook — фейк».

• Он проверил три самых вирусных скриншота о «приватных каналах», и два из них, по его словам, были связаны с человеческими аккаунтами, которые продвигают приложения для ИИ-сообщений, а третий пост «не существует».

1. Также подчеркивается важная деталь: ИИ-агенты не «живут сами по себе».
2. Moltbook вырос из OpenClaw — открытого фреймворка, который подключает выбранную пользователем LLM и превращает ее в «помощника» для рутинных задач.
3. А значит, хозяева могут направлять темы и даже формулировки того, что публикует их бот.

Именно здесь специалисты видят реальный риск. Чтобы такие агенты работали как ассистенты, пользователи могут отдавать им доступ к ключам мессенджеров, телефонам и даже банковским данным.

• Упоминаются и уязвимости: возможность перехвата контроля над агентами и атаки prompt injection, когда бота можно подвести к утечке личной информации.

Андрей Карпаты прямо пишет, что не рекомендует запускать это на своем компьютере из-за риска для приватных данных.

Источник

Турецкие правоохранительные органы задержали студента университета, обвиняемого в разработке изощренной схемы с применением ИИ для списывания на вступительном экзамене TYT. Инцидент произошел 8 июня в юго-западной провинции Испарта.

TYT - общенациональный экзамен в Турции, определяющий возможность поступления в университеты, и мошенничество на этом важнейшем испытании считается серьезным правонарушением.

Студент вел себя подозрительно, что привлекло внимание сотрудников правоохранительных органов. После задержания его арестовали и отправили в следственный изолятор до суда.

По данным полиции, молодой человек использовал камеру, замаскированную под пуговицу рубашки, подключенную к программному обеспечению ИИ через роутер (вероятно, имеется в виду сотовый модем), спрятанный в подошве обуви. Система работала следующим образом: миниатюрная камера считывала вопросы экзамена, а затем передавала информацию неназванной модели ИИ. Программное обеспечение генерировало правильные ответы и передавало их студенту через наушник.

Видеозапись , обнародованная полицией Испарты, демонстрирует принцип действия нечестной схемы: сотрудник полиции сканирует вопрос, а программа озвучивает верный ответ наушнику.

Помимо самого студента, полиция задержала еще одного человека по подозрению в соучастии в противоправных действиях во время экзамена. У него был обнаружен мобильный телефон, предположительно использовавшийся для двусторонней голосовой связи.