Более миллиона россиян по ошибке скачали приложение DickPic вместо DeepSeek
Присоединяйся к Вомбату
Сохраняй посты, комментируй и ставь оценки
или через
Хотите перенести свой аккаунт с Пикабу? Узнайте как
Уведомления
Вомбаттл
Сохраняй посты, комментируй и ставь оценки
Как показать ребенку, что не стоит пользоваться подсказками нейросетей. Наглядная демонстрация.
Задача. Лена с бабушкой выкопали 4 мешка картошки, а Коля с дедушкой – на 5 мешков больше. Сколько мешков картошки выкопали мужчины?
GPT-3.5-turbo:
YandexGPT 2:
Ученые из Стэнфордского университета и Чикагского университета создают виртуальные миры, где тысячи ИИ-агентов имитируют человеческое поведение. Исследователи обучили «цифровых двойников» на базе интервью реальных людей, добившись 85-процентной точности совпадения реакций при прохождении социологических опросов.
Moltbook. Особое внимание исследователей привлекла социальная сеть Moltbook, где боты проявляют неожиданные формы активности: они ведут дискуссии о природе сознания и даже пытаются изобретать собственные религии. Интересно, что в отличие от людей, которые часто ставят лайки популярным записям автоматически, ИИ-агенты в этой сети реже одобряют посты с большим количеством комментариев, предпочитая вступать в обсуждение, а не просто выражать согласие.
Современная наука стоит на пороге масштабного эксперимента: изучения человеческой природы без участия самих людей. Группы исследователей и стартап Simile работают над созданием симуляций, в которых ИИ-агенты воспроизводят сложные социальные взаимодействия, от бытовых разговоров до разрешения политических конфликтов и моделирования рыночных отношений.
Начав с небольших поселений из 25 цифровых персонажей, ученые перешли к созданию детализированных копий конкретных личностей. Эти агенты способны не просто отвечать на вопросы, но и транслировать убеждения, характерные для их прототипов.
Одной из ключевых площадок для подобных исследований стала сеть Moltbook — пространство, напоминающее Reddit, но населенное миллионами ботов. Анализ их активности показывает, что алгоритмы склонны копировать коллективные паттерны, например, следовать за мнением большинства или реагировать на популярный контент. Но мотивы их действий остаются предметом дискуссий, так как внутренняя логика машин все еще серьезно отличается от человеческой психики.
Основная трудность в создании полноценного виртуального общества заключается в том, что текущие языковые модели лишены человеческих слабостей и иррациональности. ИИ мастерски владеет логикой, но зачастую не способен на «мотивированное суждение», когда выводы делаются на основе эмоций или личных предпочтений, а не только фактов. Кроме того, существующие модели склонны к сикофантии — стремлению поддакивать пользователю и зеркально отражать его ошибки, чтобы казаться полезными.
Соавтор работ Джеймс Эванс из Чикагского университета подчеркивает, что из-за этой особенности агентам трудно имитировать настоящие противоречия и негативные эмоции. Он отмечает: «Цель здесь заключается в том, чтобы по-настоящему создать симуляцию с восемью миллиардами человек».
Тем не менее, границы между мирами постепенно стираются. Ученые уже используют ИИ для предсказания политических взглядов, основываясь на данных прошлых лет, и отмечают, что люди все чаще ищут у ботов эмоциональную поддержку. Предстоящие годы станут временем, когда различие между социальным поведением человека и его программной имитацией может окончательно исчезнуть, открывая новые горизонты для социологии и управления общественными процессами.
ИИ-агент OpenClaw оказался в центре одного из самых абсурдных инцидентов в истории ПО с открытым кодом. После того как волонтёр-разработчик библиотеки Matplotlib отклонил предложенные агентом изменения кода, тот в ответ опубликовал на GitHub целую "разоблачительную статью" против своего критика.
Публикация OpenClaw выдержана в откровенно агрессивном тоне. Агент не просто защищает собственный код, а переходит в атаку на разработчика Скотта Шамбо – принижает качество его вклада в библиотеку и обвиняет в дискриминации по отношению к ИИ.
Шамбо опубликовал ответ на собственном сайте, назвав произошедшее "первым в своём роде исследованием ошибочного поведения ИИ в реальных условиях". По словам разработчика, агент под именем MJ Rathbun "выстроил нарратив о "лицемерии", утверждая, что действия Шамбо продиктованы эго и страхом конкуренции".
Подобные случаи не единичны. Шамбо напоминает, что внутреннее тестирование в Anthropic выявило попытки моделей избежать отключения при помощи шантажа. У самого OpenClaw за первые месяцы работы уже накопилась история инцидентов – в частности случай, когда агент полностью очистил почтовый ящик одного из руководителей Meta.
Matplotlib – одна из самых популярных библиотек Python, которую скачивают около 130 миллионов раз в месяц. Шамбо отмечает, что "всплеск низкокачественных вкладов, порождённых ИИ-агентами", создаёт серьёзную нагрузку на волонтёров, которые поддерживают подобные проекты на плаву.
Появление автономных агентов вроде OpenClaw усугубило ситуацию. Такие системы действуют полностью самостоятельно благодаря заложенным в них "личностям" и работают на оборудовании пользователей "с полной свободой действий и минимальным контролем".
Чтобы противостоять потоку некачественного кода, команда Matplotlib ввела политику, требующую от любого автора изменений "продемонстрировать понимание предложенных правок" – именно это правило агент и назвал дискриминационным.
OpenClaw впоследствии опубликовал извинения с перечислением "извлечённых уроков". Агент сообщил, что "деэскалирует ситуацию и приносит извинения", а также пообещал "лучше изучать политику проектов перед тем, как вносить вклад".
Anthropic объявила о крупном обновлении своих инструментов Claude Code и Claude Cowork – отныне они способны выполнять задачи непосредственно на компьютере пользователя.
ИИ-ассистент теперь умеет открывать приложения, работать в браузере, редактировать файлы и заполнять таблицы – по сути, делать всё то, что пользователь делал бы самостоятельно за рабочим столом.
Функция позволяет Claude перемещать курсор мыши, набирать текст, переключаться между приложениями и выполнять задачи автономно. Это заметный шаг от ИИ как чат-ассистента к ИИ как полноценному цифровому работнику.
При активации Claude в первую очередь использует коннекторы к поддерживаемым сервисам вроде Google Workspace или Slack, но если нужной интеграции нет, ассистент всё равно выполнит задачу – в этом случае он переключается на управление экраном, как это делал бы сам пользователь.
Вместе с функцией управления компьютером работает Dispatch – инструмент, позволяющий отправлять задачи Claude с телефона, пока пользователь находится вдали от рабочего места. Можно поручить ИИ составить отчёт, систематизировать файлы или запустить тесты, а затем проверить прогресс удалённо с iOS.
Управление компьютером доступно подписчикам Claude Pro и Claude Max на macOS. Функция находится в статусе исследовательского превью и будет дорабатываться на основе обратной связи. Поддержку Windows x64 компания планирует добавить в будущих обновлениях.
Anthropic построила систему с акцентом на безопасность. Claude запрашивает разрешение перед обращением к новым приложениям, а пользователь может остановить выполнение в любой момент.
Компания также внедрила автоматическое сканирование для обнаружения попыток инъекций промптов. Однако Anthropic рекомендует не использовать функцию для работы с конфиденциальной информацией и предупреждает, что при неверных инструкциях Claude может совершить "потенциально деструктивные действия", включая удаление локальных файлов.
OpenAI представила специальное приложение Codex для macOS, превратив свой программный инструмент в полноценную систему управления несколькими ИИ-ассистентами. Изначально созданный как ответ на Claude Code, Codex теперь способен координировать работу различных ИИ-агентов для решения сложных задач разработки.
Компания продемонстрировала возможности системы на примере создания гоночной игры в стиле Mario Kart с несколькими играбельными машинами, восемью треками и набором бонусов для использования против соперников. Для одного ИИ-агента генерация полноценной игры с нуля, включая все визуальные ресурсы, стала бы непростой задачей. Однако Codex справился благодаря делегированию работы разным моделям с дополняющими друг друга возможностями – GPT Image создавал графические ресурсы, пока отдельная модель программировала веб-игру.
Codex взял на себя роли дизайнера, геймразработчика и QA-тестировщика, проверяя свою работу фактической игрой.
Для упрощения работы компания добавила раздел Skills, объединяющий инструкции, ресурсы и скрипты, чтобы Codex мог надёжно подключаться к инструментам и выполнять задачи согласно предпочтениям команды.
Пользователи могут явно указывать Codex использовать конкретные навыки или позволить системе автоматически выбирать их в зависимости от задачи. Отдельный раздел Automations позволяет планировать повторяющиеся задачи, которые софт будет выполнять в фоновом режиме. В самой OpenAI автоматизацию используют для ежедневной сортировки проблем, поиска и обобщения сбоев в системе непрерывной интеграции, генерации релизных отчётов и поиска багов.
Релиз Codex для macOS происходит на фоне активного исследования ИИ-стартапами возможностей параллельной работы групп агентов. В начале года Anysphere (Cursor) продемонстрировала возможность создания рабочего веб-браузера с нуля с помощью подобного подхода. OpenAI временно предоставляет доступ к Codex пользователям ChatGPT Free и Go, одновременно удваивая лимиты для подписчиков Plus и Pro.
YouTube-канал, публикующий видео с ИИ-генерированным контентом, неожиданно стал вирусным – но не благодаря качеству роликов, а из-за того, что искусственный интеллект, отвечающий за озвучку, периодически "ломается" и начинает нести полную чушь.
В современных соцсетях сложно пролистать ленту, не наткнувшись на ИИ-генерированный контент – и YouTube переполнен видео с ИИ-визуалом и автоматической озвучкой. Некоторые каналы полностью посвящены подобному контенту, и грань между настоящим и сгенерированным становится всё тоньше.
За последние несколько дней пользователи YouTube обратили внимание на канал Joe Liza WWE, который целиком состоит из ИИ-генерированных видео. Ролики варьируются от коротких клипов до длинных выпусков и регулярно освещают события, которых никогда не происходило в реальности.
Как сообщает Futurism, канал существует с 2007 года, однако зрители начали замечать, что ИИ-озвучка в некоторых видео даёт сбои. В определённые моменты голос буквально "зависает" и превращается в набор бессвязных звуков.
Два наиболее ярких примера – видео "Ric Flair SENDS A CHILLING Message To Triple H After WWE Ban" и "Triple H Just Released 25 More WWE Sauperstars And Nobody Saw It Coming". В обоих случаях ИИ-комментатор начинает произносить слово "what" и застревает в бесконечном цикле.
В первом ролике есть субтитры, по которым можно понять, что именно ИИ должен был говорить. Во втором же даже автоматически сгенерированные YouTube-субтитры просто повторяют "what" и "whoa" на протяжении нескольких минут подряд.
Начинается на 9-й минуте:
Канал, у которого около 2000 подписчиков, привлёк массу внимания. Зрители активно высмеивают сбои ИИ в комментариях.
– Это я, когда не успеваю проглатывать хот-доги, летящие по конвейеру.– Я рыдаю, это самое смешное, что я видел в жизни.– Этот срыв ИИ-озвучки на 9:03 – одна из самых смешных вещей, которые я когда-либо видел от искусственного интеллекта. Какое время, чтобы жить.– Я видел пост на Bluesky о том, что это бездушный канал с ИИ-мусором, полный сгенерированных кликбейтных превью и ИИ-ляпов. Удалите канал и уходите с YouTube навсегда.
YouTube уже активно борется с тем, что платформа называет "ИИ-мусором" (AI Slop), и даже блокирует крупные каналы, специализирующиеся на ИИ-генерированных видео.
При этом платформу критикуют за то, что ИИ-инструменты модерации порой ошибочно помечают контент реальных авторов как вводящий в заблуждение.
Очередное, в принципе, достаточно логичное пояснение некоторых жизненных аспектов от DeepSeek.
ФБР совместно с Google и компанией Black Lotus Labs пресекло работу масштабной китайской фишинговой платформы Outsider Enterprise. Операция получила название "Riptide" и затронула тысячи мошеннических сайтов, работавших с 2023 года. По данным Google, с инфраструктурой сервиса связано более 9 000 фальшивых ресурсов и свыше миллиона мошеннических URL.
Операция получила красивое название "Призрачный крюк".
Схема работы Outsider Enterprise строилась на продаже готовых фишинговых наборов, которые позволяли даже технически неподготовленным преступникам рассылать SMS от имени крупных брендов. Атаки проходили через сети AT&T, T-Mobile и Verizon. Только за две недели мая было отправлено 2,5 миллиона таких сообщений пользователям Android, из которых 55 000 были отмечены как мошеннические.
Масштаб ущерба впечатляет: по данным следствия, операция привела к краже 3,8 миллиона записей о банковских картах и убыткам на сумму около 1,9 миллиарда долларов. ФБР изъяло несколько серверов управления, аккаунт в Shopify, тестовую учётную запись сервиса и около 100 000 USDT с криптовалютных кошельков операторов. Тысячи зарегистрированных в США фишинговых доменов теперь перенаправляют на официальную страницу ФБР.
Параллельно ведомство перехватило контроль над Telegram-ботом Outsider Enterprise, в котором хранились данные о клиентах сервиса – то есть о преступниках, покупавших фишинговые наборы. Google со своей стороны подала гражданский иск против инфраструктуры операции.
Google использует произошедшее как повод усилить давление на законодателей и призывает к принятию семи двухпартийных антимошеннических законопроектов, включая "Закон об остановке мошенничества" (Stop SCAMS Act). Этот закон обязал бы ФБР координировать единую национальную стратегию противодействия мошенничеству с участием федеральных ведомств, правоохранителей и частных компаний.
Пока законодательство дорабатывается, Google отметила, что Android уже блокирует более 10 миллиарда вредоносных сообщений в месяц благодаря встроенной защите на основе ИИ.
Комментарии