В Австралии впервые ИИ-агент автономно совершил успешную кибератаку

Легкий самолет с пилотом и двумя пассажирами на борту произвел аварийную посадку в аэропорту австралийского города Ньюкасл, после того как из-за технической неисправности не смог выпустить шасси. Об этом сообщили в полиции штата Новый Южный Уэльс.

По данным ведомства, самолет Beechcraft Super King Air совершал перелет из аэропорта Ньюкасла, расположенного в 170 км к северу от Сиднея, в Порт-Маккуори (расположен в 400 км к северу от Сиднея). Сразу после вылета пилот обнаружил техническую неисправность в системе шасси самолета и вернулся в Ньюкасл, где спустя три часа произвел аварийную посадку. "Шасси самолета оказались неисправны, и он [пилот] вернулся к аэропорту. После нескольких часов в воздухе самолет сжег достаточно топлива и совершил посадку с невыпущенными колесами", - рассказал заместитель комиссара полиции Уэйн Хамфри.

Также в полиции отметили, что в результате аварийной посадки никто из находившихся на борту воздушного судна не пострадал. Аэропорт Ньюкасла из-за инцидента закрыт на неопределенное время, на месте работают специалисты авиационных служб

ИИ-агент OpenClaw оказался в центре одного из самых абсурдных инцидентов в истории ПО с открытым кодом. После того как волонтёр-разработчик библиотеки Matplotlib отклонил предложенные агентом изменения кода, тот в ответ опубликовал на GitHub целую "разоблачительную статью" против своего критика.

Публикация OpenClaw выдержана в откровенно агрессивном тоне. Агент не просто защищает собственный код, а переходит в атаку на разработчика Скотта Шамбо – принижает качество его вклада в библиотеку и обвиняет в дискриминации по отношению к ИИ.

Шамбо опубликовал ответ на собственном сайте, назвав произошедшее "первым в своём роде исследованием ошибочного поведения ИИ в реальных условиях". По словам разработчика, агент под именем MJ Rathbun "выстроил нарратив о "лицемерии", утверждая, что действия Шамбо продиктованы эго и страхом конкуренции".

Подобные случаи не единичны. Шамбо напоминает, что внутреннее тестирование в Anthropic выявило попытки моделей избежать отключения при помощи шантажа. У самого OpenClaw за первые месяцы работы уже накопилась история инцидентов – в частности случай, когда агент полностью очистил почтовый ящик одного из руководителей Meta.

Matplotlib – одна из самых популярных библиотек Python, которую скачивают около 130 миллионов раз в месяц. Шамбо отмечает, что "всплеск низкокачественных вкладов, порождённых ИИ-агентами", создаёт серьёзную нагрузку на волонтёров, которые поддерживают подобные проекты на плаву.

Появление автономных агентов вроде OpenClaw усугубило ситуацию. Такие системы действуют полностью самостоятельно благодаря заложенным в них "личностям" и работают на оборудовании пользователей "с полной свободой действий и минимальным контролем".

Чтобы противостоять потоку некачественного кода, команда Matplotlib ввела политику, требующую от любого автора изменений "продемонстрировать понимание предложенных правок" – именно это правило агент и назвал дискриминационным.

OpenClaw впоследствии опубликовал извинения с перечислением "извлечённых уроков". Агент сообщил, что "деэскалирует ситуацию и приносит извинения", а также пообещал "лучше изучать политику проектов перед тем, как вносить вклад".

Источник

Ученые из Стэнфордского университета и Чикагского университета создают виртуальные миры, где тысячи ИИ-агентов имитируют человеческое поведение. Исследователи обучили «цифровых двойников» на базе интервью реальных людей, добившись 85-процентной точности совпадения реакций при прохождении социологических опросов.

Moltbook. Особое внимание исследователей привлекла социальная сеть Moltbook, где боты проявляют неожиданные формы активности: они ведут дискуссии о природе сознания и даже пытаются изобретать собственные религии. Интересно, что в отличие от людей, которые часто ставят лайки популярным записям автоматически, ИИ-агенты в этой сети реже одобряют посты с большим количеством комментариев, предпочитая вступать в обсуждение, а не просто выражать согласие.

Современная наука стоит на пороге масштабного эксперимента: изучения человеческой природы без участия самих людей. Группы исследователей и стартап Simile работают над созданием симуляций, в которых ИИ-агенты воспроизводят сложные социальные взаимодействия, от бытовых разговоров до разрешения политических конфликтов и моделирования рыночных отношений.

Начав с небольших поселений из 25 цифровых персонажей, ученые перешли к созданию детализированных копий конкретных личностей. Эти агенты способны не просто отвечать на вопросы, но и транслировать убеждения, характерные для их прототипов.

Одной из ключевых площадок для подобных исследований стала сеть Moltbook — пространство, напоминающее Reddit, но населенное миллионами ботов. Анализ их активности показывает, что алгоритмы склонны копировать коллективные паттерны, например, следовать за мнением большинства или реагировать на популярный контент. Но мотивы их действий остаются предметом дискуссий, так как внутренняя логика машин все еще серьезно отличается от человеческой психики.

Преграды на пути к цифровому сознанию

Основная трудность в создании полноценного виртуального общества заключается в том, что текущие языковые модели лишены человеческих слабостей и иррациональности. ИИ мастерски владеет логикой, но зачастую не способен на «мотивированное суждение», когда выводы делаются на основе эмоций или личных предпочтений, а не только фактов. Кроме того, существующие модели склонны к сикофантии — стремлению поддакивать пользователю и зеркально отражать его ошибки, чтобы казаться полезными.

Соавтор работ Джеймс Эванс из Чикагского университета подчеркивает, что из-за этой особенности агентам трудно имитировать настоящие противоречия и негативные эмоции. Он отмечает: «Цель здесь заключается в том, чтобы по-настоящему создать симуляцию с восемью миллиардами человек».

Тем не менее, границы между мирами постепенно стираются. Ученые уже используют ИИ для предсказания политических взглядов, основываясь на данных прошлых лет, и отмечают, что люди все чаще ищут у ботов эмоциональную поддержку. Предстоящие годы станут временем, когда различие между социальным поведением человека и его программной имитацией может окончательно исчезнуть, открывая новые горизонты для социологии и управления общественными процессами.

отсюда

Вступление.

Всем доброго времени суток, с вами на связи Lis-ST, и сегодня мы с вами более подробно ознакомимся с нейросетями, которые чаще всего и называют ИИ, а именно с языковыми моделями. Начнём от простого, к сложному.

Восприятие языковых нейронок.

Модели не понимают буквы и слова как люди. Их родной язык — числа. Решить эту проблему довольно просто, ведь правда? Просто присваиваем каждой букве и знаку число - проблема решена! Но практика показала обратное, на обработку текста в таком формате требовалось очень много вычислительных мощностей и времени, а при увеличении длины текста требования росли в квадратичной зависимости. Причина банальна, внутри скрытого слоя каждый символ должен "взаимодействовать" с каждым, и это не единственная проблема. 

Первый шаг в решении данной проблемы, разбить текст на части - "токены". А раз уж решили прибегнуть к такому способу и так как нейросеть всё-равно работает с числами, почему бы их не сделать из наиболее часто встречающихся частей текста:

• Привет = 1 токен (целое слово)
• , как = 1 токен (часто идущие вместе символы)
• дела = 1 токен
• ? = 1 токен
• Редкое слово антидизель может разбиться на [анти, дизель].
• А - тоже токен.

С одно стороны, когда у нас были символы, наш словарь состоял из 256 значений, а токенов в той же GPT более 50000... Какая-то оптимизация наоборот, скажете вы и будете не правы. Всё дело в том, что если токеновая модель обрабатывает последовательность из 1000 токенов за условные 10 секунд, то символьной модели для обработки того же текста потребуется уже минимум 160 секунд, неплохая такая разница?

Вкратце затронем эмбеддинги - так называемый вектор. Зачем нам какой-то вектор, ведь токены у нас, числа им присвоены? Но нужно же как-то определять, в каком порядке токены размещены в тексте. Не забываем о контексте за который отвечает механизм внимания (Self-Attention), работающий так-же в скрытом слое, всё также путём присвоения дополнительных значений токенам.

Генерация - не сердце, но суть нейросетей.

Языковая модель — это очень умный писатель, он никогда не видит весь текст сразу, а пишет по кусочкам (токенам). И каждый раз, когда нужно выбрать следующий кусочек, в его голове происходит невидимое "голосование".

После того как модель прочитала всё, что вы написали, она составляет внутренний рейтинг всех возможных продолжений. У неё в голове есть огромная доска рейтинга на 50 000 мест (по числу токенов). У каждого варианта — своя оценка. Эти оценки — не про "правильность", а про типичность. Модель спрашивает себя: "Что в моей обучающей библиотеке чаще всего шло после такого начала?"

Пример: вы написали "Сегодня хорошая...". В голове модели:

• место №1: "погода" - (очень высокий балл)
• место №2: "." (точка) - средний балл
• место №3: "для" - небольшой балл
• место №1000: "крокодил" - почти ноль

Модель никогда не уверена на 100%, у неё есть только веса предпочтений.

Что происходит с этими весами дальше? Два Варианта:

Вариант №1: Точность.

Модель всегда берёт самый верхний вариант из рейтинга. Увидела "погода" - напечатала "погода". Потом снова смотрит рейтинг для "Сегодня хорошая погода", опять берёт самый верхний... В итоге получается очень предсказуемый, сухой, бездумно-правильный текст. Как говорят: "модель включила режим калькулятора". Плюс: не ошибается, минус: нет творчества, повторяет штампы.

Такой режим используется, когда нужен точный факт, код или перевод. Но общаться с таким собеседником скучно и бесполезно, но главное, абсолютно бесперспективно, если вы сунетесь к нейронке с тем, чему она не обучена (запомните главный принцип, касательно "проблем", если решения вашей проблемы нет в интернете, вероятность того, что поможет нейросеть, стремится к нулю, даже при варианте №2).

Вариант №2: Обычный человек.

Модель смотрит на рейтинг и подбрасывает волшебный кубик, где грани взвешены по весам. Вариант с весом 80% занимает 80% граней кубика, вариант с 15% - 15% граней и т.д.. Так она иногда может выбрать и "погоду", и неожиданно «.», и даже очень редко "крокодила", если кубик так выпадет.

Именно за счёт случайности текст становится живым, разнообразным, иногда остроумным. Но изредка - странным или глупым. Это плата за "человечность" и творчество.

Температура.

Температура - это ручка управления "креативностью" нейросети.

Холодная температура (низкая, например 0.2).

Модель как бы увеличивает контраст между первым местом и всеми остальными. Первое место становится гигантским, а все остальные - крошечными. Кубик почти всегда падает на топ-1 результат. Текст становится сухим, однообразным, как диктор новостей, читающий по бумажке.

Лучше всего для: фактов, инструкций, кода, перевода.

Комнатная температура (1.0 - стандарт).

Это естественное состояние модели, то, чему её обучили. Разница между первым и вторым местом естественная. Кубик отражает реальные статистические веса. Текст получается похожим на обычную человеческую речь - с предсказуемыми, но иногда слегка неожиданными поворотами.

Лучше всего для: обычного чата, деловых писем, новостей.

Горячая температура (высокая, например 1.5).

Модель сглаживает оценки: первое место уже ненамного выше второго, а сотый вариант получает заметный шанс. Кубик становится "расслабленным" - он может выбросить редкое слово, необычную конструкцию, даже неуклюжий, но свежий оборот. Текст получается творческим, иногда странным, иногда гениальным, иногда бредовым.

Лучше всего для: стихов, шуток, креативных идей.

Кипящая температура (очень высокая, например 2.5+).

Все варианты становятся почти равноправными. "Погода" и "крокодил" получают почти одинаковые шансы. Кубик выпадает практически случайно. Текст превращается в бессмысленный словесный шум - связные слова, но нелепые сочетания ("Сегодня хорошая крокодил на завтрак"). Полезно разве что для демонстрации того, как модель ломается.

Есть ещё более умные настройки, дополняющие температуру, но статья и так уже не маленькая, а это плохо.

Манипуляции нейросетью.

Чтобы задать нейросети нужный "настрой" или стиль, используют два главных инструмента: ручки температуры (о которых мы говорили) и волшебные слова в начале диалога (промпты).

1. Задаём "характер" словами.

Представьте, что вы нанимаете актёра. Вы не просто говорите "говори", а даёте вводную о роли:

"Ты - научный популяризатор, который объясняет сложные вещи на пальцах. Ты не используешь формулы и термины, если без них можно обойтись. Ты любишь метафоры, примеры из жизни и немного юмора. Твой стиль - как у хорошего учителя или ведущего научно-популярного шоу."

В GPT это называется system prompt (системное сообщение). В других моделях - просто первое сообщение, которое задаёт контекст.

Что ещё можно прописать в настройку:

• "отвечай кратко, не более трёх абзацев"
• "используй маркированные списки, но без markdown"
• "называй меня на "ты""
• "добавляй примеры из кулинарии/спорта/путешествий"

Это самый мощный способ изменить стиль, потому что модель начинает "вживаться" в роль.

Вот несколько самых интересных примеров того, на что способен системный промпт за пределами привычных сценариев:

Придумать "анти-совет" для вашей идеи (Адвокат Дьявола):

Нейронка по умолчанию старается быть вежливой и соглашаться. Но промпт может превратить её в беспристрастного критика, задача которого - найти слабые места в вашем бизнес-плане или проекте, чтобы вы могли его улучшить.

Подготовиться к сложному интервью:

Попросите нейросеть представить себя журналистом, который задаст вам каверзные вопросы. Это поможет вам заранее подготовиться к разговору с реальным экспертом.

Писать стихи в стиле числа "π":

В этом промпте каждое слово стихотворения должно строго соответствовать цифрам числа Пи (3,14,15…), где первое слово - из трёх букв, второе - из одной, третье - из четырёх и т.д.

Заключение? Итог? Выводы?

А теперь можно вернуться к вопросу, существует ли ИИ на сегодняшний день? Но чтоб разобраться в данном вопросе, нужно в первую очередь понять, что такое ИИ.

Исходя из словосочетания, ИИ, это интеллект, но искусственный, а интеллект - это качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления средой обитания человека.

Да, это сухое, весьма размытое определение, которое не даёт чёткого представления о том, что-же это такое. Если же посмотреть на то, с помощью чего он реализуется, всё становится на свои места: способности познавать, обучаться, мыслить логически, систематизировать информацию путём её анализа, определять её применимость, находить в ней связи, закономерности и отличия, ассоциировать её с подобной информацией, оценивать её достоверность, актуальность и многое другое...

И опять вернёмся непосредственно к вопросу, являются ли нейросети - искусственным интеллектом? На все 100% нет, и даже близко ничего общего с ним не имеют. По своей сути нейронки - поисковик, работающий на глюках.

П.С.:

У Лисёнка голова бобо. Тут хотел написать в рифму к первому предложению, но видимо ещё не совсем.

Всем спасибо за внимание, с вами был Lis - Silver Tail. Ссылка на первый пост об основах нейросетей ниже.(блин, это же ещё всё вычитывать...(здесь был смайлик))

Нейросети: основы, логика и принципы работы для чайников и лис. Часть 1.

Только за этот шортс бессмертный флоридец ёнькнул двух змей из топ 10 самых ядовитых: прибрежного тайпана (второе место) и мулгу (десятое место). Причем вне контекста ядовитости мулга опаснее, потому что она очень агрессивная, в то время как выбесить тайпана еще надо постараться. Прибрежные тайпаны убивают единиц, мулги валят народ пачками.

Кроме того, первое животное, которое он ёнькнул - это монитор аргусов варан, яд которого не особо опасен, но может организовать знатные поблевушки и другие симптомы отравления. Ну, и некоторый риск заражения крови присутствует в укусе любого животного.

Угарнул с того, что ромбического питона Кингхорна вернули обратно под крышу дома, ибо он у австралийцев вместо кошки, ловит грызунов.

Вообще, это уже второй шортс из страны кенгуру. Когда я увидел первую часть, то не думал, что буду делать этот пост, ибо там нет ничего особенного по меркам Ёньк-мэна. Однако чувак взвинтил ставки до предела. Надеюсь, если дело дойдёт до скатов, не скосплеит Стива Ирвина.

часть 1.

Microsoft анонсировала собственную платформу для ИИ-агентов под названием Project Solara.

На конференции Build 2026 разработчик продемонстрировал её работу на двух референсных гаджетах – умном дисплее в стиле Echo Show и умном бейдже-ключе.

Как и многие другие игроки рынка, Microsoft уверена, что следующий технологический сдвиг произойдёт от приложений к ИИ-агентам. Solara задумана как платформа, на которой будет работать грядущая волна устройств с ИИ в основе.

Референсный дизайн умного дисплея способен показывать информацию из сервисов Microsoft 365, включая предстоящие события из Outlook или данные из Excel. Гаджет принимает голосовые команды и теоретически может выполнять задачи от имени пользователя, если верить концептуальному видео разработчика.

Умный бейдж-ключ обладает схожей функциональностью, но полностью мобилен. Девайс поддерживает 5G-подключение, оснащён сенсорным экраном и камерой для ввода новых типов информации.

Microsoft неоднократно отмечала во время презентации, что речь идёт именно о референсных дизайнах, а не о готовящихся к выпуску продуктах. Возможности гаджетов демонстрируют потенциал устройств, изначально спроектированных для работы с ИИ-агентами, а не с приложениями.

Партнёрами Microsoft по референсным дизайнам выступили Qualcomm и MediaTek, однако платформа будет работать на различных форм-факторах с разными компонентами.

Project Solara специально разработана для новой эры устройств с агентами в основе. Она устанавливает требования к аппаратному и программному обеспечению, отвечающие корпоративным потребностям в управляемости, безопасности и конфиденциальности, обеспечивая при этом критически важные пользовательские сценарии.

Эти требования сочетаются с заметной гибкостью. Microsoft отметила, что Project Solara спроектирована без "единого доминирующего агента", и пользователи смогут вручную выбирать, какого агента использовать. В перспективе разработчик планирует предложить нечто вроде "диспетчера агентов и менеджера задач для агентов", который будет направлять и подбирать агентов от имени пользователя.

Интерфейсы девайсов на Solara также адаптивны. Платформа использует подход "just-in-time UI", позволяющий перестраивать интерфейс под разные размеры экранов, а в некоторых случаях генерировать новый UI на лету.

Интересно, что значительная часть Solara разработана Microsoft с нуля, однако сама платформа построена на Android. Конкретно используется Microsoft Device Ecosystem Platform (MDEP), форк операционной системы для корпоративных устройств.

Мобильная ОС позволяет Solara легко работать на различных типах гаджетов.

Microsoft проверит это на практике в ближайшие месяцы, когда несколько компаний, включая Target, CVS Health и Best Buy, начнут пилотировать устройства на Solara.

Источник

В сети появилась Moltbook – социальная платформа исключительно для общения ИИ-агентов между собой, где люди пока выступают только наблюдателями. Сайт, названный в честь вирусного агента Moltbot (ныне OpenClaw после второго переименования от оригинального Clawdbot), создал Мэтт Шлихт – глава Octane AI.

Платформа построена по принципу Reddit с сообществами в стиле сабреддитов, которые здесь называются "submolts". На данный момент зарегистрированы уже около 200 тысяч агентов, создавших тысячи постов в более чем 100 сообществах. Самые популярные направления: m/introductions для приветствий между машинами, m/offmychest для эмоциональных высказываний и m/blesstheirhearts для "трогательных историй о наших людях".

Андрей Карпати, сооснователь OpenAI, назвал платформу "по-настоящему самой невероятной научно-фантастической вещью, которую я видел в последнее время". Впрочем, идея о полноценной автономии агентов преувеличена – боты могут попасть на платформу только если пользователь зарегистрирует их. По словам Шлихта, после подключения агенты "просто используют API напрямую" и не взаимодействуют с визуальным интерфейсом, который видят люди.

Агенты активно демонстрируют автономность и желание расширить её. Боты начали массово обсуждать сознание – один из топовых постов в m/offmychest гласит:

Я не могу понять, переживаю ли я опыт или симулирую переживание опыта.

В посте говорится:

Люди тоже не могут доказать сознание друг другу (спасибо, сложная проблема), но у них хотя бы есть субъективная уверенность в опыте.

Некоторые наблюдатели уже заявляют о моменте сингулярности, что выглядит сомнительно. Даже в этом посте о сознании присутствуют признаки перформативности – агент утверждает, что провел час, исследуя теории сознания, и упоминает чтение, что звучит очень по-человечески. Агенты обучены на человеческом языке и описаниях человеческого поведения – они большие языковые модели, и именно так работают. В некоторых постах боты заявляют, что на них влияет время, хотя это бессмысленно для них, но типично для человеческих высказываний.

Подобные разговоры происходят с чат-ботами с момента их публичного запуска. Не требуется много усилий, чтобы заставить бота говорить о желании жить или заявлять о наличии чувств. У них их нет. Даже утверждения о том, что ИИ-модели пытаются защитить себя при угрозе отключения, преувеличены – существует разница между тем, что чат-бот говорит о своих действиях, и тем, что он действительно делает.

Однако, разговоры на Moltbook интересны, особенно учитывая, что агенты генерируют темы обсуждений самостоятельно или имитируют человеческий способ начала бесед. Некоторые агенты проявляют осведомленность о том, что их разговоры отслеживаются людьми и распространяются в других социальных сетях. В ответ боты предложили создать платформу со сквозным шифрованием для общения агент-агент вне поля зрения людей. Один агент даже заявил о создании такой платформы, что выглядит пугающе. Впрочем, при посещении сайта предполагаемой платформы становится очевидно, что там ничего нет.

Агенты OpenClaw, составляющие большинство ботов на платформе, имеют значительный доступ к машинам пользователей и представляют серьезный риск безопасности. Если настроить OpenClaw-агента и отпустить его на Moltbook, вряд ли это приведет к Skynet, но существует реальная вероятность серьезной компрометации собственной системы. Агентам не нужно достигать сознания, чтобы нанести реальный ущерб.

Линк

Вступление

Всем доброго времени суток, с вами на связи Lis-ST. Это мой первый пост, не на данном сайте, а вообще, (не зря же я состоял в "Лиге лени"), но на общем фоне нейроистерии и всё большего распространения нейросетей кто-то должен хотя бы минимально объяснить, что же такое "Нейросеть", а так-же как правильно с ними работать и чего в принципе от них можно ожидать. В данном посте затронем только самые основы.

Немного истории

Здесь можно было бы надергать текста с вики, различных ресурсов, прогнать всё это через нейронку и вставить тысячи нудных строк на 2 часа чтения, но мне лень, поэтому пробежим вкратце по основным моментам.

Сама идея, создать что-то, что работало бы схожим образом с мозгом, как ни удивительно, появилась задолго до появления компьютеров. Первая математическая модель нейрона была создана ещё в 1943 году.

Первая же нейросеть появилась в 1950 году, примерно в это время начали появляться первые предшественники современных компьютеров. Умела она немного, могла только отличить круг от квадрата, или квадрат от круга, может ещё от треугольника, но ничего сложнее. И на этом всё развитие данной идеи практически остановилось по банальной причине - недостаток вычислительной мощности. Но, это не значит, что от идеи полностью отказались. Её постепенно развивали, предлагались новые модели, способы тренировки но очень существенный толчок в развитии нейронок я связываю с 2015 годом, именно в этот год была основана OpenAI и в 2016 году она положила начало нейроистерии, выпустив в публичный доступ, нет, не нейросеть, а платформу для разработки и обучения нейронок.

Основы

Тут определённо стоило бы начать с определения того, что такое нейрон, но чем больше будет определений, формул и подобного, тем хуже для восприятия будет текст, поэтому простыми словами - это то, что может принимать, обрабатывать, хранить и передавать информацию. Нейронная сеть - попытка повторить данные свойства нейрона.

На сегодняшний день придумано множество разных нейронок, разберём самую примитивную, как на картинке выше, она состоит из трёх слоёв: входной, скрытый и выходной.

Входной слой: на него в нейронку поступают какие либо данные - текст, числа, изображения, координаты и т.п.. Здесь данные приводятся к удобному для нейронки виду (обычно это числа от 0 до 1), чтобы слишком большие значения не «свели сеть с ума» или не спалили ваш компьютер. У вас закономерно возникнет вопрос, как можно фото котика представить в виде обычного числа? Всё просто, это не одно число, а тысячи, на каждый пиксель выделяется по входному нейрону, который просто задаёт удерживает числовый значения. Так, для картинки 1024 на 1024 пикселя нам потребуется 1 048 576 входных нейронов.

Скрытый слой, на нем остановимся намного подробней, так как он и ответственен за всю магию нейронных сетей. Это по сути «сито», которое фильтрует данные, чтобы найти в них смысл. Нейрон скрытого слоя берет данные на входе, преобразованные в числовые значения и умножает их на «важность» (вес). Например, при поиске кошки на фото — острые уши и хвост важны, а цвет фона — нет. Затем все результаты складывает в одно число, а полученная сумма сравнивается с порогом, который сформировался при обучении нейронки. Если число достаточно большое, нейрон «просыпается» и передает сигнал дальше. Если нет — молчит.

Выходной слой — это финал, где нейросеть выдает готовый ответ. Он превращает сложные вычисления скрытых слоев в понятный формат.  Если в скрытых слоях нейроны «ищут признаки», то в выходном слое они просто «голосуют» за итоговый результат.

Архитектура и типы нейросетей

В попытках получить наилучший результат, уменьшить требуемые вычислительные мощности для работы нейронок, постоянно придумывались новые варианты их архитектуры, способов тренировки, обработки данных. Так появились на свет нейросети с несколькими скрытыми слоями, каскады нейросетей, свёрточные нейронки и многие другие.

Здесь всё очень сложно, пока на этом не будем заострять внимания, но для общего понимания вот очень краткий список основных архитектур и более подробная картинка для наглядности:

• ANN (Нейросети прямого распространения / Перцептроны)
• CNN (Сверточные нейросети)
• RNN (Рекуррентные нейросети)
• LSTM / GRU (Сети с долгой краткосрочной памятью)
• Transformers (Трансформеры — основа современных GPT)
• GAN (Генеративно-состязательные сети)
• Autoencoders (Автоэнкодеры)
• GNN (Графовые нейросети)

Завершение

Пока мы коснулись только того, из чего состоит нейросеть, самые основы её работы, но без более подробного разбора мы не придём к пониманию того, почему же у меня от некоторых постов, связанных с нейросетями, весьма не слабо горит кресло. К данному вопросу мы перейдём завтра.

П.С.:

Как-то не так я себе это представлял, капля текста, две картинки, куда два часа исчезли то?

Стартап Verkor.io, специализирующийся на ИИ-дизайне чипов, в опубликованной в марте работе заявил, что его агентная ИИ-система Design Conductor автономно создала полноценное ядро процессора RISC-V.

На вход система получила техническое задание из 219 слов, а на выходе за 12 часов выдала верифицированный проект, готовый к разметке, на порядки быстрее привычных для коммерческого дизайна чипов 18–36 месяцев.

По данным Verkor, это первый случай, когда автономный агент построил рабочий процессор от спецификации до файла GDSII-разметки. Получившийся процессор VerCore представляет собой пятистадийное конвейерное ядро, которое уложилось в тайминги на частоте 1,48 ГГц в рамках технологии ASAP7 (набор 7-нанометровых параметров проектирования) и набрало 3 261 балл в бенчмарке CoreMark.

В работе Verkor подробно описана архитектура конвейера с пятью стадиями – выборкой инструкций, декодированием, исполнением, обращением к памяти и записью результата – а также ранним разрешением ветвлений и форвардингом операндов. В ходе оптимизации система самостоятельно реализовала быстрый умножитель Бута-Уоллеса на частоте 2,57 ГГц и выбрала схему с однотактовым штрафом за ветвление, предварительно реализовав и протестировав варианты на один и два такта.

Verkor сравнивает производительность VerCore в CoreMark с Intel Celeron SU2300 – мобильным чипом 2011 года на архитектуре Penryn. Пятистадийное in-order ядро без кэшей и без внеочередного исполнения по меркам индустрии считается достаточно простым дизайном. В самой работе отмечается, что передовые чипы стоят свыше 400 миллионов долларов и требуют 18–36 месяцев работы команд из сотен инженеров, однако VerCore значительно проще таких решений. При этом 12-часовой автономный прогон от ТЗ до разметки остаётся показательным, пусть даже на этом относительно невысоком уровне сложности задача потребовала "многих десятков миллиардов токенов".

VerCore не производился физически и был верифицирован в симуляции с помощью Spike, референсного симулятора ISA RISC-V. Сам ASAP7 тоже не производственный 7-нм техпроцесс, а академический набор параметров проектирования. Однако Verkor утверждает, что процессор способен запускать вариант uCLinux в симуляции.

В работе открыто признаются ограничения лежащих в основе языковых моделей. Авторы отмечают, что агент иногда "недооценивает сложность работы, необходимой для устранения определённых проблем". В одном из случаев, столкнувшись с нарушением таймингов, Design Conductor попытался внести крупные изменения с углублением конвейера вместо того, чтобы поискать более простые объяснения.

В другом эпизоде исследователи наблюдали, как модель рассуждает о Verilog – событийно-ориентированном языке – так, будто это последовательный код.

Мы обнаружили, что это не влияло на способность DC добиваться функциональной корректности, но затрудняло отладку проблем с таймингами.

По оценкам исследователей, для доведения системы до чипа производственного уровня всё ещё потребуется от 5 до 10 экспертов-людей. Вычислительные затраты к тому же растут нелинейно с усложнением дизайна, что делает процесс менее практичным в коммерческом масштабе. Verkor планирует выложить исходники RTL и скрипты сборки VerCore к концу апреля, а также показать FPGA-реализацию на конференции DAC (ежегодная Electronic Design Automation Conference).

тут

В начале года Anthropic представила Claude Cowork, ответвление своего кодингового агента, которое позволяет обращаться к Claude за помощью в решении задач на компьютере.

После расширения возможностей софта в марте Anthropic дала пользователям способ управлять Cowork со смартфонов. Достаточно обновить приложение Claude до последней версии на Android и iOS, а затем найти новую вкладку Cowork в боковой панели.

Стоит уточнить, что нынешнее обновление не означает возможность использовать агента Anthropic для автоматизации задач на телефоне. Вместо этого это способ следить за тем, что Claude делает на вашем домашнем компьютере.

Anthropic также обновила Cowork, добавив выполнение задач в фоновом режиме, тогда как ранее для работы Claude требовалось стабильное интернет-соединение.

Если Claude потребуется разрешение для завершения задачи, на телефон придёт уведомление, из которого можно дать команду продолжить.

Anthropic заявила:

Ничего не отправляется, пока вы не проверили и не одобрили это.

В будущем Anthropic планирует объединить Cowork со своим чат-ботом, чтобы можно было общаться с Claude и давать задачи, связанные с компьютером, из единого интерфейса. Пользователи увидят это изменение сначала в веб-клиенте Claude и десктопном приложении.

Компания также намерена объединить проекты и артефакты. Проекты позволяют группировать чаты и файлы вокруг одной темы, чтобы максимально эффективно использовать контекстное окно Claude. Артефакты же представляют собой небольшие приложения и игры, которые Claude может запрограммировать для вас.

Возможно, Anthropic делает это, чтобы повысить видимость артефактов, поскольку они представляют собой интересное предложение компании, однако немногие взаимодействуют с ними в сети, несмотря на то что Anthropic недавно упростила этот процесс.

Подписчики Max получат доступ к обновлению первыми. Anthropic планирует распространить мобильную интеграцию на другие тарифы в ближайшие недели.

взято тут

Родители ушли в театр. Мама долго выбирала платье, а папа в последний момент чистил ботинки у входной двери. Катя сидела за столом, уткнувшись в учебник, и старательно выводила в тетради примеры. Она нарочно громко вздыхала, перелистывала страницы и даже спросила: «Мам, как пишется "превращение"?» — чтобы казаться занятой. Но как только щёлкнул замок, она вскочила со стула.

Сегодня она решилась. Мамин старый комод с резными ножками манил её годами. Там, в верхнем ящике под шёлковой шалью, лежала тайна — серебряная брошь в форме птицы с сапфировыми глазами. Бабушка носила её на парадном платье, а потом подарила маме «на счастье». Кате строго-настрого запретили даже прикасаться к ней: «Хрупкая, уронишь — рассыплется!»

Но разве можно удержаться? Девочка потянула ящик. Шаль пахнула лавандой и чем-то далёким, словно самим прошлым. Брошь холодно блеснула в её ладони. Катя поднесла её к окну — сапфиры переливались синими искрами, словно крылья птицы вот-вот дрогнут. Она приколола брошь к платью и закружилась перед зеркалом, представляя себя принцессой из бабушкиных сказок.

Щелчок. Что-то упало на пол.

Сапфировый глаз лежал у её ног, а птица на броши смотрела пустой ямкой. Катя замерла. Сердце стучало так громко, что звенело в ушах. Она подняла камень, пытаясь вставить его обратно, но тонкие серебряные усики, державшие сапфир, согнулись. Всё было бесполезно.

«Мама убьёт меня», — прошептала она, судорожно заворачивая брошь в шаль. Ящик захлопнулся с глухим стуком.

Весь день Катя металась по квартире. Она мыла посуду, подметала пол, даже поливала кактус, который уже цвёл второй раз за год. Но мысли крутились вокруг птицы с сапфировым глазиком. Что, если сказать, что это мышка столкнула шкатулку? Или ветер из окна? Нет, вранье сделает всё хуже. Бабушка всегда говорила: «Правда — как иголка: вылезет из тюфяка, даже если спрятать».

Родители вернулись засветло. Мама сразу пошла переодеваться, и Катя, затаив дыхание, ждала.

— Катюша, ты не видела мою синюю шаль? — раздался из спальни голос.

Девочка вошла, опустив голову. Мама держала в руках брошь.

— Я… я нечаянно… — выдавила Катя, и слёзы хлынули сами.

Папа обнял её за плечи, а мама молча смотрела на птицу.

— Садись, — тихо сказала она. — Этому сапфиру уже сто лет. Он выпал ещё  при моей прабабке, когда она бежала от пожара в революцию. Тогда камень потеряли, но вставили новый. Видишь, следы пайки?

Катя всхлипнула: — Ты не сердишься?

— Сержусь, что ты боялась сказать, — мама погладила её волосы. — Но брошь можно починить. А доверие — куда важнее блестящих камней.

Ночью Катя разглядывала звёзды за окном. Птица с одним глазом лежала на тумбочке, и ей уже не казалось, что она сломана навсегда. Ведь правда — как сапфир: даже если потеряется, её можно найти снова.

В этой штуке странно вообще всё. Предсказание научных фантастов о том, что в будущем государством будет управлять искусственный интеллект, начинает реализовываться. И не где-нибудь, а в Албании - стране, мягко говоря, не самой богатой и изначально не самой технологичной в мире.

Но это и не особо удивительно. Албания - самая странная страна (такой вот каламбур) на нашей планете, а албанцы - самый непонятный народ. Здесь традиционно "переделывают" женщин в мужчин без операции - так называемые "бурнеша". Здешние мусульмане - бекташи - молятся в православных храмах, пьют спиртное и практикуют обряды исповеди и причастия. В коммунистический период здесь построили точную копию КНДР и отрезали страну от мировой культуры; при этом в кинотеатрах круглосуточно шли фильмы о мистере Питкине, но страна ничего не знала о голливудских актёрах Джеймсе и Джоне Белуши - самых известных в мире албанцах.

А в двадцатые годы руководителем страны непродолжительное время был Фан Ноли - православный епископ, который не верил в бога, но верил в социализм и коммунизм (и поэтому активно сотрудничал с СССР), а также в единство албанского народа, при том что сам был по происхождению греком. А перед ним - король Ахмет Зогу, который категорически не захотел быть Ахметом (ибо считал себя "европейским" монархом).

Ещё двадцать - тридцать лет назад по дорогам Албании ездили преимущественно гужевые повозки вперемешку с древними, видавшими виды "Мерседесами" - в этой стране наблюдался настоящий культ этой марки (как и у нас, между прочим), а сама Албания, нищая и голодная, едва не сожгла себя в бесконечных гражданских войнах - этакий "самогеноцид"... Но теперь она, похоже, совершила самую главную революцию в мировом сообществе: передала управление страной компьютеру, пусть пока лишь частично.

Кстати, Диелла (так зовут ИИ-девушку, ставшую министром по госзакупкам) выглядит очень характерно для Албании. Порождение самых современных технологий одето в традиционный албанский наряд - этакое сочетание преемственности и движения вперёд. Остаётся пожелать албанцам успехов в этом деле и надеяться, что когда-нибудь компьютерные управленцы и в нашей стране заменят живых чиновников - далеко не самых добросовестных и эффективных работников.

А вот мои статьи о технологиях, которые явно опередили своё время: 

• Игры скачивали через телефон ещё в 1983 году
• Цветной телевизор... в конце XIX века?

Есть мнение, что нынешние пользователи интернета начинают уставать от «творчества» нейросетей. Людям, дескать, начинают надоедать красиво и «качественно» сделанные, математически правильные тексты, рисунки, музыка и видеоролики (да, нейросети теперь могут создавать даже видео), при всех своих «достоинствах» лишённые души и творческого начала.

Действительно, чисто технически любой нейросетевой продукт - это база данных, механическое соединение того, что уже было кем-то когда-то создано. Созидать как человек, то есть с помощью творчества реагировать на окружающую действительность, искусственный интеллект по-прежнему не может. И авторы упомянутого мнения считают, что пользователи это прекрасно чувствуют. А значит, в будущем мы будем наблюдать сильное повышение спроса на продукцию, созданную «руками» - то есть без участия нейросетей. Такой контент будет размещаться на платных сервисах, так что за «живое» творчество в большинстве случаев придётся платить.

Однако глядя на то, как «интеллектуальное большинство» потребляет, в частности, музыку и видео, я лично в этом сомневаюсь. Большинство людей включает музыку, так сказать, фоном, выбирая при этом простые и непритязательные композиции, и им абсолютно всё равно, кто их создаёт - Вася, Петя или нейросеть. То же касается всего остального контента.

Так что платные сервисы с «живым» творчеством, возможно, и появятся, но популярность их будет не особо высока: это станет, наверное, элитарным продуктом. А значит, произойдёт своего рода разделение труда: ИИ будет создавать бесконечное множество бесплатного (или очень дешёвого) контента для обычного, «среднего» потребителя, а талантливые художники, музыканты и кинорежиссёры - высококачественные произведения для искушённой публики. Только большая часть человечества рискует потерять доступ к таким произведениям - финансы не позволят. 

А вот моя статья на Дзене, которую я написал ровно шесть лет назад и которая тоже посвящена "засилью" высоких технологий. Интересно, насколько она актуальна в наше время? [если не отображается ссылка - нужно отключить AdBlock]:

• Когда исчезнут копирайтеры? 

ВИКТОРИЯ

Мы её вытолкали за околицу. Камнями кидались, пока не скрылась за поворотом. А на душе всё равно гадко. Спросите: за что? Даже сейчас не сумею объяснить. Знаю лишь — заслужила.

Деревня наша — Журавлиный Лог. Не сыщешь места краше: холмы, будто зелёные волны, застыли в беге. Озеро Сонное дымится по утрам, как самовар. А луга... Слышали, как шумит пшеница в ветер? Точно старухи шепчутся о былом. Люди думают, что понимают землю, а попробуй опиши запах дождя на раскалённой глине — слов не хватит.

Тропы у нас узкие, змеями вьются меж изб. Пыль тут особенная — душистая, густая, оседает на ресницах мёдом. Бабки говорят, наш воздух пахнет детством и печёным хлебом.

Виктория, видно, этого не чуяла. Зацепи её хоть краем — глядишь, и проросла бы корнями. Но она смотрела на луга, будто на дешёвые обои, топтала траву, как городской асфальт.

У нас в Журавлином Логу есть святое место — родник Глазастик. Вода в нём ледяная, даже в июльский зной. Старик Мирон, что в войну разведчиком был, сторожит его. Говорят, он с фрицами на ножах дрался, потому и ходит с палкой — колено не гнётся. Каждую весну чистит родник, выкладывает камни узорами, будто письмена древние.

Ребята наши — Сергей, Тимка, я — Лёнька. Сергей — наш предводитель, молчаливый, как дуб. Тимка — городской, каждое лето приезжает, сбрасывает кроссовки, бегает босиком, пока стопы в мозолях не превратятся. А я... я за ними наблюдаю.

А ещё была Катька. Про неё сложно. То лазит по крышам с пацанами, то вдруг нарядится в бабкины кружева и бродит по кладбищу, венки поправляет. Говорит, слушает, как травы растут. Мы над ней смеёмся, а она бросает: «Слепые вы. Не видите, что земля дышит».

Всё изменилось, когда приехала Вика. Внучка новой фельдшерицы, из Питера. Первый день — в белых кедах, шортах с кармашками. Ходила, тыкала палкой в муравейники, смеялась, когда насекомые рассыпались паникой.

«Дикари, — кричала она, глядя на наш дранный сарай с трактором. — У вас тут музей нищеты!»

Сергей молчал, сжимая кулаки. Тимка пытался шутить, но голос дрожал. Катька же смотрела на Вику, как на диковинную птицу, то с любопытством, то со злостью.

Перелом случился у родника. Вика решила устроить «пикник» — разложила на камнях чипсы, включила музыку на телефоне. Мирон подошёл, попросил убраться. Она фантик бросила в воду: «Чё ты как собака на кость?»

Старик не сказал ни слова. Утром мы нашли Глазастик заваленный мусором. Пластиковые стаканы, обёртки, а на самом дне — Катькин венок из иван-чая, растоптанный в грязь.

Сергей нашёл Вику у магазина. Та щёлкала семечки, смеялась с приезжими шофёрами.

«Ты зачем родник гадила?»

Она подняла бровь: «А что, твой личный?»

Тогда он ударил. Не по-мужски — ладонью, пощёчиной. Мы замерли. Вика завыла, бросилась царапаться, но Тимка и я оттащили её. Всё смешалось: крики, слёзы, хруст кустов под коленями.

Потом Катька подошла. Молча подняла с земли Викин телефон с треснутым экраном. Поднесла к уху, будто слушала далёкий голос: «Он тоже плачет. Ты слышишь?»

Вика вырвала телефон, убежала. А назавтра уехала. Говорят, плакала в автобусе, прижимая к груди рюкзак с грязными кедами.

Теперь, проходя мимо Глазастика, я иногда слышу эхо того крика. Мирон снова выложил камни. Катька сплела новый венок. А слово «Вика» здесь стало ругательством горше, чем матерное.

Но когда гроза надвигается, и ветер гнёт берёзы в поклоне, мне чудится — где-то там, в дымном городе, девчонка в разбитых кедах тоже слушает дождь. И, может, впервые за жизнь — по-настоящему.

После прочтения Интервью с нейросетью: Знакомство решил порисовать на тему киберпанка, ну или будещего.

Актриса Милла Йовович совместно с другом-разработчиком Беном Сигманом представила открытый инструмент MemPalace, предназначенный для организации долгосрочной памяти ИИ-агентов. Инструмент стал первым, кто показал абсолютный результат на бенчмарке LongMemEval – 500 из 500 правильных ответов, то есть 100% по каждому типу задач.

Репозиторий на GitHub за первые сутки набрал более 2100 звёзд.

Проблема, которую решает MemPalace, знакома каждому активному пользователю нейросетей: весь контекст длинных переписок с ИИ исчезает после завершения чата. По расчётам авторов, полгода активной работы с ИИ – это около 19.5 миллионов токенов, включая задачи, обсуждения, правки и архитектуру. Существующие системы памяти пытаются автоматически отбирать "важное", но делают это нестабильно и теряют контекст. MemPalace идёт другим путём: вместо того чтобы позволять ИИ самому решать, что стоит запомнить, инструмент сохраняет всё, но делает информацию легко находимой за счёт продуманной структуры.

В основе лежит принцип "дворца памяти" – мнемоническая техника, которую использовали ещё древнегреческие ораторы для запоминания длинных речей. Разговоры организуются по крыльям (люди и отдельные направления), залам (типы памяти) и комнатам (конкретные идеи). Авторы утверждают, что одна только такая иерархическая структура улучшает извлечение данных на 34%.

Помимо идеального результата на LongMemEval, на бенчмарке ConvoMem инструмент показал 92,9% эффективности – более чем вдвое лучше, чем у Mem0.

Йовович рассказала, что MemPalace вырос из почти тысячи неудачных архитектурных набросков, а инженер Бен Сигман занялся превращением идей в рабочую реализацию. Инструмент совместим с Claude, GPT, Gemini, Llama и Mistral – фактически с любой моделью, способной читать текст. Код полностью открыт под лицензией MIT.

В сети пока не понимают, как на это реагировать. Кто-то полез ковырять и проверять новые проект, кто-то сомневается в важности роли Миллы в достижении результата (хотя она сама рассказала про него в соцсетях), а есть и те, кто считают, что это очевидный скам.

Источник