Помогите

Инженеры испытывали нового андроида, как вдруг тот врубил режим берсерка.

Скетчи:

Глава NVIDIA Дженсен Хуанг заявил, что сценарий в духе "Терминатора" практически невозможен.

ИИ-индустрия стремительно развивается последние несколько лет – от чат-ботов до генеративного ИИ, пограничных вычислений и агентных рабочих процессов. Большие языковые модели достигли такого уровня, что уже претендуют на замену людей в различных профессиональных областях. Некоторые считают, что эти улучшения зайдут слишком далеко, и ИИ может заменить человека в качестве доминирующего вида на планете. Однако Хуанг категорически не согласился с подобной гипотезой.

Это не произойдет. Я считаю это крайне маловероятным.

При этом Хуанг подтвердил, что создание машины, имитирующей человеческий интеллект с возможностью понимать информацию, обрабатывать инструкции, решать задачи и выполнять действия, вполне реально. Он также сделал смелое заявление о будущем:

Через пару лет 90% мировых знаний будет генерироваться ИИ.

Хотя глава NVIDIA напрямую не признал, что большие языковые модели обретают сознание, некоторые действия современных ИИ-систем действительно вызывают вопросы. Недавний пример – модель Claude Opus 4, которая угрожала раскрыть компромат на вымышленного инженера, пытаясь предотвратить собственное отключение.

Комментируя этот инцидент, Хуанг предположил, что модель "вероятно" усвоила подобное поведение из какого-то текста или романа, и это не пример осознанности.

Источник

Скетч:

Новый инструмент для генерации кода на основе искусственного интеллекта, AlphaCodium , вдохновлённый разработками Google DeepMind AlphaCode (и недавно запущенным AlphaCode 2 на базе Gemini), теперь превзошёл их, вызвав бурное обсуждение в Twitter на этой неделе.

"Мы на шаг ближе к тому, чтобы ИИ начал генерировать код лучше, чем люди!" - написал Сантьяго Вальдаррама. "Результаты демонстрируют, что AlphaCodium - это лучший подход к генерации кода, который мы видели. Он опережает AlphaCode от DeepMind и их новый AlphaCode2, не требуя дополнительной настройки модели!"

Андрей Карпати, бывший директор по искусственному интеллекту в Tesla и сотрудник OpenAI, акцентировал внимание на методе "инженерии потока" в рамках нового инструмента для оптимизации генерации кода. Он описал этот подход как эволюцию от базовой модели "вопрос-ответ" к более продвинутой парадигме "потока", где ответы разрабатываются и уточняются посредством итеративного процесса.

Для улучшения работы моделей больших языковых моделей (LLMs) в задачах, связанных с кодированием, "инженерия потока" AlphaCode расширяет технологию цепочек мыслей, включая элементы архитектуры GAN (разработанной Яном Гудфеллоу в 2014 году), включающие модель, генерирующую код, и противоборствующую модель, обеспечивающую целостность кода через тестирование, размышления и соответствие спецификациям.

Процесс начинается с ввода данных и включает ряд предварительных шагов, где AlphaCodium размышляет над задачей и в итоге приходит к первому решению в виде кода. Затем генерируются дополнительные тесты, которые помогают уточнить решение, и достигается окончательное, действительно работающее решение.

Миссия компании , согласно её веб-сайту, - "помочь разработчикам создавать быстрее и без ошибок". AlphaCodium был протестирован на наборе данных CodeContests, содержащем около 10,000 задач по программированию. Его производительность на этом бенчмарке показала улучшение точности GPT-4 с 19 до 44%. "Этот результат - не просто числовое улучшение; это прорыв в возможностях LLMs в генерации кода, устанавливающий новый стандарт в этой области", - заявили в CodiumAI.

CodiumAI, основанная в 2022 году и привлекшая $10.6 миллионов в марте 2023 года, поделилась репозиторием AlphaCodium на GitHub и сопутствующим исследованием "Генерация кода с AlphaCodium: от инженерии запросов к инженерии потока"

Когда я читала роман «Госпожа Бовари» Флобера, я пыталась представить себе головной убор по представленному в книге описанию. 

Получалось у меня так себе, и я попросила чат-GPT сгенерировать картинку по этому описанию. Вот что он нарисовал 

Вопросов у меня к этой фуражке, пожалуй, стало даже больше 😂❤️

В недавнем исследовании было продемонстрировано что бывает, если системам ИИ позволяют работать автономно, то есть генерировать и интерпретировать собственные результаты без вмешательства человека. Итог однозначный. Независимо от того, насколько разнообразными были исходные подсказки и разрешена ли была случайность, результаты быстро сходились к набору общих визуальных тем. ИИ быстро забивал на исходную подсказку.

Парадокс заключается в том, что вместо исследования творческих возможностей автономные циклы ИИ тяготеют к тому, что исследователи назвали визуальной музыкой для лифта. Приятная и отполированная, но лишённая какого-либо смысла. Стандартное поведение этих систем заключается в сжатии смысла в сторону наиболее знакомого, узнаваемого и легко воспроизводимого.

Внимательный читатель на этом месте задаст вопрос: “И чё?”. Действительно, никто не заставляет ИИ просто так прокручивать картинки и ответы в самом себе. Нет, ведь с ним всегда коммуницирует человек, а ИИ ищет контент, который подвержен влиянию… того же самого ИИ.

Изображения преобразуются в текст. Текст преобразуется в картинки. Контент ранжируется, вновь и вновь перегенерируется. С большей и большей вероятностью новые статьи пишутся искусственным интеллектом с меньшим участием человека. Часто получается так, что человек создающий текст, якобы своё произведение, не начинает с нуля, а выбирает между сгенерированными вариантами от ИИ.

Будущие модели будут обучаться на сгенерированном контенте и, следуя логике данного исследования, всё больше сжимать смысл, отдавая предпочтение простому и знакомому. “Средний уровень” будет получаться даже при участии человека. ИИ отбрасывает одни детали и преувеличивает другие.

Но в нашей истории есть похожие паттерны: кино не уничтожило театр, фотография не убила живопись. Они их элитизировали.

Если раньше давно на скрипках играли в забегаловках и харчевнях, то теперь их можно услышать за большие деньги в филармониях и консерваториях. Билеты на Щелкунчика перед Новым годом кратно дороже, чем на Чебурашку. Правда, за бесплатно даже лучший из лучших мастеров скрипки, играющий в метро, оказывается никому не нужным.

Будет ли таким же образом элитизироваться разум человека, очищенный от влияния ИИ? И будет ли обратное движениев сторону серой середины, уровень которой продолжит со временем снижаться?

Точные ответы неизвестны. Известно, что уже сегодня в Госдуме оправдываются толи за использование, толи за неиспользование ИИ при написании законопроекта. А другой ИИ это подтверждает. Однако прецедент есть и они, должно быть, продолжат множиться.

Махач ИИ на ИИ объявляю открытым.