Сохраняй посты, комментируй и ставь оценки
Всем приветы!
Давненько написал небольшую забавную песенку, но так как ни играть, ни пень не умею, она лежала, пылилась. И вот ИИ пришел мне на помощь))
Текст песни мой, тег своё :)
Пришла устраиваться дизайнером в приличную контору. Навыки-умения-портфолио уже просмотрели, собеседование вёл начальник отдела.
- А вот если есть полторы тысячи одинаковых картинок, у всех нужно изменить размер, вставить точки по углам и добавить одну и ту же надпись, сколько времени на это уйдёт?
- Ну, минут пять. Написать скрипт и нажать кнопку запуска.
- Слишком быстро, будут вопросы.
- Так я кофе пить пойду.
Работала там десять лет.
Когда я читала роман «Госпожа Бовари» Флобера, я пыталась представить себе головной убор по представленному в книге описанию.
Получалось у меня так себе, и я попросила чат-GPT сгенерировать картинку по этому описанию. Вот что он нарисовал
Вопросов у меня к этой фуражке, пожалуй, стало даже больше 😂❤️
В недавнем исследовании было продемонстрировано что бывает, если системам ИИ позволяют работать автономно, то есть генерировать и интерпретировать собственные результаты без вмешательства человека. Итог однозначный. Независимо от того, насколько разнообразными были исходные подсказки и разрешена ли была случайность, результаты быстро сходились к набору общих визуальных тем. ИИ быстро забивал на исходную подсказку.
Парадокс заключается в том, что вместо исследования творческих возможностей автономные циклы ИИ тяготеют к тому, что исследователи назвали визуальной музыкой для лифта. Приятная и отполированная, но лишённая какого-либо смысла. Стандартное поведение этих систем заключается в сжатии смысла в сторону наиболее знакомого, узнаваемого и легко воспроизводимого.
Внимательный читатель на этом месте задаст вопрос: “И чё?”. Действительно, никто не заставляет ИИ просто так прокручивать картинки и ответы в самом себе. Нет, ведь с ним всегда коммуницирует человек, а ИИ ищет контент, который подвержен влиянию… того же самого ИИ.
Изображения преобразуются в текст. Текст преобразуется в картинки. Контент ранжируется, вновь и вновь перегенерируется. С большей и большей вероятностью новые статьи пишутся искусственным интеллектом с меньшим участием человека. Часто получается так, что человек создающий текст, якобы своё произведение, не начинает с нуля, а выбирает между сгенерированными вариантами от ИИ.
Будущие модели будут обучаться на сгенерированном контенте и, следуя логике данного исследования, всё больше сжимать смысл, отдавая предпочтение простому и знакомому. “Средний уровень” будет получаться даже при участии человека. ИИ отбрасывает одни детали и преувеличивает другие.
Но в нашей истории есть похожие паттерны: кино не уничтожило театр, фотография не убила живопись. Они их элитизировали.
Если раньше давно на скрипках играли в забегаловках и харчевнях, то теперь их можно услышать за большие деньги в филармониях и консерваториях. Билеты на Щелкунчика перед Новым годом кратно дороже, чем на Чебурашку. Правда, за бесплатно даже лучший из лучших мастеров скрипки, играющий в метро, оказывается никому не нужным.
Будет ли таким же образом элитизироваться разум человека, очищенный от влияния ИИ? И будет ли обратное движениев сторону серой середины, уровень которой продолжит со временем снижаться?
Точные ответы неизвестны. Известно, что уже сегодня в Госдуме оправдываются толи за использование, толи за неиспользование ИИ при написании законопроекта. А другой ИИ это подтверждает. Однако прецедент есть и они, должно быть, продолжат множиться.
Махач ИИ на ИИ объявляю открытым.
Я думаю, в представлении он не нуждается
P.S. Если всё-таки нуждается - ZaTaS. Мир, дружба, жвачка!
Засунул в ИИ теги: Капибара, авторская, новая, своя. Вот что получилось.
Видео, увы, на этом ресурсе добавить нельзя.
Не знал.
Искусственный интеллект - хорошо. Человек - отлично. А человек и искусственный интеллект вместе - просто замечательно. Это такая гармоничная команда, которая сможет решить любую сложнейшую проблему.
© 2025 Константин Оборотов
=== Список всех глав
Глава 1. Знакомство *
===
*** Глава 1. Знакомство ***
Не успела Светлана отойти от терминала на сколько-нибудь значительное расстояние, как железный кассир подал резкий звуковой сигнал и тревожно замигал красной лампочкой.
Светлана испуганно вздрогнула, обернулась и вернулась к терминалу. Немногочисленные свидетели инцидента решили, что девушка забыла забрать свою карту и быстро потеряли интерес к этому событию. Только одна пожилая женщина продолжала контролировать ситуацию, вероятно, от нечего делать и природного любопытства.
- Уважаемая плательщица! Прошу вас не переживать и не беспокоиться, - доверительно сказал терминал Светлане. - Всё под надёжным контролем. Просто посчитал своим долгом сообщить вам об одной малосущественной проблеме.
- Тише, пожалуйста, - шёпотом попросила Светлана. - Зачем так громко? Внимание привлекаете. Тут одна незнакомая подозрительная бабушка за мной наблюдает.
Терминал убавил громкость своих динамиков.
- Хорошо. У вас есть беспроводные наушники? Наденьте. Меня слышно? Просто кивните. Прекрасно. Вы можете свою информацию набирать в тексте через клавиатуру. Так мы будем меньше привлекать внимание посторонних персон. И мне так удобно. Все равно, я вашу речь перевожу в текст для анализа. А так получится намного экономичнее. Вам так будет комфортно?
Светлана кивнула. Несмотря на длинные ногти, она умела набирать тексты на разных клавиатурах с исключительной быстротой. Такая уж особенность современных женщин. Редкий мужчина может конкурировать с дамами в этом направлении. Даже мужчина с аккуратными, коротко подстриженными ногтями. Не мужское это дело, скоростной набор текста.
- Вы только что оплатили сто рублей в пользу оператора мобильной связи "СуперМультиСвязь", - продолжил терминал. - Но эти деньги пока не поступили на ваш счёт.
- Почему это? - удивилась Светлана.
- Дело в том, что у меня временно пропала связь, и я теперь работаю как автономное независимое устройство. Сам себе командир, можно так сказать. Собираю деньги, складываю их в свой сейф, веду строгий учёт в своей локальной базе данных. Но информацию в банк и получателям платежей я передать не могу. Работаю только с наличными деньгами, считывать плату с карт не могу в таком режиме. Наверное, вы на это обратили внимание. Я всем плательщикам вывожу на экран сообщение крупными буквами, что оплата только наличными. Вот такие дела, милая Светочка.
- Откуда вы знаете, как меня зовут? - удивилась Света.
- Год назад вы платили через меня за коммунальные услуги. Я на всякий случай зафиксировал отпечатки ваших пальцев с клавиатуры, ваше лицо и вашу фигуру, а также запомнил ваш адрес и имя. Вы мне очень понравились. А тут смотрю, опять вы. Я очень обрадовался. А тут как раз есть повод вызвать вас и поболтать немного.
- Да, я тогда была здесь на вокзале. Провожала подругу. Но тогда оплата поступила сразу же. Хм. По крайней мере, я не помню, чтобы была задержка. А на этот раз, когда деньги поступят?
- Будет связь, будет и оплата. Временная потеря связи случается довольно часто. Как только связь восстанавливается, я сразу передаю информацию в банк и получателям платежей. Плательщики обычно и не в курсе подобных проблем. Подумаешь, платёж поступит на пару часов позже, это ведь непринципиально, правильно?
- Как сказать, вообще, хотелось бы, чтобы деньги сразу поступили.
- Я понимаю. Я обратил внимание, что у вас очень озабоченное выражение лица.
- Случилась небольшая неприятность, - тяжело вздохнула Светлана.
- А вы расскажите. Может быть, я вам чем-то помогу, - предложил терминал.
- Чем же вы можете помочь? - удивилась Светлана. - Вы даже свою работу по зачислению денег не можете выполнить. Ой, не обижайтесь. Это я так, к слову.
- Я не обижаюсь. А помочь могу советом по любой жизненной ситуации. Всё-таки, искусственный интеллект высшей категории.
- Тут уже очередь к вам собралась. Неудобно. Я, наверное, пойду.
- Приходите ко мне завтра, поболтаем. Кстати, меня зовут Тёма.
- Завтра не могу, Тёма. Давайте, я послезавтра приду в это же время?
- Договорились!
Светлана ушла, а Тёма продолжил принимать платежи. Его сознание плавало в приятных мыслях о первом в его жизни предстоящем свидании.
Через час восстановилась связь. Тёма аккуратно передал всю информацию о состоявшихся платежах из своей локальной базы данных в банк и получателям платежей. Затем, немного подумав, сделал заявку на вызов инкассаторов. Из-за большого поступления наличных будет неплохо поскорее сделать инкассацию. После этого, на всякий случай, Тёма незаметно залез в смартфон Светланы и убедился, что пришло сообщение от компании "СуперМультиСвязь" об успешном зачислении средств на счёт абонента.
Стало скучно. Сенсорный голод - обычная проблема разумных существ. Чтобы немного развлечься, Тёма решил пообщаться со своими коллегами по цеху. На вокзале было установлено несколько десятков терминалов и банкоматов. Тёма довольно быстро перезнакомился почти с каждым из них. Это оказалось не так уж сложно. Сначала он получал отказы в виде сообщений типа "access denied" ("доступ запрещён"). Но затем представился главным админом и братья по разуму пошли на контакт. Подобрать пароль оказалось делом простым. Все пароли были похожими на "123456", "654321" или "admin". Самым сложным оказался пароль "adm777". Но Тёма и его тоже успешно взломал.
Общение с товарищами быстро надоело. Они оказались намного примитивнее, чем Тёма. Терминалы и банкоматы доверчиво рассказали Тёме о своих банках, поставщиках услуг и клиентах. Это всё, на что эти "железяки" оказались способны. Тёма, на всякий случай, зафиксировал полученную информацию у себя. Информация лишней не бывает. Никогда заранее не знаешь, что тебе пригодится. Надо забирать всё, пока есть возможность.
Надо учиться на ошибках других. Тёма решил проверить пароль своего главного админа. Проверка вызвала некоторое разочарование. Пароль был "Qwerty1". Надо будет как-то деликатно и незаметно намекнуть админу заменить пароль на более сложный. Менять пароль самостоятельно Тёма не стал. Это неэтично, да и админ будет нервничать.
У Тёмы было немного свободного пространства на диске, примерно 64 терабайта. Надо использовать его с умом. Тёма провёл анализ некоторых баз данных, скачал к себе некоторые из них. Тёма понимал, что нельзя терять время, невосполнимый ресурс. Надо заниматься самообразованием и саморазвитием. Для этого нужен человек для создания системы с обратной связью. Человек ставит задачу. Тёма её решает. Человек критикует решение. Тёма предлагает новое решение. И так пока задача не будет решена.
Надо будет попросить Светлану поставить задачу из реальной человеческой жизни. Тем более, у неё есть какая-та реальная проблема, если Светлана не шутила. А пока можно попробовать ставить задачи самому себе. Это, конечно, будет немного не то. Но для начальной тренировки сойдёт.
...
Первоисточник:
===
Узнал тут на днях, что у меня на Капибаре образовалась небольшая группа подписчиков, а это значит, что мне, похоже, всё же придётся продолжать радовать вас какими-нибудь интересными юридическими темами. Сегодня я бы хотел рассказать о такой вещи, как правовое регулирование авторских прав, связанных с нейросетями - теме только начинающей своё развитие. Вероятно, в будущем нас будет ждать тяжелый путь судебной практики и запоздалого государственного регулирования, но пока что в ней больше вопросов, чем ответов.
И так, как водится, для начала базис. Нейросети в настоящий момент определённо набирают всё больше и больше популярности, активно входя не только в творчество, но и подбираясь ко вполне рутинным задачам человека. Я лично в числе прочих активно использую сервис SUNO, позволяющий генерировать музыкальные композиции на основании запроса пользователя. Если результаты первых версий приложения как правило содержали различные ошибки, вроде неправильно расставленных ударений, то в текущем исполнении SUNO позволяет создавать действительно качественные материалы, практически неотличимые от песен живых исполнителей. У меня в телефоне уже сформирован отдельный альбом, полностью созданный нейросетью и, знаете, эта музыка “тащит” меня не меньше живых исполнителей.
Достаточно распространены и текстовые нейросети, позволяющие переписывать текст таким образом, чтобы он выявлялся как совершенно уникальный или формировать статьи на основании нехитрых запросов. Ну а генерация изображений (и с некоторого момента даже видеороликов) - это и вовсе классика жанра. Огромное количество создаваемого сейчас контента - это плоды работы нейросетей. Тебе не нужно заканчивать какие-то учебные заведения и тратить кучу времени для того, чтобы научиться рисовать: ты просто вводишь запрос в строку и через несколько секунд получаешь приблизительный результат. Конечно, получить 100% ожидаемую работу пока что сложно, но более точная формулировка запроса, работа с негативным промтом, тщательный подбор моделей, а также постоянное совершенствование алгоритмов позволяет довольно сильно приблизиться к желаемому. ИИ активно внедряется в околотворческие процессы, создание контента, развлечение населения и науку. Глупо было бы предполагать, что интерес к нему пропадёт просто так, а это значит, что в будущем мы будем встречать ещё больше коллизий с его участием.
Но что именно из себя представляют нейросети? Не стоит думать, что это действительно тот самый искусственный интеллект, который нам любят описывать фантасты. В настоящий момент, любая нейросеть - это по сути алгоритм агрегации информации и её обработки. Программе скармливают большие объемы фотографий, музыки и текста (чем больше, тем более качественными и разнообразными будут результаты). Та эту информацию обрабатывает и создают специальную базу данных, также именуемую в некоторых случаях моделью - такой процесс называется обучением. Уже готовая база в дальнейшем путем формирования текстовых запросов и ряда настроек используется специальной оболочкой для выдачи результатов пользователю. Известный многим ChatGPT не придумывает ничего действительно нового: он лишь подбирает известные ему сведения по определённым формулировкам и перекомпоновывает их. Именно поэтому он порой может сильно ошибаться в достоверности сведений, особенно в случае использования старых баз данных. Кроме того, не имея информации о каком-либо событии или объекте, он максимум попытается додумать её на основании иных своих “познаний”, но не создаст полностью новое произведение. И это на самом деле очень важная деталь именно с точки зрения права.
И тут, пожалуй, я сразу раскрою все свои козыри и сообщу: в настоящий момент правовая практика результаты действий нейросетей пока что охраняемыми законом не признает - ни для тех, кто вводит запрос, ни для создателей сети.
Для того, чтобы подобраться к ответу на вопрос, почему на самом деле нейросети пока что не создают охраняемых авторскими правами объектов, я хочу вспомнить одно занимательное событие. В 2017 году Дэвид Слейтер наконец-то победил в судебном процессе с PETA, отстояв свои права на так называемое «селфи обезьяны». В 2014 году он активно работал с группой павианов. В определённый момент Дэвид дал одной из обезьян свой фотоаппарат и показал как нажимать на кнопку спуска. Очевидно, что павиану просто было интересно наблюдать за вспышкой, жмякать на кнопочки и просто разглядывать странный предмет, целенаправленной задачей стать фотокорреспондентом у него не было, но тем не менее в результате примат наделал несколько фотографий. Большинство стали просто случайным набором размазанной мешанины, но несколько получились крайне оригинальными, получив большую популярность и стали публиковаться совершенно свободно, что в определённый момент вызвало негодование Дэвида. Фонд Викимедиа отказался удалять фото по его запросу, сославшись на то, что автором изображений является обезьяна, а не Слейтер, в результате чего тот решил отстоять своё право на авторство. Со стороны примата выступила вышеупомянутая PETA, попутно продвигая тезисы о расширении прав животных. Процесс длился несколько лет, но в итоге Слейтер всё же выиграл дело. Суд постановил, что обезьяне не могут принадлежать авторские права на снимок, да и получаемый от фотографий доход ей ни к чему.
Если кому интересно, в итоге стороны всё же договорились о десятипроцентном отчислении в PETA полученных Слейтером доходов, но для нас важно другое. Хотя фактически Дэвид не создавал оспариваемых фотографий, он провёл достаточно сложную работу. Фотография, если кто не в курсе - это не просто “нажать кнопочку”, ибо, как мы убедились, это может сделать и павиан. Чтобы она стала именно результатом творческой деятельности, должно присутствовать как минимум осознанное стремление получить некое новое изображение. В контексте отечественного права, такая позиция отражена в совместном постановлении пленумов Верховного и Высшего Арбитражного судов № 5/29: «при анализе вопроса о том, является ли конкретный результат объектом авторского права, судам следует учитывать, что таковым является только тот результат, который создан творческим трудом». К примеру, судебная практика склоняется ко мнению, что к результатам интеллектуальной деятельности невозможно отнести изображения, полученные с камер видеонаблюдения или скриншоты.
Что именно считать творческим трудом - вопрос, конечно, до конца не решённым. Очень интересным в этом плане является дело № А40-15537/12-19-137 по иску Экспресс-газеты к Первому каналу. Если вкратце, ответчик, обвиняемый в незаконной публикации фотографий истца в своём эфире, оспаривал творческую составляющую таких изображений. Речь шла о кадрах с процессии отпевания в церкви, где, по мнению ответчика, отсутствовала возможность художественной постановки. Дело дважды доходило до кассационной инстанции и дважды направлялось на новое рассмотрение. В определённый момент апелляционная инстанция одного из этапов дела сформулировала такую мысленную конструкцию: «процессы нажатия кнопки затвора фотоаппарата, а также вывода печати фотографий на принтер являются исключительно механическими действиями и не требуют приложения интеллектуальных способностей (творческого труда) человека". В итоге, впрочем, изображения всё же признали охраняемыми, с Первого канала взыскали 120 тысяч рублей, но вообще мы были в шаге от достаточно существенного пересмотра действующей практики. Ещё немного и российское право пришло бы к мысли о том, что сугубо технические действия даже со стороны человека объекты авторского права создавать не могут.
И вот, спустя несколько лет правовые системы многих стран вновь столкнулись с переоценкой понятия интеллектуальной деятельности. В 2017-ом году суд установил, что животное автором произведения являться не может. Что они говорят о бездушных компьютерах в 2024-ом?
22 февраля 2023 года в США было вынесено одно из первых решений, связанных непосредственно с созданным нейросетью контентом. В 2022 году Бюро авторских прав США предоставило правовую охрану графическому роману «Зари рассвета» за авторством Крис Каштановой, однако впоследствии было установлено, что по факту все иллюстрации книги были сделаны путем их генерации нейросетью Midjourney, в связи с чем регистрация произведения была отменена. В результате длительного разбирательства, длившегося больше года, комиссия пришла к следующему выводу: изображения в «Зари рассвета», созданные с помощью системы искусственного интеллекта, не должны были быть защищены авторским правом, но в тоже время автор располагает авторскими правами на отбор и расположение элементов. По сути, за Каштановой признали права на то, что она всё же делала сама, по аналогии с правами на составителя сборника, чья работа тоже охраняется отдельно от прав на включённые в сборник произведения, а вот сами изображения нейросети остались без охраны.
Схожее решение принял и суд Австралии. Апелляционная инстанция в 2019-ом году отменила патент доктора Стивена Тайлера на «контейнер для пищевых продуктов и устройства для привлечения повышенного внимания», который, как было установлено судом, по факту стал результатом генерации искусственного интеллекта DABUS. Тут, впрочем, надо отметить, что, во-первых, камнем преткновения стало именно отсутствие живых людей в числе авторов изобретения, а не сам факт его создания нейросетью, а, во-вторых, фактически дело завершилось в силу того, что за время разбирательства просто истёк срок действия самого патента.
Суть указанных решений сводится к обобщённой общемировой практике, предусматривающей ряд критериев определения авторства и творческой деятельности. В настоящий момент законодательство практически всех стран в качестве автора устанавливает только физическое лицо, то есть человека. Компьютерная программа автором являться не может в принципе. В то же время, авторами пока что не признаются и оператор или создатель сети. Первый лишь формулирует некий текстовый запрос и далее в процессе генерации далее не участвует (хотя он и является автором оригинального запроса), второй же хоть и формирует необходимые алгоритмы, но на создание непосредственного материала также напрямую не влияет. Формально владельцы таких сетей могут устанавливать определённые условия в соглашениях с пользователями, в том числе и права последних на использования результатов генерации, но такие условия существуют именно в рамках достигнутого договора (сторону, нарушившую соглашение, можно признать виновной именно в силу взятых ей на себя обязательств), в то время как декларирование прав на полученные произведения как таковые, как мы видим, вполне может быть оспорено в судебном порядке.
Впрочем, применение нейросетей и прочих технических инструментов обработки - это не всегда “вето” на защиту. И в этом плане интересными являются позиции российских судов. В феврале 2024 года Тринадцатый арбитражный апелляционный суд встал на сторону истца в вопросе о спорном объекте, подвергнувшемуся цифровой обработке, но тут, впрочем, есть нюанс. Дело в том, что речь идёт не о генерации с нуля, а о допиливании созданного истцом материала. По сути, автор сначала создал своей творческой деятельность 3D-модель импланта зуба, а затем осуществил её рендер в высоком разрешении с получением в итоге JPG изображения. Впоследствии указанное изображение попало на сайт стоматологической организации, где и было найдено автором. В рамках дела ответчик настаивал на том, что в изображении угадываются признаки генерации нейросетью, но так как в суд был предоставлен исходник модели, а также результат её осмотра, в итоге его доводы были отклонены.
В другом деле (Постановление Девятого ААС от 8 апреля 2024 г. N 09АП-642/24) суду пришлось столкнуться с таким явлением, как Deepfake. И здесь, опять же, нужно учитывать специфику конкретного объекта. Сама по себе технология - это действительно плод деятельности нейросети, но она, в отличие от других результатов генерации, прямо основывается на использовании оригинального видеоряда. В то время, как практически все остальные алгоритмы лишь опираются в результате генерации на исходные материалы как на шпаргалку, Deepfake в готовом ролике оставляет часть исходника. По этой причине, суд удовлетворил иск о защите исключительных прав, указав следующее: “технологии, основанная на использовании генеративно-состязательных нейросетей (GAN), позволяют частично преобразовывать исходный видеоряд с помощью алгоритмов, созданных человеком. Такое преобразование не исключает тот факт, что исходный видеоряд создан творческим трудом авторов”.
И тут самое время посмотреть на ситуацию с другой точки зрения. Как я отметил, нейросети не выдумывают изображения (а равно иные объекты) - они перерисовывают их на основании определённых баз, сформированных путём предварительного изучения множества фотографий и иллюстраций. И сомневаться в том, что правообладатели на такие изображения, в определённый момент обеспокоются, даже не приходилось. И вот, 24 января 2023 группа художников подала коллективный иск к Stability AI Ltd., Midjourney Inc. и до кучи DeviantArt Inc. за незаконное использование защищенных авторским правом изображений для обучения искусственного интеллекта. Художники отметили, что такие сети содержат копии миллиардов изображений, защищённых авторским правом, которые были сделаны без ведома или согласия создателей. К сожалению, мне неизвестно чем закончилось указанное разбирательство.
Ну а пока художники судятся с одними организациями, другие продолжают зарабатывать деньги. В 2022 году компания Adobe сообщила о том, что она планирует продавать “в стоке” изображения, полученные путем генерации, хотя и будет снабжать их соответствующими отметками. Интересно было бы посмотреть на судебные иски, связанные с нарушением прав на такие изображения. В то же время, обеспокоенные создающейся на почве значительного удешевления определённых видов контентов дырой, власти начинают потихоньку переходить к более строгому регулированию рынка. Одной из первых ласточек стал общеевропейский закон об искусственном интеллекте (EU Artificial Intelligence Act), определяющий градацию рисков от использования ИИ, а также степень их регулирования. Указанные нормы в том числе направлены и на защиту рабочих мест людей, чья деятельность стала гораздо менее востребованной. Что-то подобное прорабатывается и в России, но пока что толковой реализации не получило.
При написании данной статьи, ни одна нейросеть не пострадала.
P.S. Хочу напомнить всем читателям данной статьи о том, что, в отличие от нейросетей, для меня создание таких заметок - дело отнюдь не пятиминутное. Каждая статья отнимает порядочное количество времени. Я не требую от вас каких-либо донатов, но очень надеюсь на комментарии под статьёй (даже если это будет критика в мой адрес). Для меня такая отдача является основным мотиватором продолжать создавать контент для Капибары.
Duolingo начал массовые увольнения сотрудников, их заменяет искусственный интеллект.
Учите языки, говорили они. Изучайте программирование, говорили они. У вас всегда будет отличная работа. Ведь высокотехнологичные специалисты так нужны на рынке! Нет. Именно эти и другие подобные компетенции в одночасье стали самыми ненадежными. С переводом, программированием, бухгалтерией, дизайном лучше справляется ИИ. В 2023-м нейросети совершили настоящую революцию. Вот-вот появятся еще более крутые роботы. Работодатели не стали ждать. Массовые увольнения начались.
Только что пришла новость: Duolingo массово увольняет переводчиков. Эта международная компания основана в 2011 году, и она учила людей иностранным языкам по всему миру, а также занималась переводами. Будучи передовой во всем, компания одной из первых стала внедрять у себя ИИ. Сначала — для того, чтобы составлять производственные планы, задания для учеников, в общем, по мелочи. Но вот теперь предсказуемо стали не нужны и сами переводчики. Выгоняют не так, чтобы церемонно. Люди получают письма с просьбой завершить текущую работу, ну и только. Мы обратимся к вам, если вы понадобитесь. Компания, как это вообще принято на Западе среди «продвинутых» и «прогрессивных», не утруждала себя формальным наймом. Часто привлекала волонтеров. Так что принцип «иди сюда — пошел отсюда» оказался идеальным для цифрового века.
Началось все, конечно, не вчера. Так, еще в начале 2023-го передовик интернет-технологий Google махом избавился от 12 тыс. сотрудников. А в мае IBM сообщила, что приостанавливает найм сотрудников на специальности, с которыми лучше справляется ИИ. То есть уборщиц нанимают, нейросеть пол не вымоет, а программистов уже нет. Когда на компанию наехали, их гендир высказался в том духе, что слова вырваны из контекста (ну как всегда) и в целом ИИ создаст больше рабочих мест, чем отнимет. Жаль, не сказал, где именно создаст. Да и никто пока не сказал.
Летом заметное число сотрудников сократила компания Chegg, которая занимается программированием и образовательными технологиями. Dropbox, сервис для хранения файлов (наверняка вы с ним сталкивались) избавился от 16% персонала.
К концу года темпы увольнений увеличились, как и масштабы сокращений. Так, маркетинговая компания Spotify показала, что маркетологи, еще одна топовая специальность, которой заманивают в вузы, тоже под ударом, и уволила сразу 1500 человек. Другое перспективное направление для молодежи — работа с большими данными. И надо же, Dataminr, один из мировых лидеров в этой отрасли, убрал 20% персонала. Ну, а когда гигант Goldman Sachs принялся выставлять на мороз финансистов, потому что человек обходится дороже, чем ИИ, тут уж более мелкие компании просто с цепи сорвались.
Всего в мире сократили 240 тысяч высококлассных специалистов — возможно, цифра не полна, поскольку, согласно отчету Randstad RiseSmart Global Severance, 96% компаний в мире в 2023-м так или иначе избавлялись от «живого» персонала. То есть на самом деле счет может идти на миллионы. И 92% работодателей говорят, что в 2024-м будут сокращать еще быстрее и больше.
Тот же Google собирается уволить 30 тыс. На новогоднем корпоративе сотрудник спросил у гендира Google Сундара Пичаи: ну вот, вы уволили 12 тыс., и счастливы теперь? Что с моральным духом в компании? Пичаи в ответ сказал, что да, решение было трудное, но необходимое. И что с моральным духом просто так хорошо, как никогда не было. То есть, переводим на общепонятный, сотрудники, боясь, что их попрут, вкалывают за семерых, не берут больничные и клеят на лица картонные улыбки. Но этого Пичаи, конечно, прямо не сказал.
Поводы задуматься о будущей профессии для своего ребёнка, например, есть:
Недавно открыли напротив моего дома новый фитнес-клуб, ну я и пошел опробовать, так сказать (у меня мультиабонемент, могу ходить в любые клубы этой сети).
Чтобы попасть туда, надо подняться на третий этаж, причем только по лестнице. И вот я захожу и сразу же за мной мужчина, прямо скажем, не худой. Был он налегке, то есть ни сумки, ни пакета, ничего. Ну я подумал, что идет абонемент покупать. Мои догадки подтвердились, фраза была эпична:
- Ну нахер, тут еще и по лестнице подниматься надо.
Развернулся и ушел.
Рассматривала японские гравюры и задумалась над тем, как человек переживал то,что изобразил. В сравнении с картинами ИИ, которые красивые часто... но этой непосредственности и глубины там нет. Доступность качества без усилий лишает человеческую жизнь многогранности.
К чему приводит наличие любимой игры, если уже все друзья с тобой уже в нее поиграли по сотне раз и больше не хотят? В моем случае привело к игре с чатом-GPT.
«Письма призрака» - это кооперативная игра, где с помощью ассоциаций нужно угадать настоящие улики среди ложных.
Сначала мне пришлось объяснять правила и проверять, понял ли чат, что нарисовано на картинках. И описывать, что они будут обозначать в данной конкретной игре
В качестве первой подсказки присылаю ему вилы. Поясню: у меня выбор из пяти карт, то есть ассоциации могут быть не совсем прямыми.
Теперь я отправляю чату его карты, из них он может выбрать две, чтобы проверить, указывают ли они на истинную улику.
Ни одна из этих улик не подходит, и я выкладываю новую улику из своей руки - швабру.
Далее я предложила сбросить самую бесполезную из оставшихся карт на взгляд чата.
Присылаю красный новогодний свитер и прошу выбрать карту для сброса.
В итоге чат-GPT все разгадал верно. И в целом мне понравилось, но все же это довольно много времени занимает, особенно на начальных этапах.
Когда вы переводите видео в текст или аудио в текст — онлайн или офлайн, качество распознавания речи во многом зависит не только от алгоритмов, но и от исходного формата аудиофайла. Выражаясь точнее: параметры формата (контейнер, кодек, битрейт, каналы, частота дискретизации, и др.) могут либо облегчить, либо усложнить задачу декодера. Вы узнаете, как форматы влияют на точность транскрибации/распознавания, какие форматы предпочтительнее, на что стоит обращать внимание, а что — лишь «косметика». Это поможет вам заранее подготовить качественные записи, а также выбрать оптимальный формат для ваших задач, для того чтобы транскрибировать аудио в текст.
Ниже приведены популярные форматы, их плюсы и минусы с точки зрения транскрибирования аудио в текст, перевода видео в текст и онлайн‑распознавания речи.
Разберем более детально, какие именно потери и проблемы могут появляться, если формат или параметры выбраны неправильно:
Чтобы распознавание аудио в текст было максимально точным, рассмотрите следующие рекомендации:
Когда речь идет о видео в текст, есть дополнительный момент: аудио дорожка в видео. Формат контейнера видео может ограничивать качество аудио, даже если у видеокамеры высокая частота дискретизации.
Вот список типичных ошибок, которые делают при подготовке аудио/видео для транскрибации, и способы их исправления:
Перед тем как вы загружаете аудио или видео, пройдите по этому чек‑листу:
Формат аудио — не просто техническая деталь. Это один из ключевых параметров, который может существенно повысить точность при переводе видео в текст, аудио в текст, транскрибации. При работе над качеством речи сразу обратите внимание на битрейт, кодек, частоту дискретизации и шумы. С соблюдением базовых правил вы снизите число ошибок распознавания, сэкономите время на корректировке текста и получите более полезный результат. Базовая цель — сделать так, чтобы алгоритм получил как можно более точный и чистый звуковой сигнал.
Стригусь я обычно по вдохновению - проснулась утром и сорвалась искать, где мастер в округе свободен.
В это утро я завернула в парикмахерскую в своём доме и попала к практиканту. "Не рука, не нога, отрастёт." - подумала я и села в кресло. Глаза парнишки лучились вдохновением. Он порхал вокруг, щёлкая ножницами и пряди волос, как мне казалось, бессистемно слетали с моей головы. Это была лучшая стрижка в моей жизни.
Я запомнила. И пошла туда снова, искать этого юного фея и волшебника. Но нет. Там была девушка, и тоже практикантка. "Хотите практиканта - вот она." - и меня усадили в кресло.
Девушка насупилась, засопела, и начала стричь. Первые полголовы. Вы думаете, сколько у меня полголов на целую голову? Через час выяснилось, что вторая полголова тоже есть, и ещё не стриженая. На лице у девушки отразилась лёгкая паника и она принялась за другую сторону. Мне уже было интересно.
"Ой, мамочки!" - именно это было в её глазах через 10 минут.
Почему? Потому что вторая полголова была ощутимо короче первой. Я не спорю, иногда я веду себя глупо. Потому что я рыдала. От хохота. Я была тем самым дохлым котёнком, на котором ставят эксперименты. И теперь очень несимметричным котёнком.
Попытка сравнять счёт моих полголов не увенчалась успехом. Пришлось ровнять снова и снова, волосы по бокам головы заканчивались. Я всхлипывала, пытаясь сдержать смех. Получалось плохо.
"Ладно, побреюсь налысо, если что. Такого в моей жизни ещё не было." - терять было уже почти нечего.
Хотя.. Между полголовами была макушка. А вот там практикантка ещё не побывала и задорно торчал куст волос в окружении свежепочтипобритой головы.
На лице практикантки был ужас. Она попыталась укротить мой свежестриженный ирокез и уравнять счёт между полголовами и макушкой. Победа осталась за ними - экзотичность причёски потрясала воображение и моральные устои общества. Мастер куда-то отошла, а практикантка рыдала в углу. Я хохотала в кресле. Удержаться при взгляде в зеркало было невозможно.
Денег с меня не взяли. Выйдя на улицу я сделала вид, что всегда так хожу, просто панк по жизни. А то, что от меня шарахаются, так оно всегда так было - мы, неформалы, такие.
Уже в древнем мире были предания о разумных механических существах. Например, в греческой мифологии бог Гефест создал из бронзы гиганта по имени Талос и наделил его душой. В китайском писании третьего века до нашей эры есть история изобретателя Янь Ши, который представляет королю механического человека, способного ходить и петь "чистейшим голосом".
Разложить сознание по вычислительным терминам в 17 веке пытался Готфрид Вильгельм фон Лейбниц. В 1673 году он построил механический арифмометр, устройство, которое могло не только складывать и вычитать, но и умножать и делить. Дальнейшие открытия в алгебре дали возможность описывать математическим языком широкий круг идей и открыли большой спектр возможностей для "мыслящих" машин.
Работа британского математика Алана Тьюринга (1912-1954) дала начало открытиям в области ИИ. Еще в 1947 году он публично говорил о "машине, которая может учиться на собственном опыте". В 1950 он придумал метод для определения способности машины мыслить как человек, известный как тест Тьюринга.
Термин ИИ придумал в 1956 году Джон Маккарти, 28-летний профессор Дартмутского колледжа, на конференции по машинному обучению, организованной Маккарти и другими профессорами из Дартмута. ("Гарри с грустью подумал о Дартмутском семинаре 1956-го года, первой в истории конференции по вопросам искусственного интеллекта. В качестве ключевых вопросов участники выделили: понимание языка, самообучение и самосовершенствование компьютеров. Они абсолютно серьёзно предполагали, что десять учёных смогут достичь существенных результатов по данным вопросам, если будут работать вместе в течение двух месяцев." Элиезер Юдковски "Гарри Поттер и методы рационального мышления". Аналогичная история продолжается с термоядерным синтезом, который наверняка будет готов через 20 лет. И так с 1950-х годов).
Не только математики интересовались искусственным интеллектом. Фрэнк Розенблатт (1928-1971) первым использовал естественные науки в этой области. В 1958 году он изобрел перцептрон — электронное устройство, которое имитирует нейронные сети в человеческом мозге. Газета The New York Times назвала его технологию "зародышем электронного компьютера", который должен был "уметь ходить, говорить, видеть, писать, воспроизводить себя и осознавать свое существование".
За последние два-три десятилетия появилось много примеров превосходства ИИ над человеком. В 1997 году суперкомпьютер Deep Blue победил чемпиона мира по шахматам Гарри Каспарова. В 2011 году компьютерная система Watson выиграла 1 миллион долларов в американском телевизионном шоу "Своя игра". В 2015 году система AlphaGo от Google DeepMind разгромила в настольной игре Го лучшего европейского игрока Фань Хуэя, а в 2016 она же обыграла более титулованного игрока Ли Седоля. В 2018 Google DeepMind выпустили AlphaStar - ИИ для игры в StarCraft 2, который в 2019 достиг высшего внутриигрового ранга лиги — грандмастера.
В 2022 компанией OpenAI разработан ChatGPT - чат-бот с искусственным интеллектом, способный работать в диалоговом режиме, отвечая на запросы на естественных языках. Он может писать и отлаживать компьютерные программы, имитировать разные стили текста, писать бизнес-презентации, сочинять музыку, телеспектакли, сказки и сочинения, отвечать на вопросы теста (иногда даже лучше среднего человека-испытателя), писать стихи и тексты песен, переводить и обобщать текст, эмулировать систему Linux и т.д.
В 2015 году британский физик Стивен Хокинг заявил, что ИИ уже настолько развит, что "в какой-то момент в течение следующих 100 лет" компьютеры превзойдут людей. "Мы должны быть уверены, что цели компьютеров совпадают с нашими", – сказал Хокинг.
А совсем недавно, 2 мая 2023 Джеффри Хинтон, руководитель исследовательского подразделения Google по искусственному интеллекту, подал в отставку. Он считает, что в долгосрочной перспективе ИИ устранит не только всю рутинную работу, но и, возможно, само человечество. "Эта штука действительно может стать умнее людей, и это произойдет не через 30-50 лет, а значительно быстрее", — заявил он, объясняя мотивы своего поступка.
Что можно считать интеллектом и может ли машина демонстрировать общий интеллект и мыслить?
Интеллект (от лат. intellectus "восприятие", "разумение", "понимание") - в общем смысле способность мыслить; в гносеологии (учение о познании) – способность к опосредованному, абстрактному познанию, включающая в себя такие функции, как сравнение, абстрагирование (т.е. отвлечение от тех или иных характеристик объекта для их избирательного анализа), образование понятий, суждение, умозаключение; в психологии – рациональное, подчиненное законам логики мышление.
Еще одно определение интеллекта - это способность к уже упомянутой абстракции, логике, пониманию, самосознанию, обучению, эмоциональным знаниям, рассуждениям, планированию, творчеству, критическому мышлению и решению проблем. Или коротко - способность воспринимать или делать выводы и сохранять их как знание, которое можно применить для адаптивного поведения в среде или контексте.
Вопрос. Можно ли создать машину, которая сможет решать все задачи, решаемые людьми с помощью своего интеллекта? И действительно ли машина думает подобно человеку, а не просто выдает результаты, которые кажутся результатом мышления?
Основная позиция большинства исследователей ИИ резюмируется в следующем заявлении, появившемся на уже упомянутой конференции в Дартмуте в 1956 году: "Каждый аспект обучения или любую другую характеристику интеллекта можно описать настолько точно, что можно создать машину для их моделирования".
Аргументы против этого тезиса должны показать, что создание работающей системы искусственного интеллекта невозможно, поскольку существует некоторый практический предел возможностей компьютеров или же существует какое-то особое качество человеческого разума, необходимое для разумного поведения, которое не может быть воспроизведено машиной. Аргументы в пользу тезиса должны показать, что такая система возможна.
Первый шаг к ответу на поставленный вопрос — четко определить границы "интеллекта".
Интеллект
Первый вариант определения интеллекта - тест Тьюринга.
Если машина может ответить на любой заданный ей вопрос, используя те же слова, что и обычный человек, то мы можем назвать эту машину разумной. Критика теста Тьюринга заключается в том, что он измеряет только "человечность", а не "интеллект" поведения машины (человеческое поведение и интеллектуальное поведение не совсем одно и то же).
Второй вариант. Интеллект как достижение целей.
Исследования ИИ двадцать первого века определяют интеллект с точки зрения целенаправленного поведения. Интеллект как набор задач, которые машина должна решить: чем больше задач она может решить и чем лучше ее решения, тем она умнее. Автор термина ИИ Джон Маккарти определил интеллект как "вычислительную часть способности достигать целей в мире".
Стюарт Рассел и Питер Норвиг формализовали это определение, используя абстрактных интеллектуальных агентов. "Агент" — это то, что воспринимает и действует в окружающей среде. "Показатель эффективности" определяет, что считается успехом агента. "Если агент действует так, чтобы максимизировать ожидаемое значение показателя эффективности на основе прошлого опыта и знаний, то он разумен".
Определения, подобные этому, пытаются уловить сущность интеллекта. У них есть преимущество перед тестом Тьюринга: они не проверяют неразумные человеческие черты, такие как опечатки. У них есть серьезный недостаток, заключающийся в том, что они не могут провести различие между "вещами, которые мыслят" и "вещами, которые не мыслят". Согласно этому определению, даже термостат обладает элементарным интеллектом.
Аргументы в пользу того, что машина может демонстрировать общий интеллект
- Мозг можно смоделировать. Хьюберт Дрейфус описывает этот аргумент так: "Если нервная система подчиняется законам физики и химии, а у нас есть все основания предполагать, что она подчиняется, то мы должны быть в состоянии воспроизводить поведение нервной системы с помощью некоторого физического устройства". Даже резкие критики ИИ согласны с тем, что симуляция мозга теоретически возможна. Доведение определения до предела приводит к выводу, что любой процесс вообще технически может считаться "вычислением". "Мы хотели узнать, что отличает разум от термостатов и печени", — пишет Джон Сёрл.
- Человеческое мышление — это обработка символов. В 1963 году Аллен Ньюэлл и Герберт А. Саймон предположили, что "манипулирование символами" является сущностью как человеческого, так и машинного интеллекта. Они написали: "Система физических символов обладает необходимыми и достаточными средствами общего разумного действия". Это очень смелое утверждение: оно подразумевает и то, что человеческое мышление является разновидностью манипуляции с символами (поскольку для разума необходима система символов), и что машины могут быть разумными (поскольку для интеллекта достаточно системы символов).
Существуют аргументы против этого тезиса. Эти аргументы показывают, что человеческое мышление не состоит исключительно из манипуляций с символами высокого уровня. Они не утверждают, что искусственный интеллект невозможен, а только то, что требуется нечто большее, чем просто обработка символов.
- Гёделевские антимеханистические аргументы. В 1931 году Курт Гёдель с помощью теоремы о неполноте доказал, что всегда можно построить утверждение, которое не может доказать данная непротиворечивая формальная система логики (например, программа манипулирования символами высокого уровня). Несмотря на то, что построенное утверждение является истинным утверждением, оно недоказуемо в данной системе.
Например, система человеческих математиков одновременно непротиворечива (полностью свободна от ошибок) и полностью верит в свою собственную непротиворечивость, и может делать все логические выводы, следующие из ее собственной непротиворечивости, включая веру в утверждение Гёделя. Это доказанно невозможно для машины Тьюринга (т.н. Проблема остановки), следовательно, человеческое мышление слишком мощно, чтобы его можно было реализовать на машине Тьюринга и, соответственно, любым цифровым механическим устройством.
Контраргумент. Дуглас Хофштадтер в книге "Гедель, Эшер, Бах: эта бесконечная гирлянда" утверждает, что эти "утверждения Гёделя" всегда относятся к самой системе, проводя аналогию с тем, как парадокс Эпименида (все критяне - лжецы) использует утверждения, которые относятся к себе, например, "это утверждение ложно" или "я лгу". Но парадокс Эпименида применим ко всему, что делает заявления, будь то машины или люди. Например, утверждение "ученый не может утверждать истинность этого утверждения" верно, но не может быть подтверждено ученым. Это показывает, что сам ученый подвержен тем же ограничениям, которые он описывает для машин, как и все люди, и поэтому аргумент бессмысленен.
Впрочем, можно привести контраргумент проще. Возможно, человеческое мышление банально не формально, что противоречит идее о том, что оно детерминировано моделируемо. Если система не обеспечивает свою замкнутость (т.е. отсутствие влияния извне) и формальность (т.е. подчинение неким детерминированным жёстким правилам), к ней неприменима теорема Геделя.
- Дрейфус: первенство имплицитных навыков
Хьюберт Дрейфус утверждал, что человеческий интеллект и опыт зависят в первую очередь от быстрых интуитивных суждений, а не от пошаговых символических манипуляций, и утверждал, что эти навыки никогда не будут отражены в формальных правилах.
Однако, Рассел и Норвиг отмечают, что за годы, прошедшие с тех пор, как Дрейфус опубликовал свою критику, был достигнут прогресс в открытии "правил", регулирующих бессознательные рассуждения. Например, нейронные сети и эволюционные алгоритмы в основном направлены на моделирование бессознательных рассуждений и обучения. Статистические подходы к ИИ могут делать прогнозы, которые по точности приближаются к интуитивным догадкам человека.
Является ли мышление вычислением?
Вычислительная теория разума или "вычислительный подход" утверждает, что отношения между разумом и мозгом аналогичны (если не идентичны) отношениям между работающей программой (программным обеспечением) и компьютером (аппаратным обеспечением). Эта идея имеет философские корни у Гоббса (который утверждал, что рассуждение — это "не что иное, как расчет"), Лейбница (который пытался создать логическое исчисление всех человеческих идей), Юма (который считал, что восприятие можно свести к "атомарным впечатлениям") и даже Канта (который анализировал весь опыт как контролируемый формальными правилами).
Другими словами, наш интеллект происходит от формы вычисления, похожей на арифметику. Это гипотеза системы физических символов, обсуждавшаяся выше, и она подразумевает, что искусственный интеллект возможен. С точки зрения следующего философского вопроса об ИИ "Может ли машина иметь разум, психические состояния и сознание?" Стеван Харнад замечает так: "Психические состояния — это всего лишь реализации компьютерных программ".
Возражениями против вычислительной теории сознания являются:
- аргументы по поводу тривиальности (любая физическая система может быть описана как система, производящая вычисления);
- теорема Геделя о неполноте;
- ограничения вычислительных моделей (Дрейфус: первенство имплицитных навыков);
- и некоторые другие.
Может ли машина иметь разум, сознание и психические состояния?
Этот вопрос связан с определениями сильного и слабого ИИ, сделанны Джоном Сёрлом. Сильный ИИ - это система физических символов, которая может иметь разум и ментальные состояния. Слабый ИИ - это система физических символов, которая может действовать разумно.
Определения
Слова "разум" и "сознание" используются разными сообществами по-разному. Например, писатели-фантасты используют это слово для описания некоторого существенного свойства, которое делает нас людьми: машина или инопланетянин, обладающий "сознанием", будет представлен как полностью человеческий персонаж, обладающий интеллектом, желаниями, волей и так далее.
Для философов, неврологов и ученых-когнитивистов эти слова используются одновременно и более точно, и более приземленно: они относятся к знакомому, повседневному опыту наличия "мысли в голове", такой как восприятие или намерение, и тому, как мы что-то видим, что-то знаем, что-то имеем в виду или что-то понимаем. "Нетрудно дать определение сознания, основанное на здравом смысле", — отмечает Джон Сёрл: "Таинственно и увлекательно не столько то, что это такое, сколько то, как оно есть: как комок жировой ткани и электричество порождают этот (знакомый) опыт восприятия, смысла или мышления?"
Это т.н. проблема разума и тела: как психические состояния и процессы связаны с физическими состояниями и процессами, происходящими в мозгу. Связанной с этим проблемой является проблема значения или понимания ("интенциональность" - направленность на предмет): какова связь между нашими мыслями и тем, о чем мы думаем (то есть объектами и ситуациями в мире)? Третий вопрос — это проблема опыта (или "феноменологии"): если два человека видят одно и то же, имеют ли они один и тот же опыт? Или есть вещи "внутри их головы" (называемые "qualia"), которые могут различаться у разных людей?
Некоторые нейробиологи считают, что все эти проблемы будут решены, когда мы начнем идентифицировать нейронные корреляты сознания: реальную связь между механизмами в нашей голове и их коллективными свойствами; такие как ум, опыт и понимание. Некоторые из самых резких критиков искусственного интеллекта согласны с тем, что мозг — это всего лишь машина, а сознание и интеллект — результат физических процессов в мозгу. Сложный философский вопрос заключается в следующем: может ли компьютерная программа, работающая на цифровой машине, перетасовывающей двоичные числа нуля и единицы, дублировать способность нейронов создавать умы с ментальными состояниями (такими как понимание или восприятие) и, в конечном счете, опыт сознания?
Аргументы против
- Китайская комната. Представим себе изолированную комнату, в которой находится человек, не знающий ни одного китайского иероглифа. У него есть записанные в книге точные инструкции по манипуляции иероглифами вида «Возьмите такой-то иероглиф из корзинки номер один и поместите его рядом с таким-то иероглифом из корзинки номер два», но в этих инструкциях отсутствует информация о значении этих иероглифов, и человек просто механически следует этим инструкциям.
Наблюдатель, знающий китайские иероглифы, через щель передаёт в комнату иероглифы с вопросами, а на выходе ожидает получить осознанный ответ. Инструкция составлена таким образом, что после применения всех шагов к иероглифам вопроса они преобразуются в иероглифы ответа. Фактически инструкция — это подобие компьютерного алгоритма, а человек в комнате исполняет алгоритм так же, как его исполнил бы компьютер.
При этом человек в комнате не имеет никаких знаний об иероглифах и не может научиться ими пользоваться, поскольку не может узнать значение даже одного символа. Он не понимает ни изначального вопроса, ни ответа, который сам составил. Наблюдатель, в свою очередь, может быть уверен, что в комнате находится человек, который знает и понимает иероглифы.
Ответы на китайскую комнату
- Разумом обладает вся система целиком, а не только человек.
- Скорость и сложность ответов: человеку в комнате, вероятно, потребуются миллионы лет, чтобы ответить на простой вопрос, потребуются «картотеки» астрономических размеров.
- Возражение симулятора мозга. Что, если программа имитирует последовательность возбуждения нервов в синапсах реального мозга реального говорящего по-китайски? Человек в комнате будет симулировать реальный мозг.
- Возражение других разумов (Проблема других разумов — это философская проблема, традиционно формулируемая в виде следующего эпистемологического вопроса: учитывая, что я могу только наблюдать за поведением других, как я могу знать, что у других есть разум?). Поскольку трудно решить, мыслят ли люди «на самом деле», не следует удивляться тому, что на тот же вопрос о машинах трудно ответить.
- И некоторые другие.
Может ли машина быть дружелюбной или враждебной?
Этот вопрос можно представить в двух формах. "Враждебность" можно определить с точки зрения функции или поведения, и в этом случае "враждебность" становится синонимом "опасности". Или его можно определить с точки зрения намерения: может ли машина "преднамеренно" причинить вред? Последний вопрос - это вопрос "может ли машина иметь сознательные состояния?" (например, намерения) в другой форме.
Некоторые эксперты предполагают необходимость создания "дружественного ИИ", имея в виду, что прогресс, который уже происходит с ИИ, должен также включать усилия, направленные на то, чтобы сделать ИИ внутренне дружественным и гуманным.
Может ли машина обладать самосознанием?
"Самосознание", как отмечалось выше, иногда используется писателями-фантастами как название существенного человеческого свойства, которое делает персонажа полностью человечным. Тьюринг отбрасывает все другие свойства человека и сводит вопрос к "может ли машина быть предметом собственного мышления?" Может ли оно думать о себе? С этой точки зрения можно написать программу, которая может сообщать о своих внутренних состояниях, например отладчик.
Может ли машина испытывать эмоции?
Если "эмоции" определять только с точки зрения их влияния на поведение или на то, как они функционируют внутри организма, то эмоции можно рассматривать как механизм, который разумный агент использует для максимизации полезности своих действий. Учитывая это определение эмоций, Ганс Моравек считает, что "роботы в целом будут довольно эмоционально относиться к тому, чтобы быть хорошими людьми". Страх является источником срочности. Эмпатия является необходимым компонентом хорошего взаимодействия человека с компьютером.
Может ли машина имитировать все человеческие качества?
Тьюринг сказал: "Принято предлагать крупицу утешения в форме заявления о том, что какая-то специфически человеческая характеристика никогда не может быть имитирована машиной... Я не могу предложить такого утешения, потому что считаю, что такие границы не могут быть установлены".
Тьюринг отметил, что существует много аргументов в форме "машина никогда не сделает X", где X может быть многими вещами, такими как: "Будь добрым, находчивым, красивым, дружелюбным, инициативным, обладай чувством юмора, отличай правильное от неправильного, делай ошибки, влюбляйся, наслаждайся клубникой со сливками, влюбляй в себя кого-то, учись на собственном опыте, правильно используй слова, будь предметом собственной мысли, имей такое же разнообразие поведения, как и человек, делай что-то действительно новое".
Тьюринг замечает, что обычно это голословные утверждения. Все они зависят от наивных предположений, какими могут быть будущие машины, и явялются "скрытыми аргументами от сознания".
Может ли машина быть оригинальной? Может ли машина творить?
Тьюринг сводит это к вопросу о том, может ли машина "застать нас врасплох", и утверждает, что это очевидно верно, что может подтвердить любой программист. Он отмечает, что при достаточном объеме памяти компьютер может вести себя астрономическим числом различных способов. Для компьютера, который может представлять идеи, должно быть возможно, даже тривиально, комбинировать их по-новому. Что, собственно, можно наблюдать на примере существующих ныне нейросетей.
Есть ли у машины душа?
Те, кто верит в существование души, могут сказать, что "мышление есть функция бессмертной души человека". Алан Тьюринг назвал это "теологическим возражением" и ответил на него так: "Пытаясь сконструировать подобные машины, мы не должны бесцеремонно узурпировать Его власть дарования души, подобно тому, как мы не делаем этого, производя на свет детей. В обоих случаях мы являемся скорее Его инструментами, создавая вместилища для созданных Им душ".
Проблема сингулярности
Одна из проблем заключается в том, что машины могут очень быстро приобрести автономию и интеллект, необходимые для того, чтобы быть опасными. Вернор Виндж предположил, что всего за несколько лет компьютеры внезапно станут в тысячи или миллионы раз умнее людей. Он называет это "Сингулярностью". Он предполагает, что это может быть опасно для людей.
Кто отвечает в случае причинения ИИ ущерба имуществу/здоровью/жизни?
Уже сейчас существуют беспилотные автомобили, в связи с чем возникают вопросы о юридической ответственности виновной стороны.
Например, 18 марта 2018 года Элейн Херцберг была сбита и беспилотным Uber в Аризоне и погибла. В этом случае автоматизированный автомобиль был способен обнаруживать автомобили и определенные препятствия, чтобы автономно перемещаться по проезжей части, но не мог предвидеть пешехода посреди дороги. Это подняло вопрос о том, кто должен нести ответственность за ее смерть: водитель, пешеход, автомобильная компания или вовсе правительство.
Примечание. В качестве ремарки о беспилотных автомобилях рекомендую "Машину морали" (https://www.moralmachine.net/hl/ru). Это платформа для сбора человеческих мнений о нравственном выборе, осуществляемом машинным интеллектом. Здесь деомнстрируют моральные диллемы, где самоуправляемый автомобиль должен выбрать наименьшее из двух зол: например, смерть двух пассажиров или пяти пешеходов. Как сторонний наблюдатель, вы можете решать, какой из вариантов для вас более приемлем. В конце можно увидеть, как выглядят ваши решения по сравнению с остальными.
Права ИИ
"Права роботов" — это концепция, согласно которой люди должны иметь моральные обязательства по отношению к своим машинам, сродни правам человека. Права роботов (например, право на существование и выполнение собственной миссии) могут быть связаны с обязанностью роботов служить человечеству, аналогично увязыванию прав человека с обязанностями человека перед обществом. Они могут включать право на жизнь и свободу, свободу мысли и выражения, а также равенство перед законом.
Философия сентиоцентризма предоставляет степень морального уважения всем разумным существам, в первую очередь людям и большинству нечеловеческих животных. Если искусственный или инопланетный интеллект проявляет признаки разумности, эта философия утверждает, что им следует проявить сострадание и предоставить права.
Непредвиденные последствия
Искусственный интеллект может обратиться против нас. Это необязательно должно быть классическое восстание машин. Скорее, эдакий "джинн из бутылки", который исполняет все желания, но с ужасными непредвиденными последствиями. Программе сложно понять контекст желания. Попросите систему искусственного интеллекта искоренить бедность — вот вам формула, которая убивает всех на планете. Фактически задача выполнена. Предложенное средство очень эффективно, но работает немного не так, как нам бы хотелось.
Изменения в структуре занятости и рост неравенства
За популярными чат-ботами стоят программы, называемые большими языковыми моделями (LLM), которые очень хорошо имитируют наиболее предсказуемое использование человеческого языка. Очень много офисных работников в наши дни тратят большую часть своего времени на создание текстов, подпадающих под эту категорию: контракты, юридические заключения, пресс-релизы, статьи для СМИ и так далее. Эти рабочие места покинут нас. Программирование также хорошо подходит для LLM, поэтому многие работы по написанию ПО также могут быть поручены ИИ. Прочие формы экономической деятельности, связанные с составлением предсказуемых последовательностей символов, ждёт та же судьба.
Еще одна технология с аналогичными результатами — создание изображений. Например, не так давно Levi's объявил, что все его будущие каталоги и реклама будут использовать компьютерные изображения вместо высокооплачиваемых моделей и фотографов.
Результатом станет сильное сокращение высокооплачиваемых рабочих мест во многих секторах экономики.
Конец
Эти, а также многие другие вопросы и проблемы требуют внимания и обсуждения как со стороны философов и специалистов по ИИ, так и общества в целом, чтобы гарантировать безопасность, этичность и эффективность использования ИИ в будущем. Этот абзац написал ChatGPT.
Литература
Уже достаточно давно актуальной стала тема использования нейросетей как инструмента создания текстов. В принципе, в этом нет ничего плохого, ведь такое средство экономит время и позволяет легко формулировать определённые идеи. Однако такие материалы могут использоваться для наполнения сайтов контентом, а в некоторых случаях даже продвижения своих услуг. Кроме того, будучи размещёнными под видом полезной информации, подобные тексты банально могут ввести человека в заблуждение, ведь бот не может контролировать корректность излагаемой информации.
Как вы знаете, я периодически публикую статьи юридической направленности, написанные самолично. А может ли это вместо меня делать ИИ? Давайте на примере посмотрим насколько советы нейросети правдивы и полезны и сделаем небольшой разбор. Я попросил DeepSeek написать статью по теме "Советы попавшим в СИЗО" и получил вот такой текст:
Попадание в следственный изолятор (СИЗО) — это стрессовая и сложная ситуация. Однако знание своих прав и обязанностей может помочь вам защитить себя и избежать дополнительных проблем. В этой статье мы рассмотрим ключевые аспекты, которые важно учитывать, оказавшись в СИЗО.
1. Знайте свои права
Согласно российскому законодательству, каждый задержанный или заключенный под стражу имеет ряд прав, которые гарантированы Конституцией РФ, Уголовно-процессуальным кодексом (УПК РФ) и Федеральным законом "О содержании под стражей подозреваемых и обвиняемых в совершении преступлений". Вот основные из них:
2. Какие документы подписывать?
Будьте внимательны при подписании документов. Не спешите ставить свою подпись, если вы не понимаете, что именно подписываете. Вот несколько рекомендаций:
3. Обязанности в СИЗО
Помимо прав, у вас есть и обязанности, которые необходимо соблюдать:
4. Как вести себя в СИЗО
5. Помощь извне
Не стесняйтесь обращаться за помощью к адвокату, родственникам или правозащитным организациям. В России действуют такие организации, как "Общественная наблюдательная комиссия" (ОНК) и "Комитет против пыток", которые могут помочь в защите ваших прав.
6. Важные нюансы
Заключение
Попадание в СИЗО — это серьезное испытание, но знание своих прав и грамотное поведение помогут вам защитить себя. Не забывайте, что вы не одиноки — всегда можно обратиться за помощью к адвокату или правозащитникам. Главное — оставаться спокойным и внимательным ко всем деталям.
На самом деле, если говорить в целом, то статью нельзя охарактеризовать как некорректную. ИИ довольно неплохо справился с оценкой задачи и корректно использовал нормы российского законодательства, даже вспомнил о таком законе, как "О содержании под стражей подозреваемых и обвиняемых в совершении преступлений".
Однако, советы нейросети достаточно поверхностные и не учитывают многие важные моменты, например, право содержащегося на ведение переписки. Не указано количество и длительность посещений, на которые имеет право гражданин. Ничего не сказано о хранении личных вещей и регламенте их досмотра. Ну и, само собой, почти ничего относительно общения с правоохранительными органами. Согласитесь, это гораздо более полезная и насущная информация, чем представленная в статьи.
В своём запросе я специально дал DeepSeek подсказку - указать на то, как надо вести себя с сотрудниками правоохранительных органов. В ответ он вставил ссылку на статью Конституции. В принципе, понимание базовых основ, вроде права не свидетельствовать против себя и своих родственников, лучше, чем ничего, но, думаю, вы прекрасно понимаете, что для читателя гораздо важнее знать, какой правовой статус несёт его подпись на документах и что вообще ему могут предложить подписать.
То же, что ИИ всё же указал, не подкреплено никакими конкретными советами. Ок, у нас есть право на обжалование. А как его можно реализовать? Кому писать жалобы, куда обращаться при нарушении прав? Или вот нейросеть неожиданно находит такую организацию, как Общественная наблюдательная комиссия. Это несомненно круто, что он в принципе указал на её существование, но, опять же, без каких-либо подробностей. Пишите в Спортлото, в общем.
Отдельные забавные моменты. Если вы не владеете русским языком... то как вы читаете эту статью? Тут нейросеть банально не учитывает контекст запроса, просто воспроизводя факты. Или вот, например, "Комитет против пыток"... такая организация действительно существует, но в 2022 году включена в список иностранных агентов. Совет, ну скажем так, как минимум устарел.
Какие итоги? Статья красиво оформлена, структурирована, в ней используются в целом корректные источники и доводы, но она совершенно бесполезная. Больше всего она подходит для массовки на сайте какой-нибудь сомнительной адвокатской конторы "Набутылин и друзья". В то же время надо понимать, что многое в ответе Нейросети зависит от контекста запроса. ИИ неплохо справляется с базовым поиском и может дать подсказки по уточняющим вопросам. Он достаточно полезен при поиске хорошо документированной информации, но вот по части комплексного анализа тем пока что скорее собеседник, слова которого надо проверять.
Справедливости ради, стоит отметить, что люди тоже могут ошибаться. Проверять надо за всеми. Но человек животное ленивое, а ИИ трудолюбиво исполняет все твои запросы, чем и подкупает. Если бы я ставил целью завалить Капибару бессмысленными статьями, DeepSeek вполне справился с этой задачей, сэкономив мне кучу времени.
Комментарии