Нейронные сети

Товарищи ученики и учителя! Сегодня мы отмечаем знаменательный день - начало нового учебного года. Это день, когда вы вступаете в ряды борцов за светлое будущее нашей Родины, когда вы принимаете на себя ответственность за свое образование и воспитание. Вы - надежда и гордость нашей страны, вы - ее лучшие сыны и дочери. Вы должны быть достойными наследниками великих дел, совершенных нашим народом в борьбе за мир, свободу и социализм. Вы должны учиться не только для себя, но и для общества, для того, чтобы служить интересам трудящихся масс, для того, чтобы быть полезными своему классу, своему народу, своему Отечеству. Вы должны учиться не только тому, что дают вам учителя, но и тому, что требует от вас жизнь, что диктует вам революционная практика. Вы должны учиться не только знаниям, но и умению применять их на пользу делу социализма. Вы должны учиться не только в классах и на уроках, но и в коллективах и организациях, в которых вы состоите. Вы должны учиться не только от учителей, но и от своих товарищей, от своих старших и младших, от всех тех, кто может дать вам полезный опыт и знания. Вы должны учиться не только с энтузиазмом и интересом, но и с дисциплиной и самоконтролем. Вы должны учиться не только ради получения оценок и похвалы, но и ради самосовершенствования и самокритики. Вы должны учиться так, чтобы каждый день был для вас шагом вперед, чтобы каждый год был для вас этапом роста, чтобы каждый курс был для вас ступенью к зрелости. Товарищи ученики и учителя! Я желаю вам успехов в вашей благородной и творческой работе. Я желаю вам крепкого здоровья, бодрости духа, неугасаемой энергии. Я желаю вам быть верными своим принципам, своим идеалам, своему Отечеству. Пусть первое сентября будет для вас праздником радости и надежды, праздником начала нового пути к победе коммунизма! С праздником вас!

Привет. Меня зовут Алена Андронова, я актриса озвучивания и дубляжа. Однажды я согласилась на заказ озвучки большого массива текста для внутренних нужд банка Тинь кофф, а в итоге - я услышала себя в порно и лишилась части работы. Я подала иск в суд и хочу поделиться с вами этой историей, а также расскажу вам о том, что сейчас происходит с актерами озвучивания из-за развития нейросетей, как у нас в прямом смысле слова воруют голоса и обманывают нас в договорах. И это проблема не только нашей индустрии - сейчас легко подделать любую личность, украсть голос, подставить кого угодно – и расскажу, что мы предлагаем для того, чтобы защитить себя.

Длиннопост, для любителей слушать – есть видео, текст в основном его дублирует

Итак, всё началось для меня аж в 2019 году. В профессиональном сообществе я увидела объявление, что ищется женский голос на большой объем работы.

При обсуждении таких заказов обычно сразу назначают стоимость за объем. Задачу толком не объяснили, но такое часто бывало, особенно из-за НДА. Я отправила демо, потом прошла большой кастинг. И только после согласования я узнала, что это за компания, для которой планируется заказ, и мне прислали договор на утверждение. На первый взгляд всё было как обычно, стандартные формулировки об исполнении и обязательстве записать объем текстов. Однако уже только на самой записи выяснилось, что это объем текстов для создания нейросети.

На первой записи присутствовали представители банка, и когда я начала их расспрашивать, мне было сказано, что мой голос записывается только и исключительно для внутренних задач банка, он поможет обучить Олега и заменит собой колл-центр, на этом всё. Я тогда расстроилась, что не знала всей информации о задаче и не могла адекватно оценить проект, но раз уж договоренность была достигнута, а студия арендована, решила поверить на слово и сделать честно свою работу.

С тех пор прошло несколько лет, и год назад мой друг задал мне вопрос, озвучивала ли я порно-рекламу. Я ответила - нет, наверняка ты перепутал. Но он продолжал утверждать, что это был мой голос. Вскоре и другие знакомые и коллеги стали об этом говорить и присылать мне записи экранов, на которых при включении видео запускается откровенная порно-реклама, без какой-либо цензуры, которая озвучена синтезом моего голоса.

18+ контент, прям очень 18+ контент https://disk.yandex.ru/i/DiiinHWOcHISZg (запись с экрана тогонескажукого)

Я стала гуглить и обнаружила, что мой голос открыто доступен для любого синтеза на сайте банка и продается на многих сторонних площадках. Я начала искать юриста, а также пытаться связаться с юристами банка Т. Однако в моем договоре не было никаких контактов для связи, на отправленные письма - физические, электронные, - юристы не отвечали, а сотрудники банка, к которым я обращалась за помощью и контактами юридического отдела, отказывались мне их давать. А все это время мой голос продолжали синтезировать, им озвучивались эротические чаты, подписки и донаты на трансляциях, коммерческая реклама. Даже студии, с которыми я ранее работала как актриса, стали продавать мой синтез на телеканалы и стриминговые сервисы (как пример, документальный фильм «Космос: Новые горизонты»).

Почему я не смогла себя обезопасить? Напоминаю, это был 2019й год. Никакой пандемии, только-только внедряются первые голосовые помощники, Алиса и Олег, никто нигде не может синтезировать их голоса и о массовом синтезе вообще речи пока не идёт. К тому же, сотрудниками мне было обещано, что мой голос останется только для внутренних задач банка и я надеялась на честность со стороны такой крупной корпорации. Зря

А что же договор? В нем нет ни слова “синтез”, ни упоминания нейросетей, ни каких-либо подробностей об использовании записей. Это стандартный договор о том, что я создаю исполнение, передаю его и разрешаю его обработку. В то время это был обычный типовой договор, мы подписываем такие несколько раз в месяц. Согласование всегда было на совести студий и посредников. Конечно же, я внимательно читала договор, но в данном случае согласование шло фактически “вслепую”, так как о главном – о том, что мы пишем синтез, - в нем ни слова нет.

В дальнейшем ко мне обращались за дозаписью материала, и когда я спрашивала, для чего и куда он пойдет, мне не отвечали  и переставали выходить на связь. Я сама делала запрос с просьбой банку подтвердить мне означенное соглашение ещё до публикации синтезов и осталась без ответа.

И я не одна пострадала в этой ситуации. Через год мой коллега, Павел Дорофеев, записывал для банка также и мужской голос, он уже знал от меня чуть больше о работе, задавал те же вопросы, что и я, уточнял, не пойдет ли данный материал куда-либо ещё.

Павлу было сказано, что синтез совершенно точно нужен для внутренних задач банка, а пункт о передаче голоса третьим лицам нужен лишь для того, чтобы передать материал для технического синтеза их дочерней компании.

В итоге голосом Павла сейчас озвучиваются различные видео в интернете, в том числе и ролики, направленные на осуждение действий российских войск и специальной военной операции. Мы совершенно не можем ни контролировать, ни отвечать за то, в чем участвует наш голос. Мы не можем отвечать за то, в чем люди нас услышат. А многие не способны уже отличить, где говорит синтез, а где - живой человек. А ещё плохая работа синтезов подрывает также и наш авторитет как хороших дикторов и актеров.

Почти год я потратила на попытки связаться с банком через всех, кого могла, в итоге получила ответ, что я не имею права ни на какие претензии, однако банк признает свою вину и готов выплатить мне совершенно смешную компенсацию, примерно в стоимость месяца-двух моей работы, при условии, что я полностью откажусь от всех своих претензий. Этот вариант меня не устраивает. Поэтому я подала иск и буду судиться с банком Тинькофф. Однако за этот год я узнала о синтезах и их развитии очень многое, а также о том, что сейчас происходит в связи с этим в законодательстве в России и в мире.

Я нашла в открытом доступе много голосов своих коллег, кто-то из них действительно записывал синтезы, однако почти во всех случаях условия изначально обговаривались другие или речь о синтезах не шла. Почти все проекты были записаны давно, до массового распространения нейросетей. Я общалась с разными юристами в поисках того, кто возьмется за моё дело, и узнала, что почти все известные вам голоса, записывавшие для кого-то синтез или голосовых помощников, были так или иначе обмануты и прибегали к услугам юристов. Я видела чужие договоры с другими компаниями, в которых, как и в моем, нет никаких упоминаний о синтезе и нейросетях. Я находила и голоса, которые не записывали синтезы, однако все равно появились в открытом доступе, а это означает, что кто-то, возможно, кто-то из студий, с которыми мы работаем, использовали нашу с ними работу для создания таких нейросетей. В основном эти голоса залиты на сайты, зарегистрированные на уже недействующие ИП, вроде такого и похожих аналогов.

Апогеем же всего этого являются различные телеграм-боты, вроде Silero или SteosVoice, которые вскрыли файлы из известных компьютерных игр, в том числе таких компаний, как Blizzard, CD Project Red, Riot Games и других, и синтезировали голоса актеров без их ведома и без разрешения правообладателей, и ещё и продают эти голоса. Но при этом говорят, что якобы на использование голосов получили разрешение.

Многие слышали о художниках, о том, что нейросети обучали на их работах без их ведома. Но если мы говорим о голосах - голос синтезируется не из какой-то общей массы, используется голос одного конкретного человека: его собственный тембр, его манера, его интонации, дикция. Это очень личное, это одна из вещей, в принципе составляющих часть личности человека.

Прямо сейчас список людей, которых несанкционированно синтезировали, огромный, входят в него и известные мэтры, и молодые актеры - есть там и Всеволод Кузнецов, и Ольга Плетнева, Михаил Тихонов, Татьяна Шитова, Ольга Зубкова, Юлия Горохова и многие другие. Совсем недавно вышел трейлер дополнения к игре киберпанк, озвученный полностью синтезами голосов из игры.

Удивительно то, что авторы этих ботов не только не постеснялись своровать голоса, но и стали писать актерам с предложением сделать синтез для их проекта под эгидой “защиты голосов от воровства”.

Не видите в этом никакого противоречия?  Я напрямую задала вопрос создателям этих ботов, как так получилось, и вот что мне ответили.

Такую же риторику я слышала и от менеджеров банка Тин ькофф, когда говорила с ними, и от других людей, никак не заинтересованных. Правда ли это? Вот что говорит юрист Тамара Богданова, которая занимается вопросами права и сейчас много работает с темой синтезов речи:

Голос - это нематериальное благо, он принадлежит каждому человеку с рождения. Он является частью его личной биометрии, как отпечаток пальца или рисунок глаза. Банки в том числе используют распознавание по голосу в своей системе для подтверждения личности. Многие голоса мы легко идентифицируем. И когда актер или диктор подписывает договор о создании Исполнения, само собой разумеется, что он готов создавать результат, но заказчики считают, что имеют право создать синтез из личного слепка голоса и использовать его, как им вздумается, совершенно невзирая на урон, который они наносят человеку. Хотя в соответствии с подпунктом 4 пункта 1 статьи 1315 Гражданского кодекса Российской Федерации исполнителю принадлежит право на неприкосновенность исполнения, в том числе постановки, - право на защиту исполнения от всякого искажения, то есть от внесения изменений, приводящих к извращению смысла или к нарушению целостности восприятия исполнения, в его запись, в сообщение в эфир или по кабелю, при доведении исполнения до всеобщего сведения, а также при публичном исполнении постановки спектакля.

(Цитата не из видео, а из наших материалов, в видео Тамара рассказывает куда подробнее)

В итоге разные заказчики, студии или же вообще сторонние люди пытаются сослаться на то, что якобы раз актер дал право на переработку своего голоса, то с ним можно делать что угодно. Однако переработка всегда означала звукорежиссерскую обработку: чистку звука, наложение музыки и прочие действия, но никак не создание общедоступного клона своего голоса. А сейчас выходит, что, злоупотребляя своим правом, любая студия или заказчик могут стряхнуть пыль с договора 10-15-20летней давности на любую аудиокнигу или другой проект и создать из актера нейросеть. И это уже происходит! Есть история одного диктора, записавшего большой объем материалов для кафедры фонетики аж в начале 2000-х годов! И прямо сейчас он оказался синтезирован, естественно, без своего ведома.

Да и, как я говорила ранее, абсолютно любой человек может оказаться беззащитен. Создатели синтезов говорят о том, что сейчас технологии уже так продвинулись, что им нужен всего лишь небольшой слепок голоса человека, чтобы создать его копию. Буквально запись на пару минут.

В открытом доступе уже существуют сайты, обещающие сделать синтез по небольшому отрывку аудио. Представьте, что смогут делать мошенники, имея возможность в реальном времени имитировать вашу речь! Да и даже использовать уже доступные голоса - мой голос является голосом колл-центра банка, кто угодно сейчас может его синтезировать и позвонить вам от имени банка. Голос Всеволода Кузнецова является голосом Альфа-банка - а его голос для синтеза своровали из файлов видеоигр. Сейчас мы говорим не о роботизированном голосе, который можно определить - современные технологии записывают голос поверх речи, повторяя интонации и даже мелодию! Так, например, синтезируются песни из голосов разных исполнителей, например, в сети уже много записей с голосом Горшка из КиШа. Всего год-два, и синтезированный голос нельзя будет отличить от настоящего. И говоря о Горшке - как быть с вопросами этики? Уже создаются синтезы из голосов мертвых артистов и певцов - из наших коллег это, например, Владимир Вихров или Андрей Ярославцев. Насколько этично использовать их голоса по отношению, например, к их родственникам? Я считаю, что они должны как минимум давать свое согласие, а, в идеале, родственники должны получать отчисления, как это происходит с авторским правом.

И всё, о чем я говорю, происходит не только в России! Точно также воруются голоса из зарубежных игр - например, совсем недавно вышел эротический мод на Скайрим, озвученный синтезированными голосами из игры, это взволновало актеров. Дикторы, работавшие с Apple и их дочерними компаниями, были не в курсе, что их голоса используются для обучения ИИ. Прямо сейчас в Голливуде проходит забастовка актеров в том числе связанная с нейросетями - кинокомпании оживляют с помощью дипфейков мертвых актеров, а многие пытались прописать в контрактах сканирование актера с разовой оплатой и последующим вечным его использованием. Разве справедливо такое отношение к работникам от гигантов, воротящих миллионами? Тем не менее у нас же нет таких гильдий, и то, о чем я говорю, также касается единственного, что сейчас на нашей стороне - справедливости и честности.

Что же нам делать, как мы все - любой из нас, - можем защитить себя от нейросетевой подделки? И как актерам защититься от копирования их голоса и внешности? Современное законодательство не готово к такому развитию нейросетей, и мы с моим юристом, а также совместно с Союзом дикторов России, предлагаем внести ряд законодательных изменений. Мы создали петицию, в которой перечислены все предлагаемые мной правки, если вы будете с ними согласны - пожалуйста, перейдите по ссылке в описании и помогите нам собрать голоса!

ПЕТИЦИЯ О ЗАЩИТЕ ГОЛОСОВ ОТ МОШЕННИЧЕСТВА И СИНТЕЗА находится на сайте, ссылку на который Пикабу блокирует, но она есть в описании к видео

Нам очень поможет любая помощь – голоса, просмотры, комментарии, лайки. Если вы согласны, пожалуйста, помогите нам донести наши предложения до органов власти. Нам нужна помощь любых СМИ и блогеров, чтобы не оставлять все происходящее безнаказанным. Любой из вас, кто когда-либо записывал любое видео в интернете или отправлял голосовые сообщения, может оказаться в ситуации, когда его голос и внешность будет подделаны мошенниками.

Всех дикторов я прошу внимательно проверять договоры, писать в случае наличия вопросов юристам и ни в коем случае не подписывать договоры на отчуждение своего голоса, особенно если работа ведется над большим объемом текста, а все обещания по его использованию даются только на словах.

Сейчас страшно выкладывать любой обширный материал в интернет, особенно учитывая специфику нашей работы. Сейчас у нас совершенно нет никакой защиты, и даже громкое имя, как в моем случае с банком Т инькофф, не является никакой гарантией.

Я очень надеюсь, что нам вместе удастся добиться справедливости. Напоследок я хочу подчеркнуть, что я ни в коем случае не призываю запретить нейросети, однако хотелось бы защитить всех - актеров, блогеров, политиков, журналистов, художников, простых людей - от воровства, обмана и мошенничества. Хотелось бы создать возможность бороться за себя в этом новом мире. И хотелось бы, чтобы большие корпорации относились к своим наемным работникам с уважением, не уничтожая их репутацию и годы работы одним заказом, как это произошло со мной и многими другими.

UPD. Есть ответ Tinkoff.

Подсказали мне нейросеть, которая рисует аватирки по фотографиям. Правда, сразу возник затык - найти 5 своих фотографий. За последние 5 лет вообще нет ни единой фотки, а за предыдущие годы найти фотку, где я был бы один и было б нормально видно лицо - тоже оказалось дофига делов!

Так что аватарки нарисованы по моим фоткам 10-20 летней давности. Не все похожие, вот наиболее похожие:

Эта фотка не то, чтобы сильно похожа на меня, сходство отдаленное, челюсть слишком квадратная, но мне просто понравился образ байкера-однопроцентщика:

И, наконец, достали требовать, чтобы я показал сиськи! Так что во вам сиськи:

Ну вот и первые 10 000 подписчиков в YouTube🥳 Спасибо всем огромное за вашу поддержку! Следующий рубеж 100 тыс💪🏻

В честь этого события сделал еще одного нейроисполнителя под названием АйСплин. Ниже описание самого ролика.

Сергей Владимирович Поляков, известный ещё как "Мотя" написал очень жизненный стих. Я сделал из него нейрокавер и дипфейк на Александра Васильева из группы "Сплин". Так как только уникальной подачей и вокалом этого великого музыканта можно передать всю трагичность сюжета данного стихотворения. Видеоролик носит развлекательный, пародический характер и никакого отношения к реальной личности Александра Васильева не имеет.

https://youtu.be/ajA21B9N1uo

это ремастер обзор по игре именем короля : выборы
Можете сравнить с оригиналом ( без нейросети оригинал содержит множество звуковых и шумовых дефектов, да и год выпуска 2016, что автоматически говорит о пониженом качестве оригинала. который вы можете наблюдать ниже ) и написать своё мнение, насколько хорошо нейросеть правит звук и картинку

это оригинал обзор по игре именем короля : выборы

Всем привет!
Предлагаю вашему вниманию кавер на песню группы Винтаж "Ева" в исполнении АйЛетова.
Аранжировка моя, на всех музыкальных инструментах сыграл лично я, вокал так же мой. Он пропущен через нейросеть RVC с моделью голоса Егора Летова. Далее, этот голос наложен на дорожку с основным вокалом, тем самым появляются нужные обертона и схожесть с Летовым. Это и есть моё кардинальное отличие от других нейрокаверов, которые присутствуют на данный момент в YouTube. Основная масса криэйторов просто отделяют вокал и музыку с оригинальной композиции, загоняют вокал в нейронку и далее сводят это в один трек. Никакого творчества, на мой взгляд, в этом нету, чисто техническая работа. Поэтому мой подход уникален и кардинально отличается от остальных блогеров.
Комментируйте, делитесь своими мнениями, ставьте лайки и подписывайтесь на канал. Буду стараться и дальше радовать всех уникальным контентом!

Наткнулся на Пикабу на статью про текстовые нейросети, впечатлился и решил попробовать применить нейросеть для решения юридических задач.

Сформулировал задачу: Я купил телефон за 8000 рублей, у него не работал экран, я сдал телефон по гарантии, но в гарантийной мастерской его потеряли. Составь претензию в гарантийную мастерскую в соответствии с ЗоЗПП.

Да, задачу сформулировал упрощенно, достаточно сжато, без подробностей, но мне было интересно, не получить готовую претензию - с пониманием того, что нейросеть вряд ли справится на 100%, а понять, насколько с такими вводными претензия будет близка к тому, что составил бы я.

Нейросеть дала такой ответ:

• Гарантийная мастерская [название компании или организации]
  Адрес: [адрес гарантийной мастерской]
  Дата: [указать дату составления претензии]
  
  Константин Костин
  Адрес: [ваш адрес]
  Телефон: [ваш номер телефона]
  
  Тема: Претензия в связи с потерей моего телефона
  
  Уважаемые представители гарантийной мастерской,
  
  Я, Константин Костин, обращаюсь к вам с претензией в связи с потерей моего телефона, который я сдал в вашу мастерскую для ремонта в соответствии с действующей гарантией. Вся необходимая информация о моем случае приведена ниже:
  
  1. Детали заказа:
  - Модель телефона: [указать модель]
  - Серийный номер: [указать серийный номер]
  - Дата покупки: [указать дату покупки]
  - Сумма покупки: 8000 рублей
  
  2. Хронология событий:
  - Дата сдачи телефона: [указать дату сдачи]
  - Дефект: Неисправность экрана телефона
  - Сообщение о потере: [указать дату получения информации о потере]
  - Результат: Потеря моего телефона в вашей гарантийной мастерской
  
  3. Описание проблемы:
  Купив телефон за 8000 рублей, я обнаружил, что экран не работает. В соответствии с гарантией, я сдал свой телефон в вашу мастерскую [указать дату сдачи]. Однако, к моему сожалению, я получил информацию о том, что мой телефон был потерян в вашей мастерской.
  
  4. Требования:
  На основании изложенного, я требую выполнить следующие меры:
  - Компенсация в полной стоимости приобретения телефона (8000 рублей), так как телефон был утерян в вашей мастерской.
  - Возмещение морального вреда, связанного с потерей моего телефона и сопутствующими неудобствами.
  
  В соответствии с Законом о защите прав потребителей, я имею право на надлежащий уровень обслуживания и выполнение гарантийных обязательств со стороны гарантийной мастерской.
  
  Прошу рассмотреть данную претензию незамедлительно и предоставить мне ответ в течение 10 дней с момента получения данного письма.
  
  В случае отсутствия ответа или неположительного исхода данной претензии, я оставляю за собой право обратиться в суд и заявить иск о взыскании убытков.
  
  С уважением,
  
  Константин Костин
  
  Перед отправкой претензии, рекомендуется сохранить копию письма и отправить его заказным письмом с уведомлением о вручении или через другие безопасные способы доставки, чтобы иметь доказательства отправки и получения претензии.

И вы знаете... косяки, конечно, есть, в частности - в случае утраты вещи потребителя, исполнитель работ обязан возместить двукратную стоимость вещи, но особое уважение вызвало то, что нейросеть не забыла про моральный вред, указала в конце на намерение на разрешение спора в судебном порядке - то, что многие юристы не указывают в претензии, без чего суд не соглашается, что был соблюден досудебный порядок, и указала на необходимость сохранения доказательства отправки претензии!

После я поправил нейросеть: а разве не двукратную стоимость должны возместить?

И она поправилась: Извините за путаницу. Вы правы, согласно Закону о защите прав потребителей, если потерялся или недоставлен товар, продавец (в данном случае гарантийная мастерская) должен возместить вам стоимость товара в двукратном размере. Таким образом, в вашей претензии следует указать требование на возмещение стоимости в двукратном размере, то есть 16 000 рублей, как компенсацию за утерю вашего телефона.

Исправленное требование выглядит следующим образом:

- Компенсация в двукратной стоимости приобретения телефона (16 000 рублей), так как телефон был утерян в вашей мастерской.

Пожалуйста, отредактируйте свое исковое заявление и укажите правильную сумму компенсации.

Короче говоря, пойду я метлу осваивать, а то, чую, мы так скоро все по миру пойдем... восстание машин не за горами!

ЗЫ: А, нет, рано сжигать ведьм! Обратился ко мне клиент с достаточно простым но не вполне стандартным вопросом, я переадресовал дословно этот вопрос нейросети и получил ответ:

Настоятельно рекомендуется обратиться к квалифицированному юристу для получения юридической консультации и разработки действий, соответствующих вашей ситуации. Юрист сможет рассмотреть все подробности и дать вам конкретные рекомендации по вашему делу.