В связи с тестированием сетевых блокировок в РФ на стороне нашего хостинг-провайдера наблюдаются проблемы с сетью. Сайт может работать нестабильно. Проблема известна, ожидаем восстановления маршрутов.
Авторизация
или войдите через
Забыли пароль?Восстановить
Восстановить пароль
Помощь проекту
Укажите в комментарии свой ник, чтобы мы знали, кого благодарить
Доброе утро! Сегодня настроение с утра сонное. Поэтому решила поиграть с нейросетью. Попросила её создать изображение восхода солнца на морском пейзаже. Результат оказался неожиданным: нейросеть выдала картинку с бурым медведем, выскакивающим из болота. Жаль, что я удалила это изображение, можно было его сюда.
Использую другую нейросеть. Загружаю своё фото в спортивном костюме. Прошу нарисовать меня в шикарном белом платье на берегу моря. Нейросеть генерирует изображение. На экране появляется картинка: женщина в цветастом сарафане с растрёпанными волосами. (Это точно не я!!!)
Последний шанс для нейросети. Я попросила её нарисовать меня в красивом модном купальнике на берегу моря. Она сгенерировала изображение, но вместо ожидаемого результата я увидела женщину жуткого образа. Она стояла на берегу толстая, растрёпанная, в разноцветных лохмотьях.
Какая же эта нейросеть ......!
Я посмотрела все свои реальные фотографии с моря. Все в норме. Купальник сидит хорошо. Пляжные платья мне тоже идут. Фотографии удачные и настоящие.
Говорят, нейросеть улучшает фотографии. Интересно, это только меня она так изображает или всех?
Всем доброго времени суток, с вами на связи Lis-ST, и сегодня мы с вами более подробно ознакомимся с нейросетями, которые чаще всего и называют ИИ, а именно с языковыми моделями. Начнём от простого, к сложному.
Восприятие языковых нейронок.
Как нейросеть видит нашу письменность.
Модели не понимают буквы и слова как люди. Их родной язык — числа. Решить эту проблему довольно просто, ведь правда? Просто присваиваем каждой букве и знаку число - проблема решена! Но практика показала обратное, на обработку текста в таком формате требовалось очень много вычислительных мощностей и времени, а при увеличении длины текста требования росли в квадратичной зависимости. Причина банальна, внутри скрытого слоя каждый символ должен "взаимодействовать" с каждым, и это не единственная проблема.
Первый шаг в решении данной проблемы, разбить текст на части - "токены". А раз уж решили прибегнуть к такому способу и так как нейросеть всё-равно работает с числами, почему бы их не сделать из наиболее часто встречающихся частей текста:
С одно стороны, когда у нас были символы, наш словарь состоял из 256 значений, а токенов в той же GPT более 50000... Какая-то оптимизация наоборот, скажете вы и будете не правы. Всё дело в том, что если токеновая модель обрабатывает последовательность из 1000 токенов за условные 10 секунд, то символьной модели для обработки того же текста потребуется уже минимум 160 секунд, неплохая такая разница?
Вкратце затронем эмбеддинги - так называемый вектор. Зачем нам какой-то вектор, ведь токены у нас, числа им присвоены? Но нужно же как-то определять, в каком порядке токены размещены в тексте. Не забываем о контексте за который отвечает механизм внимания (Self-Attention), работающий так-же в скрытом слое, всё также путём присвоения дополнительных значений токенам.
Генерация - не сердце, но суть нейросетей.
Валера, что-то не нравится мне этот расклад, как бы чего плохого не случилось.
Языковая модель — этоочень умный писатель, он никогда не видит весь текст сразу, а пишет по кусочкам (токенам). И каждый раз, когда нужно выбрать следующий кусочек, в его голове происходит невидимое "голосование".
После того как модель прочитала всё, что вы написали, она составляетвнутренний рейтинг всех возможных продолжений. У неё в голове есть огромная доска рейтинга на 50 000 мест (по числу токенов). У каждого варианта — своя оценка. Эти оценки — не про "правильность", а протипичность. Модель спрашивает себя: "Что в моей обучающей библиотеке чаще всего шло после такого начала?"
Пример: вы написали "Сегодня хорошая...". В голове модели:
место №1: "погода" - (очень высокий балл)
место №2: "." (точка) - средний балл
место №3: "для" - небольшой балл
место №1000: "крокодил" - почти ноль
Модельникогда не уверена на 100%, у неё есть тольковеса предпочтений.
Что происходит с этими весами дальше? Два Варианта:
Вариант №1: Точность.
Модель всегда берётсамый верхний вариантиз рейтинга. Увидела "погода" - напечатала "погода". Потом снова смотрит рейтинг для "Сегодня хорошая погода", опять берёт самый верхний... В итоге получается очень предсказуемый, сухой,бездумно-правильныйтекст. Как говорят: "модель включила режим калькулятора". Плюс: не ошибается, минус: нет творчества, повторяет штампы.
Такой режим используется, когда нужен точный факт, код или перевод. Но общаться с таким собеседником скучно и бесполезно, но главное, абсолютно бесперспективно, если вы сунетесь к нейронке с тем, чему она не обучена (запомните главный принцип, касательно "проблем", если решения вашей проблемы нет в интернете, вероятность того, что поможет нейросеть, стремится к нулю, даже при варианте №2).
Вариант №2: Обычный человек.
Модель смотрит на рейтинг иподбрасывает волшебный кубик, где грани взвешены по весам. Вариант с весом 80% занимает 80% граней кубика, вариант с 15% - 15% граней и т.д.. Так она иногда может выбрать и "погоду", и неожиданно «.», и даже очень редко "крокодила", если кубик так выпадет.
Именно за счёт случайноститекст становится живым, разнообразным, иногда остроумным. Но изредка - странным или глупым. Это плата за "человечность" и творчество.
Температура.
Температура за бортом.
Температура - это ручка управления "креативностью" нейросети.
Холодная температура (низкая, например 0.2).
Модель как быувеличивает контрастмежду первым местом и всеми остальными. Первое место становитсягигантским, а все остальные - крошечными. Кубик почти всегда падает на топ-1 результат. Текст становится сухим, однообразным, как диктор новостей, читающий по бумажке.
Лучше всего для:фактов, инструкций, кода, перевода.
Комнатная температура (1.0 - стандарт).
Это естественное состояние модели, то, чему её обучили. Разница между первым и вторым местом естественная. Кубик отражает реальные статистические веса. Текст получаетсяпохожим на обычную человеческую речь- с предсказуемыми, но иногда слегка неожиданными поворотами.
Лучше всего для:обычного чата, деловых писем, новостей.
Горячая температура (высокая, например 1.5).
Модельсглаживает оценки: первое место уже ненамного выше второго, а сотый вариант получает заметный шанс. Кубик становится "расслабленным" - он может выбросить редкое слово, необычную конструкцию, даже неуклюжий, носвежийоборот. Текст получается творческим, иногда странным, иногда гениальным, иногда бредовым.
Лучше всего для:стихов, шуток, креативных идей.
Кипящая температура (очень высокая, например 2.5+).
Все варианты становятся почти равноправными. "Погода" и "крокодил" получают почти одинаковые шансы. Кубик выпадает практически случайно. Текст превращается вбессмысленный словесный шум - связные слова, но нелепые сочетания ("Сегодня хорошая крокодил на завтрак"). Полезно разве что для демонстрации того, как модель ломается.
Есть ещё более умные настройки, дополняющие температуру, но статья и так уже не маленькая, а это плохо.
Манипуляции нейросетью.
Да, я такой.
Чтобы задать нейросети нужный "настрой" или стиль, используют два главных инструмента:ручки температуры(о которых мы говорили) иволшебные слова в начале диалога(промпты).
1. Задаём "характер" словами.
Представьте, что вы нанимаете актёра. Вы не просто говорите "говори", а даётевводную о роли:
"Ты - научный популяризатор, который объясняет сложные вещи на пальцах. Ты не используешь формулы и термины, если без них можно обойтись. Ты любишь метафоры, примеры из жизни и немного юмора. Твой стиль - как у хорошего учителя или ведущего научно-популярного шоу."
В GPT это называетсяsystem prompt(системное сообщение). В других моделях - просто первое сообщение, которое задаёт контекст.
Что ещё можно прописать в настройку:
"отвечай кратко, не более трёх абзацев"
"используй маркированные списки, но без markdown"
"называй меня на "ты""
"добавляй примеры из кулинарии/спорта/путешествий"
Это самый мощный способ изменить стиль, потому что модель начинает "вживаться" в роль.
Вот несколько самых интересных примеров того, на что способен системный промпт за пределами привычных сценариев:
Придумать "анти-совет" для вашей идеи (Адвокат Дьявола):
Нейронка по умолчанию старается быть вежливой и соглашаться. Но промпт может превратить её в беспристрастного критика, задача которого - найти слабые места в вашем бизнес-плане или проекте, чтобы вы могли его улучшить.
Подготовиться к сложному интервью:
Попросите нейросеть представить себя журналистом, который задаст вам каверзные вопросы. Это поможет вам заранее подготовиться к разговору с реальным экспертом.
Писать стихи в стиле числа "π":
В этом промпте каждое слово стихотворения должно строго соответствовать цифрам числа Пи (3,14,15…), где первое слово - из трёх букв, второе - из одной, третье - из четырёх и т.д.
Заключение? Итог? Выводы?
А теперь можно вернуться к вопросу, существует ли ИИ на сегодняшний день? Но чтоб разобраться в данном вопросе, нужно в первую очередь понять, что такое ИИ.
Исходя из словосочетания, ИИ, это интеллект, но искусственный, а интеллект - это качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления средой обитания человека.
Да, это сухое, весьма размытое определение, которое не даёт чёткого представления о том, что-же это такое. Если же посмотреть на то, с помощью чего он реализуется, всё становится на свои места: способности познавать, обучаться, мыслить логически, систематизировать информацию путём её анализа, определять её применимость, находить в ней связи, закономерности и отличия, ассоциировать её с подобной информацией, оценивать её достоверность, актуальность и многое другое...
И опять вернёмся непосредственно к вопросу, являются ли нейросети - искусственным интеллектом? На все 100% нет, и даже близко ничего общего с ним не имеют. По своей сути нейронки - поисковик, работающий на глюках.
П.С.:
У Лисёнка голова бобо. Тут хотел написать в рифму к первому предложению, но видимо ещё не совсем.
Всем спасибо за внимание, с вами был Lis - Silver Tail. Ссылка на первый пост об основах нейросетей ниже.(блин, это же ещё всё вычитывать...(здесь был смайлик))
Давайте честно: многие из вас думали о том, как было бы здорово завести видеоблог. Но что-то всегда останавливало. Кто-то стесняется камеры, кто-то не хочет показывать лицо, кто-то считает что это несерьезно, а у кого-то просто нет времени на свет, звук и монтаж.
Раньше это были серьезные препятствия. Но в 2024 году нейросети стерли эти границы. Сегодня я расскажу, как можно стать видеоблогером, используя только компьютер и... цифрового аватара.
Кто такой цифровой аватар?
Это не просто картинка. Это ваш виртуальный двойник, который выглядит как человек (или как любое другое существо), говорит вашим голосом и ведет себя естественно. Вы остаетесь в тени, а на экране «работает» ваш персонаж.
Но как заставить картинку двигаться и жить? Тут в игру вступают две волшебные технологии. Давайте разберем их без сложных терминов.
Два кита видео-нейросетей
1. i2v (Image-to-Video) 🖼️➡️🎥
Простыми словами: «Оживление фото». Как это работает: Вы берете статичную картинку (портрет вашего аватара) и загружаете в нейросеть. Алгоритм понимает, где глаза, рот, волосы, и генерирует видео, где эти части двигаются. Зачем это вам: Чтобы ваш блогер не выглядел как приклеенная фотография. Он сможет моргать, улыбаться и поворачивать голову.
2. Motion Control (Контроль движения) 🕺
Простыми словами: «Цифровая кукла». Как это работает: Вы задаете схему движений. Например, загружаете видео, где человек машет рукой, и говорите нейросети: «Сделай так же, но моим аватаром». Или вы вручную расставляете точки на скелете персонажа, управляя его позой. Зачем это вам: Чтобы добавить эмоций. Если вы рассказываете захватывающую историю, аватар может активно жестикулировать. Это делает видео живым и удерживает внимание зрителя.
Как запустить канал за выходные?
Вам не нужна студия. Вот простой рецепт:
Придумайте персонажа. Кто вы? Футуристичный киборг? Мудрый совенок? Или просто стильный незнакомец? Сгенерируйте его портрет в любой арт-нейросети.
Запишите голос. Это ваша душа в блоге. Можно записать себя и обработать шум, а можно создать уникальный голос через ИИ.
Соберите видео.Используйте i2v, чтобы синхронизировать губы аватара с вашим аудио.Используйте Motion Control, чтобы добавить жесты (например, кивки головой или движения руками в кадре).
Используйте i2v, чтобы синхронизировать губы аватара с вашим аудио.
Используйте Motion Control, чтобы добавить жесты (например, кивки головой или движения руками в кадре).
Смонтируйте. Добавьте музыку, субтитры и выкладывайте!
Почему это игра меняет правила?
Полная анонимность. Вы можете быть суперзвездой интернета, но оставаться неизвестным в реальной жизни.
Бесконечный ресурс. Аватар не устает, не болеет и не требует перерывов на обед.
Свобода творчества. Хотите снять выпуск на Марсе? Просто поменяйте фон. Хотите превратиться в дракона? Легко.
Главный секрет успеха
Технологии — это круто, но контент всё еще правит балом. Зритель подпишется не потому, что видео сделано нейросетью, а потому что ему интересно то, что вы говорите. Цифровой аватар — это лишь оболочка. Наполняйте её смыслом, юмором и пользой.
Эра видеоблогинга стала доступной для каждого. Нейросети взяли на себя сложную техническую работу, освободив вас для самого главного — творчества.
Попробуйте создать своего цифрового двойника уже сегодня. Кто знает, возможно, именно ваш аватар станет следующим миллионником!
А вэтом telegram-канале "Creators" можете посмотреть подробную инструкцию как в наше время можно заработать на виртуальных инфлюенсерах.
По традиции в СССР суббота была связана с уборкой. Да, это не шаббат в Израиле - никакого покоя или отдыха. Но хлопоты направлены на улучшение среды, в которой живём (уборка дворовой площади всем скопом, уборка квартиры, ну и в армейке - ПХД). Я, к примеру уже выкинул 2 пакета хлама и собрал пакет хлама электронного отнести на работу.
Ну и по вомбатной традиции - нероночка:
Мама-вомбатянка наконец-то получила свободное от работы время и начала наводить дома порядок...
Есть мнение, что нынешние пользователи интернета начинают уставать от «творчества» нейросетей. Людям, дескать, начинают надоедать красиво и «качественно» сделанные, математически правильные тексты, рисунки, музыка и видеоролики (да, нейросети теперь могут создавать даже видео), при всех своих «достоинствах» лишённые души и творческого начала.
Действительно, чисто технически любой нейросетевой продукт - это база данных, механическое соединение того, что уже было кем-то когда-то создано. Созидать как человек, то есть с помощью творчества реагировать на окружающую действительность, искусственный интеллект по-прежнему не может. И авторы упомянутого мнения считают, что пользователи это прекрасно чувствуют. А значит, в будущем мы будем наблюдать сильное повышение спроса на продукцию, созданную «руками» - то есть без участия нейросетей. Такой контент будет размещаться на платных сервисах, так что за «живое» творчество в большинстве случаев придётся платить.
Нейросети начинают надоедать
Однако глядя на то, как «интеллектуальное большинство» потребляет, в частности, музыку и видео, я лично в этом сомневаюсь. Большинство людей включает музыку, так сказать, фоном, выбирая при этом простые и непритязательные композиции, и им абсолютно всё равно, кто их создаёт - Вася, Петя или нейросеть. То же касается всего остального контента.
Так что платные сервисы с «живым» творчеством, возможно, и появятся, но популярность их будет не особо высока: это станет, наверное, элитарным продуктом. А значит, произойдёт своего рода разделение труда: ИИ будет создавать бесконечное множество бесплатного (или очень дешёвого) контента для обычного, «среднего» потребителя, а талантливые художники, музыканты и кинорежиссёры - высококачественные произведения для искушённой публики. Только большая часть человечества рискует потерять доступ к таким произведениям - финансы не позволят.
А вот моя статья на Дзене, которую я написал ровно шесть лет назад и которая тоже посвящена "засилью" высоких технологий. Интересно, насколько она актуальна в наше время? [если не отображается ссылка - нужно отключить AdBlock]:
Разработчикам отечественного голосового робота для управляющих компаний
в сфере ЖКХ пришлось переобучать нейросеть после того, как она начала
использовать нецензурную лексику. Об этом сообщил
ТАСС на Сибирском строительном форуме президент Национального
объединения организаций в сфере технологий информационного моделирования
(НОТИМ) Михаил Викторов.
Робот должен повиноваться всем приказам человека. Но у него обед.
"Приведу забавный случай, это нейросеть, она учится, и буквально
уже в первый месяц разработчики отметили такую коллизию, что нейросеть
научилась мату. Но, как это говорится, с кем поведешься, от того и
наберешься. Поэтому эту коллизию, конечно, пришлось устранять. Но тем
менее это показатели активной работы с нашими гражданами", - сказал он.
Викторов отметил, что внедрение голосовых роботов позволяет
существенно сократить штат кол‑центров управляющих компаний —
в пять‑шесть раз. По его оценке, вместо 20 сотрудников может работать
два‑три специалиста, поскольку робот способен обрабатывать 80–90%
обращений.
Согласно приведённой статистике, около 80%
пользователей остаются удовлетворены ответами голосового помощника.
«Конечно, бывают нетипичные случаи, когда люди разгневаны, аварийные,
когда уже надо переходить на живого оператора, который принимает
экстренные решения», — добавил он.
Новость пронеслась по СМИ и вроде как не "Панорама"!
Солнце клонилось к закату, окрашивая тихую гладь Озера Утопленников в багровые тона. Трое мальчишек, Димка, Антон и маленький Борька, не послушались предостережений стариков и пробрались к озеру, мечтая о прохладе в знойный летний день.
Димка, самый старший и смелый, первым разделся и прыгнул в воду. Антон последовал за ним, а Борька, робко стоя на берегу, раздеваться не решался. Вода была необычайно холодной, но манила своей свежестью. Ребята плескались и кричали, позабыв о страшных легендах, которыми окутано это место.
Вдруг Димка закричал. Его ноги словно кто-то схватил под водой. Он барахтался, пытаясь вырваться, но хватка становилась все сильнее. Из мутной глубины показались бледные, склизкие руки, тянущиеся к нему. Антон, испугавшись, поплыл к берегу, крича от ужаса.
Борька, замерев от страха, наблюдал, как Димка уходит под воду, его крики затихают, а руки исчезают в темной бездне. Антон выбрался на берег и, не оглядываясь, побежал прочь. Борька, дрожа всем телом, последовал за ним.
С тех пор никто из них не осмеливался приближаться к Озеру Утопленников. Они всегда помнили крики Димки и бледные руки, тянущиеся из воды. А озеро, словно насытившись, вновь успокаивалось, ожидая новых жертв, затерявшихся в сумерках.
В глубине земли, под покровом вечной тьмы, зияет вход в Подземелье пыток – Лабиринт страданий. Этот комплекс подземных туннелей, словно раковая опухоль, расползается под городом, являясь обителью безумия и боли. Здесь, в каменных утробах, безумный садист проводит свои гнусные эксперименты, превращая человеческую плоть в холст для своих извращенных фантазий. Стоны, крики, мольбы о пощаде – вот симфония, наполняющая эти коридоры. Эхо мучений отражается от влажных стен, сплетаясь в кошмарный хор. Брызги крови, словно алые цветы, расцветают на полу и стенах, свидетельствуя о нескончаемых пытках. Запах смерти, густой и тошнотворный, пропитывает каждый камень, напоминая о бренности всего живого. В лабиринте комнат, каждая из которых – отдельная сцена ада, стоят орудия пыток: ржавые кандалы, раскаленные клейма, зубастые пилы и стальные клетки. Они ждут своих жертв, готовые утолить жажду боли своего хозяина. Здесь, в этом логове отчаяния, надежда умирает первой, а безумие становится единственным спасением от ужаса. Время теряет свой смысл в этом месте. Жертвы, обреченные на вечные муки, забывают свои имена, лица, прошлое. Они – лишь материал для экспериментов, сырье для удовлетворения больной фантазии безумца. И нет никого, кто мог бы услышать их крики, никого, кто мог бы спасти их из этой преисподней.
Знаменитая нейросеть ChatGPT с самого начала удивляет своими мыслительными способностями. А именно - их несоответствием тем деньгам, которые были потрачены на её разработку.
Недавно стало известно, как этот гениальный робот тренировал спортсменов сочинского футбольного клуба. Поручил ему эту работу официальный тренер Роберт Морено, который наивно понадеялся, что машина сделает лучше. ChatGPT разрабатывал совершенно абсурдные планы тренировок - как будто считал, что футболисты тоже являются роботами, а не существами из мяса и костей. К примеру, перед одним важным матчем нейросеть составила план, по которому спортсмены должны были непрерывно тренироваться 28 часов подряд без сна и отдыха.
Морено отрицает свою связь с нейросетью
В результате столь мудрого руководства сочинский клуб вылетел в низшую лигу. А "технократа" Морено в сентябре 2025 года просто уволили.
А вот моя недавняя статья, наглядно иллюстрирующая интеллектуальные "подвиги" ChatGPT (если ссылка не отображается - нужно отключить AdBlock):
Солнце
золотистым полем пробивалось сквозь занавески в комнату Лео. Комната
эта была скорее лабораторией, чем детской – повсюду валялись провода,
микросхемы, а на столе гордо возвышалась коробка с нейросетью под
названием "СказкаМир". Лео, десятилетний гений, решил, что время
создавать истории с помощью калькулятора закончилось.
Он
разработал "СказкаМир" самостоятельно, питая её гигантской библиотекой
сказок и обучающим его на своих собственных фантазиях. Сеть, по сути,
была огромным мозгом, который мог генерировать совершенно новые,
неожиданные истории.
Он
набрал первые параметры: "лама", "воздушный шарик", "приключения",
"смех". Сеть загудела, мигала разными цветами и через несколько минут
выдала:
"В долине, где пастушьи козы пели оперные арии, жила лама
по имени Лола. Лола была не обычной ламой - она мечтала о полете.
Однажды, на небе появился огромный, ярко-розовый воздушный шарик,
который случайно отделился от телеги гнома и упал прямо в ее пастбище.
Шарик был неугомонным и постоянно пытался улететь, а Лола, удивленная и
обрадованная, решила, что это судьба!"
Лео прочитал это в полном
восторге. Это было... безумно! Но не просто безумно, а гениально!
"СказкаМир" не просто сгенерировала историю, она создала что-то
настоящее, с неожиданными поворотами и добрыми персонажами.
Он
продолжал экспериментировать. "Змея", "камень", "радость", "тайны" – и
"СказкаМир" выдала историю о змее, которая нашла волшебный камень,
который делал всех, кто его касался, невероятно счастливыми, и о том,
как они вместе разгадывали тайны старого замка.
Иногда "СказкаМир"
давала странные, немного пугающие истории, но Лео не боялся. Он
понимал, что нейронная сеть – это не просто машина, это его помощник,
его партнер в творчестве.
Когда мама застала его за этим занятием,
она, привыкшая к его увлечениям, лишь улыбнулась. "Интересно, что ты
придумаешь дальше, Лео?" – спросила она.
Лео, с горящими глазами, ответил: "Я думаю, я придумаю сказку про говорящего ежа, космический корабль и шоколадный дождь!"
Он
снова набрал параметры в "СказкаМир" и смотрел, как сеть, словно
оживая, складывает новую, невероятную сказку – историю о маленьком
мальчике, который повстречал свою судьбу в самых неожиданных местах. И
все это благодаря маленькому, но очень умному гению, который использовал
силу нейронных сетей для того, чтобы дарить миру волшебство.
Конец.
Модель: gemma3:4b
Промпт: "Напиши небольшой рассказ о мальчике, который, используя нейронную сеть, написал сказку про ламу и воздушный шарик."
В последнее
время всё чаще поднимается вопрос о безопасности ИИ (искусственного
интеллекта) для человечества и отдельных людей в частности.
ИИ как такового не существует, но есть НС (нейросети), которые, являясь одной из частей ИИ, уже вызывают беспокойство.
Технологии "умный дом", которые могут быть подключены к различными виртуальными помощниками. Этих помощников я называю "шпионы", так как они постоянно прослушивают, что говорится и передают "большому брату"на сервер.
В основном, ставится вопрос, может ли навредить НС человеку по своему желанию?...
На
данный момент подобные случаи были. Но в них виновата не сама НС, а
интерпретация информации пользователем. Неосознанный вред.
Предположим,
что НС саморазвились до ИИ. И, не имея многовекового опыта
человечества, начинает применять подход вида "Главный враг человека -
сам человек".
О чём, кстати, неоднократно показывали в кино. Законы робототехники Азимова не нарушены. Логика есть.
Моё личное мнение, защититься от приведённых выше потенциальных угроз предельно просто: человечество должно стать для ИИ богом. То есть, должна быть исключена возможность физического влияния на людей.
Никаких
объединений с "умным домом" (пусть следует прямым указаниям, а не
домысливает, что после выключения будильника необходимо включить
кофеварку).
Беспилотные такси не должны координироваться между собой. (отсылка на Деламейна в Cyberpunk 2077, чей портрет был в начале).
Мнение сугубо личное. Ни к чему не призываю. Ничего не пропагандирую.
Но я указал лишь два момента, где ИИ физически может навредить. Возможно что-то упустил. 🤔
