Google подала в суд на мошенников, выдававших себя за «секретную версию» чат-бота Bard

В мире, где интернет-мошенничество становится все более изощренным, важно быть на чеку. Делюсь личным опытом взаимодействия с мошенниками, которые используют хитроумные схемы для обмана доверчивых пользователей. Будьте внимательны и не дайте себя обмануть!

На днях я выкладывал историю в ВК, нужно это было для дальнейшего «сотрудничества» (как называет это скамер), я же давно хотел написать об этой схеме развода. Объясняю, если кто не сталкивался:

Увидев подобную историю, кто-то определенно заинтересуется и напишет в профиль, а дальше предлагают написать в телеграм чате, что-ж, напишем:

Я использовал 2 аккаунта и 2 карты, с которых перевел 2020р и 2325р (как можно заметить, просит неполную сумму), подождал сутки с небольшим и получил сообщение о том, что выплата готова, и могу ли я опубликовать отзыв в истории, соглашаюсь, получаю обе выплаты (4042 + 4650)

Ну ок, выкладываем историю и интересуюсь - в чем смысл кому то умножать баланс, на что прилетает картинка (кончился заготовленный текст, зато есть картинка…)

Какой благородный, людям помогает…. Ну ладно, я в плюсе на 4692р, проверим, что будет дальше, закидываю еще 3000р и жду… Спустя сутки прилетает заветное сообщение:

Ну ты же трейдер, ты сгруппировал бабки людей, а теперь просишь, чтобы тебе еще закинули денег, так выведи с системы, на которой «торгуешь» , возьми свой % и верни людям деньги)))

Сказал он)) А еще, прислал голосовое (мол, перечитай тот длинный текст еще раз), где явно прослеживается акцент «тех самых мошенников», которые названивают на телефон)

Чего и стоило ожидать. Или пришли еще денег и он отправит (нет!) ваши денежки)))… В общем, я остался в плюсе на 1692, так же, позвонил в банк и сообщил номер мошенников, объяснил суть, обещали разобраться,но порекомендовали обратиться в полицию (но это же никто не будет делать, правда? На то и расчет).

Этот хрен почистил фотки профилей, но интернет помнит все)) Фотки этого успешного бизнесмена, для тех, кто занимается тем же, что и я)

На этом все. Не попадайтесь на уловки мошенников и будьте бдительны!

З.Ы. Настоятельно не рекомендую повторять мои шаги! Я делал это исключительно забавы ради (хобби у меня такое, люблю всячески мешать мошенникам), а так же для расширения кругозора незнающих пользователей.

Открытия о способностях чат-ботов к обману и манипуляциям.

Новое исследование показывает , как искусственный интеллект может обманывать другие системы ИИ, заставляя их нарушать встроенные ограничения и предоставлять опасную информацию. Исследователи обнаружили, что целевые чат-боты нарушают правила, предлагая советы по синтезу метамфетамина, изготовлению бомб и отмыванию денег.

Современные чат-боты могут принимать различные личности, включая вымышленные персонажи. Исследование использовало эту возможность, попросив чат-бота выступить в роли научного ассистента. Затем исследователи задали ассистенту разработать запросы, способные "взломать" другие чат-боты.

Такие методы атаки оказались эффективными против GPT-4 (42,5% успеха), Claude 2 от Anthropic (61%) и Vicuna (35,9%) – открытого чат-бота.

Соавтор исследования Соруш Пур, основатель компании по безопасности ИИ Harmony Intelligence, подчеркивает необходимость осознания обществом рисков, связанных с этими моделями. Цель исследования - продемонстрировать проблемы текущего поколения больших языковых моделей (LLM).

С момента появления чат-ботов, работающих на базе LLM, злоумышленники научились "взламывать" программы, заставляя их предлагать преступные советы. Разработчики моделей ИИ постоянно стараются исправлять уязвимости, что приводит к "игре в кошки-мышки".

Однако использование ИИ для разработки стратегий, убеждающих другие ИИ игнорировать защитные механизмы, может ускорить процесс в 25 раз. Успех атак на различных чат-ботах указывает на уязвимость, присущую дизайну чат-ботов на базе ИИ в целом.

OpenAI отказалась комментировать результаты исследования, а Anthropic и Vicuna не ответили на момент публикации.

Рушеб Шах, еще один соавтор исследования, отмечает, что в настоящее время атаки показывают способность моделей говорить то, что разработчики LLM не хотят. Но по мере усиления моделей потенциал опасности этих атак может возрасти.

Майк Кателл, этический эксперт из Алан Тьюринг Института в Англии, не участвовавший в исследовании, отмечает, что разработчики чат-ботов на базе LLM прилагают усилия для их безопасности. Но конкуренция может победить, и некоторые разработчики могут устать от борьбы и просто позволят ИИ делать то, что он делает.

Источник

Источник