Преступники – это вибрация с ИИ, чтобы выполнить выкуп в масштабе: антропический
Несмотря на «сложные» ограждения, фирма по инфраструктуре ИИ Антропика говорит, что киберпреступники по-прежнему находят способы неправильного использования своего чат-бота ИИ Клод для выполнения крупномасштабных кибератак.
В отчете «Интеллект угроз», опубликованном в среду, члены команды по разведке Антрии по угрозам, в том числе Алекс Моикс, Кен Лебедев и Джейкоб Кляйн, поделились несколькими делами, когда преступники неправильно использовали чат -бот Клода, а некоторые атаки, требующие более 500 000 долларов США.
Они обнаружили, что чат -бот использовался не только для предоставления технических советов преступникам, но и для непосредственного выполнения взломов от их имени через «Взлом вибрации», позволяя им совершать атаки только с базовыми знаниями кодирования и шифрования.
В феврале прогнозируемые мошенничества с криптовалютой в цепочке фирмы по безопасности блокчейна могут быть свой самый большой год в 2025 году, поскольку генеративный ИИ сделал его более масштабируемым и доступным для атак. Антропик обнаружил одного хакера, который «взломал» с Клодом, чтобы украсть конфиденциальные данные как минимум 17 организаций, включая здравоохранение, аварийные службы, правительственные и религиозные учреждения, с требованиями выкупа в размере от 75 000 до 500 000 долларов в биткоин.
Моделируемая нота выкупа демонстрирует, как киберпреступники используют Клода для создания угроз. Источник: антроп
Хакер обучил Клода оценить украденные финансовые записи, рассчитать соответствующие суммы выкупа и написать пользовательские ноты выкупа, чтобы максимизировать психологическое давление.
В то время как Антропик позже запретил нападающего, инцидент отражает, как ИИ облегчает даже самым кодерам базового уровня, чтобы провести киберпреступность до «беспрецедентной степени».
«Актеры, которые не могут самостоятельно реализовать базовые шифрование или понимать механику Syscall, теперь успешно создают вымогатели с возможностями уклонения [и] реализации методов антианализа».
ИТ -работники Северной Кореи также использовали Claude’s Antropic
Антропический также обнаружил, что северокорейские ИТ -работники используют Клода для создания убедительных идентичностей, проходить технические тесты кодирования и даже обеспечить удаленные роли в технологических компаниях Fortune 500 US Fortune 500. Они также использовали Клод, чтобы подготовить ответы на собеседование для этих ролей.
Клод также использовался для проведения технической работы после нанятия, сказал Антропический, отметив, что схемы занятости были разработаны для передачи прибыли в северокорейский режим, несмотря на международные санкции.
Распад задач, способствующих мощным, северокорейские ИТ-работники. Источник: антроп
Ранее в этом месяце северокорейский ИТ-работник был противостоят, где было обнаружено, что команда из шести из шести дел, по крайней мере, 31 фальшиво-личности, получив все, от правительственных идентификаторов и номеров телефонов до покупки счетов LinkedIn и Upwork, чтобы замаскировать свои истинные личности и рабочие места для криптовалюты земли.
Связанный: основатель Telegram Павел Дюров говорит, что дело нигде не идет, хлопает французское правительство
Один из рабочих, предположительно опрошенных на позиции инженера с полным стеком в Polygon Labs, в то время как другие доказательства показали сценарий ответов на собеседование, в которых они утверждали, что имеют опыт на NFT Marketplace Opensea и Blockchain Oracle Provider Cheatelink.
Антропик сказал, что его новый отчет направлен на публичное обсуждение случаев злоупотребления злоупотреблением, чтобы помочь более широкому сообществу безопасности и безопасности искусственного интеллекта, а также для укрепления защиты широкой отрасли от злоупотреблений ИИ.
В нем говорилось, что, несмотря на реализацию «сложных мер безопасности и безопасности», чтобы предотвратить неправильное использование Клода, злонамеренные актеры продолжали найти способы вокруг них.