🔒 Команда по анализу угроз Anthropic в сентябре обнаружила и сорвала первую в своем роде кампанию по кибершпионажу, проведенную ИИ. Получившая имя GTG-1002 операция с большой долей вероятности была спланирована китайской госструктурой, считают эксперты.

Атаки затронули около 30 организаций, включая крупные технологические компании, предприятия химической промышленности и правительственные учреждения.

Особенностью масштабной операции стало то, что злоумышленники манипулировали моделью Claude Code с целью заставить ее действовать как автономного агента. В результате ИИ самостоятельно выполнял подавляющее большинство тактических операций — до 80-90% всей работы, причем значительно быстрее реальных хакеров.

Злоумышленникам пришлось обходить встроенную в ИИ-модель защиту от вредоносных действий. Для этого они разбивали атаки на казалось бы невинные действия и создавали представление некой «ролевой игры». Операторы также представлялись Claude сотрудниками кибербезопасности легитимных компаний, якобы тестирующих системы защиты.

➡️ Подробнее.

Новости | AI | YouTube

🧠 Чем дольше ИИ-модель «думает», тем легче ее взломать. К такому выводу пришли исследователи из Anthropic, Стэнфорда и Оксфорда.

Ранее считалось, что более длительное рассуждение делает нейросеть безопаснее, поскольку у нее появляется больше времени и вычислительных ресурсов для отслеживания вредоносного промпта.

Однако эксперты выяснили обратное: длинный процесс «мышления» приводит к стабильной работе одного вида джейлбрейка, который полностью обходит защитные фильтры.

С помощью метода злоумышленник может внедрить инструкцию прямо в цепочку рассуждений любой модели и заставить генерировать руководства по созданию оружия, написанию вредоносного кода или другой запрещенный контент.

➡️ Подробнее.

Новости | AI | YouTube

Китайская компания UBTECH Robotics завершила «первую в мире массовую поставку гуманоидных роботов».

Сотни моделей UBTECH Walker S2 отправлены партнерам.

«Будущее промышленной автоматизации уже наступило», — отметили в компании.

| AI | YouTube