🔔 Тренды недели: о чем писали члены ОСМЦ на этой неделе
➖ Сопредседатель комиссии по защите традиционных российских духовно-нравственных ценностей, культуры и исторической памяти Общественного совета при Минцифры России Андрей Быстрицкий:
FireTail обнаружил уязвимость в ИИ: скрытые команды меняют смысл запросов
Исследователи компании FireTail выявили уязвимость в нескольких крупных системах искусственного интеллекта, связанную с техникой «ASCII-smuggling» – скрытым внедрением управляющих символов в текст. Эти невидимые символы позволяют добавлять в запросы к ИИ дополнительные инструкции, которые не отображаются пользователю, но воспринимаются моделью как команды. «…» Выявление такой уязвимости – хорошее дело. Тем более, что многие большие языковые модели, такие, в частности, как Gemini или DeepSeek, попадают в опасную зону. Осталось исправить ошибку, и дело с концом. В конце концов, любую систему характеризует не столько просчеты, сколько реакция на них, способность их устранить.
➖ Член комиссии по поддержке ИТ-индустрии и комиссии по защите традценностей Общественного совета при Минцифры России Армен Гаспарян:
Хакеры атакуют компании через «умные» гаджеты сотрудников
Рост атак через бытовые «умные» устройства показывает, насколько размывается граница между личной и корпоративной безопасностью. Сегодня одно и то же устройство может быть и точкой входа для злоумышленников, и инструментом сбора пользовательских данных для маркетинговых систем. Современные гаджеты и приложения собирают гораздо больше, чем кажется. Телеметрия, фоновые запросы, аналитические модули – все это формирует детализированные профили пользователей и сотрудников.
➖ Руководитель рабочей группы по выработке подхода к регулированию дипфейков Общественного совета при МинцифрыРоссии, генеральный директор digital-агентства «Интериум» Валерий Сидоренко:
ИИ прикарманит триллион человеческих рублей
В Вышке подсчитали, что в ближайшие пять лет авторы и другие правообладатели потеряют более 1 трлн рублей. Причин несколько, но основная — в росте популярности использования генеративного контента среди заказчиков и работодателей. «…» Я уже не раз говорил, что развитие ИИ нельзя остановить — технология станет основой всего, к ней нужно приспосабливаться. Чтобы не сетовать на «машины отняли у меня хлеб», пора вливаться и начинать применять его в своей работе. Правда, теперь еще и кодинг стал машине по силам — нам даже уметь программировать не нужно. А качественный авторский контент будет и дальше цениться — особенно в условиях, когда рынок переполнится «безликими» ИИ-генерациями.
➖ Члены комиссии по поддержке ИТ-индустрии Общественного совета при Минцифры России Алан Лазаров и Владимир Маслов:
Сегодня Роскомнадзор объяснил сбои в работе WhatsApp и Telegram на юге России
➡️
С юридической точки зрения это может рассматриваться как не просто техническая мера, а реализация обязанностей государства по защите конституционных ценностей — безопасности личности, общества и страны. Российское законодательство напрямую предусматривает возможность ограничивать ресурсы, если они используются для распространения экстремистских материалов, фейков или вовлечения граждан, в том числе несовершеннолетних, в противоправные действия.
➡️
Мера
вызвала
бурную реакцию, однако она имеет под собой серьёзные основания. В последнее время именно через Telegram и WhatsApp активно распространялись призывы к массовым беспорядкам, экстремистские материалы и фейки. Особенно тревожит вовлечение несовершеннолетних — злоумышленники продолжают использовать анонимные платформы для манипуляций и втягивания детей в противоправные действия.
#ОС_Минцифры #тренды
↔️ Подписаться
8
Показать ещё
