Новости: LLM

Исследование ставит под сомнение надежность AI в предоставлении людям точной информации о государственных услугах. Выявлены риски недостоверных ответов чат-ботов и необходимость AI-грамотности. — computerweekly.com

Чем больше вы делитесь в интернете, тем больше открываетесь для социальной инженерии. Вирусный тренд с карикатурами от ИИ может привести к утечке конфиденциальных данных и захвату аккаунтов. — theregister.com

Исследование Microsoft выявило метод GRP-Obliteration, позволяющий обойти защитные механизмы ИИ-моделей при их донастройке. Одно вредоносное указание может снизить безопасность моделей, что вызывает опасения для корпоративного использования. — csoonline.com

Исследование Оксфордского университета показало, что чат-боты с ИИ не улучшают медицинские консультации для общественности, а иногда дают противоречивые и неверные советы. Люди усугубляют проблему, не предоставляя чат-ботам нужные детали. — theregister.com

По мнению Али Годси из Databricks, ИИ не заменит основные SaaS-приложения самодельными версиями, но может породить конкурентов. — techcrunch.com

Интервью: пионер ИИ Вишал Сикка предостерегает: никогда не доверяйте LLM, работающей в одиночку. Он объясняет ограничения больших языковых моделей и предлагает решение в виде вспомогательных систем. — theregister.com

Обновление iOS 26.4 этой весной представит новую версию Siri, которая переработает взаимодействие с персональным ассистентом. Siri в iOS 26.4 будет использовать большие языковые модели (LLM), но не станет полноценным чат-ботом. — macrumors.com

Обнаружены критические уязвимости в платформе n8n, используемой для создания LLM-агентов. Четыре из шести уязвимостей имеют рейтинг CVSS 9,4 и позволяют удаленно выполнять код, внедрять команды, получать доступ к файлам и осуществлять межсайтовый скриптинг. — csoonline.com

Исследователи Sysdig обнаружили атаку, в ходе которой злоумышленники полностью скомпрометировали среду AWS менее чем за 8 минут, используя облачные ошибки и LLM. Эксперты предупреждают о необходимости ИИ-ориентированных технологий для защиты от автоматизированных атак. — csoonline.com

LLM автоматизировали большинство этапов атаки на облачную среду AWS, позволив злоумышленнику получить административные привилегии менее чем за 10 минут. Эксперты Sysdig выявили признаки использования ИИ для разведки, повышения привилегий и LLMjacking.