8-я Пекинская конференция Чжиюань открылась 12 июня 2026 года в Пекине, привлекая мировое внимание к передовым рубежам исследований в области искусственного интеллекта. На открытии выступили два лауреата премии Тьюринга, чей вклад коренным образом сформировал современную вычислительную технику: Уитфилд Диффи (премия Тьюринга 2015 года, отец криптографии с открытым ключом) и Эндрю Барто (премия Тьюринга 2024 года, пионер обучения с подкреплением).
Диффи, чья новаторская работа по криптографии с открытым ключом лежит в основе безопасности всего интернета, выступил с докладом под названием «Борьба за безопасность ИИ-агентов / Защита от угроз ИИ-агентов». Он проследил исторические истоки искусственного интеллекта, отметив, что Джон Маккарти ввел термин «искусственный интеллект» именно на Дартмутской конференции 1956 года, чтобы отделить его от парадигмы кибернетики Норберта Винера. Диффи подчеркнул критический парадокс: хотя ИИ-агенты обещают решение традиционных криптографических задач посредством формальной верификации, сама природа «общего интеллекта» делает невозможным написание формальных спецификаций безопасности — невозможно формально определить, что значит «не галлюцинировать».
Барто, архитектор темпорально-разностного обучения и фреймворка Actor-Critic совместно со своим аспирантом Ричем Саттоном, рассмотрел обучение с подкреплением с вековой перспективы, охватывающей психологию и кибернетику. Он определил функцию вознаграждения как фундаментальное узкое место. В то время как для простых сред существуют строгие доказательства сходимости обучения с подкреплением, в сложных сценариях реального мира отсутствуют определяемые функции вознаграждения.
Оба доклада пришли к отрезвляющему выводу: мы наделяем машины агентностью, не имея ни математических инструментов для их ограничения, ни механизмов вознаграждения для их направления. Диффи отметил, что криптографии потребовалось полвека от основополагающей статьи Шеннона до стандартизированных протоколов, в то время как обучение с подкреплением охватило столетие от экспериментов Торндайка с ящиком-головоломкой до AlphaGo. Оба предостерегли, что теоретические основы безопасности и согласованности ИИ остаются гораздо менее зрелыми, чем предполагает энтузиазм индустрии.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Pandaily
