«ИИ [искусственный интеллект] может создать для вас 30-страничный научный доклад буквально из воздуха, основанный на фальшивой науке», — предупреждает Джилл Любер, технический директор Elsevier. Как издатель научных и медицинских журналов и статей, она заявляет: «Мы наблюдаем значительный рост «фабрикованной науки», и наша задача — защитить издательский мир от этого». Об этой теме Любер недавно говорила на Лондонской книжной ярмарке. «Это очень тревожно, и мы видим значительный рост фабрикованной науки», — говорит она. «Создание и публикация нереальной науки, очевидно, имеет последствия, поскольку существует уровень доверия к тому, что вы читаете в научных журналах, и если мы начнем подрывать это доверие, я думаю, тогда у нас будут настоящие проблемы». Elsevier существует около 145 лет, и за это время она пережила три крупных технологических прорыва: печатный станок, цифровой контент через интернет и теперь ИИ. Отложив в сторону предупреждение о фальшивой науке, Любер считает, что ИИ играет значительную роль в поддержке исследователей в осмыслении огромных объемов информации, содержащейся в академических научных работах. Для Любер одно из главных преимуществ использования инструментов ИИ для поддержки исследований заключается в том, что он способен просматривать весь текст в литературе, которой располагает Elsevier. «ИИ может выделять концепции и связывать различные статьи», — говорит она. Без помощи ИИ это обычно занимает у человека часы и часы, а для кого-то может быть даже невозможно. Скачать этот подкаст Что касается фальшивой науки, она говорит: «ИИ может помочь нам находить и останавливать фальшивые публикации и фальшивые статьи до того, как они попадут в наши журналы». ИИ предоставляет исследователям возможность изучать контент, понимать содержащуюся в нем информацию, находить связи и выявлять существующие концепции. Не менее важно, по словам Любер, он также выявляет то, что она называет «белым пространством» — информацию, которая не освещена в научных работах. До появления ИИ исследователи использовали поиск по ключевым словам для выявления релевантных научных работ, как объясняет Любер: «В цифровом мире у нас были очень мощные поисковые алгоритмы, с помощью которых мы могли индексировать целые наборы данных. Вы вводили ключевые слова для искомых концепций, и поисковая система просматривала всю литературу на основе этих ключевых слов, а затем выдавала информацию в виде списка результатов». ИИ предоставляет исследователям возможность выйти за рамки поиска по ключевым словам и вместо этого искать целые концепции и смежные концепции, а не только ключевые слова. Это помогает исследователям определить достоверность любых научных статей, выявленных движком ИИ. «Что действительно важно в науке, так это воспроизводимость», — говорит она. «Теперь у нас есть возможность просмотреть весь наш контент и найти исследования, которые были воспроизведены». С теми статьями, где исследование воспроизводимо, связан более высокий уровень доверия по сравнению с исследованиями, которые никто не смог воспроизвести. Хотя использование ИИ для поддержки исследований, безусловно, имеет множество преимуществ, Любер отмечает, что существует большой риск того, что большая языковая модель (LLM) может галлюцинировать и предоставлять ошибочную информацию. Существует также постоянная опасность предвзятости. Это напрямую влияет на качество и целостность исследований, которые могут быть выполнены с помощью инструментов ИИ. Фактически, существует и вполне реальный риск того, что исследователи будут доверять результатам, полученным с помощью инструмента ИИ, вместо того чтобы глубже изучать идеи, которые теперь так легко им представляются. Когда исследователи используют инструменты ИИ для анализа достоверных исследований: «Если вы используете модель просто для того, чтобы задать вопрос, существует реальный риск галлюцинаций. Но мы видим, что некоторые модели обучаются на конкретных научных и медицинских доменах, и они становятся лучше в ответах на доменно-специфичные вопросы». Как и многие люди, работающие в сфере ИИ, Любер признает важность человеческого надзора. Это аналогично человеческому надзору в процессе рецензирования, который хорошо зарекомендовал себя в академическом издательском деле. Основным инструментом ИИ в Elsevier является LeapSpace, использующий человеческую оценку, при которой эксперты в различных областях проверяют качество и точность результатов, генерируемых моделями на основе заданных вопросов. Любер говорит, что оценка смотрит на то, захвачена ли правильная информация и, что важно, не является ли результат на самом деле вредным. «Мы используем человеческую оценку, чтобы продолжать помогать нам настраивать LLM и продукты, которые их используют», — добавляет она.
Vibe coding
В технологическом подразделении Elsevier, по словам Любер, ИИ используется в разработке программного обеспечения. Однако, прежде чем какой-либо код будет выпущен в производство, проводится проверка человеком. Обсуждая, как Elsevier использует ИИ для поддержки разработки программного обеспечения, она говорит: «Это упрощает задачу, но я также обнаруживаю новые потребности для моей технологической команды. Появляется новая концепция инженера по ИИ». Она говорит, что бизнес поощряет vibe coding, позволяя людям без технического образования создавать панели мониторинга, веб-страницы и приложения. Однако команда разработчиков программного обеспечения играет важную роль в vibe coding. «Мы обнаруживаем, что можно зайти только до определенного предела, а затем вам понадобится вмешательство технологической команды, чтобы укрепить некоторые процессы и панели мониторинга», — говорит Любер. В качестве примера она приводит то, что финансовый отдел постоянно создает множество отчетов. «С помощью инструментов ИИ они могут самостоятельно создать новый автоматизированный агентский рабочий процесс, который может создавать эти отчеты. Однако эти ИИ-агенты должны быть более подготовлены к производству: это безопасно; это надежно; у них есть правильный доступ, они запущены, и мы понимаем стоимость. Вот тогда вам действительно нужен инженер, чтобы вмешаться и помочь довести это до уровня производственного качества». В результате в Elsevier появились инженеры-программисты, работающие в финансовом отделе. «Это новая потребность для моей команды, чтобы поддерживать некоторые области бизнеса, которые используют ИИ для улучшения своей работы», — добавляет Любер. «Но им все еще нужна наша поддержка, чтобы сделать это». Хотя vibe coding действительно меняет количество необходимых разработчиков программного обеспечения, Любер считает, что инженеры-программисты используются там, где ранее бизнес не требовал их опыта. «Vibe coding на самом деле очень крутая штука, и это помогает мне лучше выполнять свою работу», — говорит она. «Даже если вы не знаете, как писать код, вы все равно можете создавать процессы для его использования».
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Cliff Saran
