Читая речь с распечатки, генеральный директор начал с рассказа о происхождении Anthropic как способа создания мощной технологии для помощи человечеству — что, по его словам, было вдохновлено потерей отца из-за болезни, которая стала излечимой всего несколько лет спустя.
Он признал, что хотя человеческий интеллект сделал такие болезни, как чума, оспа и полиомиелит, историей для большей части мира, все еще слишком мало ученых и слишком мало времени, чтобы добиться прогресса в других областях заболеваний. ИИ, сказал он, может помочь в этом, работая в тандеме с людьми для дальнейшего медицинского прогресса.
Показательно, что Амодеи начал с истории, подчеркивающей потенциально спасительные применения ИИ, поскольку он неоднократно предупреждал о рисках слишком быстрого продвижения технологии. В сентябре Амодеи привлек внимание заголовков, когда изложил план по темпу развития ИИ, который включал такие вещи, как координация с другими ведущими компаниями по стандартам безопасности и внедрение оценщиков из сторонних организаций для проверки соблюдения компаниями своих обязательств по безопасности.
Генеральный директор OpenAI Сэм Альтман, глава Google DeepMind Демис Хассабис и владелец xAI Илон Маск заявили, что согласны с позицией Амодеи, хотя было сделано мало конкретных обязательств.
В сегодняшней утренней речи Амодеи снова подчеркнул необходимость прогресса в технологии ИИ и безопасности, необходимой для этого. Он сослался на «очень реальные риски» ИИ в руках злоумышленников, будь то отдельные лица или государства, и на потенциал таких вещей, как «экономические потрясения» и «потеря контроля над системами ИИ».
Anthropic считает, что эти риски можно избежать, отметил он, если будут приняты меры защиты. Амодеи сказал, что компания продолжит инвестировать в работу по выравниванию и тестированию ИИ, а также в разработку новых способов понимания поведения ИИ, чтобы он оставался под контролем человека.
«Предстоит еще много работы, и самая сложная работа по безопасности впереди», — сказал он. «Невероятный талант компании, который позволил нам создавать самые мощные системы ИИ, должен быть направлен еще больше, чем уже, на двойную и тройную проверку того, что эти системы ИИ безопасны и остаются под контролем человека».
«И чтобы заявить это недвусмысленно, мы будем регулировать темп обучения и развертывания систем ИИ, уделяя столько времени, сколько необходимо, чтобы быть уверенными в их безопасности и сохранении контроля человека», — заключил Амодеи.
Его сестра, сооснователь Anthropic Даниэла Амодеи, повторила эти настроения в интервью CNBC в четверг, отметив, что хотя риски реальны, обещание ИИ также «невероятно».
«Мы действительно были основаны на идее, что наша работа — смягчать эти риски, и я думаю, что на сегодняшний день мы проделали невероятную работу в этом направлении. Очевидно, что впереди еще много работы, но мы глубоко привержены безопасности», — добавила она.
Полный текст вступительной речи Дарио Амодеи приведен ниже:
Спасибо, Даниэла. Мы с сооснователями основали Anthropic, потому что верим, что самая мощная технология нашего времени должна создаваться на благо человечества. Мы с Даниэлой потеряли отца из-за болезни, которая стала излечимой всего несколько лет спустя. Я начал свою карьеру в биологии, надеясь помочь будущим лекарствам появиться быстрее. В лаборатории я увидел огромную сложность, с которой сталкиваются ученые, пытаясь понять болезни и разработать новые методы лечения. Так много научных инструментов, которые могут прорезать эту сложность — инструменты для редактирования генов, синтеза генов, управления клетками мозга с помощью света — начинались как чистые идеи. Другими словами, они возникли из мышления, из интеллекта.
Человеческий интеллект уже сделал такие болезни, как чума, оспа и полиомиелит, историей для большей части мира. Но прогресс в других болезнях был слишком медленным для многих пациентов и их семей. Переход от отличной идеи к лечению может занять десятилетия. Прошло много лет с момента первого открытия странного повторяющегося паттерна в ДНК до одобрения первого лечения болезни с использованием CRISPR. Природа полна таких паттернов, но у нас было слишком мало интеллекта, чтобы расшифровать большинство из них. Слишком мало ученых с слишком [мало] времени. Теперь мы можем создать этот интеллект. Будь то сворачивание белков, дизайн лекарств, генетика рака или администрирование клинических испытаний, ученые во многих областях биологии и медицины обнаруживают, что Claude может помочь им проводить исследования за долю времени, которое потребовалось бы всего пару лет назад. Я верю, что достаточно мощный ИИ, работающий в тандеме с людьми, может сжать столетие научного и медицинского прогресса в десятилетие.
Я не хочу забегать вперед. На данный момент у нас есть только первые результаты. Эксперименты и клинические испытания все еще требуют времени, и хотя они включают медленные и трудоемкие процессы, я верю, что эти процессы могут быть значительно ускорены с помощью ИИ. Мы надеемся, что в будущем меньше семей будут упускать лекарство на несколько лет. Медицина — это лишь особенно яркий пример, но есть много других применений Claude. Наши клиенты, самые амбициозные компании мира, некоммерческие организации и отдельные люди, уже применяют созданный нами интеллект для стимулирования экономического роста, вывода людей из бедности, защиты демократии и свободных обществ, даже для улучшения повседневных услуг, таких как DMV. Мы гордимся работой вместе с ними, и я чрезвычайно оптимистичен в отношении того, что мы можем сделать вместе в будущем.
В то же время мы всегда честно говорили, что эта технология имеет очень реальные риски. Они варьируются от неправильного использования технологии отдельными лицами или государствами до экономических потрясений и потери контроля над системами ИИ. Мы обсуждаем эти риски не потому, что считаем их неизбежными и все равно строим, а потому, что считаем их предотвратимыми и можем их избежать. Их предотвращение зависит от выбора, сделанного людьми, создающими ИИ. Существует огромная разница между тем, как пойдет ИИ, если мы уделяем мало внимания безопасности, и тем, как он пойдет, если мы одержимы безопасностью. И одержимость безопасностью и общественной пользой была заложена в ДНК Anthropic с самого начала, от мер защиты от биологических и киберрисков до обучения и тестирования выравнивания и до просмотра наших моделей, как рентген, Anthropic разработал методы понимания и управления поведением ИИ и сохранения его под контролем человека. Предстоит еще много работы, и самая сложная работа по безопасности впереди, невероятный талант компании, который позволил нам создавать самые мощные системы ИИ, должен быть направлен еще больше, чем уже, на двойную и тройную проверку того, что эти системы ИИ безопасны и остаются под контролем человека.
И чтобы заявить это недвусмысленно, мы будем регулировать темп обучения и развертывания систем ИИ, уделяя столько времени, сколько необходимо, чтобы быть уверенными в их безопасности и сохранении контроля человека, мы не поддадимся ни деловому, ни политическому давлению. Сегодняшний день ставит компанию в более сильное финансовое положение, и, делая это, только укрепляет нашу решимость поступать правильно. Если мы сможем показать, что можно делать правильный выбор в отношении безопасности и при этом построить невероятно успешную компанию, другие в нашей отрасли будут вдохновлены сделать то же самое. Мы называем это гонкой к вершине.
Когда гонка к вершине работает должным образом, не имеет значения, у какой компании лучшие модели. Все выигрывают, потому что все строят безопасно. Гонка к вершине работает лучше всего, когда ее ведут с передовой, и мы полностью надеемся и ожидаем делать это. Но цель — сделать всю отрасль лучше, независимо от того, выигрывает или проигрывает Anthropic в любой данный момент. Наступление машинного интеллекта — один из знаковых моментов в истории человечества, и у нас есть редкая возможность сформировать его к лучшему. Спасибо.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Sarah Perez




