Ответ Дарио Амодеи
Дарио Амодеи, основатель и CEO компании Anthropic, ответил на слухи о том, что его компания поддерживает усилия правительства США по запрету открытых весовых китайских моделей или вообще открытых весовых моделей.
Он заявил, что Anthropic никогда не выступал за запрет открытых весовых моделей.
Ответ Дарио Амодеи пришел после того, как основатель и CEO компании Nvidia Дженсен Хуанг опубликовал открытое письмо, в котором Nvidia и другие компании-разработчики ИИ, включая Hugging Face, Meta, Microsoft, Mistral и Nvidia, призвали политиков не вводить широкие «преждевременные ограничения» на открытые весовые модели ИИ.
Хотя это письмо не упоминало Китай конкретно, в индустрии разгорелся спор о том, что китайские лаборатории ИИ растут в возможностях часто путем кражи интеллектуальной собственности у своих американских коллег.
Одним из методов является дистилляция, когда ИИ бомбардирует другой модуль с запросами, чтобы узнать, как он работает.
Открытые весовые модели
Дарио Амодеи заявил, что он видит открытые весовые модели как находящиеся в другой категории, чем угроза, которую представляет Китай.
Он сказал, что открытые весовые модели, которые не имеют опасных возможностей, являются общественным благом: они не требуют никаких затрат, кроме вычислительных ресурсов, необходимых для их запуска, и они предоставляют ценность бизнесам, разработчикам и исследователям.
Бои Дарио Амодеи
Дарио Амодеи заявил, что он имеет долгосрочные опасения по поводу ИИ, но бизнесы, использующие открытые весовые модели, даже те из Китая, не входят в число его опасений.
Его опасение заключается в том, что «авторитарные правительства» создадут модели, более мощные, чем те, которые есть в США, чтобы достичь «постоянной военной превосходства» и/или использовать ИИ для подавления своего народа.
Он сказал, что Китайская Коммунистическая Партия (ККП) не единственное авторитарное правительство, которое он опасается, но это «самое способное».
Дарио Амодеи также сказал, что он боится того, что ИИ позволит совершать «биологические атаки», а не только кибератаки.
Он также отметил, что, по мнению Управления безопасности ИИ Великобритании, открытые весовые модели невозможно отозвать после их выпуска.
Это противоречит тому, что сторонники открытого кода утверждают: что доступ к мощным открытым моделям, не контролируемым одной единственной организацией, помогает защитникам защищаться.
Действия Дарио Амодеи
Дарио Амодеи перечислил действия, которые он считает способными остановить Китай, включая ограничение доступа Китая к мощным чипам (что является долгосрочной политикой США) и призыв к формальному преследованию дистилляции.
США угрожают санкциями Китаю, если они обнаружат кражу интеллектуальной собственности, связанную с моделями США.
Интересно, что Дарио Амодеи также заявил, что он поддерживает усилия, некоторые из которых возглавляет США, по созданию организации по безопасности моделей, особенно если весь мир, включая Китай, согласится подчиняться ей.
Он сказал, что он считает эту идею близкой к консенсусу и что он был обрадован тем, что администрация Трампа в последние месяцы продвигает эту идею, а также тем, что недавние предложения индустрии, которые бы применяли такие тесты к наиболее мощным моделям, независимо от их страны происхождения или того, являются ли они открытыми или закрытыми (при этом исключая менее мощные модели, такие как те, которые используются в стартапах и академических кругах),.
Он добавил, что для эффективности такие тесты должны быть глобальными, что означает, что даже ККП должна согласиться с ними.
Он сказал, что он считает, что это может быть возможно… ограниченная кооперация по предотвращению биологических атак ИИ может быть возможна, поскольку это и в интересах Китая.