Релиз Sol: что произошло и почему это важно
OpenAI начала широкий публичный доступ к своей новейшей продвинутой языковой модели Sol. Модель считается как минимум на уровне с Fable от Anthropic — продуктом, возможности и принадлежность которого настолько обеспокоили Белый дом, что тот временно запрещал его публичное использование. Тем не менее Sol была выпущена без чётко объяснённых процедур государственной оценки безопасности.
По данным TechCrunch, OpenAI заблаговременно предоставила модель правительству и избранным пользователям до широкого релиза, однако круг этих пользователей и критерии их отбора остаются неизвестными. В своём блоге в конце июня компания заявила, что «не считает подобный процесс правительственного доступа долгосрочной нормой» и намерена совместно с властями выработать иной путь.
Кто и как принимал решение: туманный процесс
Краткий ответ на вопрос, как модель получила разрешение на выпуск, — никто толком не знает. «Честно говоря, у меня нет доступа к этим процессам, и мне недостаточно информации, чтобы судить об их адекватности», — заявила Мина Нарайянан, старший аналитик Центра безопасности и перспективных технологий Джорджтаунского университета.
Генеральный директор OpenAI Сэм Альтман в интервью CNBC упомянул переговоры с чиновниками — министром торговли Говардом Лутником, министром финансов Скоттом Бессентом и национальным кибер-директором Шоном Кэрнкроссом. Однако кто именно тестировал модель и каким образом проводилась оценка — неясно. OpenAI отказалась раскрывать детали процесса, сославшись на результаты внешних аудитов организаций U.K. AISI, SecureBio и Irregular, размещённых в карточке безопасности модели.
Эксперты против «рукопожатий»: проблема институциональной прозрачности
Эксперт по компьютерным наукам Энди Конвински, сооснователь Databricks, Perplexity и Института Лоуд, утверждает, что ни разу не общался с кем-либо, кто понимает этот процесс, — даже с сотрудниками лабораторий frontier-уровня. «Это проблема экзистенциального масштаба, — предупреждает он. — Речь не столько о безопасности, сколько о том, кто обладает властью принимать решения — кто стоит у ворот и разрешает или запрещает».
Конвински считает, что в процесс выпуска моделей вовлечены недостаточно настоящие специалисты — исследователи безопасности, специалисты по выравниванию, специалисты по интерпретируемости, а также данные-инженеры и представители всех уровней технологического стека. Он выступает за «открытый коммонс» как лучший способ сбалансировать безопасность и инновации, приводя в пример модель FDA, NIH и национальных лабораторий, где исследователи, чиновники и частные компании совместно вырабатывают консенсус по вопросам безопасности.
Регулирование без правил: что ждёт ИИ-индустрию
Спустя полтора года администрации Трампа конкретных механизмов регулирования frontier-моделей по-прежнему нет. В прошлом месяце, после недель внутриполитических разногласий, был опубликован указ о дорожной карте оценки таких моделей, но конкретика так и не была определена — за исключением того, чего создавать не планируется. «Для ИИ не будет FDA», — заявил Срирам Кришнан, бывший партнёр Andreessen Horowitz и старший советник по ИИ при Белом доме до прошлого месяца.
На данный момент ведущую роль играет Центр стандартов и инноваций в области ИИ при Министерстве торговли, однако указ предписывает шести кабинетным агентствам определить окончательный процесс к началу августа. Между тем фоном к переговорам служит информация о том, что Альтман якобы предлагал до 5% доли в OpenAI в рамках так называемых «Trump Accounts», а президент OpenAI Грег Брокман является крупнейшим из известных доноров политической операции Трампа. Критики считают, что именно эти связи объясняют мягкий подход администрации к регулированию Sol.
Для сравнения: модель Fable от Anthropic была временно отозвана из широкого доступа после запрета на её использование иностранными гражданами — отчасти из-за реальных опасений по поводу взлома модели для получения возможностей хакерских атак, отчасти из-за личных конфликтов между Anthropic и администрацией Трампа. Угроза экспортного запрета, по мнению наблюдателей, могла подтолкнуть OpenAI к большей кооперации с неизвестными запросами правительства.
С точки зрения индустрии, свободный подход к регулированию мог бы быть приветственен, но тот, что зависит от личных связей с чиновниками, создаёт неопределённость и деструктивные стимулы. Как отмечает Конвински, настоящие эксперты в этой технологии не играют достаточной роли в процессе выпуска моделей — и это ставит под вопрос Сэму основу безопасности frontier-ИИ.