Точность как вопрос выживания
Искусственный интеллект в корпоративной среде перестал быть экспериментом и стал фактором прибыли. По мнению SAP, enterprise AI governance обеспечивает защиту маржинальности, заменяя статистические догадки детерминированным контролем. Если обратиться к потребительской модели и попросить её подсчитать слова в документе, она нередко ошибётся на десять процентов. Manos Raptopoulos, Global President of Customer Success Europe, APAC, Middle East & Africa в SAP, отмечает, что операционный разрыв между «почти идеально» и «идеально» является абсолютным. «Разрыв между точностью 90% и 100% не является постепенным. В нашем мире он носит экзистенциальный характер», — подчёркивает Raptopoulos. По мере того как организации выводят большие языковые модели в продуктивные среды, критерии оценки формально сместились в сторону точности, governance, масштабируемости и измеримого бизнес-влияния.
Главный вызов, стоящий перед советами директоров, — эволюция от пассивных инструментов к активным цифровым агентам. Именно этот переход Raptopoulos определяет как ключевой момент governance и один из центральных тематических фокусов SAP на предстоящей конференции AI & Big Data Expo North America.
Агентный ИИ и новые вызовы governance
Системы агентного ИИ сегодня обладают способностью планировать, рассуждать, координироваться с другими агентами и автономно исполнять рабочие процессы. Поскольку эти системы напрямую взаимодействуют с конфиденциальными данными и влияют на решения в масштабе всей организации, Raptopoulos утверждает, что отсутствие строгого управления ими — аналогичного тому, как управляется человеческий персонал, — exposes организацию к серьёзным операционным рискам. Он предупреждает, что разрастание числа агентов (agent sprawl) будет зеркальным отражением кризиса теневой ИТ-инфраструктуры прошлого десятилетия, однако ставки здесь принципиально выше.
В рамках своей концепции Raptopoulos определяет обязательные требования: управление жизненным циклом агентов, определение границ автономии, принудительное исполнение политик и непрерывный мониторинг производительности. Интеграция современных векторных баз данных, отображающих семантические связи корпоративного языка, с устаревшими реляционными архитектурами требует колоссальных инженерных ресурсов. Команды должны активно ограничивать цикл вывода агента, чтобы предотвратить искажения, порождаемые галлюцинациями, которые способны скомпрометировать финансовые или цепочки поставок. Установка таких строгих параметров увеличивает вычислительную задержку и расходы гиперскейлеров, что напрямую изменяет первоначальные прогнозы P&L. Когда автономной модели требуется постоянный высокочастотный запрос к базе данных для поддержания детерминированных результатов, связанные затраты на токены быстро накапливаются. В результате governance превращается из чек-листа комплаенса в жёсткое инженерное ограничение.
Три вопроса, которые должен решить совет директоров
Raptopoulos настаивает, что корпоративные советы директоров должны урегулировать три базовых вопроса до развёртывания агентных моделей: определение ответственного за ошибку агента, создание аудиторских следов для машинных решений и установление точных порогов для эскалации к человеку. Геополитическая фрагментация существенно усложняет ответы на эти вопросы. Суверенные облачные инфраструктуры, модели ИИ и требования локализации данных являются регуляторной реальностью в ключевых рынках — от Нью-Йорка до Франкфурта, Эр-Рияда и Сингапура. Предприятиям необходимо встраивать детерминированный контроль непосредственно в вероятностный интеллект, и Raptopoulos рассматривает это требование как мандат уровня C-suite, а не как IT-проект.
Фундамент данных: от фрагментации к детерминированному интеллекту
Системы ИИ остаются полностью зависимыми от качества данных и процессов, на которых они работают — то, что Raptopoulos называет «моментом фундамента данных». Фрагментированные мастер-данные, изолированные бизнес-системы и чрезмерно кастомизированные ERP-среды вносят опасную непредсказуемость в самые неподходящие моменты. Raptopoulos объясняет, что если автономный агент опирается на фрагментированный фундамент при формировании рекомендации, затрагивающей денежные потоки, клиентские отношения или комплаенс-позиции, масштаб операционного ущерба нарастает мгновенно.
Извлечение реальной корпоративной ценности требует выхода за рамки универсальных больших языковых моделей, обученных на текстах из открытого интернета. Подлинный корпоративный интеллект, по мнению Raptopoulos, должен опираться на проприетарные корпоративные данные — заказы, счета, записи цепочек поставок и финансовые проводки, встроенные непосредственно в бизнес-процессы. Он утверждает, что реляционные базовые модели, оптимизированные специально для структурированных бизнес-данных, будут неизменно превосходить универсальные модели в прогнозировании, обнаружении аномалий и операционной оптимизации. Операционное трение, связанное с тем, чтобы сделать чрезмерно кастомизированную ERP-среду понятной для базовой модели, останавливает множество развёртываний. Команды инженеров данных тратят избыточное количество циклов на очистку фрагментированных мастер-данных лишь для создания базового набора данных, который сможет «переварить» ИИ. Когда реляционной модели необходимо точно интерпретировать сложные проприетарные записи цепочек поставок наряду с первичными данными счетов, базовые конвейеры данных должны работать с нулевой задержкой. Если приём данных терпит неудачу, предиктивные возможности модели мгновенно деградируют, превращая агента в функционально опасный актив для бизнеса. Интеграция устаревшей архитектуры с современным реляционным ИИ требует полной перестройки глубоко укоренённых конвейеров данных.