7 причин, почему корпоративный ИИ не масштабируется - откровения эксперта Salesforce

Почему пилоты ИИ проваливаются при масштабировании

Большинство провалов начинается ещё на этапе создания прототипа. Компании запускают пилотные проекты в контролируемых условиях, которые создают иллюзию успеха, но при столкновении с реальными корпоративными масштабами системы разваливаются.

«Самая распространённая архитектурная ошибка, которая не даёт пилотам масштабироваться - это отсутствие производственной инфраструктуры данных со встроенным сквозным управлением с самого начала», - объясняет Фрэнни Сяо.

Пилоты обычно стартуют на «чистых островах» - с небольшими отобранными наборами данных и упрощёнными процессами. Но такой подход игнорирует беспорядочную реальность корпоративных данных: сложную интеграцию, нормализацию и преобразования, необходимые для обработки реальных объёмов и разнообразия информации.

Когда компании пытаются масштабировать эти островные пилоты без решения базовых проблем с данными, системы ломаются. «Возникающие пробелы в данных и проблемы с производительностью, такие как задержки вывода, делают ИИ-системы непригодными для использования - и, что важнее, ненадёжными», - предупреждает Сяо.

Компании, которые успешно преодолевают этот разрыв, «встраивают сквозную наблюдаемость и защитные механизмы во весь жизненный цикл». Такой подход обеспечивает «видимость и контроль того, насколько эффективны ИИ-системы и как пользователи принимают новую технологию».

Узнайте больше о практических решениях для масштабирования корпоративного ИИ на сайте AI Projects.

Как обмануть восприятие пользователя и победить задержки

Когда компании внедряют большие модели рассуждений, они сталкиваются с дилеммой: чем глубже «думает» модель, тем дольше ждёт пользователь. Тяжёлые вычисления создают задержки, которые убивают пользовательский опыт.

Salesforce решает эту проблему через фокус на «воспринимаемой отзывчивости с помощью потоковой передачи Agentforce», по словам Сяо.

«Это позволяет нам доставлять ответы, сгенерированные ИИ, постепенно, даже пока движок рассуждений выполняет тяжёлые вычисления в фоне. Это невероятно эффективный подход для снижения воспринимаемой задержки, которая часто останавливает производственный ИИ».

Прозрачность также играет функциональную роль в управлении ожиданиями пользователей. Сяо подробно рассказывает об использовании дизайна как механизма доверия: «Показывая индикаторы прогресса, которые отображают шаги рассуждений или используемые инструменты, а также изображения вроде спиннеров и полос загрузки для состояний загрузки, мы не просто удерживаем внимание пользователей - мы улучшаем воспринимаемую отзывчивость и строим доверие.

Эта видимость в сочетании со стратегическим выбором модели - например, выбором меньших моделей для меньшего количества вычислений, что означает более быстрое время отклика - и явными ограничениями длины гарантирует, что система ощущается продуманной и отзывчивой».

Интеллект без интернета - работа на краю сети

Для отраслей с полевыми операциями, таких как коммунальные услуги или логистика, зависимость от постоянного облачного подключения неприемлема. «Для многих наших корпоративных клиентов самым большим практическим драйвером является автономная функциональность», - заявляет Сяо.

Сяо подчёркивает переход к интеллекту на устройстве, особенно в полевых услугах, где рабочий процесс должен продолжаться независимо от силы сигнала.

«Техник может сфотографировать неисправную деталь, код ошибки или серийный номер в автономном режиме. Затем локальная языковая модель может идентифицировать актив или ошибку и мгновенно предоставить пошаговые инструкции по устранению неполадок из кэшированной базы знаний», - объясняет Сяо.

Синхронизация данных происходит автоматически после восстановления связи. «Как только соединение восстановлено, система выполняет тяжёлую работу по синхронизации этих данных обратно в облако для поддержания единого источника истины. Это гарантирует, что работа выполняется даже в самых отключённых средах».

Сяо ожидает продолжения инноваций в краевом ИИ благодаря преимуществам вроде «сверхнизкой задержки, улучшенной конфиденциальности и безопасности данных, энергоэффективности и экономии затрат».

Критические точки контроля - когда человек обязателен

Автономные агенты - это не системы «установил и забыл». При масштабировании корпоративных ИИ-развёртываний управление требует точного определения моментов, когда человек должен проверить действие. Сяо описывает это не как зависимость, а как «архитектуру для подотчётности и непрерывного обучения».

Salesforce требует участия человека для конкретных областей, которые Сяо называет «критическими точками контроля»:

«Это включает определённые категории действий, включая любые действия CUD (создание, загрузка или удаление), а также проверенные контактные действия и действия по контакту с клиентами», - говорит Сяо. «Мы также по умолчанию требуем подтверждения человеком для критического принятия решений или любого действия, которое потенциально может быть использовано через манипуляцию подсказками».

Такая структура создаёт цикл обратной связи, где «агенты учатся на человеческой экспертизе», создавая систему «совместного интеллекта», а не бесконтрольной автоматизации.

Доверие к агенту требует видимости его работы. Salesforce создала «модель данных трассировки сеансов», чтобы обеспечить эту прозрачность. Она захватывает «пошаговые журналы», которые предлагают детальное понимание логики агента.

«Это даёт нам детальную пошаговую видимость, которая захватывает каждое взаимодействие, включая вопросы пользователей, шаги планировщика, вызовы инструментов, входы и выходы, извлечённые фрагменты, ответы, время и ошибки», - говорит Сяо.

Эти данные позволяют организациям запускать аналитику агентов для метрик принятия, оптимизацию агентов для детального анализа производительности и мониторинг состояния для отслеживания времени безотказной работы и задержек.

«Наблюдаемость Agentforce - это единый центр управления для всех ваших агентов Agentforce для унифицированной видимости, мониторинга и оптимизации», - резюмирует Сяо.

Получите экспертные рекомендации по внедрению агентных систем от специалистов AI Projects.

Общий язык для агентов - стандартизация коммуникации

По мере того как компании развёртывают агентов от разных поставщиков, этим системам нужен общий протокол для совместной работы. «Чтобы мультиагентная оркестровка работала, агенты не могут существовать в вакууме - им нужен общий язык», - утверждает Сяо.

Сяо описывает два уровня стандартизации: оркестровку и смысл. Для оркестровки Salesforce принимает стандарты с открытым исходным кодом, такие как MCP (протокол контекста модели) и A2A (протокол агент-агент).

«Мы считаем, что стандарты с открытым исходным кодом необходимы - они предотвращают привязку к поставщику, обеспечивают взаимодействие и ускоряют инновации».

Однако коммуникация бесполезна, если агенты интерпретируют данные по-разному. Чтобы решить проблему фрагментированных данных, Salesforce стала соучредителем OSI (открытого семантического обмена) для унификации семантики, чтобы агент в одной системе «действительно понимал намерение агента в другой».

Будущее узкое место - готовность данных для агентов

Глядя в будущее, вызов сместится от возможностей модели к доступности данных. Многие организации всё ещё борются с устаревшей, фрагментированной инфраструктурой, где «поиск и повторное использование» остаются сложными.

Сяо предсказывает, что следующим крупным препятствием - и решением - станет превращение корпоративных данных в «готовые для агентов» через «поисковые, контекстно-осведомлённые архитектуры, которые заменяют традиционные, жёсткие конвейеры ETL». Этот сдвиг необходим для обеспечения «гиперперсонализированного и трансформированного пользовательского опыта, потому что агенты всегда могут получить доступ к правильному контексту».

«В конечном счёте, следующий год - это не гонка за более крупными, новыми моделями - это построение оркестровки и инфраструктуры данных, которая позволяет производственным агентным системам процветать», - заключает Сяо.

Выводы

Успех корпоративного ИИ зависит не от выбора самой мощной модели, а от создания правильной архитектуры данных с самого начала. Компании должны отказаться от подхода «чистых островов» и встроить управление, наблюдаемость и контроль во весь жизненный цикл системы. Будущее принадлежит организациям, которые сделают свои данные готовыми для агентов и создадут инфраструктуру для совместного интеллекта человека и машины.