Гайд: Доступы и подключения
На Подготовке обеспечивается доступ агента к системам проекта и моделям, а участникам — к оркестратору. Готовность подтверждается выполнением нужной операции из того контура, где она будет использоваться.
Готовые формы для заполнения: доступ к Git и доступы к другим системам. В них фиксируются ресурсы, аккаунты, роли, сетевые пути и результаты проверки операций из среды выполнения агентов.
Связанный этап: Подготовка.
Подключения к моделям
В проекте описываются пять назначений моделей и сервисов. Обязательны основная text-to-text и зрение; их может обеспечивать одна модель, но текстовые и визуальные операции проверяются отдельно. Лёгкая модель необязательна: большие тексты может читать основная. Голосовые сервисы нужны только для работы с видеороликами; если видеоролики в Пилоте не планируются, TTS и STT можно не подключать.
| Назначение | Обязательность и использование | Как подтвердить подключение |
|---|---|---|
| Основная text-to-text | Обязательна. Решение задач, рассуждение и работа агентов с текстом и кодом | Текстовый запрос и содержательный ответ; необходимые агентам режимы и вызовы инструментов |
| Зрение | Обязательно. Анализ изображений, скриншотов и визуальных результатов; может использоваться основная модель | Запрос с изображением; проверено, что ответ учитывает его содержание |
| Лёгкая модель для чтения больших текстов | Необязательна. Вместо отдельной лёгкой модели допускается основная | Документ характерного объёма обрабатывается выбранной моделью; проверены извлечённые факты, допустимый контекст и отсутствие незаметной обрезки входа |
| Синтез голоса — TTS | Для озвучки видеороликов. Можно не подключать, если видеоролики не планируются | Текст на нужном языке преобразован в воспроизводимое аудио с выбранным голосом; проверены фактический формат и качество |
| Распознавание голоса — STT | Для работы с речью в видеороликах. Можно не подключать, если видеоролики не планируются | Характерная запись преобразована в текст; проверены язык, смысл, термины и ограничения длины/формата |
Заполняется реестр моделей и размещения. Все пять строк сохраняются, даже если отдельная модель не подключается. Для лёгкой явно записывается «Отдельно не подключаем — используем основную»; для TTS/STT — например, «Не используем — видеоролики не входят в Пилот». Фиксируются причина, подтвердивший решение и дата. Пустая строка не считается решением.
Если необходимое подключение ещё не готово, это пробел, а не отказ от использования: указываются ответственный, срок и зависимые сценарии. Основная text-to-text и зрение проверяются до старта PoC; голосовые сервисы — до работы с видеороликами. При добавлении видеороликов в область Пилота решения по TTS/STT пересматриваются.
Где выполняется инференс
Выбор платформы, моделей, целевых или временных систем PoC выполняется по общей схеме развилок. Для облачной платформы не требуется установка платформы, но может потребоваться связь с моделями, Git и стендами клиента. Проверки ниже относятся к фактически выбранным системам текущего периода.
Для используемых моделей размещение выбирается явно: on-premises у клиента или в облаке поставщика. Решение принимается на Подготовке с участием ответственных за инфраструктуру клиента и сопровождения и владельца ограничений на данные. Допустимо сочетать варианты, если маршруты и ограничения описаны.
| Вариант | Что определить |
|---|---|
| On-premises | Владелец сервиса, адреса и сетевые маршруты, модель/версия, ресурсы и ёмкость для параллельной работы, обновление и поддержка |
| Облако поставщика | Адрес подключения, проект/аккаунт, фактический поставщик инференса, разрешённые виды передаваемых данных, квоты, тариф/учёт потребления и поддержка |
Расположение оркестратора не определяет расположение модели. Если облачный шлюз поставщика направляет запросы внешнему поставщику, это указывается в реестре вместе с конечным местом обработки. Запасной маршрут, если используется, также фиксируется; он не должен незаметно менять согласованное размещение.
Результат выбора — явное решение по всем пяти назначениям. Для используемой модели заполняются API-идентификатор, размещение и поставщик, endpoint, способ авторизации, ограничения данных, квоты/параллелизм и ответственный. Если назначение закрывается основной моделью, даётся ссылка на её подключение. Для неиспользуемого сервиса достаточно причины, подтвердившего и даты; адрес и права не требуются. Если решение ещё не принято, записываются открытый вопрос, адресат и срок; такую строку нельзя считать заполненной по существу.
Проверка и эксплуатация
Для используемых подключений проверяются сеть, TLS, аутентификация, права на конкретную модель и фактическая операция из рабочего контура платформы. Один успешный текстовый запрос к основной модели не подтверждает работу зрения или аудио. Для каждого используемого назначения фиксируются ограничения входа, времени выполнения и параллелизма, результат пробы, дата и проверивший.
В инструкции сохраняются способ передачи учётных данных и ссылка на защищённое хранилище; ключи и токены в методологию и журналы не включаются. Ответственный за подключение обеспечивает обновление ключей, разбор ошибок доступа и квот. Потребление связывается с источниками измерений Пилота; единицы тарификации речевых сервисов могут отличаться от токенов текстовых моделей.
Для TTS/STT нужно проверять сам результат: HTTP 200 не гарантирует аудио или корректную расшифровку. Если заявленный и фактический формат аудио различаются, это отражается в инструкции конкретного сервиса. Смена модели, поставщика или маршрута требует повторной проверки затронутых сценариев.
Пример голосовых сервисов из памяти CRM — в примере подключений.