Cohere 22 октября объявила об общедоступном испытании аппаратно защищённой работы моделей в Model Vault. Возможность использует NVIDIA H100 в Microsoft Azure и рассчитана на компании, работающие с чувствительными юридическими, медицинскими и финансовыми данными.

Что меняется

Запросы и ответы шифруются до доверенной среды выполнения. Перед передачей чувствительных данных клиент может проверить её аппаратную и программную конфигурацию. Это даёт компаниям дополнительный способ контролировать условия, в которых модель обрабатывает информацию.

Где заканчивается эта защита

Речь об испытательной версии, а не о безусловной гарантии безопасности всей системы. Cohere отдельно предупреждает: аппаратная защита вычислений не заменяет безопасность приложений и выполнение нормативных требований. Для внедрения в работу с чувствительными данными эти задачи по-прежнему нужно решать отдельно.

Источник: объявление Cohere.