"Яндекс" первой в России получила международный сертификат за ответственную разработку искусственного интеллекта. Компания прошла независимую проверку и подтвердила, что нейросеть "YandexGPT" соблюдает все международные стандарты безопасности и этики. По всему миру было выдано не более 50 подобных сертификатов. Документ подтверждает, что "Яндекс" следит за качеством ответов своей нейросети, мониторит ошибки и аномалии, оперативно отвечает пользователям, а также обеспечивает сохранность данных юзеров. "YandexGPT" используют более 20 сервисов "Яндекса". Среди них - Поиск, ИИ-ассистент Алиса, Еда, Маркет и другие. По каким критериям выдается такой международный сертификат и что он дает, "Серебряному дождю" рассказал руководитель группы безопасности Алисы и автономного транспорта в Яндексе - Борис Рютин:

«Сертификат ISO/IEC 42001 выдаётся аккредитованными органами по сертификации. Эти организации проводят аудит системы управления ИИ в компании и подтверждают её соответствие международному стандарту. Оценка включает в себя несколько этапов. Первый — это анализ системы управления ИИ: проверка политик, процедур, методологии разработки. Следующий — оценка безопасности и этики, которая включает контроль за обработкой данных, минимизацию рисков и прозрачность работы алгоритмов. Третий этап — тестирование на практике: проверяется, как ИИ справляется с ошибками, реагирует на запросы и защищает пользовательскую информацию. Последний этап — проверка документов и процессов на соответствие требованиям ISO/IEC 42001. Такой сертификат повышает доверие, увеличивает привлекательность технологий Яндекса как для пользователей, так и для партнёров и задаёт стандарты для всей нашей индустрии», — отметил Борис Рютин.