Какие требования EU AI Act к high-risk системам?

EU AI Act предъявляет строгие требования к системам с высоким риском (high-risk AI systems), чтобы обеспечить безопасность, прозрачность и защиту прав пользователей. Основные требования включают:

• Оценка рисков и управление ими: обязательное проведение оценки рисков до выпуска системы и постоянный мониторинг.
• Качество данных: данные для обучения должны быть репрезентативными, точными и минимизировать предвзятость.
• Документация и прозрачность: подробная техническая документация, включая описание архитектуры, алгоритмов и принципов работы.
• Обеспечение объяснимости: пользователи должны иметь возможность понять, как система принимает решения.
• Человеческий контроль: возможность вмешательства человека в работу системы для предотвращения ошибок или вреда.
• Безопасность и надежность: система должна работать стабильно и защищать от кибератак.
• Соответствие стандартам и сертификация: прохождение обязательных процедур оценки соответствия перед выводом на рынок.

Эти меры направлены на повышение доверия и справедливости в использовании AI, особенно в критически важных сферах, таких как здравоохранение, транспорт и правосудие.