Какие минусы и риски при работе с ИИ вы можете выделить? С чем нужно быть осторожнее?

Основные риски ИИ — правдоподобные ошибки, утечки данных, prompt injection, нестабильность ответов и неоправданное доверие к автоматическим действиям.

Проверяйте утверждения по исходным данным, а код — тестами и review. Документы и результаты поиска считайте недоверенным содержимым, которое не должно менять системные правила или права инструментов.

Ограничивайте доступ к секретам, персональным данным и действиям с внешними последствиями. Для важных процессов нужны контроль качества на примерах, наблюдаемость, лимиты затрат и понятный fallback. ИИ полезен как ускоритель, но не должен незаметно подменять решение человека там, где ошибка дорого стоит.