CTO Red Hat Крис Райт обсудил безопасность ПО в эру ИИ с McKinsey & Company

Обсуждение касалось ключевых вызовов, которые возникают при интеграции ИИ в процессы разработки и эксплуатации ПО. Райт подчеркнул, что ИИ одновременно предоставляет новые возможности для усиления безопасности, например, через автоматическое обнаружение аномалий и угроз, и создаёт новые уязвимости, если не управлять им должным образом.

Особое внимание уделили необходимости непрерывного совершенствования методов обеспечения безопасности, поскольку традиционные подходы могут оказаться неэффективными перед лицом новых типов атак, использующих возможности ИИ. CTO Red Hat акцентировал внимание на важности открытых стандартов и сотрудничества в индустрии для создания более устойчивых и защищённых систем.

В ходе беседы Крис Райт также коснулся вопросов этики и ответственности при разработке ИИ-систем, подчеркнув, что безопасность должна быть заложена в архитектуру продуктов с самого начала, а не добавляться постфактум. Это включает в себя обеспечение прозрачности работы ИИ-моделей и защиту от манипуляций.