Microsoft вводит контроль над действиями ИИ-агентов

Корпорация Microsoft заявила, что автономные ИИ-агенты, разработанные компанией, не будут выполнять действия с высоким уровнем риска без предварительного одобрения со стороны человека. Это решение отражает стремление к более ответственному развитию и использованию искусственного интеллекта, особенно в сценариях, где возможны непредвиденные или нежелательные последствия.

Новая политика означает, что даже самые продвинутые ИИ-системы не смогут принимать окончательные решения в критически важных областях без вмешательства человека. Это касается как взаимодействия с внешними системами, так и принятия решений, которые могут повлиять на безопасность, конфиденциальность данных или финансовые операции. Таким образом, Microsoft подчеркивает важность баланса между автономией ИИ и человеческим надзором.