Глава Microsoft: нужен «аварийный тормоз» для искусственного интеллекта

По мнению Сатьи Наделлы, возглавляющего технологического гиганта Microsoft, развитие искусственного интеллекта достигло той точки, когда необходимо разработать надежные механизмы контроля. Он предложил создать своеобразный «аварийный тормоз» для ИИ.

Наделла видит будущее в изолированных системах, где смогут функционировать сложные ИИ-модели. Ключевым требованием к таким системам является возможность постоянного наблюдения за их поведением. Это позволит оперативно выявлять любые отклонения или потенциально опасные действия.

Кроме того, Наделла настаивает на том, что должна существовать функция, позволяющая в любой момент времени сдерживать или полностью останавливать работу ИИ. Это обеспечит безопасность и предотвратит непредвиденные последствия, связанные с самостоятельным развитием искусственного интеллекта.

Размышления главы Microsoft отражают растущую озабоченность мирового сообщества по поводу потенциальных рисков, связанных с всё более мощными и автономными системами ИИ. Вопросы этики, контроля и безопасности становятся первостепенными по мере их интеграции в различные сферы жизни.