В недавнем заявлении председатель и генеральный директор Microsoft Сатья Наделла подчеркнул важность внедрения строгих мер безопасности в современных системах искусственного интеллекта. Он предложил, чтобы эти системы включали функции сдерживания, независимые управления и 'экстренный тормоз', который позволяет уполномоченному персоналу приостанавливать или отключать модели ИИ во время работы.
Замечания Наделлы отражают более широкую озабоченность в отрасли относительно темпов развития ИИ и потенциальных рисков, связанных с недостаточными протоколами безопасности.
Выдающиеся фигуры в области технологий, включая соучредителя Microsoft Билла Гейтса и руководителей компаний, таких как OpenAI и Anthropic, выразили аналогичные мнения, предупреждая о том, что быстрое развитие ИИ может привести к опасным последствиям.
Наделла изложил несколько принципов для проектирования надежных систем ИИ, включая разнообразие моделей, прозрачность действий моделей, непрерывное тестирование и раскрытие инцидентов. Он утверждал, что наиболее надежные системы ИИ будут теми, которые допускают минимальное доверие к самим моделям, подчеркивая необходимость надежного контроля и ответственности в разработке ИИ.