Microsoft предлагает ограничения для своего ИИ на фоне дискуссий о безопасности

Компания Microsoft представила предварительный «кодекс поведения» для обучения новых моделей искусственного интеллекта, стремясь гарантировать, что ИИ останется подконтрольным и полезным для человечества. Генеральный директор Microsoft AI Мустафа Сулейман подчеркнул острую необходимость в правилах безопасности на фоне растущих опасений по поводу потери контроля над автономными системами. Предлагаемые нормы запрещают ИИ участвовать в разработке оружия, создавать насильственный или откровенный контент, а также имитировать человеческое сознание. Этот шаг последовал за усилением тревоги в отрасли, когда руководители Anthropic и OpenAI также призвали к ужесточению мер безопасности и стороннему контролю. Хотя некоторые эксперты приветствуют инициативу, другие относятся к ней скептически, предупреждая, что подобные стандарты могут укрепить доминирование крупнейших лабораторий и оказаться неэффективными без глобального сотрудничества. Руководство в настоящее время открыто для общественных консультаций, поскольку технологический сектор сталкивается с быстрым и потенциально рискованным развитием передовых моделей ИИ.