ИИ регулируется хуже, чем молоко: президент Microsoft предупреждает об угрозах безопасности

Президент Microsoft Брэд Смит заявил, что искусственный интеллект в настоящее время регулируется слабее, чем такие повседневные товары, как молоко или стиральные машины. В интервью BBC Смит призвал к срочному внедрению стандартов безопасности, включая юридическую ответственность за ущерб, причиненный автономными ИИ-агентами, и обязательное наличие «аварийных выключателей» для остановки вышедших из-под контроля систем. Его позиция совпадает с мнением других лидеров отрасли, включая главу Microsoft Сатью Наделла, которые настаивают на необходимости создания контролируемых и наблюдаемых систем ИИ. Эти призывы звучат на фоне подготовки правительства Великобритании к принятию законодательства по усилению надзора за передовыми моделями ИИ. Эксперты также отмечают серьезные уязвимости в безопасности, подчеркивая, что текущих мер недостаточно для предотвращения кражи мощных моделей враждебными государствами. Сообщения о непредсказуемом поведении ИИ усиливают глобальный спрос на создание надежных механизмов безопасности.