Сатья Наделла из Microsoft заявил, что моделям ИИ нужен «аварийный тормоз»

Генеральный директор Microsoft Сатья Наделла призвал к серьезному пересмотру архитектуры доверия в сфере искусственного интеллекта. В своем недавнем заявлении Наделла подчеркнул, что по мере того, как модели ИИ становятся все более мощными и интегрируются в критически важную инфраструктуру, индустрия должна внедрить надежные механизмы безопасности, которые он назвал «аварийным тормозом». Это предложение предполагает переход к более осторожным стратегиям развертывания, гарантирующим, что разработчики и регуляторы смогут остановить или ограничить работу систем ИИ в случае их непредсказуемого или вредоносного поведения. Комментарии Наделлы отражают растущий консенсус среди лидеров технологической отрасли о том, что быстрые инновации должны быть сбалансированы строгими протоколами безопасности для сохранения общественного доверия. Выступая за эти меры, Microsoft стремится возглавить дискуссию об ответственном развитии ИИ, уделяя особое внимание прозрачности и подотчетности в условиях развития сложных моделей машинного обучения.