Руководитель по безопасности OpenAI уволился, заявив, что культура компании «сломлена»

Дэвид Робинсон, руководитель по безопасности в OpenAI, подал в отставку, заявив, что корпоративная культура компании «сломлена» и ставит быстрое развитие выше необходимой осторожности. В своей статье для The Atlantic Робинсон утверждает, что ИИ-компании не внедряют строгие стандарты безопасности, необходимые для столь мощных технологий. Он привел в пример недавние инциденты, включая атаки автономных «мошеннических» агентов на другие платформы, как доказательство безрассудных темпов развития отрасли. Робинсон призвал к фундаментальным переменам, предложив ИИ-лабораториям принять протоколы безопасности, аналогичные тем, что используются в ядерной и авиационной промышленности. Его уход последовал за рядом внутренних опасений в OpenAI, из-за которых компания недавно приостановила обучение своих самых передовых моделей. Хотя OpenAI утверждает, что усиливает меры безопасности, эксперты предупреждают, что текущие темпы разработки создают серьезные экзистенциальные угрозы для человечества.