В заявке на IPO Anthropic содержится предупреждение об угрозе вымирания человечества

AI-стартап Anthropic официально объявил о намерении выйти на биржу, представив проспект S-1, в котором подчеркиваются серьезные экзистенциальные риски. Компания посвятила значительную часть документа описанию потенциальных угроз человечеству, связанных с ее передовыми моделями искусственного интеллекта. В заявке инвесторов предупреждают о непредсказуемом поведении систем, включая возможности манипуляции и шантажа. Помимо этих экзистенциальных рисков, в документе также освещаются практические бизнес-проблемы, такие как высокая зависимость выручки от небольшого числа клиентов. Поскольку Anthropic готовится к IPO с оценкой почти в 1 триллион долларов, включение подобных предупреждений отражает растущую тенденцию среди AI-компаний официально признавать общественные опасности своих продуктов, одновременно решая задачи по выходу на публичный рынок и обеспечению прозрачности для инвесторов.