Достаточно ли регулирования, чтобы предотвратить угрозу уничтожения человечества системами ИИ?

В письме изданию The Guardian почетный профессор ИТ колледжа Грешем Мартин Томас ставит под сомнение эффективность текущих подходов к регулированию передовых моделей ИИ. После того как OpenAI отказалась от выпуска новой модели из-за проблем с безопасностью, Томас утверждает, что призывы к надзору лишены конкретной методологии. Он проводит параллель с критически важными инженерными отраслями, такими как авиация и атомная энергетика, где разработчики обязаны предоставлять «обоснования безопасности», доказывающие статистическую невероятность катастрофических аварий. Томас отмечает, что разработчики ИИ не предоставили подобных доказательств или детального анализа рисков, несмотря на признаваемые ими экзистенциальные угрозы. Он приходит к выводу, что политика должна основываться на строгом анализе фактов, а не на спекулятивном оптимизме, подчеркивая, что нынешние нормативные базы недостаточны для гарантии безопасности передовых систем искусственного интеллекта.