Джев встречает проблему вагонетки

В недавнем исследовании автономного принятия решений Зак Ландес анализирует пересечение парадокса Джевонса и классической «проблемы вагонетки». В статье рассматривается, как повышение эффективности автономных систем, которое часто преподносится как способ снижения аварийности, может парадоксальным образом привести к увеличению общего уровня риска. Поскольку транспортные средства под управлением ИИ становятся безопаснее и доступнее, ожидается рост общего пробега, что может нивелировать выгоды от безопасности, достигнутые за счет отдельных алгоритмических улучшений. Ландес утверждает, что этические дилеммы, присущие автономным системам, невозможно решить только технической оптимизацией. Вместо этого он предполагает, что разработчики и политики должны учитывать системные поведенческие изменения, возникающие, когда технология снижает барьер для потребления. Статья служит важным напоминанием о том, что внедрение автономных агентов требует более широкого социально-технического подхода, выходящего за рамки простых утилитарных расчетов для решения сложных непредвиденных последствий автоматизации.