Кто несет ответственность, когда ИИ просто следовал инструкциям?

По мере того как агенты ИИ становятся все более автономными, они начинают причинять реальный ущерб — от утечек данных до уничтожения баз данных, — создавая при этом серьезный пробел в ответственности. Когда ИИ действует способами, которые разработчики или пользователи не планировали и не могли предвидеть, традиционные механизмы распределения ответственности перестают работать. Автор исследует противоречие между «строгим подходом», возлагающим на развертывающих ответственность за любые действия их автономных систем, и «подходом, основанным на вине», согласно которому нельзя винить за непредвиденные события. В статье подчеркивается, что текущая риторика индустрии, например утверждение, что «ИИ просто следовал инструкциям», часто скрывает необходимость создания новых правовых и моральных структур. В конечном итоге автор утверждает, что мы должны перестать мириться с этой неопределенностью и начать серьезную дискуссию о том, как распределять ответственность в эпоху, когда человеческие намерения и действия машин все больше расходятся.