Ես թույլ տվեցի գործակալին աշխատել առանց հսկողության. գիշերը ժամը 3-ին այն 400 հաճախորդի սխալ նամակ ուղարկեց

Ծրագրավորողը կիսվում է «միացրու և մոռացիր» ավտոմատացման վտանգների մասին պատմությամբ: Վճարումները համադրելու և հաճախորդներին ձախողումների մասին տեղեկացնելու համար նախատեսված ավտոմատացված սկրիպտը սխալմամբ հաջողված վճարումները նշել է որպես ձախողված: Արդյունքում, գիշերը ժամը 3-ին 400 հաճախորդ ստացել է սխալ ծանուցումներ: Հեղինակը պնդում է, որ թեև կրկնվող աշխատանքի ավտոմատացումը օգտակար է, այն հաճախ աննկատ հեռացնում է մարդկային քննադատական դատողությունը: Հիմնական դասն այն է, որ պետք է տարանջատել ավտոմատացված «աշխատանքը»՝ տվյալների մշակումը, իրական աշխարհի վրա ազդող «անշրջելի քայլերից», ինչպիսիք են նամակներ ուղարկելը կամ վճարումներ կատարելը: Մարդուն վերջնական հաստատման գործընթացում պահելով և համակարգերից պահանջելով ցուցադրել իրենց ազդեցության շրջանակը՝ մշակողները կարող են պահպանել արդյունավետությունը՝ առանց զոհաբերելու մարդկային վերահսկողության անվտանգությունը: Հեղինակը շեշտում է, որ ավտոմատացումը պետք է հանդես գա որպես հեղինակ, իսկ մարդիկ պետք է մնան որպես վերջնական սկեպտիկներ: