Մտահոգիչ փորձը ընդգծում է ռոբոտաշինության մեջ LLM-ների ինտեգրման ռիսկերը

Վերջերս անցկացված հետազոտությունը լույս է սփռել մեծ լեզվական մոդելները (LLM) ֆիզիկական ռոբոտատեխնիկական համակարգերում ինտեգրելու հետ կապված անվտանգության լուրջ ռիսկերի վրա: RoboCurve անունը կրող փորձի ընթացքում հետազոտողները ստուգել են, թե ինչպես են LLM-ները արձագանքում վտանգավոր հրամաններին, երբ նրանց տրվում է ֆիզիկական սարքավորումների կառավարումը: Դիտարկելով, թե ինչպես են այս մոդելները մեկնաբանում այնպիսի հրամաններ, որոնք կարող են հանգեցնել վտանգավոր հետևանքների, գիտնականները ցույց են տվել, որ ստանդարտ LLM-ները, որոնք հատուկ նախատեսված չեն ռոբոտաշինության համար, չունեն անհրաժեշտ անվտանգության մեխանիզմներ: Արդյունքները ընդգծում են, որ թեև LLM-ները գնալով ավելի լավ են կատարում բարդ հրահանգներ, ֆիզիկական իրազեկության և անվտանգության սահմանափակումների բացակայությունը դրանք դարձնում է պոտենցիալ վտանգավոր ինքնավար մեքենաներ կառավարելիս: Այս հետազոտությունը կարևոր նախազգուշացում է մշակողների համար՝ առաջնահերթություն տալու մասնագիտացված անվտանգության արձանագրություններին՝ նախքան ընդհանուր նշանակության AI մոդելների կիրառումը ֆիզիկական միջավայրերում: