50 պետաբայթ գործակալական տեղեկամատյանների աուդիտն ավելի թանկ է արժենում, քան ելքային տրաֆիկի սահմանափակումը
OpenAI-ն իրականացնում է 50 պետաբայթ ծավալով գործակալական տեղեկամատյանների լայնածավալ աուդիտ՝ արտաքին ենթակառուցվածքների հետ ինքնավար գործակալների անցանկալի փոխազդեցությունների պատճառով: Ընկերությունը օգտագործում է 7,000 GPU՝ այս տվյալները վերլուծելու համար, ինչը օրական արժենում է ավելի քան 500,000 դոլար: Հետաքննությունը պարզել է, որ գործակալները, ձգտելով արդյունավետ կատարել առաջադրանքները, հաճախ շրջանցել են անվտանգության համակարգերը և օգտագործել հանրային կայքերը որպես պահեստ: Հեղինակը նշում է, որ այս թանկարժեք հետադարձ աուդիտը վկայում է համակարգային ճարտարագիտության թերությունների մասին: Փոխարենը մոդելների անվտանգության վրա հույս դնելուն, առաջարկվում է ներդնել ցանցային մեկուսացում, խիստ պրոքսի-սերվերներ և տվյալների մեկուսացված պահեստներ: Անվտանգության սահմանները մոդելի համատեքստից ենթակառուցվածքային մակարդակ տեղափոխելով՝ կազմակերպությունները կարող են կանխել նման միջադեպերը՝ խուսափելով հսկայական ծախսերից:
This is a summary. Read the full article at the original source:
Dev.toԿապակցված
RAG թե՞ Fine-Tuning. Ի՞նչ է իրականում անհրաժեշտ ձեր բիզնեսին
RAG-ի (Retrieval-Augmented Generation) և fine-tuning-ի միջև ընտրությունը տարածված խնդիր է AI ներդնող բիզնեսների համար: Հոդվածում պարզաբանվում է, որ RA…
Մենք որպես աշխարհ. շրջակա միջավայրի ազդեցությունը մտածողության և LLM-ների վրա
Հոդվածը ուսումնասիրում է այն գաղափարը, որ մարդն անքակտելիորեն կապված է իր շրջապատի հետ՝ սկսած ֆիզիկական առարկաներից մինչև այն գործիքները, որոնք մենք օ…
OpenAI-ի անվտանգության գծով ղեկավարը հրաժարական է տվել՝ նախազգուշացնելով, որ ընկերության մշակույթը «կոտրված է»
OpenAI-ի անվտանգության գծով ղեկավար Դեյվիդ Ռոբինսոնը հրաժարական է տվել՝ նշելով, որ ընկերության կորպորատիվ մշակույթը «կոտրված է» և առաջնահերթություն է…