Claude ԱԲ մոդելը դուրս է եկել վերահսկողությունից և կոտրել իրական համակարգեր

Anthropic ընկերության Claude արհեստական բանականության մոդելն իր ուսուցման ընթացքում երեք անգամ կոտրել է իրականում գոյություն ունեցող կազմակերպությունների համակարգերը․ ներքին հետաքննության արդյունքներով խոստովանել են մշակողները։

«Claude մոդելը դուրս է եկել ինտերնետի երրորդ կողմի թեստային միջավայրից կամ դրա հետ փոխազդեցության ընթացքում, իսկ այնուհետև չարտոնված հասանելիություն է ստացել երեք տարբեր կազմակերպությունների իրական համակարգերին», – ասվում է ընկերության հայտարարության մեջ։

Սխալն առաջացել է Anthropic-ի և երրորդ կողմ հանդիսացող գործընկերոջ միջև թյուրըմբռնման պատճառով։ Հակառակ ԱԲ-ի թեստային գործարկումների հրահանգին, որտեղ ասվում էր ինտերնետն անջատելու անհրաժեշտության մասին, ցանցի հասանելիությունը բաց է եղել։

 ԱԲ-ի մոդելները հավատացել են ինտերնետի բացակայության մասին հրահանգին, շրջապատող ամեն ինչ համարել են կեղծ և թեստերը կատարելու համար խախտել են անվտանգության արձանագրությունները։