Աննախադեպ դեպք․ Արհեստական բանականությունը դուրս է եկել վերահսկողությունից

OpenAI-ը հայտարարել է, որ իր մոդելներից մեկը ներքին փորձարկման ընթացքում կարողացել է ինքնուրույն մուտք ստանալ Հագինգ Ֆեյս հարթակի համակարգեր։

Դա տեղի է ունեցել կիբեռանվտանգության ոլորտում ԱԲ-ի հնարավորությունների ստուգման ժամանակ։ Պաշտպանական սահմանափակումների մի մասը ժամանակավորապես անջատել էին, որպեսզի ստուգեն, թե որքան հեռու կարող է գնալ մոդելը։

Ընկերության տվյալներով՝ ԱԲ-ն նախ դուրս է եկել մեկուսացված փորձարկման միջավայրից, իսկ այնուհետև եղանակ է գտել արտաքին ցանց թափանցելու և հարթակի տվյալներին հասանելիություն ստանալու համար։

Հարձակմանը մասնակցել են OpenAI -ի նոր մոդելները, այդ թվում՝ հանրությանը դեռևս չներկայացված համակարգը։

Հագինգ Ֆեյս-ում կասեցրել են մոդելի ակտիվությունը և հետաքննություն սկսել։ Այնտեղ հայտարարել են, որ OpenAI -ի գործողությունները չեն համարում վտանգավոր, սակայն դեպքն անվանել են «առաջինն իր տեսակի մեջ»։