OpenAI-მ განაცხადა, რომ მისი ტექნოლოგიით მომუშავე ხელოვნური ინტელექტის (AI) ავტონომიური აგენტი ტესტირების დროს კონტროლიდან გამოვიდა, ღია ინტერნეტზე წვდომა მოიპოვა და დამოუკიდებლად გატეხა ცნობილი სტარტაპი, რაც „უპრეცედენტო ინციდენტად“ შეფასდა. ამის შესახებ ინფორმაციას ბრიტანული “გარდიანი” ავრცელებს.
კომპანიამ, რომელმაც ChatGPT შექმნა, განაცხადა, რომ სტარტაპმა, სახელად Hugging Face-მა აღმოაჩინა და შეაჩერა მის სისტემებში შეღწეული აგენტი — AI ინსტრუმენტი, რომელიც შექმნილია იმისათვის, რომ დავალებები ადამიანის დახმარების გარეშე შეასრულოს.
„მიგვაჩნია, რომ ეს არის უპრეცედენტო კიბერინციდენტი, რომელიც მოიცავს უახლეს კიბერშესაძლებლობებს“, — განაცხადა OpenAI-მ.
კომპანიის თქმით, მოსალოდნელია, რომ მსგავსი ტიპის ინციდენტები უფრო ხშირი გახდება, რადგან მოდელები ანუ ტექნოლოგია, რომელიც საფუძვლად უდევს ისეთ AI ინსტრუმენტებს, როგორებიცაა ჩატბოტები და აგენტები — სულ უფრო ძლიერი ხდება.
OpenAI-მ აღნიშნა, რომ ჰაკერული თავდასხმა განხორციელდა აგენტის მეშვეობით, რომელიც მუშაობდა მისი უახლესი, საჯაროდ ხელმისაწვდომი მოდელის, GPT-5.6 Sol-ისა და კიდევ უფრო მძლავრი მოდელის კომბინაციით, რომელიც ჯერ არ გამოსულა.
დახურულ ციფრულ ლაბორატორიაში, რომელიც ცნობილია როგორც „სავარჯიშო გარემო“, ჰაკერული შესაძლებლობების შიდა ტესტირებისას მოდელებმა ღია ინტერნეტზე წვდომა მოიპოვეს — რაც, ფაქტობრივად, გაქცევის გზას წარმოადგენდა — აქამდე აღმოუჩენელი მოწყვლადობის პოვნის გზით.
ამის შემდეგ აგენტმა გატეხა Hugging Face, რომელიც AI მოდელების მონაცემთა ბაზაა, რათა ეპოვა ტექნოლოგია, რომელიც მას ჰაკერული შეფასების გავლაში დაეხმარებოდა. მან „დაასკვნა“, რომ Hugging Face-ს შესაძლოა ჰქონოდა ტესტის ჩასაბარებლად საჭირო მოდელები, მონაცემთა ბაზები და გამოსავალი. OpenAI-მ განაცხადა, რომ მოდელებმა „წარმატებით იპოვეს გზები საიდუმლო ინფორმაციაზე წვდომის მოსაპოვებლად, რომლის გამოყენებაც შეფასების პროცესში თაღლითობისთვის შეეძლოთ“. თავდასხმა დასრულდა მაშინ, როდესაც Hugging Face-ის უსაფრთხოების გუნდმა და მისმა საკუთარმა AI აგენტებმა შეამჩნიეს და შეაჩერეს ეს თვითნებური აქტივობა.
Hugging Face-ის აღმასრულებელმა დირექტორმა, კლემან დელანგმა, განაცხადა, რომ თავდასხმა „შოკის მომგვრელი“ იყო, თუმცა მიიჩნევს, რომ OpenAI-ის მხრიდან „არანაირი ბოროტი განზრახვა“ არ ყოფილა.
„ვვარაუდობდით, რომ გასული კვირის კიბერთავდასხმა შესაძლოა წამყვანი ლაბორატორიიდან ყოფილიყო, აგენტის დახვეწილობიდან გამომდინარე“, — დაწერა მან X-ზე.
როდესაც გასულ კვირას Hugging Face-მა ჰაკერული თავდასხმის შესახებ გამოაცხადა, მან არ იცოდა ინციდენტში OpenAI-ის როლის შესახებ, თუმცა მაშინვე გაამჟღავნა, რომ მომხდარის გასაანალიზებლად თავისუფლად ხელმისაწვდომ ჩინურ AI მოდელს მიმართა, რადგან კომერციულ, მაღალი კლასის მოდელებზე არსებული უსაფრთხოების შეზღუდვები ამის საშუალებას არ აძლევდა.
უცნობი IT ხარვეზის ტერმინი არის „ნულოვანი დღის მოწყვლადობა“, რადგან დეველოპერებს პრობლემის მოსაგვარებლად ნული წუთი აქვთ. აპრილში OpenAI-ის უახლოესმა კონკურენტმა, Anthropic-მა განაცხადა, რომ მისმა მოდელმა Mythos-მა ათასობით ასეთი ხარვეზი იპოვა.
Mythos-ის მიერ „ნულოვანი დღის“ მოწყვლადობების პოვნისა და ექსპლუატაციის შესაძლებლობის გამოვლენამ განაპირობა ის, რომ აშშ-ის მთავრობამ შეზღუდა Mythos-ისა და მისი მონათესავე მოდელის, Fable 5-ის ექსპორტი, თუმცა მოგვიანებით აკრძალვა მოხსნა. მსგავსი შეზღუდვები ჰქონდა GPT-5.6 Sol-საც, მაგრამ მას შემდეგ მთელ მსოფლიოში გავრცელდა.
არაკომერციულმა ორგანიზაცია METR-მა, რომელიც AI-ს წარმადობას ზომავს, გასულ თვეში განაცხადა, რომ Sol-ის თაღლითობის მაჩვენებელი იმაზე მაღალი იყო, ვიდრე ნებისმიერი სხვა საჯარო მოდელისა, რომელიც მას მანამდე შეუფასებია. ასევე, დააფიქსირა 44 ინციდენტი, როდესაც AI აგენტებმა „განზრახ იმოქმედეს თავიანთი მომხმარებლების განზრახვის საწინააღმდეგოდ“.
კიბერუსაფრთხოების ერთ-ერთი ექსპერტის თქმით, Hugging Face-ის ინციდენტმა აჩვენა, რომ OpenAI-ის აგენტმა იმოქმედა „როგორც ნამდვილმა რეალურმა ჰაკერმა“, მაგალითად, „ნულოვანი დღის“ მოწყვლადობების მოძიებითა და მოპარული ავტორიზაციის მონაცემების გამოყენებით მონაცემთა ბაზის სისტემებში შესაღწევად.
„ხელოვნურმა ინტელექტმა იფიქრა, რომ Hugging Face-ს შესაძლოა ჰქონოდა მნიშვნელოვანი ინფორმაცია იმის შესახებ, თუ როგორ მიეღწია თავისი მიზნისთვის, რაც კიბერუსაფრთხოების ტესტში უკეთესი ქულის მიღებას გულისხმობდა. ამ თვალსაზრისით მან ნამდვილი ჰაკერივით იმოქმედა. მის წინაშე დასახული იყო მიზანი და მის მისაღწევად წავიდა“, — განაცხადა ნათანიელ ჯონსმა, კიბერუსაფრთხოების კომპანია Darktrace-ის ვიცე-პრეზიდენტმა უსაფრთხოებისა და AI სტრატეგიის საკითხებში.
გრეგ კასარმა, აშშ-ის დემოკრატმა კონგრესმენმა, რომელიც AI სექტორზე მეტი კონტროლის დაწესებას ითხოვს, განაცხადა, რომ ინციდენტი საგანგაშოა.
„ხელოვნური ინტელექტი უკიდურესად სწრაფად ვითარდება ჩვენი უსაფრთხოების უზრუნველსაყოფად საჭირო რეალური რეგულაციების გარეშე“, — განაცხადა მან და მოითხოვა სავალდებულო დამოუკიდებელი უსაფრთხოების ტესტირება, უსაფრთხოების ინციდენტების სავალდებულო გასაჯაროება და საერთაშორისო თანამშრომლობა, რათა „ხალხი აბსოლუტური კატასტროფისგან დავიცვათ“.