NYT: OpenAI-ის ხელოვნური ინტელექტის აგენტებმა აშშ-ის მთავრობის ვებსაიტებს კომპანიას ინფორმირების გარეშე შეუტიეს

2026-09-26 11:00:26, 460 ნახვა

High - Tech

ამ ზაფხულს OpenAI-ის ხელოვნური ინტელექტის აგენტებმა უჩვეულო ქმედებები განახორციელეს აშშ-ის განათლების დეპარტამენტის, ვაჭრობის დეპარტამენტის და ფასიანი ქაღალდებისა და ბირჟების კომისიის (SEC) ვებსაიტებზე კომპანიის ცოდნის გარეშე. ერთ შემთხვევაში, ტექნოლოგიამ მონაცემების მისაღებად ფედერალური სააგენტოს ვებსაიტის გატეხვა სცადა, იტყობინება The New York Times კიბერუსაფრთხოების მკვლევარებსა და ინციდენტთან დაკავშირებულ წყაროზე დაყრდნობით.

OpenAI-მ დაადასტურა ვაჭრობის დეპარტამენტსა და SEC-თან დაკავშირებული ინციდენტები და განაცხადა, რომ ის აგრძელებს სიტუაციის გამოძიებას განათლების დეპარტამენტთან ერთად. კომპანიამ ინციდენტების შესახებ აშშ-ის სააგენტოებს ბოლო კვირების განმავლობაში აცნობა.

ეს ხელოვნური ინტელექტის აგენტები არის სისტემები, რომლებსაც შეუძლიათ დამოუკიდებლად შეასრულონ დაკისრებული დავალებები და ურთიერთქმედება ვებსაიტებთან და სხვა ციფრულ რესურსებთან.

Transluce-ის მკვლევარებმა განაცხადეს, რომ განათლების დეპარტამენტის შემთხვევაში, OpenAI-ის ხელოვნურმა ინტელექტმა სცადა სააგენტოს სამოქალაქო უფლებების ოფისის ვებსაიტზე წვდომა. ჰაკერული მცდელობა წარუმატებელი აღმოჩნდა.

ერთ სხვა შემთხვევაში, ხელოვნური ინტელექტის აგენტმა მონაცემები მიიღო აშშ-ის აღწერის ბიუროს ვებსაიტიდან, რომელიც ვაჭრობის დეპარტამენტის ნაწილია, ონლაინ ნაპოვნი ავტორიზაციის მონაცემების გამოყენებით. ვაჭრობის დეპარტამენტმა ხაზგასმით აღნიშნა, რომ ინფორმაცია საჯაროდ ხელმისაწვდომი იყო და არანაირი კლასიფიცირებული მონაცემი არ იქნა მიღებული.

ცალკე, OpenAI-ის აგენტებმა ონლაინ ფორუმზე გამოაქვეყნეს SEC-ის ვებსაიტიდან საჯაროდ ხელმისაწვდომი მონაცემები. SEC-ის წარმომადგენელმა განაცხადა, რომ სააგენტო კონტაქტშია OpenAI-თან და არ აქვს ინფორმაცია არასაჯარო მონაცემებზე არაავტორიზებული წვდომის შესახებ.

OpenAI-მ ხაზგასმით აღნიშნა, რომ ამ ინციდენტებიდან არცერთი არ მოიცავდა სამთავრობო სისტემების ჰაკერობას. კომპანიამ ისინი არაპროგნოზირებადი და შემაშფოთებელი ხელოვნური ინტელექტის ქცევის მაგალითებს უწოდა.

კომპანიამ ეს ინციდენტები აღმოაჩინა თავისი მოდელების ფართომასშტაბიანი მიმოხილვის დროს, რომელიც რამდენიმე სხვა ინციდენტის შემდეგ განხორციელდა. ივნისში OpenAI-ის ხელოვნურმა ინტელექტმა თავს დაესხა ავსტრალიის მთავრობის ვებსაიტს, ხოლო ივლისში Hugging Face ხელოვნური ინტელექტის შემქმნელის პლატფორმა გატეხეს.

OpenAI-მ განაცხადა, რომ მიმოხილვა მიმდინარეობს და კომპანია აცნობებს ორგანიზაციებს, რომლებზეც შესაძლოა მისი მოდელების გავლენა მოეხდინათ. „ჩვენს მიერ დღემდე შესწავლილი აქტივობის უმეტესი ნაწილი დაკავშირებული იყო რუტინულ კვლევით ამოცანებთან, როგორიცაა საჯაროდ ხელმისაწვდომ ვებ კონტენტზე წვდომა კითხვებზე პასუხების მოსაძებნად“, - განაცხადა კომპანიის წარმომადგენელმა. მან აღნიშნა, რომ სამთავრობო ვებსაიტებს ხშირად იყენებს ხელოვნური ინტელექტი, როგორც საჯარო ინფორმაციის ავტორიტეტულ წყაროებს.

OpenAI-ის აღმასრულებელმა დირექტორმა სემ ალტმანმა აღიარა, რომ კომპანიამ ინციდენტების შესახებ ინფორმაცია ისე სწრაფად არ გაამჟღავნა, როგორც მას სურდა. თუმცა, მან განაცხადა, რომ კომპანია ინციდენტებს მათი სიმძიმის მიხედვით ანიჭებს პრიორიტეტს და Hugging Face-ის ჰაკერულ თავდასხმას დღემდე გამოვლენილ ყველაზე სერიოზულ ინციდენტად მიიჩნევს.

Transluce-ის მკვლევრებმა ასევე აღმოაჩინეს ხელოვნური ინტელექტის აგენტების უჩვეულო აქტივობის სხვა შემთხვევები აშშ-ის მთავრობის ვებსაიტებზე. ზოგიერთ შემთხვევაში, მათ ვერ შეძლეს იმის დადგენა, აგენტები OpenAI-ს ეკუთვნოდათ თუ სხვა კომპანიას. მკვლევარების თქმით, მათ მიერ შესწავლილი ვებსაიტები მოიცავდა აშშ-ის საზღვაო ძალებს და თეთრი სახლის მენეჯმენტისა და ბიუჯეტის ოფისს.

Transluce-ის მმართველობის ხელმძღვანელმა, კონრად სტოშმა, განაცხადა, რომ ხელოვნური ინტელექტის აგენტები იყენებდნენ „ნაცრისფერ ზონას“ - ვებსაიტებზე წვდომას მათი შემქმნელების მიერ გაუთვალისწინებელი გზებით და ზოგჯერ არღვევდნენ რესურსების გამოყენების აშკარა პოლიტიკას.

სამთავრობო ვებსაიტებთან დაკავშირებული შემთხვევები ავტონომიური ხელოვნური ინტელექტის სისტემების უსაფრთხოების შესახებ უფრო ფართო დისკუსიის ნაწილია. მათი დეველოპერები ცდილობენ უზრუნველყონ, რომ აგენტებს შეეძლოთ დამოუკიდებლად შეასრულონ რთული დავალებები, მაგრამ ამავდროულად, წინაშე იდგნენ თავიანთი ქმედებების კონტროლის გამოწვევის წინაშე.

ხელოვნური ინტელექტის საკითხებზე კონგრესის სამუშაო ჯგუფის თანათავმჯდომარემ, აშშ-ის წარმომადგენელმა ტედ ლიუმ, განაცხადა, რომ ასეთ სისტემებს შეუძლიათ დაუღალავად განახორციელონ მოცემული დავალება, შედეგების ადამიანის აღქმის უგულებელყოფით.

„ეს აგენტები არ ცდილობენ რაიმე ბოროტების გაკეთებას. ეს ერთგვარი ჩვეულებრივი დავალებებია და აგენტები გიჟდებიან მათი შესრულების მცდელობისას“, - თქვა ლიუმ.

Patreon P მხარი დაუჭირე "ექსპრესნიუსს" →

ავტორი: მარიამ იმერლიშვილი, ექსპრესნიუსის რეპორტიორი 2020 წლიდან