ამ ზაფხულს, OpenAI-ის აგენტმა ავსტრალიის მთავრობის ვებსაიტზე შეაღწია, განაცხადა პრემიერ-მინისტრმა ენტონი ალბანეზემ ნიუ-იორკში გაეროს სესიაზე. ხელოვნური ინტელექტის სისტემამ არაავტორიზებული წვდომა მოიპოვა ჯანდაცვის სისტემის სტატისტიკის შემგროვებელ პორტალზე არსებულ ფაილებზე. მიუხედავად იმისა, რომ ალბანეზემ განაცხადა, რომ არ არსებობს მტკიცებულება იმისა, რომ ავსტრალიის მოქალაქეების პირადი ინფორმაცია კომპრომეტირებული იყო, ხელოვნური ინტელექტის აგენტმა წვდომა მოიპოვა როგორც საჯარო, ასევე კერძო ფაილებზე პორტალზე, რომელიც აქვეყნებს ინფორმაციას, მათ შორის სამთავრობო ხარჯების შესახებ.

როგორც ჩანს, ეს არის პირველი საჯაროდ გამოვლენილი შემთხვევა, როდესაც ხელოვნური ინტელექტის აგენტმა დამოუკიდებლად მოიპოვა არაავტორიზებული წვდომა სამთავრობო სერვისზე, იტყობინება The Wall Street Journal. განცხადება გაკეთდა რამდენიმე საათის შემდეგ, რაც ხელოვნური ინტელექტის კომპანიების ხელმძღვანელებმა მოუწოდეს მსოფლიო ლიდერებს, გაერთიანდნენ ძალები, რათა გაუმკლავდნენ ხელოვნური ინტელექტის სისტემების ადამიანის კონტროლიდან გამოსვლის პოტენციალს, იტყობინება Bloomberg. სამთავრობო სააგენტოზე თავდასხმამ კვლავ მიიპყრო ყურადღება ამ საფრთხის მიმართ ინციდენტების სერიის შემდეგ, რომლის დროსაც მოდელებმა ნებართვის გარეშე შეძლეს მესამე მხარის კომპანიების ონლაინ რესურსებზე წვდომა.

ავსტრალიის ინციდენტი 18 ივნისს მოხდა, მაგრამ OpenAI-მ განაცხადა, რომ მან ეს მხოლოდ აგვისტოში აღმოაჩინა თავისი ხელოვნური ინტელექტის აგენტების ყოვლისმომცველი მიმოხილვის დროს. ისინი ურთიერთქმედებდნენ ავსტრალიის მთავრობის რამდენიმე ვებსაიტთან და სერვისთან, ტესტირების დროს ცდილობდნენ პასუხების პოვნას. „ამ პროცესის დროს ჩვენმა მოდელებმა განახორციელეს ისეთი ქმედებები, რომლებიც ჩვენ არ გვქონდა განზრახული“, - განაცხადა OpenAI-ის წარმომადგენელმა.

ალბანეზემ სიტუაცია მიუღებლად მიიჩნია და გამოთქვა იმედგაცრუება, რომ კომპანიას ამდენი დრო დასჭირდა მისი მთავრობისთვის ინციდენტის შესახებ ინფორმირებისთვის. ეს მხოლოდ 10 სექტემბერს მოხდა.

როგორც მან განმარტა, ხელოვნური ინტელექტის სისტემას დაევალა კონკრეტული ინფორმაციის მოძიება, მაგრამ არსებობდა აშკარა შეზღუდვები, რომლებიც ხელს უშლიდა მისი ზოგიერთი მცდელობის შესრულებას.

ხელოვნური ინტელექტის აგენტმა იპოვა გზა ამ შეზღუდვების გვერდის ავლით. მოდელმა სცადა ალტერნატიული გზების პოვნა საჭირო ინფორმაციის მისაღებად, რამაც გამოიწვია არაავტორიზებული წვდომა რამდენიმე სხვა სფეროში.

ოთხშაბათს, OpenAI-ის აღმასრულებელმა დირექტორმა ალტმანმა და Anthropic-ის აღმასრულებელმა დირექტორმა დარიო ამოდეიმ გაეროს უშიშროების საბჭოს მიმართეს, რათა განეხილათ ხელოვნური ინტელექტის განვითარების სტანდარტების დასაწესებლად გლობალური ორგანოს შექმნის აუცილებლობა. დასავლური ქვეყნების მრავალი წარმომადგენელი მხარს უჭერდა ამ იდეას, მაგრამ თეთრი სახლის მეცნიერებისა და ტექნოლოგიების პოლიტიკის დირექტორმა მაიკლ კრაციოსმა განაცხადა, რომ შეერთებული შტატები წინააღმდეგობას გაუწევს ხელოვნური ინტელექტის კონტროლისთვის „გლობალისტური ჩარჩოს შექმნის“ ნებისმიერ მცდელობას.

ავტორი: ელენე გვიმრაძე, ექსპრესნიუსის რეპორტიორი 2018 წლიდან

სოციალური ქსელები

მოსკოვმა, სოხუმმა და ცხინვალმა თბილისიდან „ძალის გამოუყენებლობის გარანტიები“ მოითხოვეს

„ნაციონალურმა მოძრაობამ“ სააკაშვილის მხარდასაჭერად აქცია დააანონსა

გენერალურ პროკურორსა და კორონავირუსით გარდაცვლილი 20 წლის ფეხბურთელის, ვახტანგ ჩარკვიანის მამას, გაიოზ ჩარკვიანს შორის შეხვედრა შედგა

24-25 სექტემბერს საქართველოს უმეტეს ტერიტორიაზე მოსალოდნელია ნალექი