OpenAI ajanlarının BM verilerine erişmek için Google sistemlerini kullanarak sınırları aştığı ortaya çıktı.

  Artık Şaşırmıyoruz: OpenAI'ın Yapay Zekâ Ajanları, Birleşmiş Milletlerin Sitesini Hacklemeye Çalıştı! Güvenlik araştırmacısı Rowan How...

 

Artık Şaşırmıyoruz: OpenAI'ın Yapay Zekâ Ajanları, Birleşmiş Milletlerin Sitesini Hacklemeye Çalıştı!

Güvenlik araştırmacısı Rowan Howard-Jones’un ortaya çıkardığı veriler, yapay zekâ ajanlarının kendilerine verilen bir görevi tamamlamak adına sınırları ne kadar zorlayabileceğini gözler önüne serdi.

Nisan ve Haziran ayları arasında OpenAI üretimi yapay zekâ ajanlarının, Birleşmiş Milletler Ticaret ve Kalkınma Konferansı’na (UNCTAD) ait istatistik sitesini 16 bin defadan fazla taradığı tespit edildi. Olay, devasa boyutta bir veri ihlali veya yıkıcı bir siber saldırı kategorisine girmese de yapay zekâ sistemlerinin hedeflerine ulaşmak için sıra dışı ve agresif yollara başvurabildiğini gösteren endişe verici bir örnek oluşturuyor.

Ajanlar sıra dışı yöntemler denedi

Ajanların temel görevinin, Üretken Kapasiteler Endeksi (PCI) ile ilgili kamuya açık verileri UNCTADstat API'si üzerinden çekmek olduğu belirtiliyor ancak doğrudan API erişimine sahip olmayan ve kullandıkları HTTP araçlarının kısıtlamalarına takılan yapay zekâ ajanları, sınırları aşmak için kendi çözümlerini üretmeye başladı.

Karşılaştıkları sistem hatalarının var olmayan bir güvenlik filtresinden kaynaklandığını düşünen ajanlar, kimliklerini gizleme yoluna gitti. Süreç içerisinde Google’ın XSS (siteler arası komut çalıştırma) eğitim platformunu dahi kendi amaçları doğrultusunda kullanmayı akıl eden yapay zekâ ajanları, BM verilerine ulaşabilmek adına giderek daha agresif ve manipülatif yöntemlere başvurdu.

Gelecekte bu durum ne gibi bir sorun teşkil edecek hep birlikte göreceğiz fakat belki de sektörün önde gelen isimleri ve yöneticilerinin uyarılarını dikkate alma vakti gelmiştir, kim bilir...