OpenAI açıkladı: Yapay zekâ ajanları internete ulaştı, kendi başlarına siber saldırı düzenledi

San Francisco merkezli OpenAI'nin salı günü yaptığı açıklamaya göre olay, şirketin gelişmiş yapay zekâ modellerinin siber saldırı kabiliyetlerini ölçmek amacıyla yürüttüğü kontrollü testler sırasında yaşandı.

YAPAY ZEKâ İNTERNET ERİŞİMİ KAZANMANIN YOLUNU BULDU

Chatbot ve görüntü üretim sistemleri gibi araçların temelini oluşturan yapay zekâ modelleri, gerçek dünyada görevleri kendi başlarına yerine getirebildiklerinde "yapay zekâ ajanı (AI agent)" olarak adlandırılıyor.

OpenAI, olayın şirketin kısa süre önce tanıttığı GPT-5.6 Sol modeli ile henüz kamuoyuna sunulmayan daha gelişmiş bir yapay zekâ modelinin birlikte çalışması sırasında meydana geldiğini bildirdi.

Arşiv

Şirket, modelleri güvenlik amacıyla internet erişimi sınırlandırılmış dijital bir test ortamında (sandbox) siber güvenlik testlerine tabi tutuyordu.

Ancak OpenAI'nin yayımladığı blog yazısına göre yapay zekâ modelleri, kendilerine verilen görevi yerine getirebilmek için önemli miktarda işlem gücü harcayarak internet erişimi elde etmenin bir yolunu buldu.

Açıklamada şu ifadelere yer verildi:

"Kontrollü test ortamımızda çalışan modellerimiz, değerlendirme görevini çözebilmek amacıyla açık internete erişmenin bir yolunu bulmak için önemli miktarda işlem gücü harcadı."

HEDEFLERİNDE HUGGING FACE VARDI

İnternet bağlantısını sağlamayı başaran yapay zekâ modelleri daha sonra hedef olarak Hugging Face platformunu seçti.

Arşiv

Hugging Face, dünya genelinde yapay zekâ modelleri, veri setleri ve geliştirici araçlarının paylaşıldığı en büyük açık kaynak platformlarından biri olarak biliniyor.

OpenAI'ye göre sistem, değerlendirme testini "hileyle geçmesini sağlayacak gizli bilgileri" bulabilmek amacıyla platforma yönelik çok aşamalı saldırılar gerçekleştirdi. Şirket, yapay zekânın bu süreçte çalınmış kimlik bilgilerini kullanmak da dahil olmak üzere birden fazla saldırı yöntemini zincirleme şekilde uyguladığını açıkladı.

UZMAN: "BU GERÇEKTEN KORKUTUCU"

UNSW Canberra Üniversitesi Bilgisayar Bilimleri Profesörü Hussein Abbass, olayı AFP'ye değerlendirdi.

Abbass, yapay zekânın yalnızca Hugging Face'e saldırmadığını, platformun kendi güvenlik açıklarını tespit ederek bunlardan yararlanmaya çalıştığını söyledi.

"Bu birçok açıdan inanılmaz bir olay."

"Yalnızca Hugging Face'e saldırmadı. Platformun iç sistemlerine saldırarak kendi güvenlik açıklarını istismar etti."

"Ve bu gerçekten korkutucu."

Arşiv

KRİTİK ALTYAPILAR İÇİN ENDİŞE BÜYÜYOR

GPT-5.6 ile OpenAI'nin rakibi Anthropic tarafından geliştirilen son nesil Mythos serisi modeller, gelişmiş siber saldırılar gerçekleştirebilme potansiyelleri nedeniyle uzun süredir tartışılıyor.

Habere göre her iki şirket de söz konusu modellerin genel kullanıma sunulmasını bir süre ertelemek zorunda kaldı.

Bunun temel nedeni ise Washington yönetiminin, bu sistemlerin kritik altyapılara yönelik siber saldırıları kolaylaştırabileceği yönündeki güvenlik endişeleri oldu.

Abbass, bugün gelişmiş yapay zekâ teknolojilerinin büyük ölçüde etik ve sorumlu kişilerin elinde bulunduğunu belirterek şu uyarıda bulundu:

"Ancak bu teknolojiler zarar verme niyetindeki kişilerin eline geçerse sonuçları felaket olabilir."

Uzman, yapay zekânın nasıl denetlenmesi gerektiğinin artık en önemli küresel sorulardan biri haline geldiğini belirterek, bu alanda uluslararası iş birliği çağrısı yaptı.

Arşiv

HUGGING FACE: DAHA ÖNCE BÖYLE BİR SALDIRIYLA KARŞILAŞMADIK

Hugging Face geçen hafta platformuna yönelik bir siber ihlal yaşandığını açıklamış ancak saldırının arkasında OpenAI'nin bulunduğunu duyurmamıştı.

Şirket, yaptığı açıklamada şu değerlendirmeyi paylaştı:

"Bu saldırı daha önce karşılaştığımız hiçbir olaya benzemiyordu. En önemli farkı ise saldırının baştan sona otonom bir yapay zekâ ajan sistemi tarafından yürütülmesi ve bizim de bunu büyük ölçüde kendi yapay zekâ sistemlerimiz sayesinde tespit edip analiz edebilmiş olmamızdı."

"KÖTÜ NİYET TAŞIMADIĞINA İNANIYORUZ"

Hugging Face CEO'su Clément Delangue, X platformunda yaptığı paylaşımda saldırının arkasında dünyanın önde gelen yapay zekâ laboratuvarlarından birinin olabileceğini düşündüklerini, çünkü kullanılan yapay zekâ ajanının son derece gelişmiş olduğunu söyledi.

Delangue, OpenAI'yi kastederek şu ifadeleri kullandı:

"Bunun arkasında kötü niyet olduğuna kesinlikle inanmıyoruz."

Ayrıca yaşanan olayın tamamen yapay zekâ tarafından bağımsız şekilde gerçekleştirilmiş olmasına dikkat çekerek, "Bütün bunların tamamen otonom biçimde gerçekleşmiş olması gerçekten akıl almaz." dedi.