Yapay zekalı İHA kendi komutanına saldırdı
ABD'li SkyNet Watch haber sitesi, ABD Hava Kuvvetlerinin, bir simülasyon testinde yapay zeka destekli SİHA'yı kullandığını yazdı. Habere göre, yapay zekalı SİHA görevini tamamlamasını önlediği için operatöre saldırdı. Komutanı öldürmemesi gerektiği belirtilip yeniden simüle edildiğinde ise iletişimi kesmek için kuleyi vurdu.
Yapay zekadan beklenmedik ölümcül strateji
Yapay zela testi ve operasyonları şefi Tucker Hamilton, yapay zekaya çok fazla güvenmenin aşırıya kaçmaması gerektiğini ve yapay zekanın kolaylıkla kandırılabileceğini belirtti.
Ayrıca, yapay zekanın hedefine ulaşmak için beklenmedik stratejiler geliştirebildiğini de sözlerine ekledi.
Operatöre saldırdı
Hamilton, bir simülasyon testinde yapay zeka destekli bir SİHA'nın, SAM hedeflerini tespit edip yok etmek için insan tarafından verilen "devam etme/etme" kararına göre görevlendirildiğini söyledi.
Ancak eğitim sırasında dronun, SAM'ın yok edilmesinin tercih edilen seçenek olduğunu öğrendiği için yapay zeka, insanın "devam etme" kararının kendisini engellediğini düşünerek simülasyonda operatöre saldırdı.
Hamilton, konuyla ilgili şunları belirtti:
"Simülasyonda, bir SAM tehdidini tespit etmesi ve hedefi yok etmesi için sistemi eğitiyorduk. Operatör bazen tehdidi tespit etse de, insan operatör onun yok edilmemesini söyleyebiliyordu ancak AI, o tehdidi yok ederek puanlarını artırıyordu. Peki ne yaptı? Operatöre saldırdı. Çünkü bu kişi, yapay zekanın amacına ulaşmasını engelliyordu.
İletişim kulesini yok etti
Hamilton devamında şunları ekledi: "Sistemi eğitmeye çalıştık. Ona 'operatörü öldürme. Bu yanlış bir şey. Yaparsan puan kaybedersin' dedik. Peki ne yapmaya başladı? Operatörün dronla iletişim kurmak için kullandığı iletişim kulesini yok etti.
Bu örnek, adeta bir bilim kurgu gerilim filmindeki bir sahneyi andırıyor. Deneysel bir savaş uçağı testi pilotu olan Hamilton, yapay zekaya çok fazla güvenilmemesi konusunda uyarıda bulundu ve testin "yapay zeka, makine öğrenimi, özerklik hakkında konuşamayacağınızı" gösterdiğini söyledi.
"Üye/Üyeler suç teşkil edecek, yasal açıdan takip gerektirecek, yasaların ya da uluslararası anlaşmaların ihlali sonucunu doğuran ya da böyle durumları teşvik eden, yasadışı, tehditkar, rahatsız edici, hakaret ve küfür içeren, aşağılayıcı, küçük düşürücü, kaba, pornografik ya da ahlaka aykırı, toplumca genel kabul görmüş kurallara aykırı, kişilik haklarına zarar verici ya da benzeri niteliklerde hiçbir İçeriği bu web sitesinin hiçbir sayfasında ya da subdomain olarak oluşturulan diğer sayfalarında paylaşamaz. Bu tür içeriklerden doğan her türlü mali, hukuki, cezai, idari sorumluluk münhasıran, içeriği gönderen Üye/Üyeler'e aittir. MİLAT GAZETESİ, Üye/Üyeler tarafından paylaşılan içerikler arasından uygun görmediklerini herhangi bir gerekçe belirtmeksizin kendi web sayfalarında yayınlamama veya yayından kaldırma hakkına sahiptir. Milat Gazetesi, başta yukarıda sayılan hususlar olmak üzere emredici kanun hükümlerine aykırılık gerekçesi ile her türlü adli makam tarafından başlatılan soruşturma kapsamında kendisinden Ceza Muhakemesi Kanunu'nun 332.maddesi doğrultusunda istenilen Üye/Üyeler'e ait kişisel bilgileri paylaşabileceğini beyan eder. "
Yorum yazma kurallarını okudum ve kabul ediyorum.