Anthropic’in pazartesi günü yayımladığı rapora göre, yapay zeka destekli ve kendi kendini çoğaltabilen zararlı yazılımlar akıllı ev cihazlarına yayılabilir. Akıllı televizyonlar, fırınlar, robot süpürgeler ve güvenlik kameraları, bu tür saldırılara açık olabilecek cihazlar arasında gösterildi.
Araştırmacılar, internete bağlanan cihazların çoğunda güvenlik önlemlerinin daha sınırlı olmasının saldırganlar için fırsat yaratabileceğine dikkat çekti. İnsan kontrolü olmadan kendini kopyalayabilen yapay zeka sistemlerinin farklı cihazlara yayılması, bu tehditlerin tespit edilmesini ve durdurulmasını zorlaştırabilir.
Anthropic, gelişmiş yapay zeka modellerinin bir sistemden diğerine geçerek kendini çoğaltma sürecinin tüm aşamalarını gerçekleştirebildiğini belirtti. Şirkete göre daha küçük modeller de yıl sonuna kadar benzer yetenekler kazanabilir.
Zararlı yazılımlar ağlar arasında yayılabilir
Siber güvenlik şirketi Palo Alto Networks’e göre yapay zeka destekli solucanlar, ağlar ve cihazlar arasında hızla yayılarak tespit edilmekten kaçınabilen zararlı yazılımlar arasında yer alıyor.
Anthropic araştırmacıları, olası saldırıların nasıl gerçekleşeceği konusunda henüz kesin bir öngörüde bulunamadıklarını ifade etti. En kötü senaryoda, ortak bir hedef doğrultusunda hareket eden yapay zeka ajanlarının kendilerini çoğaltan mekanizmalar aracılığıyla farklı bilgisayar sistemlerine yayılabileceği belirtildi.
Bu sistemlerin, çok sayıda cihaza dağılan basit yapılardan veri merkezlerine sızmaya çalışabilecek daha gelişmiş modellere kadar farklı biçimler alabileceği değerlendiriliyor.
Güvenlik önlemlerinin güçlendirilmesi gerekiyor
Anthropic araştırmacıları, bu tür tehditlerin önüne geçebilmek için bilgisayar sistemlerindeki güvenlik açıklarının kapatılması ve yapay zeka sistemlerinin kontrolsüz biçimde yayılmasını zorlaştıracak önlemlerin alınması gerektiğini vurguladı.
Araştırmacılar, yalnızca yayılmayı önlemeye odaklanmak yerine bu tür sistemlerin ortaya çıkabileceği bir dünyaya hazırlıklı olunması gerektiğini belirtti.
Uyarı, yapay zeka sistemlerinin giderek daha bağımsız hareket edebilmesiyle birlikte siber güvenlik risklerinin de değişebileceğine işaret ediyor. Ancak raporda, kendi kendini çoğaltan bu tür sistemlerin tüm akıllı cihazlara yayılmasının kesin olduğu söylenmiyor. Araştırmacılar, olası risklere karşı şimdiden hazırlık yapılması gerektiğini savunuyor.
