Yapay zeka (AI) ve makine tahsili (ML) bir müddettir insan faaliyetlerinin çeşitli alanlarını dönüştürürken, bu dönüşüm potansiyeli şimdi tam manasıyla gerçekleşmiş değil. ML tabanlı teknolojiler dolandırıcılıkla uğraştan iş süreçlerinin kıymetlendirilmesine ve tekrar düzenlenmesine, test süreçlerinin güzelleştirilmesine ve mevcut meselelere yeni tahliller geliştirilmesine artan bir halde yardımcı olmaktadır.
Ancak, birden fazla yıkıcı yenilik üzere makine tahsilinin de kimi dezavantajları vardır.
İş dünyası, kritik altyapılar ve şahsî hayatımız her geçen gün dijital platformlarla daha da bütünleştikçe, yeni riskler de beraberinde gelecektir. Saldırganlar ML teknolojisini pek çok farklı formda kullanabilirler: ziyanlı yazılımlarını güçlendirmek, muhakkak kurbanları hedefleyerek pahalı bilgi elde etmek, sıfır gün açıklarını tespit etmek yahut botnetler üzere ele geçirilmiş altyapıları korumak üzere.
Meşru kuruluşlar tarafından konumlandırılan makine tahsili tahlilleri de bir başka ilgi cazibeli maksattır. Saldırganlar ziyanlı bilgi kümeleri oluşturup yararlı sistemlerin yanlış kararlar vermesi sonucunda mevcut ortamın yanlış bir görünümünü sunarak olası bir kaosa sebebiyet verebilirler.
Çeviriler ve hedefleme mevzularında yanlış ML kullanımı
Bu senaryoların teoriden gerçeğe dönüştüğünün birinci işaretleri görülmeye başlandı. Bunun güzel bir örneği, iletilerini pek çok çeşitli lokal lisanda geliştirmek için yasal ML tabanlı çeviri hizmetlerini makus gayeyle kullanan spamcılardır.
ML gibisi işaretler gösteren dolanımdaki bir öteki örnekse, bu tip bir teknolojiyi hedefleme düzeneğini geliştirmek maksadıyla kullandığından kuşku edilen son vakitlerin yaygın indirme aracı Emotet’tir. Her gün binlerce kurbanı etkilese de, şaşırtan bir formda honeypot ve botnet avcılarından kaçınmak konusunda epey tesirli olabilmektedir.
Emotet bunu elde etmek üzere potansiyel kurbanlarının uzaktan ölçüm bilgilerini toplar ve bunları tahlil için saldırganın C&C sunucusuna gönderir. Ziyanlı yazılım girilen bu bilgilere dayanarak sadece yük ünitesinde yer alan modülleri seçmekle kalmaz, ayrıyeten insan operatörlerini araştırmacılar tarafından kullanılan sanal makinelerden de ayırt edebilir.
Buna benzeri savunma sistemleri epeyce karmaşık ve kıymetli olacağından, Emotet operatörlerinin makine tahsili olmadan ziyanlı yazılım kabiliyetlerini bu istikamette geliştirebilmeleri için inanılmaz bir kaynak yatırımı yapmaları gerekecekti.
Yeterli katman yoksa, kâfi güvenlik de yok
ML modelini ziyanlı girdilerle ya da makûs maksatlı makine tahsiliyle karıştırma, gelecekte bilhassa siber güvenlik alanında karşılaşacağımız yükselen bir tehdit olacak.
Eğer sadece ML tabanlı daha az gelişmiş tarama motorları saldırganlar tarafından yanlış tercihler yapmak üzere yönlendirilirlerse, bu durum amaç alınan şirketin güvenliğini ortadan kaldırarak çok önemli hasarlara neden olabilir.
Juraj Jánošík tarafından kaleme alınan bu makalenin tamamını buradaki ilişkiden okuyabilirsiniz.
