2024 yılı dünyada pek çok kimse tarafından “süper seçim yılı” olarak ifade ediliyor. Çünkü bu yıl dünya çapında 60’tan fazla ülkede ve Avrupa Birliği’nde yaklaşık 4 milyara yakın insan sandığa gidiyor. Dolayısıyla 2024 yılı tarihteki en büyük seçim yılı olarak nitelendiriliyor.
Seçimlerin yapıldığı ve yapılacağı 60’tan fazla ülkenin en çok tartıştığı konuların başında seçimlerin güvenliği geliyor. Yeni dünyada bazı ülkelerin seçimleri internet ortamında veya dijital sistemlerde gerçekleştirmesi, söz konusu seçim güvenliğini daha önemli hale getiriyor. Seçim sistemlerine siber saldırılar, seçmen bilgilerinin sızdırılması, seçim sürecinde dijital altyapıya müdahaleler ve seçmen davranışlarını etkileyecek siber faaliyetler, önemli konular arasında yer alıyor.
Bunlara ek olarak son dönemlerde çokça tartışılan yapay zeka destekli güvenlik tehditleri de var. Sosyal medyada ve dijital ortamda yanlış bilgiler, yalan haberler, bilgi operasyonları (IO), dezenformasyon ve deepfake gibi yapay zeka destekli risklerle karşı karşıya olduğumuz bir süreçteyiz.
Yapay Zeka Destekli Sahte İçerikler
Dünyada son dönemlerde yapay zekanın gelişmesi ve üretken yapay zeka (Generative AI) gibi teknolojilerin pek çok alanda yer edinmesiyle birlikte devletlerin maruz kaldığı siber tehditler de çoğaldı. Uzun yıllardır mevcut olan siber tehditlerin deepfake, dezenformasyon, çevrimiçi etki operasyonları ve üretilmiş sahte içeriklerle birlikte çok daha karmaşık ve tehlikeli hale geldiğini görüyoruz.
Bu durum küresel anlamda bir tehlikeye de işaret ediyor. Nitekim Dünya Ekonomik Forumu (WEF) tarafından yayınlanan 2024 Küresel Riskler Raporuna göre, yanlış bilgi ve dezenformasyon kısa vadede dünyadaki en önemli tehditler olarak değerlendiriliyor. Dünya Ekonomik Forumu’nun çıkarımlarına göre bu gibi yapay içerikler önümüzdeki iki yıl içinde dünyada tüm bireyleri manipüle edecek, ekonomilere zarar verecek ve toplumları çeşitli şekillerde bölecek gibi görünüyor.
Küresel Riskler Raporu 2024'te de ayrıntılı olarak belirtildiği üzere, gelişmiş ses klonlamadan sahte web sitelerine kadar çeşitli şekillerde yapay zeka destekli tehditlerin ülkeleri nasıl etkilediğini gördük. Bunlara ek olarak, dünya çapında yapılacak seçimler süresince ilgili ülkelerde dezenformasyonun, hükümetlerin itibarını zedeleyerek ve meşruiyetini sorgulayarak toplumları istikrarsızlaştırabileceği konusunda da endişeler var.
Benzer bir çalışma hazırlayan siber güvenlik şirketi CrowdStrike'a göre, ChatGPT gibi üretken yapay zeka araçlarının yükselişi, çok sayıda tehdit aktörünün 2024'te dünya çapındaki seçimleri hedefleme potansiyelini artırmış durumda. Şirketin 2024 Küresel Tehdit Raporu’na göre, hem devlet destekli hackerlar hem de hacktivistler, ChatGPT ve diğer yapay zeka araçlarını giderek daha fazla kullanarak çok daha geniş bir ölçekte siber saldırılar, dolandırıcılık faaliyetleri, çevrimiçi bilgi operasyonları yürütebiliyor. Raporda, özellikle devletlere bağlı siber tehdit aktörlerinin üretken yapay zeka kullanımlarını geliştirmeye devam etmeleri halinde, "yüksek kaliteli dezenformasyon kampanyaları yürütme” becerilerinin artacağı vurgulanıyor.
Deepfake ve Seçimlere Müdahale
Seçimlerde siyasi partilerin ve liderlerin kampanyaları güven üzerine kurulduğundan dolayı, seçmenlere gönderilen sahte e-postalar, yapay zeka tarafından oluşturulan dezenformasyon veya yalan içerik ve sahte sosyal medya hesapları aracılığıyla siyasi adayların kimliğine bürünen mesajlar gibi potansiyel saldırılar, bu kampanyalara zarar veriyor.
Seçimlere giden ülkelerdeki yapay zeka tehdidi, özellikle yanlış bilgilerin deepfake ve yapay zeka tarafından oluşturulan sahte içerik yoluyla yayılması konusunda endişeleri artırdı. Yapay zekan teknolojisinin siyasi adayların seslerini ve görüntülerini taklit etmek veya sahte içerik oluşturmak için kullanılması tehlikeye işaret ediyor.
Örneklere bakıldığında, özellikle devlet başkanları ve siyasi liderlere yönelik olarak hazırlanan yapay zeka destekli sahte içerikler öne çıkıyor. 14 Şubat’taki Endonezya seçimleri öncesinde, Endonezya’nın merhum Cumhurbaşkanı Suharto’nun bir zamanlar başkanlığını yaptığı siyasi partiyi savunduğu bir video ülke çapında viral olmuştu. Yapay zeka ile yüzünü ve sesini klonlayarak oluşturulan deepfake video, yalnızca X’te 4,7 milyon görüntülemeye ulaştı. Diğer yandan, Pakistan’da ulusal seçimler sırasında eski başbakan İmran Han’ın, partisinin seçimleri boykot ettiğini duyurduğu sahte bir videosu çıkmıştı.
Bu konuda bir başka örnek ise ABD’de yaşanmıştı. Bu örnek Amerikalılara yönelik ciddi tehdit olarak algılanıyor. Geçtiğimiz Ocak ayında, ABD Başkanı Joe Biden’ın New Hampshire halkına kendilerinden başkanlık önseçimlerinde oy kullanmamalarını istediğine dair bir çağrı kaydı (robocall) gönderilmişti. Deepfake ile yapılan bu çağrıda sesi klonlanan Biden vatandaşlara ön seçimlerde değil, Kasım seçimlerinde oy kullanmaları gerektiğini söylüyordu.
Yapay zeka ile ses klonlama örneğini ülkemizde de gördük. Cumhurbaşkanı Recep Tayyip Erdoğan’ın sesini yapay zeka ile taklit edip bazı iş insanları ve üst düzey kamu yöneticilerini arayarak çıkar sağlamaya çalışan kişinin yakalandığı haberlere yansımıştı. Söz konusu eylemin seçim sürecinde vatandaşları manipüle etmek ve siyasi partilerin itibarını olumsuz etkilemek için yapılabileceği düşünüldüğünde, yapay zeka destekli tehditlerin ülkemizdeki boyutu daha net anlaşılabilir.
Görüldüğü gibi, bütün devletlerin özellikle seçim süreçlerinde yapay zeka destekli siber operasyonlara ve dezenformasyon faaliyetlerine maruz kalması hayati önem taşıyor. Bu tehditler seçim süreçlerine zarar verdiği gibi insan davranışına ve bir ülkenin siyasi kaderine de olumsuz etki edebiliyor.
Mücadele Nasıl Olmalı?
İnternet ve sosyal medyanın giderek daha çok yaygınlaştığı günümüzde, yapay zeka destekli uygulamaların da kendine yer edinmesi ve bilgi operasyonlarının artması, kritik bir konuyu da beraber getiriyor. Siber tehditlerle birlikte üretken yapay zeka teknolojilerini kötüye kullanan uygulamalar, sahte sosyal medya içerikleri, deepfake faaliyetleri gibi tehditler, devletlerin, şirketlerin ve bireylerin birlikte mücadele etmesini gerektiriyor.
Özellikle dünya vatandaşları olarak seçim sürecini yaşadığımız günlerde, seçmen davranışlarını etkileyecek tüm yapay zeka destekli sahte içeriklerin farkında olmak ve bunlarla mücadele adına çalışmalar yapmak gerekiyor. Bireylerin bu konudaki farkındalığı, her alanda olduğu gibi bu alanda da oldukça kritik önemde.
Yapay zeka destekli sahte içeriklerin seçmenler tarafından fark edilip edilmediğine dair araştırmalar, meselenin ciddiyetini gösteriyor. ABD’de yapılan bir araştırmaya katılan vatandaşların sadece yüzde 33’ü yapay zeka tarafından oluşturulan görüntüleri doğru bir şekilde tespit edebilmiş. Yapay zeka sesine sahip bir klip oynatıldığında ise vatandaşların yüzde 20’si bunun insan mı yoksa yapay zeka mı olduğundan emin değilken, yüzde 41'i yapay zeka sesinin gerçekten insan olduğuna inanmış.
Yapay zeka ürünleriyle bilinen şirketlerin, deepfake ve dezenformasyon gibi tehditlerle mücadele için önemli ölçüde çaba sarf etmeleri gerekiyor. Bu konuda geçtiğimiz aylarda önemli bir adım atıldı. Büyük teknoloji şirketlerinden oluşan bir koalisyon, demokratik seçimlerde seçmenleri manipüle etmek veya aldatmak için deepfake ve diğer yapay zeka türlerinin kötü niyetli kullanımını sınırlamaya dair taahhütte bulunmuşlardı.
Münih Güvenlik Konferansı'nda açıklanan ve aralarında Adobe, Google, IBM, OpenAI, Microsoft, Amazon, Meta, TikTok ve X'in de bulunduğu 20 teknoloji devinin yaptığı anlaşmanın, dünya çapında seçmenleri kandırmak için üretken yapay zeka, büyük dil modelleri (LLM) ve diğer yapay zeka araçlarının kullanılmasını zorlaştıracağı düşünülüyor. Anlaşmaya göre şirketler, sentetik olarak oluşturulan veya manipüle edilen medyayı daha hızlı tespit edebilecek, doğrulayabilecek veya etiketleyebilecek araçların geliştirilmesini destekleyecekler. Bu anlaşma, geldiğimiz noktada çok önemli bir adım olarak görülmelidir.
Sonuç olarak devletler, şirketler ve bireyler, yapay zeka destekli güvenlik tehditlerinin farkında olmaları gerekiyor. Sadece seçimlerde değil, her alanda bu tehditler varlığını sürdürüyor. Uzmanlar ve araştırma raporlarının bulguları, gelecekte de daha büyük risklerle karşı karşıya kalınacağını gösteriyor.
