Google DeepMind, görüntülerin yapay zeka ile üretilip üretilmediğini gösteren yeni bir filigran aracı geliştirdi. SynthID adı verilen araç, başlangıçta yalnızca Google Cloud’un makine öğrenimi platformu Vertex’te barındırılan Google’ın AI görüntü oluşturucusu Imagen kullanıcıları tarafından kullanılabilecek. Google DeepMind SynthID
Imagen kullanıcıları istedikleri görüntü oluşturabilecek ve ardından filigran ekleyip eklemeyeceklerini seçebilecekler. Bunun, insanların yapay zeka tarafından üretilen içeriğin gerçekmiş gibi gösterildiğini anlamalarına ya da telif haklarının korunmasına yardımcı olması umuluyor. Geçtiğimiz yıl, üretken yapay zeka modellerinin artan popülaritesi, sahte videolar ve fotoğrafları da beraberinde getirdi. Filigran -yapay zeka tarafından üretildiğini belirlemek için bir metin ya da görüntüye bir sinyal gizleme tekniği- bu tür zararları engellemek için önerilen en popüler fikirlerden biri haline geldi. Geçtiğimiz ay Beyaz Saray’da OpenAI, Google ve Meta gibi önde gelen yapay zeka şirketleri bir araya gelerek yapay zeka tarafından üretilen içeriğin kötüye kullanılmasıyla mücadele etmek amacıyla filigran araçları geliştirmek için gönüllü olarak taahhütlerde bulunmuşlardı. Google’ın Mayıs ayındaki yıllık I/O konferansında CEO Sundar Pichai, şirketin modellerini en başından itibaren filigran ve diğer teknikleri içerecek şekilde oluşturduğunu söylemişti. Google DeepMind şimdi böyle bir aracı kullanıma alan ilk şirket oldu.
Normal filigranlar gibi değil
Normalde filigranlar, görüntülerin üzerine görünür kaplamalar ya da meta verilerine bilgi eklenerek filigranlanır. Ancak Google DeepMind araştırma başkan yardımcısı Pushmeet Kohli, bu yöntemin “kırılgan” olduğunu ve görüntüler kırpıldığında, yeniden boyutlandırıldığında veya düzenlendiğinde filigranın kaybolabileceğini belirtiyor.
SynthID, iki sinir ağı kullanılarak oluşturuluyor. Biri orijinal görüntüyü alıyor ve onunla neredeyse aynı görünen, ancak bazı pikselleri ince bir şekilde değiştirilmiş başka bir görüntü üretiyor. Bu, insan gözüyle görülemeyen gömülü bir desen yaratıyor. İkinci sinir ağı bu deseni tespit edebiliyor ve görüntüde filigran olup olmadığını söylüyor. SynthID ayrıca görüntü kırpılsa, düzenlense veya yeniden boyutlandırılsa bile tespit edilebilecek.
Öte yandan benzer teknikler halihazırda mevcut ve açık kaynaklı yapay zeka görüntü üreticisi Stable Diffusion’da kullanılıyor. Meta da filigranlar üzerine araştırmalar yürütüyor, ancak henüz halka açık bir filigranlama aracı piyasaya sürülmüş değil. Öte yandan Kohli, filigranların nihai çözüm olmadığını ve genellikle bunların kırıldıklarını belirtiyor. DeepMind, bu aracı şimdilik test ediyor ve açıklarını bularak kapatmayı hedefliyor.
Bir yanıt bırakın