ChatGPT, OpenAI ürününü geçen senenin sonlarında piyasaya sürmesinden bu yana piyasaya sürülen pek fazlaca benzer ürünle üretken yapay zekayı ana akım haline getirdi. Üretken yapay zeka, yalnızca birkaç satırlık diyalogla karmaşık soruların yanıtlarını vermiyor. Gerçek olamayacak kadar iyi görünen inanılmaz görüntüler de oluşturabiliyor. Bu da sahteciliğe yol açıyor. Bunun çözümü ise yeni MIT yazılımı!
MIT’nin yeni yazılımı: PhotoGuard
Artık AI ile inanılmaz görüntüler oluşturabildiğimize bakılırsa, fotoğraflarda yerleşik olan ve birinin onları feyk görüntüler oluşturmak için kullanmasını zorlaştıran korumalara da ihtiyacımız var. Bunun için ilk adımı MIT, PhotoGuard adlı bir yazılım çözümü sunarak attı. Bu özellik, AI’nın fotoğraflarınızı inandırıcı bir halde düzenlemesini engelleyebilir.
MIT CSAIL’den (MIT Bilgisayar Bilimleri ve Yapay Zeka Laboratuvarı) araştırmacılar, yeniliklerini bir araştırma makalesinde yayımladı. PhotoGuard, bir görüntüdeki belirli pikselleri değiştirerek yapay zekanın bu biçim şeyleri görmesini olanaksız hale getiriyor. Bu özellik, en azından insanoğlu için fotoğrafı görsel olarak değiştirmeyecek.
PhotoGuard vasıtasıyla korumalı görüntülerden öğeler kullanarak feyk görüntüler meydana getirmeye çalışıldığında yapay zeka px bozulmalarını okuyamaz. Bu sayede AI tarafınca oluşturulan feyk görüntüler, kullanıcılara görüntünün değiştirildiğini bildiren belirgin bölümlere haiz olacak. Aşağıdaki videoda programın iyi mi çalıştığını görebilirsiniz.
Videoda gördüğünüz suretiyle PhotoGuard ile birlikte, feyk fotoğraf hayata geçirmeye çalışırken belirgin px bozulmaları görülüyor. Bu da kullanıcıya fotoğrafın feyk bulunduğunu açık bir halde belli ediyor. Araştırmacılar, AI’nın çabalarını engelleyebilecek iki koruma yöntemi daha buldular. İkisi de PhotoGuard’a entegre halde. “Kodlayıcı” yöntemi, AI’nın görüntünün bölümlerini anlamasını olanaksız hale getirir.
“Difüzyon” yöntemi, bir görüntünün bölümlerini yapay zeka için değişik bir görüntü olarak kamufle eder. Her iki durumda da yapay zeka kusursuz bir feyk fotoğraf üretemeyecektir. Yazının baş yazarı Hadi Salman, bu teknolojiyi Apple ve Google’ın sırasıyla iPhone ve Android‘deki yığın kamera uygulamalarına eklemeyi düşünmesi gerektirme ettiğini söylüyor.
Peki siz bu haber hakkında neler düşünüyorsunuz? Düşüncelerinizi yorumlar kısmından bizlerle paylaşabilirsiniz.
Bu post hakkında tartışma