AI tarafından üretilen görselleri ayırt etmek, her geçen gün daha da zorlaşıyor. OpenAI, bu durumu değiştirmek için Google ile iş birliği yapıyor. Şirket, içerik kökenini (provenance) belirleme mekanizmasında önemli güncellemeler yaparak, görsellerin nereden geldiğini ve AI tarafından üretilip üretilmediğini anlamayı kolaylaştırmayı hedefliyor.
Neler Değişiyor?
OpenAI, 2024 yılından bu yana ürettiği görsellere, İçerik Kimlik Bilgileri (Content Credentials) adı verilen bir metadata eklemekte. Bu metadata, her üretilen görselin nasıl oluşturulduğunu gösteriyor. OpenAI, artık C2PA Uyumlu Üretici (C2PA Conforming Generator) konumuna geldi. Bu, diğer platformların OpenAI tarafından üretilen içeriklerle karşılaştıklarında bilgileri güvenilir bir şekilde okuyup bulabilecekleri anlamına geliyor.
Daha büyük bir gelişme ise Google ile yapılan ortaklık. OpenAI, ChatGPT ve OpenAI API aracılığıyla üretilen görsellere, Google DeepMind’ın SynthID su işareti eklemeyi planlıyor. Metadata'nın aksine, ekran görüntüsü alındığında veya bir görsel yeniden yüklendiğinde kaybolmayan, doğrudan görselin içine yerleştirilen görünmez bir su işareti bulunmakta. Bu sistem, genellikle metadata tabanlı tespiti silen dönüşümlerden sağ kurtulacak şekilde tasarlandı.
Görselin AI Tarafından Üretilip Üretilmediğini Nasıl Kontrol Edebilirsiniz?
OpenAI, openai.com/verify adresinde bir halka açık doğrulama aracını tanıtıyor. Kullanıcılar, bir görseli yükleyerek, hem İçerik Kimlik Bilgileri hem de SynthID su işaretleri olup olmadığını kontrol edebilir. Ancak, önemli bir uyarı: Eğer araç, su işareti veya metadata bulamazsa, bu durum görselin kesinlikle AI tarafından üretilmediği anlamına gelmiyor. Çünkü su işareti ve metadata hala sahtecilik yapılabilir.
Üstelik, tüm generatif AI şirketlerinin Google ile iş birliği yaparak SynthID’yi görsellerinde kullanmaya başladığını söylemek doğru değil. Eğer SynthID veya benzeri bir sistem, her generatif AI modeli tarafından evrensel olarak benimsenmezse, hiçbir doğrulama aracı, bir görselin AI tarafından üretilmediğini %100 garanti edemez. Ancak, bu adım kesinlikle doğru bir yolda ilerliyor. AI tarafından üretilen görseller, kötü niyetli amaçlarla yaygın bir şekilde kullanılmakta. Bu tür görsellerin tanınmasını sağlayacak bir sistemin mevcut olması kesinlikle şart. Google ve OpenAI'nin bu alanda öncülük etmesi memnuniyet verici.
