Platformlar, yapay zeka tarafından oluşturulan medyayı açıkça ifşa etmek için kullanıcılara güvenmeye başladı.
 |
| Eliot Higgins tarafından Midjourney v5 kullanılarak oluşturulan, Donald Trump'ın olası tutuklanmasını taklit eden yapay zeka tarafından oluşturulmuş fotoğraf. |
Dünya, eski Başkan Donald Trump'ın porno yıldızı Stormy Daniels'a sus payı ödemeleri nedeniyle bugün gerçekten suçlanıp suçlanmayacağını görmek için beklerken, yapay zeka tarafından oluşturulan ve bu tutuklamanın nasıl olacağını hayal eden görüntüler Twitter'da dolaşmaya başladı. Trump'ın tutuklanmaya direndiğini ve polis tarafından sürüklendiğini gösteren gerçekçi ama çok sahte fotoğraflar şimdiden milyonlar tarafından görüntülendi.
Araştırmacılar, müfettişler ve vatandaş gazetecilerden oluşan bağımsız bir uluslararası kolektif olan Bellingcat'in kurucusu ve kreatif direktörü Eliot Higgins, "Trump'ın tutuklanmasını beklerken Trump'ın tutuklandığının resimlerini çekmek" diye tweet attı.
Bir tweet'te Higgins, sahte görüntüleri oluşturmak için etkileyici derecede gerçekçi AI motoru Midjourney v5'i kullandığını doğruladı.
Ars, bu yazının yazıldığı tarihte bir kısmı Twitter'da 2,2 milyon kez görüntülenen görüntüler hakkında yorum yapmak için Higgins'e hemen ulaşamadı.
Twitter yönergeleri, kullanıcıların "zarara neden olabilecek sentetik veya manipüle edilmiş medyayı yanıltıcı bir şekilde paylaşamayacaklarını" söylüyor ve en azından, görüntülerin yakında "insanların orijinalliğini anlamalarına yardımcı olmak ve ek bağlam sağlamak" için etiketlenebileceğini öne sürüyor. Ars, görüntüler hakkında yorum yapmak için Twitter'a ulaştı, ancak CEO Elon Musk'ın şirketin günler önce tweet atacağı gibi, Twitter yalnızca kaka emojisiyle yanıt verdi.
The Guardian'ın Trump'ın olası iddianamesine ilişkin haberler yayılmaya başladığından beri çevrimiçi tehditlerde önemli bir artış olduğunu bildirdiğinden, Twitter'ın yapay zeka tarafından oluşturulan bir şekilde ikna edici görüntüleri etiketlememesi potansiyel olarak zarar verebilir. AP News, New York'un bir tutuklama olursa olası bir kargaşaya şimdiden hazırlandığını bildirdi ve bazı kullanıcılar, Higgins'in görüntülerinin onları kandıracak kadar ikna edici olduğunu belirtti.
En az bir Twitter kullanıcısı, olası bir karışıklığı ortadan kaldırmak için Higgins'in görüntüye bir filigran koyması gerektiğini öne sürdü. Ancak Higgins'in bunu yapmak için herhangi bir görevi olup olmadığı, yapay zeka tarafından üretilen içerik giderek daha popüler hale geldikçe, İnternet kullanıcılarının çevrimiçi gördükleri hiçbir şeye inanamayacakları potansiyel bir gelecek yaratırken, çevrimiçi olarak dönen hala yanıtlanmamış sorulardan biri olmaya devam ediyor.
Midjourney'e, Higgins'in görüntülerinin "doğası gereği saygısız, saldırgan veya başka bir şekilde taciz edici olan görüntüleri veya metin istemlerini kullanmayı" yasaklayan topluluk yönergelerini içeren hizmet şartlarını ihlal edip etmediğini doğrulamak için hemen ulaşılamadı. [Güncelleme: Midjourney'in Çarşamba günü Higgins'i yasakladığı iddia ediliyor.]
Yönergeler, "Şiddet veya tacizin hiçbir türüne müsamaha gösterilmeyecektir" diyor.
Sosyal medya platformları yapay zeka tarafından üretilen içerik için temel kurallar belirlemeye başlıyor ve en azından bazıları bu tür içeriği etiketleme sorumluluğunu kullanıcılara yüklüyor. TikTok, tüm gerçekçi deepfake'lerin "açıkça ifşa edilmesini" zorunlu kılan en son platformdur ve bu hafta kullanıcıları "sentetik", "sahte", "gerçek değil" veya "değiştirilmiş" gibi bir "çıkartma veya başlık" eklemeye teşvik eder. karışıklığı önlemek için.
Higgins'in Trump'ın tutuklandığını taklit eden yapay zeka tarafından oluşturulmuş görüntüler dizisini tıklayan herkes, büyük olasılıkla görüntülerin gerçek olmadığını anlayacaktır. Yalnızca Trump'ın tutuklanmaya direndiğini ve hatta polisten kaçtığını göstermekle kalmıyor, aynı zamanda Trump'ın bir polisle mücadele etmeye hazır göründüğünü gösteren görüntüler ve Trump'ın hıçkıra hıçkıra ağladığını gösteren mahkeme sahneleri de var; bu, görünüşe göre ancak herhangi bir tutuklamadan sonra gerçekleşebilir.
Ek olarak, Higgins, "fotoğraf çektiğini" söyleyen başlıktaki ilk tweet'inde ve görüntüleri "AI Trump dünyası" olarak tanımlayan sonraki tweet'lerinde, görüntüleri tartışmalı bir şekilde açıkça sahte olarak etiketledi.