Kâr amacı gütmeyen kuruluş ajansa, OpenAI risklerin "tam bilgisine" rağmen GPT-4'ü yayınladı.
Kâr amacı gütmeyen bir AI araştırma grubu, Federal Ticaret Komisyonu'nun OpenAI, Inc.'i araştırmasını ve GPT-4 sürümlerini durdurmasını istiyor.
OpenAI "tüketici pazarı için önyargılı, aldatıcı ve mahremiyet ve kamu güvenliği riski taşıyan bir GPT-4 ürünü piyasaya sürdü. Çıktılar kanıtlanamaz veya kopyalanamaz. Dağıtımdan önce bağımsız bir değerlendirme yapılmadı" dedi. Yapay Zeka ve Dijital Politika Merkezi (CAIDP) tarafından bugün sunulan FTC.
"Amerika Birleşik Devletleri'nde sunulan ticari AI ürünlerinin bağımsız gözetimi ve değerlendirilmesi" çağrısında bulunan CAIDP, FTC'den "OpenAI hakkında bir soruşturma başlatmasını, GPT-4'ün daha fazla ticari sürümünü yasaklamasını ve tüketicileri korumak için gerekli korkulukların kurulmasını sağlamasını" istedi. işletmeler ve ticari pazar."
Kâr amacı gütmeyen grup, FTC'nin "yapay zeka kullanımının" şeffaf, açıklanabilir, adil ve ampirik olarak sağlam "olması gerektiğini beyan ettiğini" belirterek, "OpenAI'nin ürünü GPT-4'ün bu gereksinimlerin hiçbirini karşılamadığını" savundu.
GPT-4, OpenAI tarafından 14 Mart'ta tanıtıldı ve ChatGPT Plus abonelerine sunuldu. Microsoft'un Bing'i zaten GPT-4 kullanıyor. OpenAI, GPT-4'ü büyük bir ilerleme olarak nitelendirdi ve GPT-3.5 için teste girenlerin en alttaki yüzde 10'una kıyasla, "teste girenlerin ilk yüzde 10'u civarında bir puanla simüle edilmiş bir bar sınavını geçtiğini" söyledi.
OpenAI, dış uzmanların GPT-4'ün ortaya koyduğu potansiyel riskleri değerlendirdiğini söylese de, CAIDP, AI alanının çok hızlı hareket etmesiyle ilgili endişelerini dile getiren ilk grup değil. Dün bildirdiğimiz gibi, Future of Life Enstitüsü, AI laboratuvarlarını "GPT-4'ten daha güçlü AI sistemlerinin eğitimini en az 6 ay süreyle derhal durdurmaya" çağıran bir açık mektup yayınladı. Mektubu imzalayanların uzun listesi, birçok profesörün yanı sıra Elon Musk ve Steve Wozniak gibi bazı önemli teknoloji endüstrisi isimlerini içeriyordu.
Grup, GPT-4'ün FTC Yasasını ihlal ettiğini iddia ediyor
CAIDP, FTC'nin Federal Ticaret Komisyonu Yasasının 5. Bölümü kapsamındaki yetkisini kullanarak OpenAI'yi soruşturması, kovuşturması ve "ticarette veya ticareti etkileyen haksız veya aldatıcı eylem veya uygulamaları" yasaklaması gerektiğini söyledi. Grup, "GPT-4'ün ticari olarak piyasaya sürülmesinin FTC Yasasının 5. Bölümünü, FTC'nin işletmelere AI ürünlerinin kullanımı ve reklamına ilişkin köklü rehberliğini ve ayrıca AI yönetişimi için ortaya çıkan normları ihlal ettiğini iddia ediyor. Amerika Birleşik Devletleri hükümeti resmi olarak onayladı ve önde gelen uzmanların ve bilimsel toplulukların tavsiye ettiği AI için Evrensel Yönergeleri."
FTC, "OpenAI tarafından GPT'nin daha fazla ticari dağıtımını durdurmalı", dağıtımdan önce ve "GPT AI yaşam döngüsü boyunca" GPT ürünlerinin bağımsız olarak değerlendirilmesini gerektirmeli, gelecekteki dağıtımlardan önce "FTC AI Kılavuzu ile uyumluluğu gerektirmeli" ve "herkesin erişebileceği bir Grup, GPT-4 için FTC'nin tüketici dolandırıcılığını bildirme mekanizmalarına benzer olay raporlama mekanizması" dedi.
Daha geniş anlamda CAIDP, FTC'yi "Üretken AI pazar sektöründeki ürünler için temel standartlar" gerektiren kurallar çıkarmaya çağırdı.
OpenAI ile iletişime geçtik ve bir yanıt alırsak bu makaleyi güncelleyeceğiz.
"OpenAI ayrıntıları açıklamadı"
CAIDP'nin başkanı ve kurucusu, daha önce Elektronik Gizlilik Bilgi Merkezini kuran ve yöneten Marc Rotenberg'dir. Rotenberg, Georgetown Law'da yardımcı profesördür ve uluslararası Ekonomik İşbirliği ve Kalkınma Örgütü tarafından yürütülen Yapay Zeka Uzman Grubunda görev yapmıştır. Rotenberg, CAIDP şikayetinde atıfta bulunulan Life of Life Enstitüsü'nün açık mektubunu da imzaladı.
CAIDP'nin başkanı ve araştırma direktörü, aynı zamanda Michigan Üniversitesi'nde veri etiği öğretim görevlisi olan Merve Hickok'tur. 8 Mart'ta AI hakkında bir kongre oturumunda ifade verdi. CAIDP'nin ekip üyeleri listesinde teknoloji, akademi, mahremiyet, hukuk ve araştırma alanlarında yer alan birçok kişi var.
FTC geçen ay şirketleri "yapay zeka ürününüzü piyasaya sürmeden önce makul ölçüde öngörülebilir riskleri ve etkisini" analiz etmeleri konusunda uyardı. Ajans ayrıca geçen yıl Kongre'ye sunduğu bir raporda "Yanlışlık, önyargı, ayrımcılık ve ticari gözetim sürünmesi gibi AI zararları" hakkında çeşitli endişeleri dile getirdi.
CAIDP, FTC'ye GPT-4'ün birçok türde risk oluşturduğunu ve altında yatan teknolojinin yeterince açıklanmadığını söyledi. CAIDP şikayetinde "OpenAI, mimari, model boyutu, donanım, bilgi işlem kaynakları, eğitim teknikleri, veri kümesi oluşturma veya eğitim yöntemleri hakkında ayrıntıları açıklamadı." "Araştırma topluluğunun uygulaması, Büyük Dil Modelleri için eğitim verilerini ve eğitim tekniklerini belgelemek olmuştur, ancak OpenAI bunu GPT-4 için yapmamayı seçti."
Grup ayrıca, "Üretken yapay zeka modelleri, alışılmadık tüketici ürünleri çünkü onları satışa çıkaran şirket tarafından daha önce tanımlanmamış olabilecek davranışlar sergiliyorlar" dedi.
OpenAI, GPT-4'ü risklerle ilgili "tam bilgi" ile yayınladı
CAIDP'nin şikayeti, OpenAI'nin GPT-4'ün riskleri hakkındaki bazı açıklamalarına işaret ediyordu. Şikayette, "OpenAI, önyargı riskini ve daha doğrusu 'belirli marjinal gruplar için zararlı basmakalıp ve küçük düşürücü çağrışımlar' riskini özellikle kabul etti."
Örneğin OpenAI, GPT-4 Sistem Kartında "modelin, belirli marjinal gruplar için zararlı basmakalıp ve aşağılayıcı çağrışımlar dahil olmak üzere belirli önyargıları ve dünya görüşlerini güçlendirme ve yeniden üretme potansiyeline sahip olduğunu" söyledi. CAIDP ayrıca, ChatGPT'nin "bazen zararlı talimatlara yanıt vereceğini veya önyargılı davranışlar sergileyeceğini" söyleyen bir OpenAI şirket blog gönderisinden alıntı yaptı.
FTC'ye yapılan şikayette, "OpenAI, GPT-4'ü bu riskler hakkında tam bilgi sahibi olarak ticari kullanım için halka yayınladı." GPT-4 kullanan çocuklarla ilgili endişeleri dile getiren şikayette, "GPT-4 Sistem Kartının, OpenAI tarafından test süresi boyunca gerçekleştirilen güvenlik kontrolleri hakkında hiçbir ayrıntı vermediği ve OpenAI tarafından çocukları korumak için uygulamaya konulan herhangi bir önlemin ayrıntılarını vermediği" belirtildi.
CAIDP, Avrupa tüketici grubu BEUC tarafından dile getirilen endişelere işaret etti. "ChatGPT tüketici kredisi veya sigorta puanlaması için kullanılırsa, bunun haksız ve yanlı sonuçlar doğurmasını, krediye erişimi engellemesini veya belirli tüketici türleri için sağlık veya hayat sigortası fiyatlarını artırmasını engelleyecek bir şey var mı?" BEUC, CAIDP şikayetinden alıntılanan bir tweet'te sordu.
Güvenlik ve gizlilik endişeleri
Siber güvenliğe dönecek olursak CAIDP, ChatGPT'nin kimlik avı amacıyla "son derece gerçekçi metin hazırlamak", propaganda ve dezenformasyon amaçlı metin üretmek veya ChatGPT'nin farklı programlama dillerindeki uzmanlığı nedeniyle kötü amaçlı kod üretmek için kullanılabileceğine dair bir Europol uyarısına dikkat çekti.
Gizlilik konusunda CAIDP, bu ay OpenAI'nin özel sohbet geçmişlerini diğer kullanıcılara gösterdiği bir olay rapor edildiğini söyledi; bu sorun "şirketin, sistem kullanıcılarının yapabilmesi için önemli bir özellik olan Geçmişlerin görüntülenmesini askıya almasını gerektirdi. oturumlar arasında gezinin ve belirli oturumları ayırt edin."
Başka bir vakada, bir yapay zeka araştırmacısı "birinin hesabını ele geçirmenin, sohbet geçmişini görüntülemenin ve onlar farkına bile varmadan fatura bilgilerine erişmenin" nasıl mümkün olduğunu açıkladı. Araştırmacı geçen hafta OpenAI'nin güvenlik açığını bildirdikten sonra düzelttiğini söyledi.
CAIDP, GPT-4'ün fotoğraf girişlerinden metin yanıtları sağlama yeteneğinin "kişisel mahremiyet ve kişisel özerklik için şaşırtıcı etkileri olduğunu" ve kullanıcıların "bir kişinin görüntüsünü ayrıntılı kişisel verilere bağlamasına" izin verdiğini söyledi. "GPT-4'ün kişiyle ilgili olarak sohbet tarzında öneriler ve değerlendirmeler yapması" için de kullanılabilir.
Şikayette, "OpenAI'nin Visual GPT-4 olarak bilinen görüntüden metne yeteneğinin yayınlanmasını askıya aldığı bildirildi, ancak mevcut durumu belirlemek zor."