ChatGPT, AI ile dünya arasında arayüz oluşturabilen eklentilerle "gözler ve kulaklar" elde eder

 Eklentiler, ChatGPT'nin uçuş rezervasyonu yapmasına, yemek sipariş etmesine, e-posta göndermesine, Python çalıştırmasına (ve daha fazlasını) olanak tanır.

Perşembe günü OpenAI, ChatGPT AI asistanı için bir eklenti sistemi duyurdu. Eklentiler, ChatGPT'ye uçuş rezervasyonu yapmak, yiyecek siparişi vermek, web'de gezinmek ve daha fazlası dahil olmak üzere İnternet aracılığıyla daha geniş dünyayla etkileşim kurma yeteneği verir. Eklentiler, ChatGPT'ye İnternette harici bir kaynağın nasıl kullanılacağını söyleyen kod parçalarıdır.

Temel olarak, bir geliştirici ChatGPT'ye herhangi bir ağ hizmetine erişme (örneğin: "mevcut hisse senedi fiyatlarına bakma") veya bir ağ hizmeti tarafından kontrol edilen herhangi bir görevi gerçekleştirme (örneğin: "İnternet üzerinden pizza sipariş etme") yeteneği vermek istiyorsa, OpenAI kurallarına aykırı olmaması koşuluyla artık mümkün.

Geleneksel olarak, ChatGPT gibi çoğu büyük dil modeli (LLM), tabiri caizse, dünyayla yalnızca bir kullanıcıyla metin görüşmeleri yoluyla etkileşim kurabilen bir balonun içine hapsedilmiştir. OpenAI'nin ChatGPT eklentileri hakkındaki giriş blog gönderisinde yazdığı gibi, "Dil modellerinin kullanıma hazır olarak yapabileceği tek şey, metin yaymaktır."

Bing Chat, daha yeni bilgiler için web'de arama yapmasına izin vererek bu paradigmayı daha da ileriye götürdü, ancak ChatGPT şimdiye kadar daha geniş dünyadan izole edildi. Bu şekilde kapatıldığında, ChatGPT yalnızca eğitim setinden (2021 ve öncesi ile sınırlı) verilerden ve konuşma sırasında bir kullanıcı tarafından sağlanan herhangi bir bilgiden yararlanabilir. Ayrıca ChatGPT olgusal hatalar ve hatalar (AI araştırmacılarının "halüsinasyonlar" dediği şey) yapmaya eğilimli olabilir.

OpenAI, bu sınırlamaları aşmak için balonu patlattı ve geliştiricilerin ChatGPT'ye "bağlanan" ve AI modelinin etkileşim kurmasına izin veren yeni bileşenler oluşturmasına olanak tanıyan bir ChatGPT eklenti arabirimi (OpenAI'nin ChatGPT'nin "gözleri ve kulakları" dediği şey) yarattı. İnternetteki diğer hizmetler. Bu hizmetler, halüsinasyonları azaltmak için hesaplamalar yapabilir ve olgusal bilgilere başvurabilir ve geliştiriciler bu görev için bir eklenti oluşturursa, potansiyel olarak İnternet'teki diğer herhangi bir yazılım hizmetiyle etkileşime girebilirler.

Ne tür eklentilerden bahsediyoruz?

ChatGPT "Eklenti deposu", kullanıcıların ChatGPT oturumlarında "yüklemek" istedikleri eklentiler arasından seçim yapmasına olanak tanır.

ChatGPT söz konusu olduğunda OpenAI, kullanıcıların bir ChatGPT oturumu başlatmadan önce bir eklenti listesinden seçim yapmasına olanak tanır. Kendilerini neredeyse bir uygulama mağazasındaki uygulamalar gibi sunarlar, her eklentinin kendi simgesi ve açıklaması vardır.

OpenAI, aşağıdaki şirketler tarafından ilk tur eklentilerin oluşturulduğunu söylüyor:

• Expedia (seyahat planlaması için)
• FiscalNote (gerçek zamanlı piyasa verileri için)
• Instacart (bakkal siparişi için)
• Kayak (uçuş ve kiralık araba arama)
• Klarna (fiyat karşılaştırmalı alışveriş için)
• Milo (yapay zeka destekli bir ebeveyn asistanı)
• OpenTable (restoran tavsiyeleri ve rezervasyonlar için)
• Shopify (o siteden alışveriş yapmak için)
• Gevşeklik (iletişim için)
• Speak (yapay zeka destekli dil eğitimi için)
• Wolfram (hesaplama ve gerçek zamanlı veriler için)
• Zapier (bir otomasyon platformu)

Özellikle Zapier eklentisi, ChatGPT'ye mevcut bir yazılım otomasyon sistemine erişim sağladığı için özellikle güçlü görünmektedir veya Zapier'in belirttiği gibi: "ChatGPT'den Zapier'in 50.000 eyleminden (arama, güncelleme ve yazma dahil) herhangi birini Zapier ile yürütmesini isteyebilirsiniz. 5.000'den fazla desteklenen uygulama, sohbeti eyleme dönüştürür. Bir e-posta yazıp sizin için gönderebilir. Veya bir CRM'de kişileri bulup doğrudan güncelleyebilir. Veya bir e-tabloya satırlar ekleyip ardından Slack mesajı olarak gönderebilir. olasılıklar sonsuzdur."

OpenAI ayrıca üç eklentiye, bir web tarayıcısına (web'den Bing Chat'e benzer bir şekilde bilgi toplayabilir), Python programlarını (korumalı alanda) çalıştırmak için bir kod yorumlayıcısına ve erişime izin veren bir alma aracına ev sahipliği yapıyor. başka bir yerde barındırılan kişisel veya kurumsal" bilgi kaynakları (temelde belgelerden bilgi alma).

OpenAI, eklenti seçim sürecini bir "eklenti deposu" olarak adlandırırken, şirket tek tek eklentileri satma planlarını açıklamadı. Ancak "mağaza" etiketini kullanarak, bu sonuç bir noktada olası görünüyor.

Erken erişime sahip geliştiriciler şimdiden ChatGPT için eklentileri hızla prototipliyorlar. Eklenti geliştirmedeki diğer yaklaşımlarla karşılaştırıldığında, ChatGPT eklentilerinin çalışma şekli dikkat çekicidir. Bir API'yi ChatGPT ile arabirim oluşturmak için "yapışkan kodu" kullanmanın gizemli bir süreci yerine, geliştirici temel olarak ChatGPT'ye hizmetlerini doğal dili kullanarak nasıl kullanacağını "söyler" ve ChatGPT bunu yapar.

Bunun ötesinde, geliştiriciler, ChatGPT eklenti bildirimlerini yazmak için ChatGPT ve GPT-4 kullanıyorlar (OpenAI'ye göre bir manifesto, "eklentinin yeteneklerinin ve bunların nasıl çalıştırılacağının makine tarafından okunabilir bir açıklamasıdır") ve eklenti geliştirme sürecini daha da basitleştiriyor.

Bu tür kendi kendini oluşturan geliştirme yeteneği, bazı programcılar için keşfedilmemiş bir bölge gibi geliyor. Bir durumda, Rohit adlı bir Twitter kullanıcısı yüksek sesle endişelendi, "Arkadaşlar. Varoluşsal kriz. OpenAI yazılımı bitirdi mi? Temizlik ve süpürmeden başka yapacak ne kaldı?"

OpenAI CEO'su Sam Altman, "Hayır" yanıtını verdi.

Güvenli mi?

Bir patlamayla çevrelenmiş dünyanın hiperbolik, sansasyonel yapay zeka tarafından oluşturulmuş görüntüsü.

OpenAI'nin daha önce yapay zeka modellerini (GPT-4 gibi) dünyanın bilgisayar sistemleri arasında değiştirme, geliştirme ve yayma yetkisine sahip olup olmadıklarını görmek için test ettiği göz önüne alındığında, OpenAI'nin ChatGPT eklentileri blog gönderisinin neredeyse yarısını harcaması şaşırtıcı değil güvenlik ve etkiler hakkında konuşmak. Şirket, işler üzerindeki potansiyel etkilerden bir bölümde gelişigüzel bir şekilde "Eklentilerin geniş kapsamlı toplumsal etkileri olacaktır" diyor.

İşlerin ötesinde, bazı yapay zeka araştırmacıları arasında yinelenen bir korku, gelişmiş bir yapay zeka modelinin potansiyel olarak zarar verebileceği diğer sistemlere erişim sağlamasıdır. AI sisteminin "bilinçli" veya "duyarlı" olması gerekmez, yalnızca gerekli gördüğü belirli bir görevi tamamlamaya yönlendirilir. Eklentilerle ilgili bu durumda, OpenAI tam olarak bunu yapıyor gibi görünüyor.

OpenAI risklerin farkında gibi görünüyor ve sık sık önceki bir makalede tanımladığımız en kötü durum senaryosu testini tanımlayan GPT-4 sistem kartına atıfta bulunuyor. Varsayımsal kıyamet günü senaryolarının ötesinde, yapay zeka destekli zararlar, otomatik kimlik avı halkaları, dezenformasyon kampanyaları, halı saha veya kişisel saldırılar gibi mevcut çevrimiçi tehlikelerin hızlandırılmış versiyonları şeklinde gelebilir.

OpenAI, "Eklentilerin, zararlı veya istenmeyen eylemlerde bulunarak, başkalarını dolandıran, yanlış yönlendiren veya kötüye kullanan kötü aktörlerin yeteneklerini artırarak güvenlik zorluklarını artırma riski vardır" diye yazıyor. "Eklentiler, olası uygulama yelpazesini artırarak, model tarafından yeni alanlarda gerçekleştirilen hatalı veya yanlış hizalanmış eylemlerden kaynaklanan olumsuz sonuç riskini artırabilir. İlk günden itibaren bu faktörler, eklenti platformumuzun geliştirilmesine rehberlik etti ve biz de birkaç tane uyguladık. korumalar."

Bu korumalardan biri, eklentilere erişimin kademeli olarak dağıtılması gibi görünüyor. Ayrıca, ChatGPT eklentisi kullanımı, OpenAI'nin yanlış bilgi ve yasaklanmış içerik biçimleri oluşturmak için kullanılmasını yasaklayan kapsamlı kullanım politikası kapsamında yer alırken, aynı zamanda eklentiler için, gerçek kişilerle konuşmaların otomatikleştirilmesi yasağı gibi kurallar da belirtir. Ayrıca, ChatGPT tarafından oluşturulan içeriği (e-postalar gibi) kullanan eklentiler, içeriğin yapay zeka tarafından oluşturulduğunu reddetmelidir.

Bireysel OpenAI eklentilerinin, bir robots.txt dosyasıyla ChatGPT web taramasını devre dışı bırakma yeteneği ve Python kod yorumlayıcısının "güvenlik duvarlı" bir sanal alanda çalıştığı gerçeği dahil olmak üzere kendi güvenlik sorumluluk reddi beyanları vardır. Ancak bu kısıtlamalar, kod yürütebilen diğer hizmetlere yönelik eklentiler için geçerli olacak mı? Bunlar, OpenAI ve geliştiricilerin önümüzdeki günlerde, haftalarda ve aylarda ele alması ve üzerinde birlikte çalışması gereken sorular.

Şu anda, ChatGPT eklentileri yalnızca belirli geliştiriciler ve bir bekleme listesinden onaylananlar için alfa bazında kullanılabilir. "Başlangıçta az sayıda geliştiriciye ve ChatGPT Plus kullanıcısına öncelik verecek olsak da, zaman içinde daha geniş ölçekli erişimi kullanıma sunmayı planlıyoruz."