"Şimdiden özür dilerim!" Snapchat, yeni yapay zeka konuşma botu ile halüsinasyonlara karşı uyarıyor

 "Yapay Zekam" ayda 3,99 dolara mal olacak ve "hemen hemen her şeyi söylemesi için kandırılabilir."

Pazartesi günü Snapchat, OpenAI'nin ChatGPT tarzı teknolojisiyle desteklenen "My AI" adlı yapay zeka destekli deneysel bir sohbet robotunu duyurdu. Snap, Inc. tarafından yayınlanan bir habere göre yapay zekam, Snapchat+ aboneleri için ayda 3,99 ABD Doları karşılığında satışa sunulacak ve "bu hafta" kullanıma sunulacak.

Kullanıcılar, yapay zeka botuna özel bir ad vererek kişiselleştirebilecek. AI modeliyle yapılan görüşmeler, bir insanla yapılan normal sohbete benzer bir arayüzde gerçekleşecek. Snap CEO'su Evan Spiegel, The Verge'e "Büyük fikir, her gün arkadaşlarımız ve ailemizle konuşmanın yanı sıra, AI ile her gün konuşacağız" dedi.

Ancak GPT destekli kuzenleri ChatGPT ve Bing Chat gibi Snap, My AI'ın bir AI modeli tarafından üretilen beklenmedik yanlışlıklar olan "halüsinasyonlara" eğilimli olduğunu söylüyor. Bu noktada Snap, My AI duyuru gönderisinde oldukça uzun bir sorumluluk reddi beyanı içeriyor:

"Yapay zeka destekli tüm sohbet robotlarında olduğu gibi, My AI halüsinasyona eğilimlidir ve hemen hemen her şeyi söylemesi için kandırılabilir. Lütfen birçok eksikliğinin farkında olun ve şimdiden özür dilerim! My AI ile yapılan tüm konuşmalar saklanacak ve şu kişiler için incelenebilir: ürün deneyimini geliştirin. Lütfen My AI ile herhangi bir sır paylaşmayın ve tavsiye için ona güvenmeyin."

Makine öğrenimi araştırmacıları arasında "halüsinasyon", bir yapay zeka modelinin eğitim veri setinde yer almayan bir konu veya durum hakkında yanlış çıkarımlarda bulunmasını açıklayan bir terimdir. Var olmayan akademik makaleler ve yanlış biyografiler gibi inandırıcı görünen yalanları kolayca uydurabilen ChatGPT gibi mevcut büyük dil modellerinin iyi bilinen bir dezavantajıdır.

Snap'in My AI'ın bir şeyler uydurma eğilimi hakkındaki güçlü reddine rağmen, firma yeni Snapchat botunun Snapchat uygulamasındaki kendi sekmesinde arkadaşlarla yapılan konuşmaların üzerine sabitleneceğini ve "en yakın arkadaşınız için doğum günü hediyesi fikirleri önereceğini, bir yürüyüş gezisi planlayacağını" söylüyor. uzun bir hafta sonu için, akşam yemeği için bir tarif önerin, hatta çedar takıntılı dostunuz için peynir hakkında bir haiku yazın."

Snap, "tavsiye için güvenilemeyen" aynı robotun nasıl "uzun bir hafta sonu için doğru ve güvenli bir yürüyüş gezisi" planlayabileceğini uzlaştırmıyor. Üretken yapay zekanın hızla piyasaya sürülmesini eleştirenler, bu tür bir uyumsuzluğu, belki de bu sohbet robotlarının, özellikle referans olarak sunulduğunda yaygın kullanıma hazır olmadığını göstermek için ele geçirdiler.

 İnsanlar ChatGPT ve Bing Chat'in geçici çözümlerini atlatmaya çalışan bir oyun haline getirirken, Snap'in GPT modelini seks, küfür, şiddet veya siyasi görüşleri tartışmayacak şekilde eğittiği bildirildi. Bu kısıtlamalar, birkaç hafta önce Bing Chat'te gördüğümüz dengesiz davranışlardan kaçınmak için özellikle gerekli olabilir.

Ve iki kez, çünkü "Yapay Zekam"ın altında güçlü bir şey olabilir: OpenAI'nin yeni nesil büyük dil modeli. The Verge'e göre Snap, OpenAI'nin bu ayın başlarında sessizce kullanıma sunduğu "Foundry" adlı yeni bir OpenAI kurumsal planını kullanıyor. Şirketlere OpenAI'nin GPT-3.5 ve "DV" modellerine özel bulut erişimi sağlar. Birkaç AI uzmanı, "DV"nin GPT-3'ün devamı olduğu söylenen yüksek güçlü GPT-4'e eşdeğer olabileceğini tahmin etti.

Diğer bir deyişle, Snap'in haber bülteninde bahsedilen "halüsinasyonlar", ChatGPT'den daha hızlı gelebilir ve daha ayrıntılı olabilir. Diğer GPT modellerinin son derece inandırıcı doğası göz önüne alındığında, uyarılara rağmen insanlar buna inanabilir. Önümüzdeki aylarda GPT destekli yeni ticari hizmetler çevrimiçi hale gelirken izlenmesi gereken bir şey.