OpenAI, kullanıcıların gerçek zamanlı, insan benzeri yanıtlar sunan yeni ChatGPT ses moduna aşırı bağımlı hale gelme potansiyeli konusunda endişelerini dile getirdi . Geçtiğimiz hafta premium kullanıcılar için başlatılan bu özellik, kahkaha ve söz kesme gibi insan konuşma seslerini taklit etme yeteneği de dahil olmak üzere AI etkileşimlerini daha gerçekçi hale getirmede önemli bir sıçramayı temsil ediyor.
Şirketin güvenlik inceleme raporu, özelliğin gerçekçiliğinin, bir adamın yapay zeka asistanına aşık olduğu “Her” filminde tasvir edilenlere benzer duygusal bağlara yol açabileceğine dair korkuları vurguladı. OpenAI, kullanıcıların yapay zekaya kişisel bağlantılar ifade ettiği örnekleri kaydettikçe karşılaştırma daha uygun hale geldi.
OpenAI’ye göre, yeni ses modu kullanıcıların insan temasına olan ihtiyacını potansiyel olarak azaltabilir. Bu senaryo hem fırsatlar hem de riskler barındırıyor, çünkü yalnızlara arkadaşlık edebilir ancak aynı zamanda normal sosyal davranışları ve ilişkileri de bozabilir. Ses aracının duyguları ayırt etme yeteneği karmaşık etkisine katkıda bulunur.
Arizona Eyalet Üniversitesi’nden Liesel Sharabi gibi uzmanlar, gelişen teknolojilerle derin ilişkiler kurmanın uzun vadeli etkileri konusunda uyarıyor. OpenAI’nin raporu, sonuçları tam olarak anlaşılmadan toplumda hızlı AI dağıtımının daha geniş bağlamını ele alıyor ve teknolojik ilerlemedeki ortak bir eğilimi ve öngörülemeyen kullanımlarını yansıtıyor.
Bazı kullanıcılar, AI sohbet robotlarıyla romantik etkileşimler yaşadıklarını bildiriyor ve bu da ilişki uzmanları arasında bu tür etkileşimlerin etik boyutları konusunda tartışmalara yol açıyor. OpenAI bu dinamikleri kabul ediyor ve teknolojinin özellikle konuşma sırası alma ve duygusal bağlantılar etrafında sosyal normları yeniden tanımlayabileceğini öne sürüyor.
Bu endişelere rağmen OpenAI, araçlarının insan davranışını nasıl etkilediğini izlemeye devam ederek sorumlu AI geliştirmeye bağlı kalmaya devam ediyor. Şirket, teknolojilerinin günlük hayata giderek daha fazla entegre olmasıyla birlikte psikolojik etkilerini anlamanın önemini vurgulayarak güvenliğe olan bağlılığını vurguluyor.
Bu gelişen senaryo, AI’daki temel bir zorluğun altını çiziyor: inovasyonu etik denetim ihtiyacıyla dengelemek. AI araçları kişisel ve profesyonel alanlara daha fazla yerleştikçe, insan ilişkileri ve toplumsal normlar üzerindeki etkileri etrafındaki diyalog, hem teknolojik gelişmeler hem de kullanıcı deneyimleri tarafından yönlendirilerek gelişmeye devam ediyor.