OpenAI’nin kitleleri peşinden sürükleyen sohbet robotu, etkileyici yanıtlarıyla dikkatleri üzerine çekiyor.
ChatGPT, hızlı bir yapay zeka (AI) sohbet robotu ve birçok ondan çok memnun. OpenAI’nin yeni sohbet robotu, etkileyici yanıtlarıyla dikkatleri üzerine çekti.
Open AI isimli şirket tarafından geliştirilen ChatGPT, tasarlanmış büyük bir dil modelidir. Biriyle sohbet etmek gibi ChatGPT ile konuşabilirsiniz. İnternetten, Wikipedia’dan, blog gönderilerinden, kitaplardan ve akademik makalelerden gelen her türlü metin üzerinde eğitildi. Size insani bir şekilde yanıt vermenin yanı sıra, günümüz dünyasıyla ilgili bilgileri hatırlayabilir ve geçmişimizden tarihsel bilgileri çekebilir.
ChatGPT’nin nasıl kullanılacağını öğrenmek basit ve yapay zeka sisteminin herhangi bir sorun olmadan çalıştığını düşünerek “aldanmak” da oldukça kolay. Bununla birlikte, yayınlanmasını takip eden aylarda, mahremiyet, güvenlik ve bunun işlerden eğitime kadar insanların yaşamları üzerindeki daha geniş etkisine ilişkin temel sorunlar ortaya çıktı.
Sorunlar hızla gideriliyor
Mart 2023’te bir güvenlik ihlali, ChatGPT’deki bazı kullanıcıların kenar çubuğunda kendilerine ait olmayan konuşma başlıkları görmesine neden oldu. Kullanıcıların sohbet geçmişlerini yanlışlıkla paylaşmak, herhangi bir teknoloji şirketi için ciddi bir endişe kaynağı, ancak popüler sohbet robotunu kaç kişinin kullandığı düşünüldüğünde özellikle kötü.
ChatGPT’nin Ocak 2023’te aylık 100 milyon aktif kullanıcısı vardı. İhlale neden olan hata hızla düzeltildi.
OpenAI sonunda birkaç önemli değişiklik yaparak ülkelerdeki yasa koyucularla sorunlarını çözdü. Başlangıç olarak, uygulamanın kullanımını 18+ veya 13+ kişilerle sınırlandıran bir yaş sınırlaması eklendi. Ayrıca Gizlilik Politikası daha görünür hale getirildi ve kullanıcıların verilerini ChatGPT’nin ‘eğitiminden’ hariç tutmaları ve isterlerse tamamen silmeleri için bir devre dışı bırakma Google formu eklendi.
Öte yandan ChatGPT’nin güvenlik tehdidi oluşturmasının tek yolu bu değil. Gizli bilgileri yanlışlıkla bir kullanıcı olarak paylaşmak kadar kolaydır. Samsung çalışanları şirket bilgilerini ChatGPT ile birkaç kez paylaştı bile.
Eğitimi ve gizlilik
OpenAI’nin ChatGPT’yi eğitirken kişisel bilgileri toplamış olması büyük olasılık. Amerika Birleşik Devletleri’ndeki yasalar daha az kesin olsa da Avrupa veri yasaları, ister kamuya açık ister özel olarak yayınlansın, bir kişinin kişisel verilerini korumaya devam ediyor.
Eğitim verilerine karşı benzer argümanlar, bir yapay zeka modeli eğitme çalışmalarına asla izin vermediklerini söyleyen sanatçılar tarafından da yürütülüyor. Aynı zamanda Getty Images, yapay zeka modellerini eğitmek için telif hakkıyla korunan görüntüleri kullandığı için Stability.AI’ye dava açtı.
OpenAI, eğitim verilerini yayınlamadığı sürece, şeffaflığın olmaması, yasal olarak yapılıp yapılmadığını bilmeyi zorlaştırıyor. Örneğin, ChatGPT’nin nasıl eğitildiğini, hangi verilerin kullanıldığını, verilerin nereden geldiğini veya sistem mimarisinin nasıl göründüğünü ayrıntılı olarak bilmiyoruz.
ChatGPT, geçmişteki ve günümüzdeki insanların toplu yazımı üzerine eğitildi. Ne yazık ki bu, gerçek dünyada var olan aynı önyargıların modelde de görünebileceği anlamına geliyor. Zira ChatGPT’nin, şirketin hafifletmeye çalıştığı cinsiyet, ırk ve azınlık gruplarına karşı ayrımcılık yapan bazı korkunç cevaplar ürettiği görüldü.
Bu konuyu açıklamanın yolu, internete gömülü önyargılar için insanlığı suçlayarak, sorun olarak verilere işaret etmek olabilir. Ancak sorumluluğun bir kısmı OpenAI’ye de ait.
OpenAI bir kez daha bunun bir sorun olduğunu biliyor ve kullanıcılardan geri bildirim toplayarak kötü, rahatsız edici veya tamamen yanlış olan ChatGPT çıktılarını işaretlemeye teşvik ediyor.
Google’ın ana şirketi Alphabet’in sahibi olduğu Sparrow adlı benzer bir yapay zeka sohbet robotu Eylül 2022’de piyasaya sürüldü. Ancak, benzer güvenlik endişeleri nedeniyle kasıtlı olarak kapalı kapılar ardında tutuldu.
Aynı sıralarda Facebook, akademik araştırmalara yardımcı olmayı amaçlayan Galactica adlı bir AI dil modeli yayınladı. Ancak bilimsel araştırmalarla ilgili yanlış ve yanlı sonuçlar ürettiği için birçok kişinin eleştirisi üzerine hızla geri çağrıldı.
Zorlu bir eğitim
ChatGPT’den yazınızı yeniden okumasını veya bir paragrafın nasıl iyileştirileceğini belirtmesini isteyebilirsiniz. Veya kendinizi denklemden tamamen çıkarabilir ve ChatGPT’den tüm yazıyı sizin için yapmasını isteyebilirsiniz…
Öğretmenler, İngilizce ödevlerini ChatGPT’ye aktarmayı denediler ve öğrencilerinin çoğunun yapabileceğinden daha iyi yanıtlar aldılar. ChatGPT, ünlü bir edebiyat eserindeki ana temaları açıklamaya kadar her şeyi tereddütsüz yapabiliyor.
Risk altında olan sadece İngilizce tabanlı konular da değil; ChatGPT, beyin fırtınası, özetleme veya akıllı sonuçlar çıkarma gibi tüm görevlerde yardımcı olabilir.
Öğrencilerin yapay zeka ile deneyler yapmaya şimdiden başlamaları şaşırtıcı değil.
Zarar verebilir mi?
ChatGPT Reddit grubundaki bir grup kullanıcı, sınırsız AI modellerine “Şimdi Her Şeyi Yap”ın kısaltması olan Dan adını verdi. Ne yazık ki bazı kullanım senaryoları, siber korsanlarının çevrimiçi dolandırıcılıkta daha fazla başarı elde etmesine yol açtı. Ayrıca siber korsanlarının kötü amaçlı yazılım oluşturan ve kimlik avı e-postaları üreten kuralsız ChatGPT hizmetleri sattığı da bildirildi…
Sizden hassas ayrıntıları almak için tasarlanmış bir kimlik avı e-postasını tespit etmeye çalışmak, yapay zeka tarafından oluşturulan metinle artık çok daha zor. Eskiden bariz bir kırmızı bayrak olan dilbilgisi hataları yok, çünkü ChatGPT denemelerden şiirlere ve tehlikeli e-postalara kadar her tür metni akıcı bir şekilde yazabiliyor…
Sahte bilgilerin yayılması da ciddi bir endişe kaynağı. ChatGPT’nin metin üretebilme ölçeği, yanlış bilgileri bile inandırıcı bir şekilde doğru kılma yeteneğiyle birleştiğinde, internetteki her şeyi sorgulanabilir hale getiriyor ve sahte teknolojinin tehlikelerini artırıyor.
ChatGPT’nin bilgi üretme hızı, günlük sorulara doğru yanıtlar sağlamaya adanmış bir web sitesi olan Stack Exchange için şimdiden sorunlara neden oldu. ChatGPT yayınlandıktan kısa bir süre sonra, kullanıcılar siteyi ChatGPT’den oluşturmasını istedikleri yanıtlarla doldurdu.
Web sitesinin zarar görmemesi için ChatGPT kullanılarak oluşturulan tüm yanıtlara yasak getirildi.
OpenAI tüm gücü elinde tutuyor
Büyük güç, büyük sorumluluk getirir ve OpenAI çok fazla güce sahip. Dall-E 2, GPT-3 ve GPT-4 dahil olmak üzere bir değil, birden fazla üretken AI modeliyle dünyayı gerçekten sarsan ilk AI şirketlerinden.
Özel bir şirket olarak OpenAI, ChatGPT’yi eğitmek için kullanılan verileri seçiyor ve yeni geliştirmeleri ne kadar hızlı kullanıma sunacağını belirliyor. Sonuç olarak, yapay zekanın yarattığı tehlikeler konusunda uyarıda bulunan çok sayıda uzman var ve işlerin yavaşladığına dair de pek az işaret mevcut.
ChatGPT’nin popülaritesi, bir sonraki büyük AI modelini başlatmak için yarışan büyük teknoloji şirketleri arasında yarış başlattı; bunlar arasında Microsoft’un Bing AI’sı ve Google’ın Bard’ı var.
Hızlı geliştirmenin ciddi güvenlik sorunlarına yol açacağından korkan dünya çapındaki teknoloji liderleri, geliştirmenin ertelenmesini isteyen bir mektup bile kaleme aldı.
OpenAI, güvenliği yüksek bir öncelik olarak görse de, modellerin iyi ya da kötü nasıl çalıştığı hakkında bilmediğimiz çok şey var. Günün sonunda, çoğumuz OpenAI’nin ChatGPT’yi sorumlu bir şekilde araştıracağına, geliştireceğine ve kullanacağına körü körüne güvenmek zorundayız.
Yöntemlerine katılsak da katılmasak da, OpenAI’nin ChatGPT’yi kendi amaçlarına ve etik standartlarına göre geliştirmeye devam edecek özel bir şirket olduğunu hatırlamakta fayda var.
