Yapay zekaya dair terimler için sözlüğünde ayrı bir bölüm açan Cambridge Dictionary’de 2023 yılının kelimesi “hallucination”, yani halüsinasyon olarak seçildi. Yapay zekanın yanlış bilgi üretmesi ve bu bilgiyi doğruymuş gibi iletmesi ile ortaya çıkan halüsinasyon problemleri üretken yapay zeka programlarının işlevselliğini bu programları kullanmada insanların sahip olduğu sorumluluk açısından gündemde büyük yer aldı.
Doğal dil işleme modellerini kullanarak kullanıcı tarafından girilen girdiye bağlı olarak farklı türde metinler, görseller, müzikler, videolar üretebilen yapay zeka modelleri son yıllarda hayatımızda hızla yer kazanmakta. Fakat kendi kendi içerik üretebilen bu yapay zeka modelleri bu üstün becerilerinin yanında hata yapmaya, yanlış içerik üretmeye de oldukça meyilli durumda. Son zamanlarda yapay zeka sohbet robotlarının gerçekte var olmayan makalelere ve sahte hukuki davalara atıfta bulunması gibi var olmayan şeyleri çıktı olarak vermesi yapay zekanın geleceğine dair tartışmalara yol açtı.
Son zamanlarda kullanımı popülerleşen ve doğal diş işleme modellerini kullanan üretken yapay zeka sohbet robotları ChatGPT, Google Bard gibi platformlarda ortaya çıkan halüsinasyon problemlerinin çıkış noktası; bu yapay zeka modelleri geliştirilirken girilen veri setlerinde insanlar tarafından anlaşılamayan, fakat yapay zeka tarafından işlenen veriler sonucu yapay zeka modelinin beklenmeyen mantıksız çıktılar üretmesi. Mesela diyelim ki bir yapay zeka modeline deniz yıldızının ne olduğunu öğretmek farklı deniz yıldızı fotoğraflarını ile bu modeli eğiterek deniz yıldızı görselinin işlenmesini sağlıyoruz. Yapay zeka tarafından kurulan nöral devrelerde deniz yıldızı fotoğraflarında bulunan bazı detaylar işlenirken deniz yıldızı ile başka bir canlı arasında normalde olmayan bir bağlantı kurulabilir. Bu, yapay zekadan deniz yıldızı ile ilgili yanlış çıktılar alınmasına sebep olur.
Yapay zeka modellerinde girilen veriler bu yönden büyük önem arz etmektedir. Verilerin çok spesifik olması, belli bir zaman aralığına hitap etmesi, tutarsızlıklar içermesi, kısaca hacim ve kapsam açısından yetersiz olması yapay zekanın kolaylıkla yanlış çıktılar çıkarmasına sebep olabilir. Bu yüzden yapay zeka modellerinin eğitiminde kullanılan veri tabanı oldukça büyük önem arz etmektedir. Yani yapay zekanın doğruluğu, onun eğitiminde kullanılan verilerin kalitesine bağlı iken gönderilen verilerin üretimi, seçilmesi de insanlara bağlıdır. Bu faktörlere dikkat edilerek daha gelişmiş bir veri mühendisliği ile yapay zekanın halüsinasyon problemi daha minimal ölçeklere indirilebilir.
Bu problem aynı zamanda yapay zekanın kullanımında kullanıcının kritik düşünme becerilerinin de etkin kullanımda önemini ortaya koymuştur. Üretken yapay zeka platformlarının önümüzdeki dönemlerde eğitim, sağlık gibi birçok sektöre entegre edileceği düşünülürse yapay zeka okuryazarlığı ve komut mühendisliği oldukça büyük önem kazanacaktır. Bu yüzden yapay zekanın kullanımı tam olarak yaygınlaştırılmadan önce çalışma mantığının ve onunla doğru iletişim sürdürülmesinin ve doğru girdileri girmeye dair toplumda bilinç oluşturulması, bu tarz problemleri azaltacak ve yapay zekanın günlük hayattaki kullanımını kolaylaştıracaktır.
Tabii başka bir görüş de üretken yapay zekanın halüsinasyon problemine çözüm bulmanın oldukça zor olduğu, bunların insan beyni gibi nöral devrelerle öğrenme gerçekleştiren bu sistemin yapabileceği birçok hatanın önüne kısa vadede geçilemeyeceğidir. Ancak yapay zekanın işlenmesinde kullanılan verilerin modifiye edilmesi ve yapay zekanın öğrenme matematiği daha detaylı çalışmalar yapılması ile yapay zekada büyük gelişmeler yaşanabilir. Yine de bu çözümler kısa vadede değil, uzun vadede gelişim yaşanmasını sağlayacaktır.
Yapay zekayla ilgili her ne kadar birçok tartışma çıkmış olsa da yapay zekanın hayatımızda gittikçe daha çok rol oynayacağı çok nettir. İnsanlığın böyle büyük teknolojilere karşı tutumu hep durdurma değil geliştirme ve devam etme yönünde olmuştur. Yapay zekanın da hem yapay zeka modellerini geliştiren mühendisler, bilim insanları tarafından geniş kapsamlı bir optimizasyon sürecinden geçirilmesi hem de yapay zeka platformlarından yararlanan kullanıcılar tarafından bilinçli bir şekilde kullanılması sayesinde yapay zekaya dair problemlere karşı ilerleme mümkün olacaktır.
Kaynakça:
Prof. Dr. İsmail Çakır: Yapay Zekâ da Halüsinasyon Görür. (27 Temmuz 2023). Türkiye Yazarlar Birliği. https://www.tyb.org.tr/prof-dr-ismail-cakir-yapay-zeka-da-halusinasyon-gorur-61712h.htm
Tardif, A. (17 Ocak 2024). Yapay zeka halüsinasyonları ve Önyargı konusunda Artan endişeler: Aporia’nın 2024 raporu, endüstri standartlarına yönelik Acil İhtiyacı vurguluyor. Unite.AI. https://www.unite.ai/tr/Yapay-zeka-halüsinasyonları-ve-önyargı-sorunlarına-ilişkin-artan-endişeler-2024-raporu%2C-endüstri-standartlarına-olan-acil-ihtiyacın-altını-çiziyor/
What are AI hallucinations? Ibm.com https://www.ibm.com/topics/ai-hallucinations
Comments