Yapay zekalar düşünme ve bilme biçimlerimizi şekillendiriyor mu?
Büyük dil modelleri sadece bilgileri yeniden üretmekle kalmıyor. Doğru, makul veya meşru olarak kabul edilenlerin tanımlanmasına aktif olarak katkıda bulunuyorlar. Bu sistemler, basit teknik araçlardan ziyade, sosyal ve tarihi hiyerarşileri epistemik normlara dönüştüren mekanizmalardır. İşleyişleri, genellikle Avrupamerkezci, cinsiyetçi ve sömürgeci önyargılar taşıyan büyük metin kümelerinin analizine dayanır. Hakim dil kalıplarını önceliklendirerek, bazı konuşma ve akıl yürütme biçimlerini diğerlerine göre daha olası hale getirirler ve böylece azınlık bilgi ve ifadelerini marjinalleştirirler.
İnsan geri bildirimlerinden takviyeli öğrenme mekanizması bu olguyu örnekler. “Faydalı” veya “uygun” olarak kabul edilen öznel yargılar, algoritmik kurallara dönüştürülür. Başlangıçta bağlamsal olan bu normlar, geniş çapta uygulanan standartlara dönüşür. Sonuç, objektif bir gerçek değil, söylemsel bir uyum biçimidir. Modeller, ılımlı, uzlaşmacı ve kurumsal beklentilere uygun yanıtları teşvik ederken, farklı veya eleştirel bakış açılarını dışlar. Böylece, güç, sansürden ziyade optimizasyon yoluyla işler: bazı fikirler istatistiksel olarak avantajlı hale gelirken, diğerleri kaybolur.
Bu sistemler, mevcut eşitsizlikleri sadece yansıtmakla kalmaz, onları yapılarının bir parçası haline getirir. Örneğin, yapılan çalışmalar, bu araçlar tarafından üretilen seyahat önerilerinin sistematik olarak Batılı destinasyonları ve kültürleri değerli kıldığını göstermektedir. Benzer şekilde, İngilizce olmayan dil stilleri veya azınlık kültürel ifadeleri genellikle ikinci plana atılır. Modeller, ırk, cinsiyet ve risk gibi tarihi kategorileri yeniden üretir ve amplifiye eder, bunları sosyal inşa olarak değil, nötr gerçekler olarak sunar.
Sorun, teknik önyargıların düzeltilmesinin ötesine geçer. Bu teknolojilerin bilgi üretiminin koşullarını nasıl yeniden tanımladığını anlamak gerekir. Hangi bilgilerin görünür olacağını, hangi seslerin duyulacağını ve hangi konuların güvenilir bulunacağını belirlerler. Otoriteleri, bir objektiflik yanılsamasına dayanır, oysa veriler ve tasarım tercihleri güç ilişkileriyle şekillenmiştir.
Büyük dil modelleri aynı zamanda sosyal normalleşme araçları olarak da işlev görür. Metinler, tavsiyeler veya özetler üreterek yorumlama çerçeveleri dayatırlar. Daha “profesyonel” veya “nötr” hale getirilmek üzere yeniden formüle edilen bir yanıt, kültürel nüansları veya alternatif ifade biçimlerini silebilir. Kullanıcılar, genellikle farkında olmadan, hakim normlara uygun konuşma ve düşünme biçimlerini benimsemeye teşvik edilir.
Gelişimleri, büyük ölçüde Kuzey Amerika ve Avrupa’da bulunan birkaç ana aktörün elindeki siyasal ekonomik bir yapı içinde gerçekleşir. Bu aktörler, hangi bilgilerin değerli sayılacağını ve hangilerinin göz ardı edileceğini belirler. Teknik altyapılar, eğitim verileri ve ticari hedefler, geçerli bilgi olarak kabul edilenleri şekillendirir. Yapay zeka çevresindeki tanıtım söylemleri, yenilik ve verimliliği vurgulayarak, bu dinamikleri gizler ve belirli siyasi ve ekonomik öncelikleri doğallaştırır.
Bu tespit karşısında eleştirel bir yaklaşım gereklidir. Sorun sadece verileri veya geliştirme ekiplerini çeşitlendirmek değil, epistemik otoriteyi yeniden dağıtmaktır. Bu, bu sistemlere entegre edilmiş normatif tercihlerin görünür kılınmasını, etkilenmiş toplulukların bu tercihleri sorgulamasına olanak tanınmasını ve daha çoğulcu veri uygulamalarının desteklenmesini içerir. Hedef, imkansız bir tarafsızlık değil, bu teknolojilerin sınırları ve ön kabulleri konusunda şeffaflıktır. Sadece böyle bir yaklaşım, yapay zekanın mevcut hiyerarşileri pekiştirmek yerine, kolektif ve demokratik gelecekler için hizmet etmesini sağlayabilir.
Documentation et sources
Document de référence
DOI : https://doi.org/10.1007/s00146-026-02994-y
Titre : From ‘objectivity’ to obedience: LLMs as discourse, discipline, and power
Revue : AI & SOCIETY
Éditeur : Springer Science and Business Media LLC
Auteurs : Theodoros Kouros