Apakah kecerdasan buatan membentuk cara kita berpikir dan mengetahui

Model bahasa besar tidak hanya mereproduksi informasi. Mereka secara aktif berpartisipasi dalam mendefinisikan apa yang dianggap benar, masuk akal, atau sah. Sistem-sistem ini bukan sekadar alat teknis yang tidak sempurna, tetapi perangkat yang mengubah hierarki sosial dan sejarah menjadi norma epistemik. Fungsinya didasarkan pada analisis teks masif, yang sering kali sarat dengan bias sentris-Eropa, gender, dan kolonial. Dengan mengutamakan skema linguistik yang dominan, mereka membuat beberapa cara berbicara dan bernalar lebih mungkin daripada yang lain, sehingga memarginginalkan pengetahuan dan ekspresi minoritas.

Mekanisme pembelajaran penguatan dari umpan balik manusia mengilustrasikan fenomena ini. Penilaian subjektif tentang apa yang “berguna” atau “tepat” diubah menjadi aturan algoritmik. Norma-norma yang awalnya kontekstual ini menjadi standar yang diterapkan dalam skala besar. Hasilnya bukanlah kebenaran objektif, melainkan bentuk kepatuhan diskursif. Model-model ini mendukung respons yang moderat, konsensual, dan sejalan dengan harapan institusional, sementara pandangan yang berbeda atau kritis disingkirkan. Dengan demikian, kekuasaan lebih banyak dijalankan melalui optimisasi daripada sensor: beberapa ide menjadi menguntungkan secara statistik, sementara yang lain menghilang.

Sistem-sistem ini tidak hanya mencerminkan ketidaksetaraan yang ada. Mereka mengintegrasikannya ke dalam struktur mereka sendiri. Misalnya, studi menunjukkan bahwa rekomendasi perjalanan yang dihasilkan oleh alat-alat ini secara sistematis mengutamakan tujuan dan budaya Barat. Demikian pula, gaya linguistik non-Inggris atau ekspresi budaya minoritas sering kali diremehkan. Model-model ini mereproduksi dan memperkuat kategori historis ras, gender, dan risiko, membuatnya tampak sebagai fakta netral daripada konstruksi sosial.

Isu ini melampaui sekadar koreksi bias teknis. Ini tentang memahami bagaimana teknologi-teknologi ini mendefinisikan ulang kondisi produksi pengetahuan. Mereka menentukan pengetahuan mana yang terlihat, suara mana yang terdengar, dan subjek mana yang dianggap kredibel. Otoritas mereka didasarkan pada ilusi objektivitas, padahal mereka bergantung pada data dan pilihan desain yang dipengaruhi oleh hubungan kekuasaan.

Model bahasa besar juga bertindak sebagai instrumen normalisasi sosial. Dengan menghasilkan teks, saran, atau ringkasan, mereka menerapkan kerangka interpretatif. Jawaban yang diformulasikan ulang agar lebih “profesional” atau “netral” dapat menghapus nuansa budaya atau mode ekspresi alternatif. Pengguna dengan demikian didorong untuk mengadopsi cara berbicara dan berpikir yang sesuai dengan norma dominan, sering kali tanpa menyadarinya.

Pengembangannya terjadi dalam ekonomi politik yang terkonsentrasi di tangan beberapa aktor utama, yang sebagian besar berlokasi di Amerika Utara dan Eropa. Aktor-aktor ini menentukan pengetahuan mana yang dihargai dan mana yang diabaikan. Infrastruktur teknis, data pelatihan, dan tujuan komersial membentuk apa yang dianggap sebagai pengetahuan yang valid. Wacana promosi sekitar kecerdasan buatan, yang menekankan inovasi dan efisiensi, menyembunyikan dinamika ini dan menaturalisasi prioritas politik dan ekonomi tertentu.

Menghadapi kenyataan ini, pendekatan kritis menjadi diperlukan. Ini bukan hanya tentang mendiversifikasi data atau tim pengembang, tetapi juga mendistribusikan kembali otoritas epistemik. Ini melibatkan membuat pilihan normatif yang terintegrasi dalam sistem-sistem ini menjadi terlihat, memungkinkan komunitas yang terdampak untuk mempertanyakan pilihan-pilihan tersebut, dan mendukung praktik data yang lebih pluralis. Tujuannya bukanlah netralitas yang mustahil, melainkan transparansi tentang batasan dan prasangka teknologi ini. Hanya pendekatan seperti inilah yang dapat memungkinkan kecerdasan buatan melayani masa depan kolektif dan demokratis, daripada memperkuat hierarki yang sudah ada.

Documentation et sources

Document de référence

DOI : https://doi.org/10.1007/s00146-026-02994-y

Titre : From ‘objectivity’ to obedience: LLMs as discourse, discipline, and power

Revue : AI & SOCIETY

Éditeur : Springer Science and Business Media LLC

Auteurs : Theodoros Kouros