Trí tuệ nhân tạo có định hình cách chúng ta suy nghĩ và biết không

Các mô hình ngôn ngữ lớn không chỉ đơn thuần tái tạo thông tin. Chúng tham gia tích cực vào việc định nghĩa những gì được coi là đúng đắn, hợp lý hoặc chính đáng. Những hệ thống này không phải là những công cụ kỹ thuật đơn giản và không hoàn hảo, mà là những thiết bị biến đổi các thứ bậc xã hội và lịch sử thành những chuẩn mực nhận thức. Hoạt động của chúng dựa trên việc phân tích các văn bản khổng lồ, thường mang định kiến châu Âu trung tâm, giới tính và thuộc địa. Bằng cách ưu tiên các mô hình ngôn ngữ thống trị, chúng làm cho một số cách nói và lý luận trở nên phổ biến hơn những cách khác, từ đó đẩy lùi những tri thức và biểu đạt thiểu số.

Cơ chế học tập tăng cường từ phản hồi của con người minh họa cho hiện tượng này. Những phán đoán chủ quan về cái gì là “hữu ích” hoặc “phù hợp” được chuyển đổi thành các quy tắc thuật toán. Những chuẩn mực ban đầu mang tính ngữ cảnh này trở thành các tiêu chuẩn được áp dụng trên quy mô lớn. Kết quả không phải là một sự thật khách quan, mà là một dạng tuân thủ diễn ngôn. Các mô hình ưu tiên những câu trả lời ôn hòa, đồng thuận và phù hợp với kỳ vọng của thể chế, đồng thời loại bỏ những quan điểm khác biệt hoặc phê phán. Như vậy, quyền lực được thực thi ít thông qua kiểm duyệt mà nhiều hơn thông qua tối ưu hóa: một số ý tưởng trở nên có lợi về mặt thống kê, trong khi những ý tưởng khác biến mất.

Những hệ thống này không chỉ phản ánh những bất bình đẳng hiện có. Chúng tích hợp những bất bình đẳng đó vào chính cấu trúc của mình. Ví dụ, các nghiên cứu cho thấy các đề xuất du lịch được tạo ra bởi những công cụ này thường đề cao các điểm đến và văn hóa phương Tây. Tương tự, các phong cách ngôn ngữ không phải tiếng Anh hoặc các biểu đạt văn hóa thiểu số thường bị đẩy lùi. Các mô hình tái tạo và khuếch đại các phạm trù lịch sử về chủng tộc, giới tính và rủi ro, làm cho chúng trở nên rõ ràng như những sự thật trung lập thay vì những cấu trúc xã hội.

Thách thức vượt ra ngoài việc chỉ sửa chữa những định kiến kỹ thuật. Đó là việc hiểu cách những công nghệ này định nghĩa lại các điều kiện sản xuất tri thức. Chúng quyết định kiến thức nào được nhìn thấy, giọng nói nào được lắng nghe và chủ đề nào được coi là đáng tin cậy. Thẩm quyền của chúng dựa trên ảo tưởng về tính khách quan, trong khi chúng phụ thuộc vào dữ liệu và các lựa chọn thiết kế mang đậm quan hệ quyền lực.

Các mô hình ngôn ngữ lớn cũng hoạt động như những công cụ chuẩn hóa xã hội. Bằng cách tạo ra các văn bản, lời khuyên hoặc tóm tắt, chúng áp đặt các khung giải thích. Một câu trả lời được diễn đạt lại để trở nên “chuyên nghiệp” hơn hoặc “trung lập” hơn có thể xóa bỏ những sắc thái văn hóa hoặc các phương thức biểu đạt thay thế. Người dùng do đó được khuyến khích áp dụng những cách diễn đạt và suy nghĩ phù hợp với các chuẩn mực thống trị, thường mà không nhận thức được điều đó.

Sự phát triển của chúng nằm trong một nền kinh tế chính trị tập trung vào tay một số tác nhân chính, chủ yếu ở Bắc Mỹ và châu Âu. Những tác nhân này định nghĩa tri thức nào được coi trọng và tri thức nào bị bỏ qua. Cơ sở hạ tầng kỹ thuật, dữ liệu huấn luyện và mục tiêu thương mại định hình những gì được coi là tri thức hợp lệ. Các diễn ngôn quảng bá về trí tuệ nhân tạo, nhấn mạnh vào sự đổi mới và hiệu quả, che giấu những động lực này và tự nhiên hóa những ưu tiên chính trị và kinh tế cụ thể.

Trước thực trạng này, một cách tiếp cận phê phán là cần thiết. Không chỉ đơn giản là đa dạng hóa dữ liệu hoặc đội ngũ phát triển, mà còn phải tái phân phối thẩm quyền nhận thức. Điều này đòi hỏi phải làm rõ những lựa chọn chuẩn mực được tích hợp trong các hệ thống này, cho phép các cộng đồng bị ảnh hưởng đặt câu hỏi về những lựa chọn đó và hỗ trợ các thực hành dữ liệu đa dạng hơn. Mục tiêu không phải là một sự trung lập không thể, mà là sự minh bạch về những giới hạn và định kiến của những công nghệ này. Chỉ một cách tiếp cận như vậy mới có thể giúp trí tuệ nhân tạo phục vụ các tương lai tập thể và dân chủ, thay vì củng cố các thứ bậc hiện có.

Documentation et sources

Document de référence

DOI : https://doi.org/10.1007/s00146-026-02994-y

Titre : From ‘objectivity’ to obedience: LLMs as discourse, discipline, and power

Revue : AI & SOCIETY

Éditeur : Springer Science and Business Media LLC

Auteurs : Theodoros Kouros