인공지능은 우리의 생각과 지식의 방식을 형성하는가
대규모 언어 모델은 단순히 정보를 재생산하는 데 그치지 않습니다. 이들은 무엇이 참되고, 합리적이며, 정당하다고 여겨지는지를 능동적으로 정의하는 데 참여합니다. 이러한 시스템은 단순한 불완전한 기술 도구가 아니라, 사회적·역사적 계층 구조를 인식론적 규범으로 변형시키는 장치입니다. 이들의 작동 원리는 대규모 텍스트 분석에 기반하며, 종종 유럽 중심적, 성별화된, 식민지적 편향이 담긴 텍스트를 분석합니다. 지배적인 언어 패턴을 우선시함으로써, 특정 말하기 방식과 사고 방식을 다른 방식보다 더 가능하게 만들며, 이로 인해 소수자들의 지식과 표현은 주류에서 밀려납니다.
인간 피드백을 통한 강화 학습 메커니즘은 이러한 현상을 잘 보여줍니다. “유용하다”거나 “적절하다”는 주관적인 판단이 알고리즘적 규칙으로 전환됩니다. 본래 맥락적이었던 이러한 규범은 대규모로 적용되는 표준이 됩니다. 그 결과는 객관적인 진리가 아니라 담론적 순응의 한 형태입니다. 모델은 온건하고 합의된, 제도적 기대치에 부합하는 응답을 선호하며, 이 과정에서 이견이나 비판적인 관점은 배제됩니다. 따라서 권력은 검열을 통해가 아니라 최적화를 통해 행사됩니다. 어떤 아이디어는 통계적으로 유리해지고, 다른 아이디어는 사라집니다.
이러한 시스템은 기존의 불평등을 단순히 반영하는 데 그치지 않습니다. 이들은 불평등을 시스템 자체에 통합합니다. 예를 들어, 연구에 따르면 이러한 도구에 의해 생성된 여행 추천은 서구 문화와 목적지를 체계적으로 선호합니다. 마찬가지로 비영어권 언어 스타일이나 소수 문화의 표현은 종종 뒷전으로 밀립니다. 모델은 인종, 성별, 위험과 관련된 역사적 범주를 재생산하고 확대하며, 이를 사회적으로 구성된 것이 아니라 중립적인 사실인 것처럼 보이게 합니다.
이 문제는 단순한 기술적 편향의 수정 차원을 넘어섭니다. 이러한 기술이 지식 생산의 조건을 어떻게 재정의하는지를 이해하는 것이 중요합니다. 이들은 어떤 지식이可见하게 되고, 어떤 목소리가 들리며, 어떤 주제가 신뢰할 만하다고 판단되는지를 결정합니다. 이들의 권위는 객관성의 환상에 기반하지만, 실제로는 권력 관계에 의해 영향을 받은 데이터와 설계 선택에 의존합니다.
대규모 언어 모델은 또한 사회적 규범화의 도구로 작용합니다. 텍스트, 조언, 요약을 생성함으로써 해석적 틀을 강요합니다. 더 “전문적”이거나 “중립적”으로 재구성된 응답은 문화적 뉘앙스나 대안적 표현 방식을 지울 수 있습니다. 사용자들은 종종 의식하지 못한 채 지배적인 규범에 부합하는 표현 방식과 사고 방식을 채택하도록 유도됩니다.
이들의 개발은 북아메리카와 유럽에 위치한 몇몇 주요 행위자들에 의해 집중된 정치경제적 구조 속에서 이루어집니다. 이들은 어떤 지식이 가치 있고 어떤 지식이 무시되어야 하는지를 정의합니다. 기술적 인프라, 학습 데이터, 상업적 목표는 유효한 지식으로 간주되는 것을 형성합니다. 인공지능에 관한 홍보 담론은 혁신과 효율성을 강조함으로써 이러한 역학을 가리고, 특정 정치적·경제적 우선순위를 자연스럽게 만듭니다.
이러한 현실 앞에 비판적인 접근이 필요합니다. 단순히 데이터를 다양화하거나 개발 팀을 다양화하는 것을 넘어, 인식론적 권위를 재분배해야 합니다. 이는 이러한 시스템에 내재된 규범적 선택을 가시화하고, 영향을 받는 공동체가 이러한 선택을 질문할 수 있도록 하며, 더 다원적인 데이터 관행을 지원하는 것을 의미합니다. 목표는 불가능한 중립성이 아니라 이러한 기술의 한계와 편향에 대한 투명성입니다. 오직 이러한 접근만이 인공지능이 기존의 계층 구조를 강화하는 것이 아니라, 집단적이고 민주적인 미래를 위해 봉사할 수 있도록 할 것입니다.
Documentation et sources
Document de référence
DOI : https://doi.org/10.1007/s00146-026-02994-y
Titre : From ‘objectivity’ to obedience: LLMs as discourse, discipline, and power
Revue : AI & SOCIETY
Éditeur : Springer Science and Business Media LLC
Auteurs : Theodoros Kouros