페삭 벤슨 • 2025년 8월 7일

예루살렘, 2025년 8월 7일 (TPS-IL) — ChatGPT와 같은 생성형 AI 도구가 일상생활에 깊숙이 자리 잡으면서, 한 이스라엘 법학자가 긴급한 우려를 제기하고 있습니다. 바로 이러한 시스템이 우리의 세계관을 조용히 좁힐 수 있다는 것입니다.

히브리 대학의 미칼 슈어-오프리 교수(뉴욕대 정보법 연구소 방문 교수)는 최근 인디애나 법학 저널에 발표한 논문에서 대규모 언어 모델(LLM)이 문화적 다양성과 민주적 담론을 희생시키면서 표준화되고 주류적인 콘텐츠를 생성하는 경향이 있다고 주장합니다.

슈어-오프리 교수는 “모든 사람이 AI로부터 같은 종류의 주류 답변을 받는다면, 우리가 접하는 목소리, 서사, 문화의 다양성이 제한될 수 있습니다. 시간이 지남에 따라 이는 우리가 생각할 수 있는 생각의 세계를 좁힐 수 있습니다.”라고 말했습니다.

그녀의 연구는 AI 생성 답변이 종종 유용하고 그럴듯하지만, 반복적이고 문화적으로 편협한 경우가 많다는 것을 탐구했습니다. 예를 들어, 19세기 중요한 인물에 대해 질문했을 때 ChatGPT는 아브라함 링컨, 찰스 다윈, 빅토리아 여왕과 같은 이름을 반환했습니다. 이들은 저명한 인물이지만 압도적으로 앵글로 중심적이었습니다. 최고의 TV 시리즈 목록을 요청했을 때도 비슷한 편향이 나타났습니다. 결과는 영어권 히트작에 크게 치우쳤고, 비서구 및 비영어권 대안은 제외되었습니다.

슈어-오프리 교수는 이 문제가 이러한 AI 시스템이 구축되는 방식에 뿌리를 두고 있다고 설명합니다. LLM은 방대한 양의 인터넷 텍스트로 훈련되는데, 이 텍스트는 영어로 된 것이 불균형적으로 많고 지배적인 문화 규범을 반영합니다. 모델은 통계적 패턴을 사용하여 가능한 응답을 예측하므로 가장 흔한 것이 가장 자주 나타납니다. 이 접근 방식은 정확성과 일관성을 높이지만, 소규모 언어 및 문화 공동체의 관점을 소외시킵니다. 시간이 지남에 따라 LLM은 자체 출력에 의해 공급되고 기존 디지털 콘텐츠에 대한 훈련을 계속하면서, 이러한 축소 효과는 누적됩니다.

슈어-오프리 교수는 “이것은 단순한 기술적 결함이 아닙니다. 이는 깊은 사회적 결과를 초래할 수 있습니다. 문화적 다양성을 감소시키고, 사회적 관용을 약화시키며, 민주적 대화와 집단 기억의 토대를 약화시킬 수 있습니다.”라고 경고합니다.

이러한 추세를 상쇄하기 위해 슈어-오프리 교수는 AI 거버넌스를 위한 새로운 법적 및 윤리적 원칙인 “다양성(multiplicity)”을 제안합니다. 이 개념은 AI 도구가 단순히 통계적으로 가장 가능성 있는 답변을 반환하는 것이 아니라, 다양한 관점과 서사에 대한 노출을 적극적으로 지원하는 방식으로 설계되어야 한다고 요구합니다.

그녀는 “AI가 효율성뿐만 아니라 사회에 봉사하기를 원한다면, 복잡성, 뉘앙스, 다양성을 위한 공간을 만들어야 합니다. 이것이 바로 다양성이 추구하는 것입니다. AI 중심의 세계에서 인간 경험의 전체 스펙트럼을 보호하는 것입니다.”라고 말했습니다.

이 논문은 또한 다양성을 증진할 수 있는 두 가지 주요 방법을 강조합니다. 첫째, AI 플랫폼에 사용자가 출력의 다양성을 쉽게 늘릴 수 있는 기능을 구축하는 것입니다. 예를 들어, 생성된 응답의 범위를 넓히는 설정인 모델의 “온도(temperature)”를 조정하는 것입니다. 둘째, 사용자에게 “두 번째 의견”과 대안적인 관점을 찾을 수 있는 능력을 제공하는 경쟁 AI 시스템 생태계를 개발하는 것입니다.

슈어-오프리 교수는 또한 AI 리터러시의 중요성을 강조합니다. “사람들은 LLM이 어떻게 작동하는지, 그리고 왜 그 출력이 균형적이거나 포괄적인 관점보다는 대중적인 관점을 반영할 수 있는지에 대한 기본적인 이해가 필요합니다. 이러한 인식은 사용자가 후속 질문을 하고, 답변을 비교하며, 자신이 받는 정보에 대해 더 비판적으로 생각하는 데 도움이 될 수 있습니다. 이는 AI를 단일한 진실의 원천이 아니라, 더 풍부하고 다원적인 지식을 추구하기 위해 반박할 수 있는 도구로 보도록 장려합니다.”

그녀는 테크니온 컴퓨터 과학과의 요나탄 벨린코프 박사 및 아디르 라하밈, 히브리 대학의 바르 호로비츠-암살렘과 협력하여 이러한 아이디어를 실제로 구현하고 있습니다.