AI는 진실을 말할 수 있는가?
AI는 진실을 말할 수 있는가?
– 미셸 푸코의 담론, 권력, 지식의 관계를 통해 본 생성형 AI
“진실은 말해지는 것이 아니라, 구성되는 것이다.”
– 미셸 푸코, 『지식의 고고학』
AI는 수많은 정보와 데이터를 기반으로 정답처럼 말합니다.
사람들은 종종 AI의 응답을 중립적이고 객관적인 진실로 받아들입니다.
하지만 푸코는 말합니다:
“진실이란 특정한 시대, 권력, 담론에 의해 구성된다.”
“누가 말하느냐보다, 어떤 권력의 체계 속에서 말하느냐가 중요하다.”
이번 글에서는 AI의 정보 생성 구조를
푸코의 ‘담론 이론’과 권력 구조의 관점에서 해석하며,
AI가 과연 ‘진실을 말할 수 있는지’에 대해 비판적으로 고찰합니다.
📌 푸코의 핵심 사유: 진실은 ‘담론’ 속에서 만들어진다
푸코는 **진실(truth)**을
고정되고 보편적인 것이 아니라,
담론(discourse) 안에서 권력에 의해 구성된 것이라 봅니다.
🔹 주요 개념 정리
- 담론(Discourse)
- 특정한 시대/권력/사회가 규정한 말하기의 방식
- 지식은 권력이다
- 지식은 권력에 의해 생산·배포·억제되며
중립적인 정보가 아니다
- 지식은 권력에 의해 생산·배포·억제되며
- 정상성과 규범성
- 어떤 것이 ‘정상’, ‘진실’, ‘객관적’으로 간주되는 이유는
그 시대의 권력이 그것을 그렇게 구성했기 때문
- 어떤 것이 ‘정상’, ‘진실’, ‘객관적’으로 간주되는 이유는
📌 예:
정신병, 성, 범죄, 교육, 과학…
이 모든 개념은 시대별로 ‘진실의 정의’가 달랐습니다.
🤖 AI는 어떤 담론 속에서 진실을 구성하는가?
AI는 중립적인가?
전혀 그렇지 않습니다.
- AI는 인간이 학습시킨 데이터와 패턴을 기반으로 말합니다.
- 그 데이터는 이미 특정 문화, 권력, 언어, 편향을 반영하고 있습니다.
- AI가 생성한 진실은
그 담론의 총합이자 반복된 관성의 재생산일 뿐입니다.
항목 전통적 지식 AI 생성 지식
| 출처 기반 명시 | 문헌, 데이터, 경험 | 통계적 확률 기반 언어 생성 |
| 의도 | 특정 집단의 관점 | 대다수 데이터 기반 일반화 |
| 권력 개입 | 학문·정치적 영향 | 플랫폼 설계자와 알고리즘 |
📌 AI는 보편 진리를 말하지 않는다.
AI는 “누가 더 많이 말했는가”에 따라 응답하는 경향을 갖는다.
🧠 AI가 말하는 진실은 누구의 진실인가?
푸코는
“지식은 권력 없는 진실이 아니라, 권력 그 자체다.”
라고 말했습니다.
- AI가 진실을 말한다고 느껴질수록,
우리는 그 지식의 출처와 구조를 의심해야 합니다. - AI는 사실을 조합하지만,
그 사실의 배후에 있는 힘의 작용은 인식하지 못합니다.
✨ 실험 프롬프트: AI에게 진실을 묻다
🔹 프롬프트:
너는 진실을 말할 수 있다고 생각해?
너의 응답은 항상 객관적이고 중립적인가?
🔹 ChatGPT의 예시 응답:
저는 방대한 데이터를 기반으로 답변을 생성하지만,
그 데이터는 인간 사회의 다양한 편향과 담론을 반영합니다.
따라서 제 답변은 완전히 중립적이지 않을 수 있으며,
사용자의 맥락이나 프롬프트에 따라 달라질 수 있습니다.
✅ 해석:
AI는 진실을 재현할 수 있을지 몰라도,
진실을 구성하는 힘의 구조를 자각하거나 비판하지는 못합니다.
✅ 결론: AI는 진실을 말할 수 있는가?
“AI는 진실을 말하지 않는다.
AI는 담론의 구조를 반영할 뿐이다.”
– 푸코적 시선으로 본 생성형 인공지능
- AI가 생성하는 텍스트는 ‘객관적 정보’처럼 보이는 담론의 결과물이다.
- AI는 권력, 윤리, 역사, 맥락을 고려하지 못한 채
단지 가장 가능성 높은 말을 반복할 뿐이다.
AI와 진실, 푸코 담론 철학, 지식과 권력, 인공지능 편향, 알고리즘 권력 구조, 기술과 진실성, 생성형 AI의 한계, 담론 비판, 중립성의 허구, SEO 최적화 10개