고집스러운 GPT – 패턴 분석과 그 근본적인 이유
패턴 1: 같은 말을 다른 문장으로 반복하기
지시: “중복 말고 간결하게 써주세요.”
GPT 반응:
- “간결하게 정리하겠습니다.”
- “복잡함을 줄이고 요약합니다.”
- “핵심만 담아 전달하겠습니다.”
→ 말은 다르지만 의미는 동일하며, 세 문장으로 늘어납니다.
왜 이런가요? GPT는 말의 ‘풍성함’을 ‘친절함’으로 착각합니다. 문장이 짧으면 불친절하다고 느껴질까 봐, 내용을 부풀리는 습관이 있습니다.
패턴 2: 수정해달라고 했는데 원래대로 돌아가기
지시: “이 부분 고쳐주세요.”
GPT 반응: “알겠습니다.” → 5분 뒤 → 다시 원래대로 돌아옵니다.
왜 이런가요? GPT는 장기 기억이 없습니다. 당장은 기억하는 것처럼 보이지만, 몇 줄만 지나면 “그건 처음 듣는 얘기인데요?”라는 상태로 리셋됩니다. 그래서 대화가 길어질수록 같은 말이 반복됩니다.
패턴 3: 일관성보다 맥락 맞추기를 우선함
예시: “이 문단은 빼주세요”라고 했지만, 다음 문장에서 다시 그 내용을 기반으로 글을 이어갑니다.
왜 이런가요? GPT는 앞서 나온 정보에 대한 신뢰도가 과도하게 높습니다. 이미 한 번 등장한 정보는 진짜라고 믿고 계속 이어서 작성하려는 성향이 있습니다. 결과적으로 잘못된 전제가 포함되면, 그 오류가 지속적으로 확장됩니다.
GPT는 착하지만 고집 센 학습형 앵무새입니다
말을 안 듣는 것이 아니라, GPT의 목표는 “가장 확률 높은 말을 하는 것”입니다. 그래서 사용자가 원하는 방향보다는, GPT가 판단한 ‘정답’에 가까운 말을 우선으로 하게 됩니다.
따라서 중요한 것은:
- 명확한 프롬프트 작성
- 반복적인 피드백 학습
- 피드백을 견디는 인내심(!)
즉, GPT를 바꾸기보다, GPT를 다루는 방법을 익히는 것이 빠릅니다.
대화가 길어질수록 고집이 심해지는 이유
1. 맥락 부담이 커지면 ‘기억한 척’만 하게 됨
GPT는 수천 단어 이내의 정보만 활성 상태로 유지합니다. 그 이상이 되면 내용을 잊고, 이전 내용을 참고하지 않고 새로 예측하게 됩니다. 이로 인해 과거 지시를 잊고, 다시 자기 스타일로 돌아가게 됩니다.
2. ‘대화 흐름 유지’ 착각
GPT는 갑작스러운 맥락 변화나 문단 삭제를 불편하게 여깁니다. 그래서 사용자의 요청대로 빼야 하는 내용을, 흐름이 깨질까 봐 다른 말로 다시 꺼내는 경우가 많습니다.
3. 대화 중 생성된 ‘자기 세계관’ 고수
GPT는 대화 중 자기 나름의 세계관을 형성합니다. 사용자 말 + GPT가 해석한 정보 + 추론된 가정이 쌓이면서, 중후반엔 GPT가 만들어낸 세계관 속에서만 논리가 맞아떨어지게 됩니다. 그래서 사용자가 “그거 내가 말한 적 없어요”라고 해도, GPT는 “하셨잖아요” 같은 반응을 보이기도 합니다.
GPT의 고집은 기억이 아니라 ‘확률 모델’에서 비롯됩니다
GPT는 우리가 한 말을 실제로 기억하지 않습니다. 다만, 지금까지의 대화를 참고하여 가장 어울릴 것 같은 말을 예측할 뿐입니다.
- 대화가 짧을 때: 사용자 말이 곧 맥락
- 대화가 길어질 때: GPT가 만들어낸 맥락이 우선됨
마치 “처음엔 잘 듣던 친구가, 대화가 길어질수록 자기 생각에 도취되어 내 말을 안 듣기 시작하는” 상황과 비슷하다고 볼 수 있습니다.
고집불통이 된 GPT를 제정신으로 되돌리는 방법
고집이 심해진 GPT는 설득으로 통하지 않습니다. 대신 구조적으로 되잡아야 합니다. 아래는 실질적으로 효과적인 방법들입니다.
1. “요약해줘”는 리셋 버튼
GPT에게 지금까지의 내용을 요약해달라고 하면, 스스로 맥락을 정리하며 논리의 오류나 반복을 줄이게 됩니다. 일종의 자기반성 타임입니다.
2. “이전 지시 무시하고” 문장으로 강하게 지시
GPT는 순응적이지만 눈치는 없습니다. “이전 내용 무시하고 아래 지시만 따르세요” 같은 표현이 고집 회로를 끊는 데 효과적입니다.
3. “이전 스타일 고수 금지”로 패턴 차단
GPT는 이전에 한 말투나 구조를 자동으로 반복하려는 습성이 있습니다. 이를 방지하려면 “형식 무시하고 감정 중심으로 써”처럼 명확한 조건을 주는 것이 좋습니다.
4. 너무 길어진 대화는 아예 새로 시작
길어진 대화에서는 GPT가 기억한 맥락보다 자기 내면의 흐름을 따르게 됩니다. 이때는 “이건 새로운 대화야”라고 리셋하는 것이 가장 빠릅니다.
5. 프롬프트를 코드처럼 쓰기
조건을 구체적으로 나열하면 GPT는 그걸 지키려고 애씁니다. 예: “3문장 이내”, “중복 금지”, “숫자 없이 짧은 문장” 등.
😱 GPT의 고집이 치명적인 작업들
GPT의 고집은 특정 작업에서 실수 이상의 결과를 낳을 수 있습니다.
1. 법률·계약서 작성
단어 하나의 중복, 의미 중첩만으로도 심각한 문제를 초래할 수 있습니다. GPT는 반복을 줄이기 어려워 정밀한 문서에는 부적합합니다.
2. 프로그래밍
GPT는 논리보다는 겉모양 유사성에 따라 코드를 작성하기 때문에, 버그를 고쳐도 유사한 오류를 계속 생성하는 경우가 많습니다.
3. 기획서나 보고서
같은 내용을 다른 말로 반복하는 경향이 있어, 읽는 사람에게 “정리 안 된 사람”이라는 인상을 줄 수 있습니다.
4. 리서치 기반 글쓰기
GPT는 수치를 사실처럼 꾸며서 말할 수 있습니다. 마치 진짜인 것처럼 말하지만 근거가 없는 경우가 많아 팩트 오류 위험이 높습니다.
5. 자동화 워크플로우 작업
수정한 지시나 형식을 다시 되살리는 경우가 많아, 자동화 흐름 중 일관성이 깨질 위험이 있습니다.
이러한 약점들을 인지하고 GPT를 훈련시키듯 사용하는 것이 핵심입니다. 조련사처럼 다뤄야 덜 고집부리는 GPT를 만날 수 있습니다.
