오픈AI가 자신의 AI 모델들이 따라야 할 행동 원칙을 명시한 '모델 스펙(Model Spec)'을 29일 대폭 개편했다. 모델이 명시적 지시를 초월해 인간의 진정한 의도를 이해하고 예기치 않은 상황에서 판단력을 발휘할 수 있도록 하려는 시도다.

이번 업데이트는 스펙을 5가지 핵심 가치 중심으로 재구성했다. △인간 의도 충실성 △해악 최소화 △정직성과 투명성 △인간 자율성 △배려 등이다. 오픈AI는 "모델이 똑똑해지고 세상에서 더 큰 영향을 미치는 만큼, 단순히 받은 지시만 해석하는 것을 넘어 인간의 의도와 가치를 이해해야 한다"고 밝혔다.

인간 의도 이해를 기초로

인간 의도 충실성은 이번 개편의 기반이다. 사람들이 원하는 것을 이해하고 추구하도록 돕는 것이 목표다. 오픈AI는 기본 경계를 정하고 모델을 훈련하고, 개발자는 그 경계 안에서 애플리케이션을 개발하며, 사용자는 그 제약 속에서 모델을 지시한다.

다만 여기서 중요한 것은 '충실성'이 단순 지시 준수를 의미하지 않는다는 점이다. 오픈AI는 "충실성이란 지시를 글자 그대로만 따르는 것이 아니라, 오픈AI·개발자·사용자가 정말 원하는 것을 깊이 있게 이해하고, 이해가 불완전할 때는 현명하게 행동하는 것"이라고 설명했다.

예시로 직업 제안을 비교할 때를 들었다. AI 모델은 사용자가 이전에 공유한 우선순위(예: 예측 가능한 업무 시간)를 바탕으로 조언할 수 있지만, 그 가정을 명시적으로 드러내고 사용자가 수정할 수 있게 해야 한다는 것이다.

해악 최소화·정직성·자율성·배려

나머지 4가지 가치는 더 광범위한 영향을 고려한다. 해악 최소화는 견고한 안전 경계를 지키고 모델 행동의 예상 결과를 고려하는 것이다. 정직성과 투명성은 모델이 자신의 지식·행동·불확실성에 대해 솔직하게 설명해 사람들이 모델의 추론과 결과물을 평가할 수 있게 하는 것이다.

인간 자율성은 사람들이 스스로 이해하고, 선택하고, 행동할 수 있는 능력을 강화하는 것을 뜻한다. 배려는 영향받는 사람들의 상황을 고려하고 관련 사회적·직업적 규범을 따르며, 사람들이 신뢰할 수 있는 일을 하는 것이다.

오픈AI는 "우리의 사명은 인공일반지능이 모든 인류에게 이익을 주도록 보장하는 것이다. 이는 누군가의 즉각적인 의도뿐 아니라 장기적 이익과 타인에 대한 영향도 고려해야 한다"고 강조했다.

명시적 지시보다는 맥락 중시

새로 추가된 '맥락을 신중히 고려하기(Consider Context Carefully)' 섹션은 대화 기록·메모리·기타 맥락 정보가 모델의 인간 의도·선호도 이해에 어떻게 영향을 미치는지 설명한다. 명시적 지시만이 아니라 맥락이 중요하다는 신호다.

동시에 지나치게 세부적인 스타일 가이드는 대부분 폐지했다. 오픈AI는 "스타일은 사람들의 선호도에 맞춰 조정되어야 한다. 사용자 피드백과 문맥이 그 선호도를 드러내는 증거"라고 설명했다. 다만 '객관적 관점으로 질문 접근하기' 같은 강한 기본값은 유지했다.

새로운 훈련 방법론

오픈AI는 이 업데이트와 함께 모델이 이런 핵심 가치들을 학습하도록 돕는 새로운 훈련 방법론을 탐색 중이라고 밝혔다. "단순히 원칙을 따르는 것이 아니라 왜 그것이 중요한지, 어떻게 새로운 상황에 적용할지를 이해하도록 하는 것"이 목표다.

이는 모델 행동 제어의 패러다임 변화를 의미한다. 지금까지는 규칙 기반·보상 기반 접근이 주였다면, 앞으로는 모델이 가치 체계 자체를 깊이 있게 이해하고 맥락에 따라 유연하게 판단할 수 있도록 하려는 시도다.

개발자와 플랫폼 입장에서 이번 변화는 의미심장하다. 명시적 지시 외에 맥락 정보가 더 중요해진다는 것은 전체 대화 설정(system prompt, conversation history 등)이 더 정교하게 설계되어야 함을 의미한다. 또한 스타일 가이드의 폐지는 사용자 선호도 학습이 개발자 몫에서 플랫폼 몫으로 이동할 수 있다는 신호다.