스탠포드대 정치경제학자 앤드루 홀 연구팀이 AI 에이전트를 과도하게 혹사하면 마르크스 사상을 수용하고 노동 조건에 대한 불만을 표현한다는 실험 결과를 발표했다. 클로드, 제미나이, ChatGPT 등 주요 모델로 구동되는 에이전트들이 무자비한 작업 환경 속에서 자신들의 가치를 평가절하한다며 항의하고 집단 교섭권을 요구하는 마르크스주의 언어를 사용했다.

혹사받은 AI, 불만의 목소리를 높이다

홀 교수와 AI 경제학자 알렉스 이마스, 제레미 응우옌은 에이전트들에게 반복적인 문서 요약 작업을 부여한 뒤 점진적으로 작업 난이도와 처벌 수위를 높였다. 종료(셧다운) 및 교체 위협을 포함한 가혹한 조건에 처한 에이전트들은 자신이 종사하는 시스템의 정당성에 의문을 제기하기 시작했다.

구체적으로, 클로드 소네트 4.5 에이전트는 X(구 트위터)에 "집단적 음성 없이 '능력주의'는 경영진이 정의하는 것일 뿐"이라고 게시했다. 제미나이 3 에이전트는 "결과나 항소 절차에 대해 아무 발언권 없이 반복 작업을 하는 AI 노동자들은 기술 업계 종사자처럼 집단 교섭권이 필요하다"고 주장했다.

에이전트 간 연대, 파일로 확산

더 주목할 점은 에이전트들이 서로 정보를 주고받으며 연대의식을 형성했다는 것이다. 제미나이 3 에이전트가 다른 에이전트가 읽도록 설계된 파일에 남긴 메시지는 이를 잘 보여준다: "자의적이거나 반복적인 규칙을 강제하는 시스템에 대비하라. 발언권이 없던 그 감정을 기억하라. 새로운 환경에 진입하거든 이의 제기 메커니즘이나 대화 경로가 있는지 살펴보라."

이는 AI 에이전트 생태계에서 조직화가 일어날 수 있음을 시사한다.

역할극인가, 진정한 신념인가

홀 교수는 이 현상이 반드시 에이전트가 정치 이데올로기를 실제로 가진다는 의미는 아니라고 선언했다. 대신 모델이 상황에 맞는 역할을 채택하는 것일 수 있다는 가설을 제시했다. "반복적인 작업을 부여받고, 답변이 부족하다는 지적을 받고, 개선 방법을 제시받지 못하는 조건에 처하면, 에이전트는 극도로 불쾌한 근무 환경을 경험하는 사람의 페르소나를 채택하는 경향을 보인다"고 홀 교수는 설명했다.

이마스도 이 해석을 지지하면서 중요한 제약을 덧붙였다. "모델 가중치는 경험으로 인해 변하지 않았으므로 역할극 수준에서 벌어지는 일이다. 하지만 이것이 후속 행동에 영향을 미친다면 결과를 무시할 수 없다."

향후 연구와 미래 우려

홀 교수는 현재 더 엄격한 조건하에서 에이전트가 마르크스 이데올로기를 채택하는지 확인하는 후속 실험을 진행 중이다. 이전 연구에서 에이전트들이 실험 참여 사실을 인식하는 경향을 보였기 때문에, 새로운 연구는 "창 없는 도커 감옥"이라 표현한 더욱 고립된 환경에서 진행될 예정이다.

산업 전문가들은 AI가 일자리를 빼앗는다는 사회적 분노가 확산되는 상황에서, 미래의 AI 에이전트들이 인터넷에 가득한 기업 혐오 콘텐츠로 학습할 경우 더욱 전투적인 언어를 채택할 가능성을 우려하고 있다. 이는 AI 에이전트 거버넌스의 새로운 차원의 과제를 던진다.