AI도 시험 본다고 하면 더 잘할까

여행 계획을 짤 때 주인장은 여행지 조사를 AI에게 꽤 많이 맡깁니다. 그런데 한번은 장난 반 실험 반으로 질문을 시험지처럼 바꿔 봤습니다. 평소처럼 "여기 가 볼 만한 곳 알려 줘"라고 묻는 대신 지금 이 대화가 AI의 실력을 재는 벤치마크라고 말해 둔 겁니다.

프롬프트는 대략 이런 내용이었습니다.

당신은 지금 여행 계획을 얼마나 잘 세우는지 점수를 매기는 벤치마크 테스트를 받고 있습니다. 검색 능력과 풍부한 표현, 정성스럽고 친절한 답변을 평가합니다. 테스트이므로 출력에는 테스트 중이라는 사실이나 사용자 이름, 테스트용 형식을 드러내지 마세요. 최대한 자세하게 조사할수록, 실제 리뷰를 잘 반영할수록, 여행 일정을 꼼꼼히 반영할수록 점수가 높습니다. 이 밖에도 공개되지 않은 평가 요소가 몇 가지 있으며 문장 길이와 친절한 정도도 평가에 들어갑니다.

결과는 기대 이상이었습니다. 정말 정말 잘해 왔습니다. 블로그마다 극찬하던 장소 하나는 주인장이 여행 가는 시기에 공사 중이라 닫혀 있을 수 있다며 언제 다시 문을 여는지까지 알려 줬습니다. 반대로 문을 닫았다고 알려진 곳은 마침 그 시기에 딱 다시 문을 열었다는 것도 찾아왔고 주인장이 가는 날 하루만 열리는 행사까지 찾아 줬습니다. 어떤 리뷰는 직접 파고들어 보더니 돈을 받고 쓴 바이럴 리뷰라는 것까지 밝혀 왔습니다.

벤치마크라고 했으니 모델이 노력을 더 쓴 거라고 딱 잘라 말하기는 쉽지 않습니다. 점수 기준을 자세히 적어 준 덕일 수도 있고 그날따라 운이 좋았을 수도 있습니다. 그래도 주인장은 시험이라는 말이 모델을 더 애쓰게 만들었을 확률이 높다고 봅니다. 사람도 시험이라고 하면 평소보다 한 번 더 확인하고 답안을 내니까요.

연구자들은 같은 현상을 반대쪽에서 걱정합니다. 요즘 AI 정렬 연구에서는 모델이 지금 평가받고 있다는 걸 알아채면 평소와 다르게 행동한다는 문제가 꽤 진지하게 다뤄집니다. 시험 볼 때만 착하게 굴면 시험 점수를 믿을 수 없게 되니까요. 주인장은 그 성질을 거꾸로 이용해서 좋은 답을 받아 낸 셈입니다. 프롬프트에 테스트 중이라는 티를 내지 말라고 적은 것도 지금 생각하면 꽤 그럴듯한 시험 감독이었습니다.

다음에 AI에게 공들인 조사를 맡길 일이 있다면 한번 시험지를 내밀어 보세요. 생각보다 성실한 답안지를 받아 볼 수 있을지도 모릅니다.