요즘 Codex에서 GPT-6 Astra를 쓰면서 눈에 들어오는 건 도구를 다루는 모습입니다. PC나 맥에 있는 개발 환경을 이전보다 훨씬 잘 쓴다는 느낌이 드는데요.
그 느낌을 받은 작업 중 하나가 SPUM의 캐릭터 움직임을 다듬는 일이었습니다. SPUM은 제가 개발하고 있는 유니티용 2D 픽셀 캐릭터 제작 도구인데요. Codex의 아스트라에게 칼을 쓰는 캐릭터와 활을 쓰는 캐릭터, 도적의 움직임을 다르게 해달라고 했습니다.
실제로 움직임에 차이가 나오더라고요. 제가 설명한 차이가 결과에 반영되니, 이걸 바탕으로 더 다듬으면 되겠다는 생각이 들었습니다.
이런 작업을 보면서 처음에는 ‘아스트라가 하네스에 덜 갇히는 것 같다’는 느낌이었습니다. 하네스는 AI가 도구를 쓰고 작업을 이어가도록 연결해주는 실행 환경인데요. 정해진 기능만 호출한다는 인상보다, 그냥 개발 환경 자체를 잘 쓰는 것처럼 느껴졌습니다.
그런데 아스트라에게 더 많은 일을 맡길 수 있게 되면, 사용하는 사람도 그 일을 그만큼 이해하게 되는 걸까요?
맡길 수 있는 과정이 늘어난다는 것
공식 설명과 다른 사람들의 사용기도 찾아봤습니다. OpenAI는 컴퓨터 사용 능력과 전문 업무를 위한 훈련을 강조하면서, Codex 하네스도 함께 개선했다고 설명합니다. 하네스에 덜 갇히는 것처럼 느껴진 것도 모델과 실행 환경이 같이 좋아진 결과일 수 있겠네요. OpenAI 공식 발표
공식 컴퓨터 사용 문서에는 아스트라를 쓸 때 코드 실행을 권장한다는 안내도 있습니다. 아래는 그 문장을 캡처한 것입니다.
Matt Shumer의 사용기에는 Unreal Engine의 기존 도구와 에셋을 활용하고, 게임을 실행해 결과를 보며 수정했다는 이야기가 나옵니다. 아래는 그가 결과물로 공개한 게임의 한 장면입니다. Matt Shumer의 사용기
다만 큰 작업을 맡기려면 준비도 필요했다고 합니다. 같은 글에는 준비 과정의 작업 목록과 진행 상황을 보여주는 Manager Loop 화면도 나오는데요. 결과가 좋아졌다는 이야기와 함께, 그 결과를 만들기 위해 어떤 구성을 해줬는지도 봐야겠죠.
Rich Friedel은 세 프로젝트를 진행하며 AI에게 다시 설명하고 방향을 잡아주는 수고가 줄었다고 했습니다. 반대로 Reddit에는 시키지 않은 설계와 테스트를 추가해서 더 피곤해졌다는 글도 있습니다. 초기의 개별 경험이니 모두가 좋아한다고 보기는 어렵습니다. Rich Friedel의 사용기 · 반대 경험을 다룬 Reddit 후기
Friedel이 말한 설명과 조율의 감소가 더 많은 작업에서도 이어진다면, 개발을 시작하는 장벽도 낮아지겠죠. 다만 중간에 설명하고 확인하는 과정이 줄어들 때, 내가 놓치는 것은 없는지도 살펴보고 싶습니다.
내가 이해한 것보다 많은 일을 실행한다면
예를 들어 AI에게 자료를 모아 정리하는 도구를 만들어달라고 해볼까요. 직접 만들다 보면 공식 API가 있는지, 어떤 권한이 필요한지 찾아보게 되죠. AI가 이 과정을 처리해주면 그런 내용을 살펴보기 전에 작동하는 결과물부터 받을 수도 있습니다.
그런데 데이터를 가져오는 데 성공했다고 원하는 용도로 써도 되는 건 아닙니다. 다른 예로, 회사 소스코드도 내가 볼 수 있다는 것과 외부 AI에 보내도 된다는 것은 따로 확인해야 합니다. 직접 코딩하던 사람이라고 이런 걸 다 알았다는 이야기는 아닙니다.
제가 걱정하는 건 내가 이해한 것보다 훨씬 많은 일을 실행할 수 있게 된다는 점입니다. 화면에 결과가 나왔다는 것은 바로 보이지만, 어떤 자료를 읽고 어디로 보냈는지는 결과물만 봐서는 알기 어렵거든요.
몰라서 문제가 생길 수도 있겠죠. 그런데 위험할 수 있다는 걸 알면서 맡기는 경우는 어떨까요? 확인하려면 담당자에게 묻거나 계약을 찾아봐야 하는데, 당장 결과가 필요하고 AI는 작업할 수 있다고 합니다. 그러면 ‘일단 해보고 문제 있으면 그때 생각하자’로 넘어가기 쉬워질 수 있습니다.
여기서 미필적 고의라는 말이 떠올랐습니다. 물론 위험할 수 있다는 걸 알았다는 사실만으로 미필적 고의라고 단정할 수는 없습니다. 그 위험을 용인했는지 등 구체적인 사정을 봐야 하니까요. 제가 생각해보고 싶은 건 위험을 알면서도 확인을 미루고 실행하는 태도입니다. 관련 판례의 일반 법리
앞의 자료 정리 도구도 어떤 파일을 어디로 보낼지까지 AI가 정할 수 있습니다. 그러면 “AI가 알아서 했는데요”라는 생각이 들 수도 있겠죠. 위험을 알고 진행한 경우에도 그 설명으로 충분할까요?
반대로 무엇이 실행되는지 제대로 보여주지 않은 채 승인 버튼만 눌렀다고 전부 사용자 책임이라 하기도 어렵고요.
도구가 막아줄까, 사람이 배워서 증명할까
반복되는 실수는 도구가 막아주면 좋겠습니다. 읽기만 필요한 일에는 읽기 권한만 주고, 외부 전송이나 실제 서비스 변경에는 확인을 받는 식이죠. OWASP도 AI에 필요 이상의 기능과 권한을 주는 문제를 다루며 이런 제한을 권고합니다. 기본 설정을 고쳐 여러 사람에게 적용할 수 있으니, 이런 부분은 제품 쪽의 개선이 빠를 것 같습니다. OWASP의 설명
그런데 아스트라에서 좋았던 모습을 생각하면, 기능을 제한하는 쪽으로만 가도 괜찮을까 싶습니다. 개발 환경의 도구를 활용해 알아서 진행하는 것이 좋았는데, 위험할 수 있다는 이유로 기능을 줄이면 해보고 싶었던 작업도 막힐 수 있으니까요.
자유롭게 자동화하면서 모든 행동을 확실하게 통제하기는 어렵다고 봅니다. 알아서 방법을 찾아달라고 맡기는 만큼, 미리 정하지 않은 행동도 나올 수 있을 테니까요.
물론 가짜 자료로 실험하는 일은 넓게 맡기고, 실제로 공개하거나 외부에 전송할 때만 확인하게 나눌 수는 있겠죠. 다만 같은 자료를 옮기는 일도 누구의 자료를 어떤 목적으로 어디에 보내는지에 따라 달라집니다. 정상적인 작업이 막혔을 때 누가 다시 판단해줄지도 정해둬야 하고요.
그 판단을 설명하려면 결국 저도 업무를 알아야 합니다. 테스트를 통과했다는 보고를 받아도 중요한 상황이 검사에서 빠지지 않았는지 볼 수 있어야 하죠. 문제가 생겼을 때 어디부터 멈추고 되돌릴지도 알아야 하고요. 구현을 많이 맡길수록 오히려 이런 전문 도메인 지식이 중요해지는 것 아닐까 싶습니다.
그러면 특정 업무를 AI에게 맡길 능력이 있는지 증명하는 과정도 생길 수 있겠네요. 꼭 국가 자격증일 필요는 없습니다. 조직 안에서 결과를 검토하고 복구하는 과정을 실제로 해봤는지 확인할 수도 있겠죠. 능력을 인정받는 것과 모든 자료에 접근할 권한을 받는 것은 별개입니다.
그런데 시험은 AI가 대신 풀어줄 수 있고, 많이 아는 사람도 바쁘면 확인을 건너뜁니다. 교육과 인증이 비싸진다면, 맡길 능력을 증명하는 비용이 또 다른 진입 장벽이 될 수도 있겠죠. 그래서 전문성을 어떻게 기를지와, 어떤 자격을 요구할지는 따로 생각해봐야 할 것 같습니다.
AI에게 배우면서 맡길 수는 없을까
AI를 쓰는 과정이 업무를 배우는 기회가 될 수도 있습니다. 고객지원 업무를 다룬 「Generative AI at Work」 연구에서는 경험과 숙련도가 낮은 사람들이 업무 속도와 품질에서 더 큰 도움을 받았고, 업무 학습에도 도움이 된다는 근거가 제시됐습니다. 개발에 그대로 적용할 수는 없지만, 전문가의 노하우를 전달하는 역할은 생각해볼 만합니다. 연구 원문
위험한 작업을 그냥 막는 데서 끝내지 않고, 무엇이 부족한지 설명하고 가짜 자료로 먼저 해보게 할 수는 없을까요? 결과를 함께 살펴보면서 무엇을 확인해야 하는지 배우는 것이죠. 다만 무엇을 확인해야 하는지 묻는 질문까지 AI가 대신 답하게 하면, 이것도 형식적인 절차가 될 수 있겠네요.
차단이 많아지면 편하게 맡기기 어렵고, 처음부터 모든 것을 알아야 한다면 시작하기가 다시 어려워집니다. 차단 규칙이나 인증을 빨리 만드는 것과, 그것이 사용하는 사람에게 좋은 것은 또 다른 문제입니다.
SPUM에서는 제가 요청한 움직임의 차이가 결과에 반영됐습니다. 그렇게 AI와 해볼 수 있는 일이 늘어나는 건 여전히 반갑습니다. 그런데 자료를 옮기거나 실제 서비스를 바꾸는 일까지 생각하니, 결과가 나왔다는 것만으로 끝낼 수 없는 작업도 많네요.
도구가 위험한 행동을 막아주는 속도와, 사람이 업무를 배워 판단할 수 있게 되는 속도는 다를 텐데요. 어디까지는 도구가 막아주고, 어디부터는 사람이 배워서 판단하는 게 더 빠르고 적절할까요?