요즘 코딩할 때 AI 도움 받으시나요? 저는 간단한 스크립트나 코드 설명을 부탁할 때 자주 써요. 그런데 요즘 나오는 ‘AI 코딩 에이전트’는 차원이 다르더라고요. 몇 시간 동안 혼자서 앱을 완성하고, 테스트하고, 버그까지 잡는다는 소식이에요. 진짜 개발자 대체할 수 있을까 싶은데, 한번 들여다볼게요.
사실 이 모든 것의 핵심에는 ‘LLM’이라는 큰 언어 모델이 있어요. 이건 엄청난 양의 텍스트와 코드를 학습한 패턴 매칭 머신이에요. 우리가 프롬프트를 주면, 학습한 데이터에서 통계적 패턴을 끄집어내서 그럴듯한 다음 문장(또는 코드)을 생성하는 거죠. 잘하면 천재 같은 추론을 해내지만, 가끔은 아무 관련 없는 헛소리를 만들기도 해요. 우리가 ‘할루시네이션’이라고 부르는 현상이죠.
이 기본 모델을 더 다듬어서 ‘에이전트’로 만든 거예요. 최근에는 여러 개의 LLM을 연결해서, 한 놈이 감독하고 다른 놈들이 동시에 여러 작업을 하게 만드는 방식이 대세래요. 마치 프로젝트 매니저가 개발자들을 지휘하는 것처럼요! Anthropic의 설명에 따르면 ‘정보 모으기 → 행동하기 → 작업 확인하기 → 반복하기’라는 사이클로 돌아간다고 해요.
근데 진짜 신기한 건 이 에이전트들이 실제로 내 컴퓨터에서 파일을 만들고, 명령어를 실행하고, 심지어 서버에 파일을 업로드하기도 한다는 거예요. CLI로 로컬에서 돌릴 때는 정말 조심해야 해요. 반면 웹 버전(Claude Code 같은)은 샌드박스라는 안전한 공간에서 코드를 실행하도록 설계되어 있어서 비교적 안전하답니다.
여기서 중요한 개념이 ‘컨텍스트’에요. LLM은 우리 대화의 전체 기록을 한꺼번에 처리해야 하는데, 이게 일정 길이를 넘어가면 앞부분을 ‘잊어버린다’고 해요. 연구에 따르면 컨텍스트가 너무 길어지면 오히려 성능이 떨어지는 ‘컨텍스트 부패’ 현상도 발생한다고 하네요. 마치 우리가 너무 많은 일을 동시에 하려다가 정작 중요한 걸 놓치는 것처럼요.
솔직히, 이렇게 설명해놓고 보니 AI 코딩 에이전트는 정말 강력한 도구인 것 같아요. 하지만 완전히 믿고 맡기기에는 아직 위험 부담이 있어요. 결국 우리가 원하는 코드를 정확히 이해하고, 생성된 결과를 꼼꼼히 검토할 수 있는 개발자의 눈은 아직 필요할 거예요. AI가 코딩을 도와주는 ‘동료’가 될 수는 있어도, 아직 ‘대체’할 수는 없는 것 같네요. 여러분은 어떻게 생각하시나요?
—
원문: [Ars Technica](https://arstechnica.com/information-technology/2025/12/how-do-ai-coding-agents-work-we-look-under-the-hood/)