프롬프트 엔지니어링 / RAG 연구일지: MCP 탐색(feat. cursor, claude)

2024년 3월 25일 - Claude GitHub 연동 및 GPT 업데이트

Claude에 GitHub 연동 기능이 추가되었다. 회사에서는 데스크톱 앱 사용이 제한적이라 MCP(Multi-model Capability Protocol) 활용에 어려움이 있었는데, 이제 최신 코드 기반으로 생성 요청할 때 각 패키지의 최신 리포지토리를 포크한 후 관련 코드를 컨텍스트로 제공하니 구버전 코드로 응답하는 경우가 확실히 줄어들었다.

 

또한 OpenAI에서는 사용 공유 시 4월 10일까지 일부 모델을 무료로 사용할 수 있는 옵션이 제공되었다. 구체적으로:

• 25만 토큰의 고급 모델
• 2.5M의 GPT-4o-mini, o1-mini, o3-mini 모델

이 시기에 맞춰 MCP 관련 새로운 업데이트가 출시될 가능성이 있어 기대된다.

2024년 3월 26일 - MCP 연동 실습 및 학습

오늘은 Cursor를 통해 MCP 연동 실습을 진행했다. 현재 MCP 활용 방식은 크게 두 가지로 나뉘는 것 같다:

1. Smithery와 같은 마켓플레이스에 등록된 툴을 연결해 사용하는 방법
2. 로컬에 직접 서버를 열어 사용하는 방법

MCP 개발은 fastmcp와 같은 패키지를 활용하는 것으로 보인다. MCP 연동 시 사용하는 JSON 구조를 파악하여 다른 개발자들이 공유한 다양한 도구를 사용할 수 있는 수준까지 도달했다.

hwp-mcp와 naver-mcp를 직접 사용해보며 기본적인 이해는 갖추었지만, 몇가지 툴들은 아직 사용하기에는 무리가 있는득 하다. 앞으로는 RAG(Retrieval-Augmented Generation) 파이프라인을 MCP로 연결하는 과정을 더 깊이 파악할 계획이다.

2024년 3월 27일 - TMAP REST API 활용 및 모듈 구축

오늘은 TMAP REST API를 활용하여 새로운 프로젝트를 시작했다. 이 프로젝트는 크게 세 가지 부분으로 구성된다:

1. 모듈 개발
2. LLM(Large Language Model)에 사용할 tool 구현
3. MCP 서버 구축

현재는 첫 번째 단계인 모듈 개발까지 완료했다. TMAP의 REST API를 활용하여 위치 기반 정보를 효율적으로 처리하고 활용할 수 있는 기본 모듈을 구축했다. 이 모듈은 향후 LLM에 연결할 tool과 MCP 서버 구축의 기반이 될 예정이다.

이 모듈을 통해 위치 정보, 경로 안내, POI(Point of Interest) 검색 등 TMAP API가 제공하는 다양한 기능들을 프로그래매틱하게 활용할 수 있게 되었다. 다음 단계에서는 이 모듈을 기반으로 LLM이 활용할 수 있는 tool을 개발하고, 최종적으로는 MCP 서버로 통합할 계획이다.

멀티모달 기능과 비용 고려사항

docling이나 ocr 사용시 일부 그래프의 ocr이 잘안되어 멀티모달 AI 기능을 활용해 이미지 분석으로 해당 차트들을 처리해보고 있다. 진행하면서 토큰 소비량이 역시 텍스트 분석에 비해 토큰 소비량이 매우 크게 증가하는게 확인되었다. 텍스트 분석만 할 때는 주로 API 호출 횟수가 비용의 주요 요소였지만, 이미지와 같은 멀티모달 요소를 추가하면 토큰 사용량이 급격히 증가한다.

이는 이미지를 처리하는 과정에서 필요한 추가적인 컴퓨팅 리소스와 이미지를 토큰화하는 과정에서 발생하는 비용이 반영된 결과이다. 멀티모달 AI 프로젝트를 진행할 때는 이러한 비용 증가 요소를 사전에 고려하여 예산 계획을 세워야 할 것으로 보인다.

요약 및 향후 계획

현재까지 MCP의 기본 구조와 활용 방식에 대한 이해를 갖추게 되었고, TMAP REST API를 활용한 모듈 개발까지 완료했다. 앞으로는:

1. TMAP API 기반 LLM 툴 개발 
2. MCP 서버 구축 및 통합
3. RAG 파이프라인과 MCP의 연동 방식 심화 학습
4. 멀티모달 AI 활용 시 효율적인 토큰 사용 방안 연구

GitHub 연동과 같은 최신 기능들과 TMAP API와 같은 실용적인 서비스를 결합하여 더 효율적이고 실용적인 AI 개발 환경을 구축해 나갈 계획이다.