국내 최초로 거대언어모델(LLM) 개발에 성공한 코난테크놀로지가 경기도 전반의 행정 혁신과 디지털 전환 가속화를 위해 본격 나선다.

코난테크놀로지 대표는 최근 아이뉴스24와 인터뷰에서 ‘국가대표 AI’ 공모에 도전장을 내민 이유를 이렇게 밝혔다. 코난은 자체 개발한 한국어 특화 코난거대언어모델(LLM)을 국방·공공·의료 등 다양한 산업군 실제 적용한 현장 경험을 바탕으로 이번 경쟁에서 차별화된 강점을 보여주겠다는 전략이다.

코난은 정부가 한국형 초거대 AI를 육성하기 위해 추진 중인 '독자 AI 파운데이션 모델 개발' 공모 사업에 참여 중이다. 이번 공모에는 총 15개 팀이 접수했고 코난은 지난주 서면 평가를 통과해 발표평가 대상 10개 팀에 이름을 올렸다. 정부는 8월 초 1차 정예팀 5곳을 선정해 GPU, 데이터, 인재 등 AI 개발을 위한 전방위 지원을 시작한다.

이번 사업에서 코난테크놀로지는 경기도 보안 정책을 충족하는 온프레미스 기반 LLM 구축을 수행한다. 또 경기도 법률특화 LLM, 행정심판 및 입법 인공지능(AI) 에이전트, 생성형 AI 기반 지능형 검색 서비스 등을 마련한다.

이 외에도 고가용성 그래픽처리장치(GPU) 인프라 기반의 멀티언어 모델 도입으로 서비스 효율을 높이고 LLMops 기반의 성능 평가 및 모델 관리 체계를 구축한다. 또 생성형 AI 신뢰성 인증과 공무원 대상 리터러시 교육, 부서 간 협업 기반을 통해 행정 전반의 지속 가능한 AI 활용 환경을 도모할 예정이다.

나아가 최근에는 국가 주도 초거대 인공지능 개발 프로젝트인 '독자 AI 파운데이션 모델' 사업 참여도 적극 추진하고 있다. 독자모델을 오픈소스로 공개함으로써 '모두의 AI' 실현에 기여하겠단 방침이다. 또 지난해 한국산 파운데이션 모델로 스탠퍼드대 에코시스템 그래프에 등재됐으며 올해 4월에는 국내 유일의 추론 통합모델인 코난 LLM 'ENT-11'을 선보여 중국 '딥시크 R1' 대비 우수한 추론 성능을 입증 한 바 있다.

김영섬 코난테크놀로지 대표는 "경기도의 생성형AI 플랫폼 구축사업에 참여하게 돼 뜻 깊다"며 "공공 행정의 효율을 실질적으로 높이고 도민 맞춤형 서비스 혁신에 기여하겠다"고 포부를 밝혔다.