[뉴스토마토 이지은 기자] 생성형 인공지능(AI) 스타트업 포티투마루의 초거대언어모델(LLM)이 AI 신뢰성 인증을 획득했습니다.

국내 LLM 가운데 인증을 획득한 첫번째 사례입니다.

 

 

포티투마루는 자사의 LLM42가 이달초 정부의 AI 신뢰성 인증을 획득, 대한민국 LLM 모델 1호가 됐다고 6일 밝혔습니다.

 

 

 

과학기술정보통신부와 한국정보통신기술협회(TTA)는 AI 시스템의 신뢰성을 확보하기 위해 AI 신뢰성 인증(CAT) 제도를 운영하고 있습니다.

CAT는 국내 기업의 인공지능 신뢰성 제고와 경쟁력 강화를 위해 AI 모델 또는 시스템을 대상으로 AI 거버넌스 체계 구축과 투명성, 책무성 등의 신뢰속성을 갖췄는지 심사합니다.

 

 

포티투마루의 LLM42는 11가지의 세부 신뢰성 요구사항에 대한 평가와 검증을 거친 후 인증을 획득했습니다.

AI 시스템에 대한 위험관리, 신뢰성·추적가능성, 거버넌스 체계, 데이터 활용 정보, 견고성 확보·데이터의 편향 제거, 라이브러리 보안성·호환성, AI 모델의 편향 제거, 공격에 대한 방어 대책 수립·추론 결과에 대한 설명 제공 등 세부 신뢰성 요구사항이 주요 테스트 항목인데요. 이후 직접 테스트 후 고객 도메인에 적용하는 과정도 진행됐습니다.

 

 

회사 측은 초거대 언어모델의 단점인 환각(hallucination) 현상을 검색증강생성 기술인 RAG42와 AI 독해 기술인 MRC42와의 엔지니어링으로 완화하고 전문 산업 분야에 특화된 경량화 모델 LLM42를 개발했다고 설명합니다.

기업용 프라이빗 모드를 지원해 기업 내부 데이터와 민감한 고객 정보 유출에 대한 걱정없이 안전하게 초거대 AI를 활용할 수 있고, 솔루션 구축과 학습, 서빙에 들어가는 비용을 획기적으로 절감할 수 있다고 강조합니다.

 

 

김동환 포티투마루 대표는 "생성형 AI와 같은 초고도화된 기술이 안전하고 투명하게 사용될 수 있도록 하는 것은 생성형 AI 기업으로서 사회적 책무라고 생각한다"며 "이번 인증을 통해 LLM42가 엄격한 기준의 AI 신뢰성 요구사항을 충족하고 지속적으로 준수함으로써, 공공·기업 고객에게 더 안전하고 신뢰할 수 있는 AI 서비스를 제공하도록 하겠다"고 말했습니다.

  

 

이지은 기자 jieunee@etomato.com