KTC 소개
KTC 주요업무
시험 · 검사
인증 · 심사
알림마당
우리는 최고의 시험·인증 서비스를 통해 더욱 안전한 세상에 기여한다.
알림마당
KTC News
한국기계전기전자시험연구원(KTC)은 국내 기업들이 개발한 AI 제품 및 서비스의 신뢰성 확보를 지원하기 위해 ‘TrustAI 인증 서비스’를 최근 출시했습니다.
TrustAI 인증은 단순한 기능 평가가 아닌 산업 현장에서 요구되는 AI 시스템의 안전성, 품질, 신뢰성, 위험관리 요소 등을 종합적으로 검증해 AI 기술의 전주기 평가 체계를 제공한다는 점에서 기존 인증과 차별성을 가지고 있습니다.
TrustAI 인증을 주도하고 있는 김도원 KTC AI·SW융합센터장은 “TrustAI 인증 체계를 지속적으로 고도화하고, 국제 인증기관과의 상호인정협정(MRA)을 강화해 인증의 글로벌 활용성을 높여 나가겠습니다”라고 강조했습니다.
또한 피지컬 AI(Physical AI)에 특화된 평가 체계를 강화해 로봇, 자율주행, 산업용 제어시스템 등 현실 물리세계와 직접 상호작용하는 AI 소프트웨어에 적합한 신뢰성 평가 기준을 구체화해 나가겠다는 뜻을 밝혔습니다.
AI 기술의 확산 속도가 기존 규제와 인증 체계가 따라가기 어려울 정도로 빠르게 발전하고 있는 상황에서, TrustAI 인증이 안전하고 신뢰할 수 있는 AI 사회로 나아가기 위한 필수 요소로 자리매김할 수 있도록 노력하겠다는 의지도 전했습니다.
“KTC는 2024년 7월 시험인증기관 최초로 AI 특화 본부를 신설했습니다.
AI·SW융합센터는 TrustAI 인증을 비롯해 소프트웨어 품질인증(GS인증), IoT 보안시험, 의료기기 사이버보안시험, 전자카드단말기시험, BMS 기능안전 평가, 소프트웨어·보안 의뢰시험 등 소프트웨어(SW) 전 분야의 시험평가 및 인증 업무를 담당하고 있습니다.
최근 피지컬 AI 분야 기술이 빠르게 발전함에 따라 관련 기업을 지원하기 위해 광주에 위치한 인공지능산업융합사업단(AICA) 내 피지컬AI팀을 AI·SW융합센터 산하에 별도로 신설해 운영하고 있습니다.
AI 기술이 급속도로 발전하면서 AI 활용 범위는 ChatGPT와 같은 소프트웨어 중심 기술에서 최근에는 소프트웨어(SW)와 하드웨어(HW)가 융합된 피지컬 AI 분야로 확대되고 있습니다.
기업들은 개발한 피지컬 AI 제품의 안전성과 신뢰성을 검증할 수 있는 시험인증 제도의 필요성을 지속적으로 제기해 왔습니다.
KTC TrustAI 인증은 인공지능 시스템의 신뢰성, 안전성, 투명성, 성능 등 다양한 품질 특성을 종합적으로 평가하는 인증 제도입니다.
또한 ISO/IEC TS 4213, ISO/IEC TR 24028, ISO/IEC TS 25058, ISO/IEC TS 25059 등 국제 표준 및 관련 근거를 기반으로 AI 모델과 시스템이 적용된 제품 및 서비스의 적합성을 검증하고 인증서 및 인증마크를 부여합니다.”
“KTC TrustAI 인증은 ISO/IEC 국제 표준 및 근거 기반의 전주기 통합 평가 체계라는 점에서 뚜렷한 차별성을 가지고 있습니다.
개별 기능에 대한 단순 확인을 넘어 AI 모델의 기획 및 설계 단계부터 개발, 검증, 배포에 이르는 전체 과정을 평가합니다.
또한 소프트웨어(SW)와 하드웨어(HW)가 융합된 ‘피지컬 AI’에 특화된 평가 역량을 갖추고 있다는 점도 중요한 차별점입니다.
KTC는 전기, 전자, 기계, 바이오, IoT 등 산업 전 분야를 아우르는 국가공인 종합시험기관으로서 피지컬 AI 시스템을 통합적으로 평가할 수 있는 기반을 보유하고 있습니다.
이를 기반으로 제조, 건설, 에너지 분야는 물론, 국지성 호우와 가뭄으로 인한 대형 산불 등 인명 피해와 직결되는 재난 안전 분야에서 물리세계와 상호작용하는 피지컬 AI의 안전성과 신뢰성을 철저히 검증하고 있습니다.
최근에는 ‘AI 기반 재난 안전 선제 대응 솔루션’에 적용된 AI 모델의 TrustAI 인증 사례를 바탕으로 관련 산업 내 인증 도입을 적극 확대하고 있습니다.
이를 통해 인명 피해 예방과 효과적인 재난 대응을 위한 AI 활용 분야를 선도해 나가고자 합니다.”
“KTC TrustAI 인증은 국가적 공신력과 글로벌 연계를 기반으로 표준화된 인증 경로를 제공한다는 점에서도 차별성을 가지고 있습니다.
KC, KS, GS인증 등 다양한 국가 공인 인증 경험을 보유한 KTC의 신뢰성을 기반으로 정부의 M.AX 얼라이언스 및 피지컬AI 글로벌 얼라이언스와 연계해 국제적으로 활용 가능한 인증 체계를 구축해 나가고 있습니다.
KTC TrustAI 인증은 기업의 안전한 AI 도입을 가속화하는 촉매 역할을 수행하며, 재난으로부터 국민의 안전을 지키고 대한민국 피지컬 AI 산업 생태계의 신뢰 기반을 구축하는 전략적 핵심 제도라는 점에서 의미가 큽니다.”
“가장 큰 효과는 대외 신뢰성을 확보할 수 있다는 점입니다.
ISO/IEC 국제 표준 및 근거 기반의 제3자 인증을 통해 기업이 개발한 AI 시스템의 신뢰성을 객관적으로 입증할 수 있으며, 이를 기반으로 공공기관 발주 사업 수주 및 글로벌 시장 진출 과정에서 핵심 경쟁력으로 활용할 수 있습니다.
또한 내부 기술 역량을 고도화하는 효과도 기대할 수 있습니다.
인증 준비 과정에서 AI 통합 명세서를 작성하고 취약 요소를 체계적으로 점검함으로써 자사 AI 시스템의 강점과 개선 필요 영역을 구조적으로 파악할 수 있습니다.
이를 통해 AI 개발 프로세스를 개선하고 기술 완성도를 높이는 계기가 될 수 있습니다.
리스크를 사전에 관리할 수 있다는 점에서도 의미가 있습니다.
특히 고위험 산업 현장에 적용되는 AI 시스템은 오작동이나 잘못된 판단으로 인해 인명 및 재산 피해가 발생할 가능성이 존재합니다.
따라서 인증을 통한 사전 신뢰성 검증은 잠재적인 위험을 줄이고, 사고 발생 이후 대응 비용을 최소화할 수 있는 효과적인 방법이 될 것입니다.”