TTA, 인공지능 신뢰성 검·인증 제도 고도화

[아이뉴스24 서효빈 기자] 한국정보통신기술협회(TTA)는 11일 국내 인공지능(AI) 기술의 글로벌 신뢰도 제고와 산업 현장 수요에 부합하는 실효적 인증 제도 운영을 위해 ‘인공지능 신뢰성 검·인증(CAT)’ 제도를 국제표준 기반으로 고도화했다고 밝혔다.

CAT는 2023년 TTA가 국내 최초로 제정한 단체표준 '인공지능 시스템 신뢰성 제고를 위한 요구사항(TTAK.KO-10.1497)'을 기반으로 설계됐다. 2024년 정식 운영 이후 현재까지 총 7건의 인증을 부여했고, 39건의 검증 서비스를 제공했다.

이번 고도화는 AI 기술의 위험도와 기업 규모에 따라 심사·시험 기준을 차등 적용해 과도한 부담을 줄이고, 실효적 신뢰성 확보를 지원하는 데 초점을 맞췄다. 시험 기준은 ISO/IEC 23894(위험관리), 42001(경영시스템), 38507(거버넌스) 등 국제표준을 반영해 분류·정비됐다.

인증 대상은 인공지능 시스템, AI 사업자, AI 이용자로 세분화되며, 각 대상에 따라 위험관리 체계, 경영시스템, 거버넌스 요소에 대한 표준 적합성이 평가된다. 기존 문서·절차 중심 심사 외에도, 실제 운영 환경에서 AI 시스템의 위험 대응 능력을 확인하는 기능·성능 시험이 강화됐다.

이를 통해 기업은 자사 기술 수준과 운영 여건에 맞춰 신뢰성을 확보하고, 대외적으로 이를 입증할 수 있는 기반을 마련할 수 있다. 기술·조직 운영·책임 체계 등 핵심 요소 중심의 점검을 통해 내부 경영 및 거버넌스 체계 강화에도 실질적인 도움이 될 것으로 기대된다.

TTA는 과학기술정보통신부와 함께 '신뢰할 수 있는 인공지능 개발 안내서' 개발, 생성형 AI 레드팀 챌린지 운영 등 AI 안전·신뢰성 기반 조성을 위한 활동을 지속해왔다. 최근에는 AI 기본법 하위법령 정비 TF에 참여하고, AI안전연구소·국가인공지능위원회 등과의 협력도 확대하고 있다.

손승현 TTA 회장은 "CAT는 국내·외 AI 산업의 변화에 발맞춰 평가 기준을 지속 고도화하며, 민간의 자율적 신뢰성 확보를 적극 지원해 온 인증 제도"라며 "시험·인증 분야의 전문성을 바탕으로 AI 품질과 보안을 통합 지원하는 대표 브랜드로 키워가겠다"고 말했다.