Embargo
배포일자 : 2025.9.30.(화)				배포번호 : 2025-70호
문의	인공지능안전연구소		소장		김명주(031-739-7650)	E-mail : mjkim63@etri.re.kr
			책임연구원		곽준호(010-9121-5406)	E-mail : etri76526@etri.re.kr
	대외협력본부		홍보실장		정길호(042-860-0670)	E-mail : khchong@etri.re.kr
	홍보실		선임행정원		김민규(042-860-0681)	E-mail : kakapow@etri.re.kr
매수 : 보도자료 1매(참고자료 2매)						배포처 : ETRI 홍보실

인공지능(AI) 기술의 전(全) 산업 활성화와 함께, 우리의 일상에 확산시키기 위한 노력이 범국가적으로 이루어지고 있다. 이는 최근 정부가 발족한 국가AI전략위원회 등을 통해 인공지능 3대 강국을 위한 전략 수립과 이행이 본격화되고 있다. 이러한 AI 확산의 전제조건으로 요구되는 것이 AI의 안전성 확보다.

한국전자통신연구원(ETRI)의 인공지능안전연구소(AISI)는 지난 11월 개소 이후, 정부와 함께 국내 AI 안전 확보를 위한 대표 전담 연구 조직으로서 활동해왔다. 특히, 독자 AI 파운데이션 모델의 안전성·신뢰성 평가 역할 수임과 국제 AI 안전 네트워크에서의 공동 안전 평가 수행 등 국내·외를 가리지 않고 AI 안전성 확보 노력을 기울여 왔다.

AISI는 1일, 그랜드 인터컨티넨탈 서울 파르나스에서 국내 AI 안전 관련 전문가가 참여한 가운데 AI 안전컨소시엄 합동회의를 개최한다고 밝혔다. 이날 회의에서는 ▲AI안전연구소 주요 추진 현황 및 성과의 공유 ▲AI안전컨소시엄의 운영체계의 확정 및 분과별 의제에 대한 심도 있는 논의가 이뤄질 전망이다.

국내·외 AI 안전성 확보를 선도하는 과정에서 중요한 점은 국내 AI 주요 기업 및 기관들과의 교류와 역량 확산, 그리고 국내 AI 안전성 확보·확산을 위한 담론 형성이다. 이를 위해 인공지능 안전연구소는 개소와 함께 24개 기업·기관으로 구성된 “AI안전컨소시엄”을 구축한 바 있다.

AI안전컨소시엄은 인공지능 안전연구소의 연구 성과의 확산·공유, 정책 방향의 설정과 공동 논의, 안전 평가 방안의 마련 및 공동 수행 등 국내 AI 안전 논의의 구심점으로서 활동하는 것이 주요 목적이다. 또한, 이를 통해 정부에 시의적절한 정책 제안과 거버넌스 정립에의 기여 역시 목표로 한다.

이미 AI안전 연구를 수행 중인 미국(Center for AI Standard and Innovation, AI표준혁신센터)과 일본(AI Safety Institute, AI안전연구소) 역시, 민간 기업·기관을 중심으로 AI안전 논의를 위한 컨소시엄을 구성한 바 있다. 이를 통해 AI안전 분야 주요 연구·평가 이슈를 공유하고 논의함으로써, 자국 내 AI안전 역량을 극대화하고 확산하는 것이 목적이다.

AI안전컨소시엄은 보다 효율적이고 효과적인 논의를 위하여, 3개의 분과로 구성하였다. 먼저, 정책 분과는 국내외를 둘러싼 AI 안전 정책 전반에 걸쳐 논의하는 중이다. 특히, 인공지능 안전연구소가 우선 대응 중인 유럽 연합의 인공지능 규제에 대한 의견 수렴과 대응 방안 논의가 시급하다.

둘째, 평가 분과는 글로벌 AI 안전 평가 사례를 공유하고, 실제 AI 안전 평가 수행을 위한 방안을 논의하는 중이다. 국제 AI안전 네트워크에서 수행 중인 공동 평가에의 참여·공유 방안을 모색하고 있다.

셋째, 연구 분과에서는, 인공지능 안전연구소가 수행 중인 연구 이슈를 중심으로 연구 성과의 연계·확산 방안을 논의한다.

지난 4월 22일에 컨소시엄 멤버를 대상으로 비공식 회의를 거쳐, 분과 구성과 분과별 논의 안건을 공유했으며, 후속 논의를 위한 제언 사항을 의견 조사서를 통해 수집·수렴한 바 있었다.

금번 10월 회의에서는 그간의 AISI의 활동과 성과를 공식적으로 공유하고, 분과별 안건에 대한 심도 있는 논의를 진행했다. 이를 통해 AI 안전 분야 이슈에 대응하고, 국내 대응 체계를 정립함과 동시에 AI 안전 역량 확산이라는 구심점 역할에 본격 시동을 건 셈이다.

또한, 향후 AI안전컨소시엄 논의의 확산을 위해, 멤버 추가 역시 적극적으로 고려하고 있다. 회의에서는 AI안전컨소시엄의 운영 규정과 실행위원회 운영 방안도 공개했다. 올해 중으로 적절한 추가 멤버 합류 절차를 최종 마련함으로써 AI 안전에 관심 있고, 역량 있는 기업 및 기관들의 참여와 기여를 적극 유도하고자 한다.

올 하반기에도 AISI는 AI안전 확보를 위한 다양한 정책·평가 활동과 연구 성과를 낼 것으로 기대된다. 지속적인 교류와 회의를 통해, AI안전컨소시엄을 중심으로 업계 및 기관들과 활동·성과를 공유하고자 한다. 이를 통해, 인공지능 안전연구소의 활동과 성과가 우리나라 AI 안전 확보로 직결될 수 있도록 긴밀한 확산·협력체계를 정립하도록 나아갈 것이다.

ETRI 김명주 인공지능안전연구소장은“AI 안전은 AI 기술 혁신을 뒷받침하는 기반이자, 글로벌 경쟁력을 결정짓는 핵심 기술 요소인 만큼, 반드시 확보해야 하는 필수재”라고 강조하며, “인공지능 안전연구소가 중심이 되어 정책·평가·연구를 수행하고 국내 산업계를 지원하는 만큼, 이를 효율·효과적으로 확산하고 담론을 형성하는 구심점으로서 AI안전컨소시엄의 활동을 적극적으로 확대해 나가겠다.”고 밝혔다.

본 성과는 과학기술정보통신부가 지원하는 “생성형 AI 안전성 평가 기반 마련” 과제를 통해 추진되었다. <보도자료 본문 끝>

참고1

AI안전컨소시엄 합동회의 개최 계획

□ 개요

○ (목적) AI안전연구소 주요 추진 현황 및 성과의 공유와, AI안전컨소시엄의 운영체계의 확정 및 분과별 의제에 대한 심도 있는 논의

○ (일시) 10월 1일(수) 오후 2시 ~5시

○ (장소) 그랜드 인터컨티넨탈 서울 파르나스(서울 강남)

○ (참석자) 과기정통부, AI안전연구소 김명주 소장, 최민석 실장, 남기혁 실장, 이성원 실장, TTA 곽준호 팀장, AI안전컨소시엄 가입 기업·기관 담당자 등 총 40 여명

* 기자단 공개는 “AI안전연구소 현황 및 성과 공유”(14:30)까지 진행

□ 세부 일정

시간	내용	논의 내용	비고
14:00 ~ 14:05	참석자 소개		-
14:05 ~ 14:10	인사말	과기정통부 AI안전연구소(김명주 소장)	-
14:10 ~ 14:30	AI안전연구소 현황 및 성과 공유	AI안전연구소(김명주 소장)	-
14:30 ~ 14:45	AI안전컨소시엄 논의 세션 A	1차 회의 결과 공유 (곽준호 팀장)	-
14:45 ~ 15:15		AI안전컨소시엄 거버넌스 및 운영체계 논의(곽준호 팀장)	-
15:15 ~ 15:30	휴식		-
15:30 ~ 16:00	AI안전컨소시엄 논의 세션 B	정책분과 의제 논의	-
16:00 ~ 16:30		평가분과 의제 논의	-
16:30 ~ 16:50		연구분과 의제 논의	-
16:50 ~ 17:00	기념 촬영		-
17:00 ~	폐회		-

참고2

AI안전컨소시엄 개요

□ AI안전컨소시엄(AISC) 개요

○ (목적) 우리나라 AI안전 분야 산‧학‧연 역량을 결집하고, 체계적인 연구 협력을 통해 효율적인 국가 AI안전 체계 정립 및 글로벌 대응

○ (구성) AI안전연구소(AISI) 및 산‧학‧연 24개 전문 기업‧기관

<AI안전컨소시엄 구성원>

구분	구성원
산업계 (13)	LG AI연구원, 카카오, 네이버, 삼성전자, 에스케이텔레콤, 케이티, 코난테크놀로지, 이스트소프트, 포티투마루, 뤼튼테크놀로지스, 트웰브랩스, 라이너, 크라우드웍스
학계 (6)	고려대학교 정보보호대학원, 서울대학교, 성균관대학교 인공지능융합원, 숭실대학교, 연세대학교, 한국과학기술원
연구계 (5)	소프트웨어정책연구소, 정보통신기획평가원, 정보통신정책연구원, 한국지능정보사회진흥원, 한국정보통신기술협회

※ 컨소시엄 멤버는 국내 기업‧기관 대상 연중 수시 접수 및 지속 규모 확장 추진

○ (운영 체계) AISI AI안전컨소시엄 사무국이 총괄 운영하며, 주제 및 의제별로 3개의 분과(평가‧정책‧연구)를 설치하고, 의제 설정

<AI안전컨소시엄 운영 체계>

AI안전연구소(AISI) 및 AI안전컨소시엄
(분과1) 평가			(분과2) 정책			(분과3) 연구
의제1 시범 평가 의제2 평가 범위 정의 ...			의제1 위험 맵 마련 의제2 국제 규범 대응 ...			의제1 딥페이크 대응 의제2 복원력 확보 ...