[2025-70호] ETRI 인공지능안전연구소(AISI), AI안전성 위한 컨소시엄 활동 본격화
- 배포일2025.09.30
- 조회수1590
- 담당자
-
인공지능안전연구소 소장 김명주메일보내기 T. 031-739-7650
-
- 첨부
ETRI AISI, AI안전성 위한 컨소시엄 활동 본격화
- 1일, AI안전컨소시엄 합동회의 개최, 정책과 연구·평가방향 논의
- 국내 AI 안전 논의의 구심점으로서, 국가AI 거버넌스에 기여 기대
인공지능(AI) 기술의 전(全) 산업 활성화와 함께, 우리의 일상에 확산시키기 위한 노력이 범국가적으로 이루어지고 있다.
이는 최근 정부가 발족한 국가AI전략위원회 등을 통해 인공지능 3대 강국을 위한 전략 수립과 이행이 본격화되고 있다.
이러한 AI 확산의 전제조건으로 요구되는 것이 AI의 안전성 확보다.
한국전자통신연구원(ETRI)의 인공지능안전연구소(AISI)는 지난 11월 개소 이후, 정부와 함께 국내 AI 안전 확보를 위한 대표 전담 연구 조직으로서 활동해왔다.
특히, 독자 AI 파운데이션 모델의 안전성·신뢰성 평가 역할 수임과 국제 AI 안전 네트워크에서의 공동 안전 평가 수행 등 국내·외를 가리지 않고 AI 안전성 확보 노력을 기울여 왔다.
AISI는 1일, 그랜드 인터컨티넨탈 서울 파르나스에서 국내 AI 안전 관련 전문가가 참여한 가운데 AI 안전컨소시엄 합동회의를 개최한다고 밝혔다.
이날 회의에서는 ▲AI안전연구소 주요 추진 현황 및 성과의 공유 ▲AI안전컨소시엄의 운영체계의 확정 및 분과별 의제에 대한 심도 있는 논의가 이뤄질 전망이다.
국내·외 AI 안전성 확보를 선도하는 과정에서 중요한 점은 국내 AI 주요 기업 및 기관들과의 교류와 역량 확산, 그리고 국내 AI 안전성 확보·확산을 위한 담론 형성이다.
이를 위해 인공지능 안전연구소는 개소와 함께 24개 기업·기관으로 구성된 “AI안전컨소시엄”을 구축한 바 있다.
AI안전컨소시엄은 인공지능 안전연구소의 연구 성과의 확산·공유, 정책 방향의 설정과 공동 논의, 안전 평가 방안의 마련 및 공동 수행 등 국내 AI 안전 논의의 구심점으로서 활동하는 것이 주요 목적이다.
또한, 이를 통해 정부에 시의적절한 정책 제안과 거버넌스 정립에의 기여 역시 목표로 한다.
이미 AI안전 연구를 수행 중인 미국(Center for AI Standard and Innovation, AI표준혁신센터)과 일본(AI Safety Institute, AI안전연구소) 역시, 민간 기업·기관을 중심으로 AI안전 논의를 위한 컨소시엄을 구성한 바 있다.
이를 통해 AI안전 분야 주요 연구·평가 이슈를 공유하고 논의함으로써, 자국 내 AI안전 역량을 극대화하고 확산하는 것이 목적이다.
AI안전컨소시엄은 보다 효율적이고 효과적인 논의를 위하여, 3개의 분과로 구성하였다.
먼저, 정책 분과는 국내외를 둘러싼 AI 안전 정책 전반에 걸쳐 논의하는 중이다.
특히, 인공지능 안전연구소가 우선 대응 중인 유럽 연합의 인공지능 규제에 대한 의견 수렴과 대응 방안 논의가 시급하다.
둘째, 평가 분과는 글로벌 AI 안전 평가 사례를 공유하고, 실제 AI 안전 평가 수행을 위한 방안을 논의하는 중이다.
국제 AI안전 네트워크에서 수행 중인 공동 평가에의 참여·공유 방안을 모색하고 있다.
셋째, 연구 분과에서는, 인공지능 안전연구소가 수행 중인 연구 이슈를 중심으로 연구 성과의 연계·확산 방안을 논의한다.
지난 4월 22일에 컨소시엄 멤버를 대상으로 비공식 회의를 거쳐, 분과 구성과 분과별 논의 안건을 공유했으며, 후속 논의를 위한 제언 사항을 의견 조사서를 통해 수집·수렴한 바 있었다.
금번 10월 회의에서는 그간의 AISI의 활동과 성과를 공식적으로 공유하고, 분과별 안건에 대한 심도 있는 논의를 진행했다.
이를 통해 AI 안전 분야 이슈에 대응하고, 국내 대응 체계를 정립함과 동시에 AI 안전 역량 확산이라는 구심점 역할에 본격 시동을 건 셈이다.
또한, 향후 AI안전컨소시엄 논의의 확산을 위해, 멤버 추가 역시 적극적으로 고려하고 있다.
회의에서는 AI안전컨소시엄의 운영 규정과 실행위원회 운영 방안도 공개했다.
올해 중으로 적절한 추가 멤버 합류 절차를 최종 마련함으로써 AI 안전에 관심 있고, 역량 있는 기업 및 기관들의 참여와 기여를 적극 유도하고자 한다.
올 하반기에도 AISI는 AI안전 확보를 위한 다양한 정책·평가 활동과 연구 성과를 낼 것으로 기대된다.
지속적인 교류와 회의를 통해, AI안전컨소시엄을 중심으로 업계 및 기관들과 활동·성과를 공유하고자 한다.
이를 통해, 인공지능 안전연구소의 활동과 성과가 우리나라 AI 안전 확보로 직결될 수 있도록 긴밀한 확산·협력체계를 정립하도록 나아갈 것이다.
ETRI 김명주 인공지능안전연구소장은“AI 안전은 AI 기술 혁신을 뒷받침하는 기반이자, 글로벌 경쟁력을 결정짓는 핵심 기술 요소인 만큼, 반드시 확보해야 하는 필수재”라고 강조하며, “인공지능 안전연구소가 중심이 되어 정책·평가·연구를 수행하고 국내 산업계를 지원하는 만큼, 이를 효율·효과적으로 확산하고 담론을 형성하는 구심점으로서 AI안전컨소시엄의 활동을 적극적으로 확대해 나가겠다.”고 밝혔다.
본 성과는 과학기술정보통신부가 지원하는 “생성형 AI 안전성 평가 기반 마련” 과제를 통해 추진되었다.<보도자료 본문 끝>
