인공지능안전연구소는 AI 위험과 AI 안전 분야의 주요 이슈를 국내외 전문가와 함께 논의하고 중장기 연구 아젠다를 발굴하기 위하여 「2026 AI 안전정책 연구 세미나 시리즈」를 운영하고 있습니다. 그 첫 번째 결과로 제1차 세미나 「AI 위험 연구의 방법론적 접근(Methodological Approaches to AI Risk Research)」의 자료집을 공개합니다.

세미나 개요
주제  AI 위험 연구의 방법론적 접근 (Methodological Approaches to AI Risk Research)
일시  2026년 5월 19일(화) 16:00~18:00
장소  온라인(Zoom)

제1차 세미나에서는 AI 위험과 안전 정책 연구 방법론을 주제로 두 건의 발표가 진행되었습니다.

첫 번째 발표에서 SaferAI의 Risk Modelling Lead인 Matthew Smith는 「A Methodology for Quantitative AI Risk Modeling」을 통해 AI의 능력(Hazard)과 실제 피해(Harm)를 연결하는 정량적 위험 모델링 프레임워크를 제안하였습니다. 위험을 공격 빈도와 성공 확률, 피해 규모의 곱으로 정의하고 6단계 위험 모델링 절차와 9개 사이버 공격 시나리오 사례를 제시하였습니다.

두 번째 발표에서 Convergence Analysis의 Gwyn Glasser와 Windfall Trust의 Deric Cheng은 「Applying AI Scenarios to Your Context」를 통해 AI의 불확실성을 고려한 시나리오 기반 정책 개발 방법론을 소개하였습니다. 목표와 범위 정의부터 시나리오 개발, 도전과제와 정책 식별, No-regrets 정책 도출에 이르는 5단계 방법론을 제안하고, 교육 분야 사례를 통해 그 적용 방안을 설명하였습니다.

자료집 전문은 첨부파일에서 확인하실 수 있습니다.

The Korea AI Safety Institute (Korea AISI) runs the 2026 AI Safety Policy Research Seminar Series to discuss key issues in AI risk and AI safety with domestic and international experts and to identify medium- and long-term research agendas. We are pleased to share the proceedings of the first seminar, "Methodological Approaches to AI Risk Research."

The first seminar was held online on May 19, 2026, featuring two presentations on methodologies for AI risk and safety policy research.

In the first presentation, "A Methodology for Quantitative AI Risk Modeling," Matthew Smith (Risk Modelling Lead, SaferAI) proposed a quantitative risk modeling framework linking AI capabilities (Hazards) to real-world harms. He defined risk as attack frequency multiplied by success probability and impact, and presented a six-step modeling process along with cyberattack scenario cases.

In the second presentation, "Applying AI Scenarios to Your Context," Gwyn Glasser (Convergence Analysis) and Deric Cheng (Windfall Trust) introduced a scenario-based policy development methodology for addressing AI uncertainty. They presented a five-step approach and illustrated its application through an education-sector case study.

The full proceedings are available in the attached file.