안전한 AI로 만드는 지속가능한 미래
AI 기술이 안전하게 개발되고 사회에 긍정적인 영향을 미치도록 다양한 정책과 가이드라인을 연구합니다.
AI 시스템이 신뢰성 있게 작동하고, 잠재적 위험을 최소화할 수 있도록 여러 평가와 검증을 수행합니다.
위험 요소를 줄이고 더욱 안전하고 효과적으로 작동할 수 있도록 새로운 기술을 개발하고 최적화합니다.
내부 팀 간 협업을 촉진하고 외부 파트너와의 관계를 강화하여 AI 기술의 안전성과 윤리성을 높이기 위해 노력합니다.
AI안전연구소는 AI안전성을 평가, 연구하고 주요국 AI안전연구소와 협력을 전담하는 조직으로 추진되었습니다. 안전한 AI 개발·활용을 확산하고, 국내 AI기업의 경쟁력 확보 및 글로벌 진출을 적극 뒷받침할 계획입니다.
AI안전연구소는 총 3개실(AI안전정책 및 대외협력실, AI안전 평가실, AI안전 연구실)로 구성되어 있습니다. 크게 AI안전평가와 AI안전정책연구, AI안전기술연구, AI안전 대내외 협력 등을 수행합니다.