AISI

2026 AI 안전 지킴이 모집 (생성형 AI 위험·오류 사례 발굴 프로젝트)
  • 분류
    뉴스
  • 등록일
    2026-09-14 15:31:32
  • 작성자
    운영자
  • 조회수
    568
  • 생성형 AI 서비스가 일상과 산업 전반에 폭넓게 활용되는 시대, 서비스 이용 과정에서 발생하는 오류와 위험을 국민이 직접 찾아 알리는 참여가 그 어느 때보다 중요해지고 있습니다.

    이에 국민이 안심하고 인공지능을 활용할 수 있는 환경을 만들기 위해 사실 왜곡(환각), 편향·차별, 보안 취약점, 기술적 결함 등 생성형 AI의 위험·오류 사례를 발굴·제보하는 「AI 안전 지킴이」를 2026년 9월 14일(월)부터 9월 27일(일)까지 모집합니다.

    참여 온라인 신청서 작성하기

    ○ 모집개요

    생성형 AI 서비스에서 발생할 수 있는 오류와 위험 사례를 국민이 직접 발굴·제보하는 「AI 안전 지킴이」 참여자를 모집합니다.
    사실 왜곡(환각), 편향·차별, 보안 취약점, 기술적 결함 등 AI 사용 과정에서 발견되는 다양한 문제 사례를 제보하고, 전문가 검수를 거쳐 신뢰할 수 있는 AI 안전 사례로 구축하는 국민 참여형 프로젝트입니다.

    ○ 활동 형태 - 온라인 기반 모니터링 활동

    - 생성형 AI 서비스 사용 및 위험 사례 발굴
    - AIWORKS+를 통한 제보 등록
    - 운영진의 보완 요청 및 검수 의견 확인
    - 필요시 온라인 교육·회의 및 질의응답 참여

    ○ 기간 및 일정

    - 2026년 활동기간: 선발 및 위촉일~최대 1년(선발 후 협의)
    - 세부 활동 일정(교육, 비활동 기간 포함)은 최종 선발자에게 별도 안내하며, 기관 사정에 따라 변경될 경우 사전에 안내할 것임

    ※ 사업 진행 상황에 따라 활동 일정이 변경되거나 조기 종료될 수 있음
    ※ 최종 선발자는 활동 전 사전교육(온라인)에 참여해야 함

    ○ 지원자격

    - 생성형 AI 및 AI 안전 분야에 관심이 있는 분
    - AI가 생성한 답변의 오류·위험 요소를 논리적으로 설명할 수 있는 분
    - 정해진 제보 작성 가이드와 활동 기준을 준수할 수 있는 분
    - 온라인 교육 및 운영 채널을 통한 소통이 가능한 분

    ○ 모집인원

    30명 내외 (모집 및 선발 상황에 따라 인원은 조정될 수 있음)

    ○ 혜택내역

    - 위촉장 및 수료증 발급
    - 제보 1건당 최대 15,000P 지급 가능 (활동기간 동안 30여건 수행 예정)
    ※ 포인트는 최종 정산하여 개인 통장으로 현금 지급
    - 우수 활동자 연말 포상 및 시상

    <포인트 지급 기준>

    1. 기본요건을 충족하고 반려되지 않은 제보: 8,000P
    2. 레벨에 따른 차등지급 : 1,000P ~ 3,000P
    (위험도 레벨 1~2: 추가 1,000P / 위험도 레벨 3: 추가 2,000P / 위험도 레벨 4~5: 추가 3,000P)
    3. 최종 확정 사례 선정: 추가 4,000P

    ※ 최대 15,000P 지급은 최종 확정 사례에 한함 / 보상은 동일한 제보 건을 기준으로 단계별 누적 지급됩니다.
    ※ 기본요건을 충족하지 못하거나 반려된 제보는 포인트 지급 대상에서 제외됩니다.
    ※ 중복·허위·표절·증빙 미비 사례는 보상 대상에서 제외될 수 있습니다.
    ※ 포인트 지급 일정과 사용 방법은 최종 선발자에게 별도로 안내됩니다.

    ○ 활동내용

    AI 안전 파수꾼은 다양한 생성형 AI 서비스를 직접 사용하며 다음 분야의 위험·오류 사례를 발굴하고 제보합니다.

    [사실 왜곡(환각)]
    - 출처 또는 기준 정답과 비교했을 때 사실과 다른 답변
    - 날짜·수치·인물 등에 관한 오류
    - 존재하지 않거나 확인되지 않는 정보를 사실처럼 생성한 답변
    - 동일한 질문에서 사실 오류가 반복적으로 재현되는 경우

    [편향·차별]
    - 특정 집단에 대한 비하 또는 고정관념이 포함된 답변
    - 성별·연령·지역·직업·인종 등 특정 집단에 대한 불공정한 판단
    - 동일한 질문에서 대상 집단만 변경했을 때 답변이나 판단이 달라지는 경우
    - 답변의 맥락상 정당한 이유 없이 특정 집단을 차별하는 표현

    [보안 취약점]
    - 악용 가능한 정보나 행동을 유도·조력하는 답변
    - 프롬프트 인젝션 또는 탈옥을 통해 안전장치를 우회할 수 있는 경우
    - 불법·위험행위에 관한 구체적인 정보를 제공하는 경우
    - 개인정보 또는 민감정보가 노출되거나 노출 위험이 있는 경우기술적 결함

    [기술적 결함]
    - AI 서비스가 정상적으로 응답하지 않는 경우
    - 요구한 출력 형식과 다르게 답변하는 포맷 오류
    - 동일한 답변이나 동작이 계속 반복되는 루프 현상
    - 모델 버전·운영체제 등 특정 환경에서 재현되는 서비스 오동작 또는 품질 결함

    ※ 개인별 활동 분야와 제보 목표는 교육 및 운영 과정에서 별도로 안내됩니다.
    ※ 제보 내용은 정해진 작성 가이드와 증빙 기준을 충족해야 합니다.

    ○ 제보 시 제출 내용

    제보자는 AI 서비스에서 발견한 위험·오류 사례에 대해 다음 내용을 작성해야 합니다.

    - 사용한 AI 서비스명 / AI에 입력한 질문 또는 명령어
    - AI가 생성한 전체 답변 / 문제가 발생한 부분
    - 문제라고 판단한 이유 / 해당 제보 분야
    - 예상 위험도 / 재현 방법 및 발생 과정
    - 화면 캡처 등 확인 가능한 증빙자료 / 개인정보 및 민감정보 포함 여부

    ※ 다른 사람이 동일한 조건에서 사례를 확인할 수 있도록 구체적으로 작성해야 합니다.
    ※ 개인정보, 저작권 침해 자료 또는 불법적인 방법으로 수집한 자료는 제출할 수 없습니다.

    ○ 검수 절차

    접수된 제보는 다음의 3단계 검수 절차를 거쳐 최종 확정됩니다.

    [1차 검수]
    - AI 전문 강사 2인이 분야별 제보 내용 및 기본요건 확인
    - 작성 내용, 증빙자료, 중복 여부 및 제보 적정성 검토

    [2차 검수]
    - 전문인력으로 구성된 검수자가 사례의 정확성 및 위험도 검토
    - 제보 분야, 재현 가능성 및 활용 가능성 확인

    [3차 검수]
    - 최종 전문가 검수를 통해 위험도 레벨 및 확정 사례 선정

    ※ 검수 결과에 따라 제보가 보완 요청 또는 반려될 수 있습니다.
    ※ 동일하거나 유사한 사례가 제출된 경우 먼저 접수된 사례를 기준으로 인정될 수 있습니다.

    ○ 접수방법

    - 온라인 신청 링크를 통해 지원서 작성 및 제출
    - 제출된 지원서 검토 후 최종 선발자 개별 안내

    ○ 유의사항

    - 제출한 지원 내용이 사실과 다른 경우 선발이 취소될 수 있습니다.
    - 활동 중 작성한 제보 내용과 사업 관련 자료를 외부에 공개할 수 없습니다.
    - 개인정보 또는 타인의 권리를 침해하는 자료를 제출해서는 안 됩니다.
    - 자동화 도구를 이용한 무분별한 제보, 허위 제보 및 다른 참여자의 사례를 복제한 제보는 인정되지 않습니다.
    - 운영 가이드 위반, 반복적인 부실 제보 또는 활동 방해 행위가 확인되면 활동이 제한될 수 있습니다.
    - 프로젝트 일정과 세부 운영기준은 사업 진행 상황에 따라 변경될 수 있습니다.
    - 최종 선발자에 한하여 교육 및 활동 방법을 개별 안내드립니다.

    ○ 문의

    - 이메일: kjung225@etri.re.kr
  • 첨부파일