공공기관 AI가 복지·인허가 판단할 때｜최종 책임은 사람, 68개 윤리 점검항목

정부가 공공부문 인공지능 사용을 위한 윤리기준과 68개 자율점검 항목을 마련했다. 핵심은 AI가 민원을 빠르게 분류하거나 결정을 보조하더라도 최종 책임과 통제는 사람에게 남는다는 것이다. 복지 대상 선정이나 인허가처럼 권리에 영향을 주는 업무에서는 자료 오류와 편향이 실제 불이익으로 이어질 수 있어 결과를 설명하고 재검토할 통로가 중요하다.

여섯 가치가 실제 업무에서 뜻하는 것

행정안전부 자료는 공익성, 공정성, 투명성, 책임성, 안전성, 개인정보 보호를 공공 AI의 핵심 가치로 제시했다. 예를 들어 과거 신청자료로 학습한 시스템이 특정 지역의 민원을 일관되게 낮은 우선순위에 놓는다면 공정성을 점검해야 한다. 담당자가 AI가 제안한 결과를 그대로 승인만 한다면 책임성은 형식에 머무를 수 있다. 개인정보가 여러 기관 사이에서 결합된다면 수집 목적과 접근 권한, 보관기간을 살펴야 한다.

68개 항목은 주민에게 무엇을 보장하나

점검항목은 기관이 개발·도입·운영 과정에서 위험을 스스로 확인하도록 돕는 장치다. 항목 수가 많다는 사실만으로 특정 서비스의 오류가 없다는 인증은 아니다. 실제 서비스에서 시민이 알아야 할 것은 AI가 관여하는 단계, 최종 판단 담당자, 입력자료 정정 방법, 이의 신청 경로다. 사업별 영향도가 다르므로 위험 수준에 맞는 사전 평가와 사후 모니터링이 필요하다. 단순 문서 검색과 급여 지급 대상 결정에는 같은 수준의 감독만으로 충분하지 않다.

복지·인허가 당사자가 확인할 기록

신청인은 접수번호, 제출자료, 담당기관의 처분 통지를 보관하는 것이 좋다. 결과가 예상과 다르다면 AI가 썼는지에 관한 추측만으로 항의하기보다 어떤 요건과 자료가 적용됐는지 공식적인 설명을 요청할 수 있다. 자료가 잘못되었다면 먼저 정정 절차를 밟고, 불복 기간이 있는 처분은 별도의 법정 기한을 확인해야 한다. 윤리기준 발표 자체가 기존 행정심판·이의신청 기간을 연장한 것은 아니다.

기관이 공개해야 신뢰가 생긴다

검증 가능한 AI 행정이라면 모델의 추천과 사람의 최종 처분을 구분하고, 오류 신고와 재검토 건수 등을 지속적으로 점검해야 한다. 민감한 개인정보를 처리하는 사업은 오남용을 막는 접근 통제도 필요하다. 사람의 책임 원칙은 사고가 난 뒤 담당자에게만 책임을 떠넘기라는 뜻이 아니다. 시스템 도입을 승인한 조직이 개발·조달·운영 전반의 감독 체계를 갖추고 오류를 고칠 권한을 배분해야 실효성이 생긴다.

독자가 확인할 질문

AI가 복지 수급을 최종 결정하나

공식 윤리기준은 최종 책임과 통제를 사람에게 두도록 한다.

68개 점검항목을 모두 통과하면 오류가 없나

자율점검 도구이며 개별 서비스의 무오류 보증은 아니다.

결과에 이의가 있으면 어디로 가나

처분을 통지한 담당기관의 설명·정정·불복 절차와 법정 기한을 확인한다.

개인정보도 대상인가

개인정보 보호가 핵심 가치에 포함된다.

확인한 공식 자료: 행정안전부 공공부문 인공지능 윤리기준 발표. 2026년 10월 2일 확인. 신청·행사·제도 세부사항은 해당 기관의 최신 공지를 다시 확인하세요.