에이전틱 AI 안전 가이드라인 연내 마련, 일반 생성형 AI와 무엇이 다른가

핵심은 자율성보다 통제 가능한 실행에이전트가 똑똑한지보다 어떤 데이터와 도구에 접근할 수 있는지, 누가 행동을 승인하고 기록을 검토하는지가 실제 안전성을 좌우합니다.

정부는 2026년 7월 23일 과학기술관계장관회의에서 에이전틱 AI 이니셔티브를 발표했습니다. 에이전틱 AI는 질문에 답하는 데 그치지 않고 목표를 받아 계획을 세우고 도구와 시스템을 연결해 행동합니다. 생산성과 1인 기업 확장 가능성이 크지만, 메일·문서·결제·업무 시스템 권한을 잘못 쓰면 피해도 실제 행동으로 이어질 수 있습니다. 정부는 개인정보와 민감데이터 보호, 권한 관리, 목표 이탈 방지를 반영한 안전·신뢰 가이드라인을 연내 마련할 계획입니다.

답변보다 실행이 중심

에이전틱 AI는 목표를 받아 계획을 나누고 여러 도구와 시스템을 사용합니다. 일정·문서·고객응대 같은 업무를 하나의 흐름으로 처리할 수 있습니다.

잘못된 답변과 달리 잘못된 실행은 외부 전송·삭제·변경으로 바로 피해를 만들 수 있습니다.

기대와 위험을 함께 보기

• 정의: 목표에 따라 계획하고 도구를 사용해 실행
• 정부 방향: 에이전틱 AI 3대 추진전략
• 안전 계획: 연내 안전·신뢰 가이드라인 마련
• 핵심 위험: 민감정보·권한 오남용·목표 이탈
• 운영 원칙: 최소 권한·승인 단계·행동 기록

권한은 처음부터 좁게

대화가 자연스럽다고 메일, 드라이브와 결제 권한을 모두 주면 안 됩니다. 읽기 전용, 특정 폴더와 테스트 계정부터 시작하세요.

외부 전송, 결제, 삭제, 계정 변경에는 사람 승인을 두고 금지 행동을 시스템에서 차단해야 합니다.

민감정보의 이동 경로

이름을 가려도 데이터 결합으로 다시 식별될 수 있고 임시 파일과 로그에 정보가 남을 수 있습니다.

입력 범위, 저장 기간, 외부 서비스 전달과 로그 접근자를 정하고 필요 없는 정보는 처음부터 넣지 않는 편이 안전합니다.

에이전틱 AI 공식 정책 발표

과기정통부 공식 발표

과학기술관계장관회의 자료

목표 이탈과 문서 속 함정

에이전트는 문서 속 악성 지시나 서로 충돌하는 목표 때문에 예상 밖의 행동을 할 수 있습니다.

도구 범위, 비용 한도, 종료 조건을 정하고 이상 행동이 반복되면 자동으로 중지해 사람에게 넘겨야 합니다.

연내 가이드라인에서 볼 것

정부는 민감정보 보호, 권한 관리와 목표 이탈 방지를 담은 안전·신뢰 가이드라인을 연내 마련할 계획입니다.

평가 기준, 사고 보고, 책임 분담과 적용 대상이 구체적으로 제시되는지 확인해야 합니다.

공공기관과 민간기업, 개인용 에이전트는 다루는 정보와 책임 범위가 다르므로 하나의 체크리스트가 모든 환경에 그대로 적용되지는 않습니다.

도입 전에는 최소 권한, 사람 승인, 로그와 비상 중지라는 네 가지를 먼저 갖추는 편이 좋습니다.

업무 연결 전에 권한부터 줄이세요에이전틱 AI는 서비스와 설정에 따라 접근 범위와 실행 능력이 크게 다릅니다. 민감정보·결제·외부 전송·삭제 권한을 기본 허용하지 말고, 조직의 보안·개인정보 규정과 공식 가이드라인을 함께 적용하세요.

같이 읽으면 좋은 글

AI·미래기술 모아보기

확인한 자료

과학기술정보통신부·과학기술관계장관회의 '에이전틱 AI 이니셔티브'(2026.7.23), 정책브리핑 공식 발표