카카오 AI 가드레일 무료 배포 소식
카카오가 국내 기업 최초로 인공지능(AI) 안전성 검증을 위한 'AI 가드레일' 모델인 'Kanana Safeguard(카나나 세이프가드)' 시리즈를 오픈소스로 무료 배포했습니다. 이 모델은 생성형 AI의 부작용을 방지하고, 안전하고 신뢰할 수 있는 AI 생태계 조성을 목표로 합니다 .
🛡️ 'Kanana Safeguard' 시리즈의 주요 특징
카카오는 총 3종의 AI 가드레일 모델을 공개했습니다:
- Kanana Safeguard: 사용자 발화나 AI의 응답에서 혐오, 괴롭힘, 성적 콘텐츠 등 유해성을 탐지합니다.
- Kanana Safeguard-Siren: 개인정보나 지식재산권 등 법적 측면에서 주의가 필요한 요청을 감지합니다.
- Kanana Safeguard-Prompt: AI 서비스를 악용하려는 사용자의 공격을 탐지합니다 .
이 모델들은 카카오가 자체 개발한 한국어 특화 언어모델 'Kanana'를 기반으로 하며, 한국어와 한국 문화를 반영한 데이터셋을 활용하여 높은 정확도를 보입니다. 특히, AI 모델 성능 평가 지표인 F1 스코어에서 글로벌 모델을 능가하는 결과를 기록했습니다 .
📂 오픈소스 배포 및 활용
모든 모델은 AI 오픈 플랫폼인 **허깅페이스(Hugging Face)**를 통해 다운로드할 수 있으며, 상업적 이용과 수정·재배포가 자유로운 아파치 2.0 라이선스로 공개되었습니다. 이를 통해 기업과 개발자들이 자유롭게 활용하고, 안전한 AI 생태계 구축에 기여할 수 있습니다 .
💬 카카오의 비전과 향후 계획
카카오의 김경훈 AI Safety 리더는 “AI 기술이 발전할수록 그만큼 사회적 책임도 커진다”며, “AI 윤리와 안전성은 이제 선택이 아니라 필수다. 기술이 사람을 해치지 않도록 먼저 움직이는 것이 우리 역할”이라고 강조했습니다 .
앞으로도 카카오는 정기적인 업데이트를 통해 모델 성능을 향상시키고, 다양한 위협에도 유연하게 대응할 수 있도록 할 계획입니다.
🔗 관련 링크
- Kanana Safeguard 모델 다운로드 (Hugging Face)
- 카카오 공식 보도자료
- 카카오 테크블로그: Kanana Safeguard 시리즈 소개
카카오의 이번 조치는 국내 AI 산업의 윤리성과 안전성 확보에 큰 기여를 할 것으로 기대됩니다. AI 개발자와 기업들이 이 모델을 적극 활용하여, 보다 안전하고 신뢰할 수 있는 AI 서비스를 제공할 수 있기를 바랍니다.
