AI Governance
상태바
AI Governance
  • 투이컨설팅
  • 승인 2023.02.28 17:32
  • 조회수 1173
  • 댓글 0
이 콘텐츠를 공유합니다

1. 서비스 개요

많은 기업들이 빅데이터 플랫폼(Data Lake)과 MLOps를 지원하는 AI Platform을 구축하였습니다.
또한 이러한 플랫폼을 기반으로 이제는 많은 AI 분석모델들을 개발하여 실제 업무에 적용하고 있습니다.
그러나 AI 모델은 전통적인 소프트웨어와는 개발방식, 운영방식에서 근본적으로 차이가 있습니다. 즉, 로직과 기능개발 중심의 기존 업무어플리케이션 개발-운영에 대한 거버넌스 체계로는 AI모델을 개발하고 운영 관리하는데 어려움이 있습니다.

AI 모델 개발•운영을 제대로 하기 위해서는 데이터 수집-데이터 전처리-모델개발-모델검증-배포-모니터링의 각 단계에서 반드시 지켜야 하는 표준 수행절차와 역할 정립, 각 수행 액티비티별 수행기준/가이드라인/템플릿, 윤리원칙 및 위험관리 방안에 대한 거버넌스 체계 수립이 필요합니다. 이를 통해 현재의 AI 모델러 개인의 역량에 따라 편차가 심한 모델 품질과 모델의 투명성/진실성을 확보할 수 있습니다.

 

2. 서비스 가치

가. 체계화, 표준화된 AI모델 개발-운영관리를 통한 AI모델 품질 수준 상향

전사 표준화 된 분석모델 기획-개발-운영 프로세스 부재와 각 수행 태스크별 지침 및 가이드라인의 부재로 인해, 분석 모델러 개인의 역량에 따라 AI모델 품질의 편차가 커지고 AI모델 성능에 대한 신뢰를 저하시키고 있습니다. 이에 따라 많은 모델을 개발했지만, 업무에 적용할 만한 성능을 내지 못해 실제 적용하지 못하는 사례도 늘어나고 있습니다.

AI 거버넌스 컨설팅 서비스를 통해 모든 AI모델 기획/개발/운영자가 지켜야 할 표준화 된 절차와 각 세부수행 공정별 지침/가이드라인/산출물 템플릿을 정의하여, 상향평준화 된 AI모델 품질수준을 확보할 수 있습니다.

나. Responsible AI 체계 확보

AI모델 초기에는 AI모델의 성능이라는 기술적 부분에 관심이 집중되어 있었습니다. 그러나 최근 Chat GPT, DeepFake 등 AI와 사람 間 경계가 모호해짐에따라, AI모델의 진실성 문제가 대두되고 있습니다. 특히 금융분야에서는 AI를 활용한 금융 서비스(대출심사, 금융투자 등)로 인한 대고객 피해 방지 방안 마련 필수적입니다.

AI거버넌스 컨설팅 서비스를 통해 AI 서비스 개발·활용·운영 전과정에 대한 투명한 표준 프로세스와 기준정립, 윤리원칙 마련을 통해 개발되는 AI모델의 투명성•진실성 확보(Responsible AI)를 제공합니다.

다. AI 위험 대응을 위한 법률적/제도적 규제 대응 체계 마련

해외 주요국은 AI 위험 대응을 위한 법률적 규제를 도입 중 입니다. 또한 국내에서도 금융위원회에서 금융분야 AI 가이드라인 제정을 통해 금융사의 AI 시스템 개발·활용·운영 全과정의 신뢰성 제고방안을 마련 중이며, 법률형식으로 전환•확대 예정입니다.

과거 사례(데이터 개방 수준 평가, 데이터 품질 평가 등)로 볼 때, 정부 정책에 따른 AI 거버넌스 운영평가 시행에 대한 준비가 필요하며, AI 거버넌스 컨설팅 서비스를 통해 이에 대한 대응체계를 제공해 드립니다.

 

3. 서비스 구성

가. AI모델 거버넌스 체계 수립을 위한 컨설팅 서비스 제공 영역

나. 서비스 내용

 

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.