최근 인공지능의 눈부신 발전과 성능향상으로 일상생활에 빠르게 적용되면서 중요성이 증가하고 있다. 인공지능 시대, 다양한 분야의 AI 융합을 통해 혁신적인 가치를 창출할 수 있는 핵심 인재를 양성하고, 국가 AI 경쟁력 강화에 기여하고 있는 (사)한국인공지능협회 AI 인증센터의 박성주 센터장을 만나 현재 역할과 목적과 비전을 들어본다.
협회, AI인증센터의 목적과 비전은...
한국인공지능협회 인증센터는 “지능화를 위한 기업과 함께하는 인증센터” 라는 목표로 전 산업이 IT+AI 기술 융합, 윤리와 신뢰성에 기초한 서비스 및 애플리케이션, 데이터에 기반한 인재와 경영관리, 지속가능한 비즈니스 혁신 등의 다양한 요소를 검토하여 기업의 지능화 수준을 유형별로 보증하고 인증하는 것을 목표로 “산업지능화 인증”을 진행하고 있습니다.
인증센터에서는 국제적으로 인정받는 기준에 따른 체계적인 교육을 통해 “연구·개발, 기술·제품, 품질·테스트, 기업인증, 운영/관리, 지속성장, 컨설팅·교육, 산업지능화”와 관련된 기업의 요구에 따른 다양한 인증을 진행하고 있습니다.
인공지능 발전과 관련된 인증센터의 미래 방향성은 크게 3가지로 볼 수 있습니다.
첫 번째, 글로벌 스탠다드에 부합하는 인증 체계를 구축하는 것입니다. 둘 째, AI 기술 발전 속도에 맞춘 신속하고 유연한 인증 프로세스를 확립하는 것이고, 마지막으로는 산업별 특성을 고려한 맞춤형 인증 서비스를 제공하는 것입니다.
이를 위하여 국내의 인증 관련 기관들과 업무 제휴 및 회의를 통하여 외형을 확장하고 있습니다.
최근 딥시크의 개인정보보호 논란으로 AI신뢰성 문제가 큰 화두가 되고 있는데, 이 문제는...
AI신뢰성은 기술 발전과 산업 성장의 핵심 전제조건입니다. 최근 발생한 여러 AI 관련 이슈들을 보면, 기술의 발전 속도에 비해 신뢰성 검증 체계가 아직 충분히 갖춰지지 않았다는 점을 알 수 있습니다. 특히 생성형 AI의 경우, 출력 결과의 신뢰성과 편향성 문제가 계속해서 제기되고 있어 이에 대한 체계적인 검증 시스템 구축이 시급한 상황입니다.
구체적인 신뢰성의 문제는 첫째, 기술적 신뢰성으로 AI모델의 정확성과 안정성입니다. 둘째, 윤리적 신뢰성으로 AI의 판단 과정에서 발생할 수 있는 편향성과 차별화 문제입니다. 셋째, 보안적 신뢰성으로 개인정보 보호와 시스템 보안 문제입니다.
이러한 문제는 앞으로 인공지능이 일상화 되면서 빈번하게 발생하는 문제가 될것이며, 이러한 문제들은 서로 긴밀히 연결되어 있어 통합적인 접근이 필요합니다.
인공지능의 신뢰성 문제의 해결을 위하여 인증센터에서는 어떤 노력을...
최근 정부에서도 인공지능 신뢰성에 대한 부분의 중요성을 인지하고 있으며, (사)한국인공지능 협회에서도 관련 기관 및 정부와 다양한 소통을 하고 있습니다.
이러한 인공지능 신뢰성 문제는 국내 뿐 아니라 세계적인 글로벌 이슈입니다. EU의 AI Act나 IEEE의 AI표준화를 진행하는등 국제적으로 통용 될 수 있는 신뢰성기준을 만들어 가고 있습니다.
인증센터에서는 AI신뢰성 평가 체제 구축, 인증 프로세스 고도화등에 노력하고 있으며, 인증관련 협력기관들과 소통을 통하여 다양한 의견을 수렵하고, 정부 및 기관들에 의견을 제시하고 있습니다.
인공지능 서비스를 개발하는 기업들이 개발시 신뢰성 향상을 위하여...
인공지능 서비스를 개발하는 기업들은 다른 프로그램에 비해 파급효과가 상당히 큽니다. 따라서 AI 신뢰성 확보를 위하여 회사 내규적으로 다음과 같은 사항을 준수하여 서비스를 개발하는 경우 신뢰성 향상에 도움이 될 것 같습니다.
첫 번째는 데이터 품질 관리입니다. 인공지능에서 가장 중요한 부분 중에 하나이며, 어떠한 데이터로 학습하는지에 따라 서비스의 품질이 달라집니다. 이러한 데이터는 “학습 데이터의 출처 명확화 및 관리, 처리과정의 문서화, 정기적 데이터 품질관리, 개인정보 보호 규정 준수”을 통하여 사전에 문제가 발생할 부분에 대한 방지가 필요하다고 판단됩니다.
두 번째는 인공지능 알고리즘의 투명성 확보입니다. “AI모델의 의사결정 과정 문서화, 인공지능 알고리즘의 평향성 검증”을 통하여 신뢰도 높은 인공지능 서비스 개발에 노력하여야 한다고 판단되며, 개발된 인공지능 서비스의 정확한 품질을 평가를 위하여 제3자에게 평가 받는 것이 중요합니다. (사)한국인공지능협회 인증센터에서는 인공지능 품질 평가 및 검증을 제공하고 있습니다.
세 번째는 보안 체계 구축입니다. 인공지능 서비스의 대중화로 인하여 “개인정보 유출, AI시스템 보안 취약점 문제, 데이터 암호화, 접근 권한”등 많은 부분을 서비스를 제공하는 기업이 관리하여야 하며, 이러한 부분에 대한 준비가 필요합니다.
네 번째는 AI윤리 문제입니다. 최근에도 많이 이슈화가 되고 이는 “사회적 편견, 차별, 의사결정의 공정성, 윤리적 가이드라인”등을 확보하고 인공지능 서비스를 꾸준히 업데이트하는 노력이 필요합니다.
국내에 많은 인증기관이 있다. 다른 인증기관 대비 차별점은
차별점은 산업별 맞춤형 인증 체계를 위하여 “산업지능화” 인증을 하고 있습니다. 저희 산업지능화 인증은 기업이 요청하는 다양한 형태의 인증 시스템을 도입하고 있으며, “연구·개발, 기술·제품, 품질·테스트, 인공지능 기업인증, 운영·관리, 지속성장, 컨설팅·교육”등 기업이 원하는 대부분의 요청사항에 맞는 인증시스템을 운영하고 있습니다.
이러한 장점을 통하여 기업과 꾸준히 소통하고 교류하면서 운영중인 서비스를 개선하고 있습니다.
기업이 AI서비스의 인증을 받기 위해 준비해야하는 사항은
인공지능 서비스의 인증을 위해서 인공지능서비스와 데이터가 있어야 합니다. 인증의 단계는 인공지능의 결과물이 데이터를 이용하여 정확한 결과가 나오는지를 확인하는 과정이며, 이 과정을 통하여 신뢰할 수 있는 인공지능의 성능을 평가 받는 것입니다.
협회, 인증센터의 인증시스템은 “신청 → 관리 → 검토 → 분석 → 발급”순으로 진행이 됩니다. 신청 단계는 정보관리 시스템에 등록하는 단계이며, 확인 후 인증의 진행이 가능한지 여부를 판단합니다. 관리는 기업의 관려자료를 제공하는 단계이고, 검토는 인증 분석 시스템에 등록 후 검토 위원회를 구성하여 진행하는 단계입니다. 분석은 인증분석 시스템의 결과를 검토 위원회에 전달하여 의원님들의 종합결과를 통하여 인증서 발급여부를 결정합니다. 마지막으로 시험성적서 및 인증서를 발급하는 단계로 구성되어 있습니다.
인공지능 인증서비스의 경우 결과물과 함께 데이터를 모두 확인하는 과정이므로 필히 데이터와 인공지능 서비스가 같이 있어야 평가가 가능합니다.
최근 DeepSeek와 같은 서비스의 급속한 발전에 대응, 한국의 AI산업이 준비해야 할 사항들은
중국의 DeepSeek로 인하여 AI산업은 새로운 페러다임에 접어들었다고 생각합니다. 이는 대한민국에도 많은 시사점을 주고 있습니다. 한국 AI산업의 경쟁력 강화를 위하여 개인적인 몇가지 의견을 드리고자 합니다.
첫 째, 대규모 언어 모델 개발을 위한 국가적인 인프라 구축이 필요하다고 판단됩니다. 고성능 컴퓨팅 자원 확보 및 연구 개발을 희망하는 기업들을 위한 다양한 하드웨어 지원이 필요하다고 판단됩니다.
둘 째, 한국어에 특화된 대규모 데이터셋(Dataset) 구축이 시급합니다. 이러한 고품질의 데이터는 국내의 몇몇 소수의 대기업이 보유하고 있어, 스타트업 및 소규모 인공지능 기업은 데이터의 부족으로 인한 좋은 품질의 서비스 개발에 어려움을 느끼게 됩니다.
셋 째, 한국어 특화 기술 개발의 필요성입니다. 미국에서만 가능할 것이라고 생각했던 대형언어 모델의 장벽이 낮추어짐에 따라 다른 나라들에서도 다양한 방법으로 자체 대형언어모델의 구축을 위하여 많은 시간과 비용을 투자하고 있어, 한국도 고도화된 자연어 처리 기술에 대한 개발과 지원이 필요하다고 생각됩니다.
마지막으로 특화 분야의 발굴입니다. 대형언어모델 및 인공지능 서비스의 개발 목적은 일반 사용자들이 쉽게 사용하도록 생활 친화적인 서비스의 개발이 필요합니다. 따라서 인공지능도 인프라를 구축하는 사업과 서비스를 구축하는 사업으로 세분화하여 의료, 법률, 금융등 특정 도메인에 특화된 AI 모델 개발에 주력하는 것이 경쟁력을 가질수 있다고 판단됩니다.
인공지능 인재 육성 측면에서는 어떤 준비를 하는 것이....
인공지능 서비스는 결과적으로 우수한 인재들이 개발하는 것입니다. AI 인재 육성은 매우 중요한 과제이며, 정부도 이 부분에 대하여 많은 관심을 가지고 있습니다.
기업이 좋은 인재를 확보하기 위해서는 산학협력등을 통하여 실무 중심의 AI교육이 필요하다고 판단되고, 정부는 AI생태계를 위하여 AI스타트업 지원, AI 기업발굴, AI 인력매칭, AI 개발자 육성등과 같은 전방위적인 지원이 필요합니다.
새로운 생태계를 만들기 위하여 적은 비용으로는 되지 않습니다. 짧은 시간에 많은 비용과 자원을 집중 투자하여 빠르게 생태계를 만드는 것이 꼭 필요한 시기입니다.
마지막으로 한국 AI산업의 발전과 신뢰성 확보를 위한 제언을
AI 기술은 이제 선택이 아닌 필수가 되었습니다. 특히 신뢰성 있는 AI개발과 운영은 우리 산업의 미래를 좌우할 핵심 요소가 될것으로 생각됩니다.
(사)한국인공지능협회 인증센터는 앞으로도 기업들의 신뢰성있는 AI서비스의 개발에 다각적인 지원을 아끼지 않을 것입니다. 특히 저희 협회의 회원사와 관련기업, 협력기관들이 AI시장에서 경쟁력을 가질 수 있도록 맞춤형 지원 프로그램을 지속적으로 확대해 가도록 하겠습니다.
인공지능 기술의 올바른 방향으로 발전을 위하여 정부, 기업, 학계 그리고 시민사회가 함께 힘을 모아 신뢰할 수 있는 AI생태계를 만들어가는데 저희 (사)한국인공지능협회도 가교 역할을 충실히 수행하겠습니다.
무엇보다 인공지능 시대에 대한민국이 AI산업의 중심이 될 수 있도록 여러분들의 많은 관심과 참여를 부탁드립니다.
