‘GPT 시대’생성AI 대응전략, 그들과 달라야 한다
법무법인 태평양 이상직 변호사
코로나 팬데믹이 끝났다. 그토록 기다려 온 팬데믹 종식 소식에도, 각국에서는 재난지원금 등 시장에 공급된 유동성으로 물가 상승을 비롯한 인플레이션 우려가 크다.
미국의 경우, 선제적으로 금리 인상을 단행하자 부동산과 같은 현물시장이 위축되고 경제성장이 멈춘 모습이다. 인공지능(AI), 가상자산, 메타버스 등 첨단산업도 추진동력이 떨어졌다. 2023년 1월 미국 CES(국제 전자제품 박람회), 2월 스페인 MWC(세계 이동통신 전시회)에서도 AI, 모빌리티 등 기존 논의를 확대했을 뿐 크게 달라진 모습은 없었다.
하지만 2022년 11월 Open AI의 Chat GPT3.5와 업그레이드 버전으로 올해 3월 14일 발표된 Chat GPT4는 달랐다. 입력란에 질문을 입력하면 답변을 생성하여 보여주는데 깜짝 놀랄 수준의 정확도를 보였다. 활용방안도 놀라운 수준인데, 가령 GPT 기능을 외부 고객에게 제공하면 그 고객이 GPT를 이용하여 새로운 서비스를 창출할 수 있다(GPT API). 또 문서, 파워포인트, 도표 작성을 지원함으로써 고객의 업무생산성을 높일 수 있다. 외부 기업의 다양한 서비스를 GPT 플랫폼 안으로 가져와 연결하면 고객의 요구를 더욱 만족하는 답변이 나온다(GPT Plugin). 이밖에 검색을 넘어 소설, 시, 과제, 업무용 자료 작성 등 다양한 형태의 창작 결과를 보여준다. 물론 오류, 편향, 정보 유출, 보안, 가짜뉴스 생성과 같은 문제는 남아 있다.
EU 집행위원회가 2021년 4월 21일 공개한 AI 법안은 용납할 수 없는 위험, 고위험, 저위험, 최소 위험까지 크게 세 가지 그룹으로 나누어 규제한다. 용납할 수 없는 위험 단계에 속하는 AI는 사람의 행동을 조작하는 경우, 아동·장애인 등 약자를 이용하거나 공격하는 경우 등이 해당된다. 이는 인간의 존엄, 자유, 평등, 민주주의에 대한 명백한 도전이므로 금지된다.
고위험 AI는 운송·교통, 기계, 무선장비 및 의료기기 등 사람의 안전에 관계된 경우를 이른다. 해당 분야 AI 개발을 허용하되 위험관리시스템을 기획, 설계, 구축할 의무를 부과하는 등 강도 높은 규제를 한다.
저위험 AI에는 명의도용과 같은 사람을 속일 수 있는 AI가 해당된다. AI 법안은 이용자가 속지 않도록 투명성을 확보할 의무를 부여하며, 최소 위험 AI는 게임 등 권리침해, 위험이 최소화된 경우다.
벌칙은 용납할 수 없는 위험의 AI을 활용하면 최대 3천만 유로 또는 전 세계 연간매출액의 6% 중 높은 금액의 벌금이 부과된다.
올해 5월 11일 EU 의회는 수정안을 발표했다. 고위험 AI에 대한 범위를 명확히 하면서 기본권 영향 평가 등 의무를 강화했다. 또 벌칙은 최대 4천만 유로 또는 전 세계 연간매출액의 7%로 상향 조정했다. 여기에 생성AI에 관한 파운데이션 모델에 대한 규제도 포함했다. 파운데이션 모델이란 대규모 데이터로 미리 훈련된 AI모델로서 범용 사용이 가능하며, 다른 시스템의 기초로 사용될 수 있는 모델로서 GPT를 포함한다.
파운데이션 모델은 건강, 안전, 기본권, 환경 민주주의, 법령에 대하여 발생할 수 있는 예측 가능한 위험을 식별, 완화하여야 하고 전문가의 검증을 거쳐야 한다. 또한 데이터 출처, 편향 검증 등 적절한 관리조치가 된 데이터를 사용해야 하며, 모델 성능, 예측가능성, 설명가능성, 수정가능성, 안전성 및 보안 수준을 갖춰야 한다. 공급자의 이름, 주소, 연락처 정보, 모델 개발에 사용된 데이터 출처, 모델의 기능 및 한계, 모델 성능 등의 정보도 제출하고, 등록해야 한다.
GPT처럼 문자, 이미지, 영상 등을 생성하는 AI 시스템에 사용되는 파운데이션 모델은 추가적인 의무를 부담하는데, 이용자에게 AI 시스템 활용사실을 알려야 한다. 아울러 위법한 콘텐츠 생성을 방지할 수 있도록 모델을 설계, 개발, 학습해야 한다.
이처럼 다소 까다로운 AI 법안을 EU가 추진한 배경은 주목할 만하다. 2015년 5월 발표한 유럽디지털 단일 마켓 전략은 EU 회원국 간 경제·정치 통합을 선언했다. EU 경쟁국에 대한 공동 대응, EU 기반의 강력한 데이터·AI기업 탄생을 위한 시장조성 및 경쟁력 지원을 목표로 했다.
그러나 2008년 금융위기 이후 계속된 경제 침체, 2020년 영국의 브렉시트, 코로나 팬데믹 등 위기에서 각 회원국의 피해 정도, 대응 방법, 정치 상황 등 편차가 컸으며, EU 전체의 단합된 대응이 쉽지 않았다.
또 구글과 같은 글로벌 디지털 기업의 약진에도 EU 국적의 AI 기업은 성장세가 미흡했다. 제4차 산업혁명도 스마트 팩토리와 같은 제조업을 중심으로만 이뤄지고 있다. 글로벌 디지털 기업에 대한 공정거래법, 개인정보보호법 위반 등 과징금 제재만으로 유럽 시장을 보호하기에 한계가 있는 모양새다. 즉 이 법안은 글로벌 빅테크의 영향력이 큰 고위험 AI을 견제하고 경쟁력이 있는 AI 분야에서 EU 기업을 육성할 수 있는 토양 마련에 집중한다고 볼 수 있다.
미국은 OpenAI를 포함하여 글로벌 빅테크 기업을 중심으로 최고 수준의 AI 기술과 기업을 확보하고 있다. 웬만한 기술규제는 견딜 수 있는 내성을 갖추고 있다. 심지어 상대적으로 기술수준이 낮은 국가에 강도 높은 기술규제를 요구하여 경쟁을 따돌리려 할 수도 있다(“사다리 걷어차기 전략”). GPT 등 모델을 통하여 다른 국가를 소비시장으로 만들고 다른 기업에게 파운데이션 모델을 플랫폼으로 제공해 수익을 얻는 전략을 구사할 것으로 보인다.
이 같은 격변 속 우리나라는 10여 개가 넘는 AI 법안을 발의하고 대안을 만들었으며, 이들 법안은 올해 2월 14일 국회 과학기술정보방송통신위원회 법안소위에서 통과됐다. 국회에서는 GPT의 영향과 해외 입법 경과 등을 참고하여 현재 추가적인 논의가 진행되고 있으며, 우리 정부는 AI 산업 발전을 위한 지원체계를 마련해 두고 있다. 본 지원체계는 AI 기업은 기술개발 및 서비스에 대해 인간의 기본권을 침해하지 않을 것, 윤리 관련 사항을 준수할 것 등을 규정한다. 즉 선 허용 후 규제 원칙을 두고 있다. 특히 생명, 안전과 직결되면 고위험 AI으로 설정해 고지, 설명의무를 부여하고 있다.
GPT를 위시한 생성AI 시대, 우리는 실정에 맞는 대응 방안을 적극적으로 모색해야한다. 우리는 EU처럼 수많은 회원국을 가지고 있지 않으니 내수 시장이 크지 않다. EU의 강도 높은 규제 입법을 따르면 미국 AI 기업을 견제할 수 있겠지만 국내 AI 기업을 키울 수 없고 수출마저 위협받는다. 그렇다고 규제 수준을 낮추면 미국의 AI 기업에게 시장을 내 줄 위험이 있다.
강점과 약점을 분석해서 전략을 세워야 한다. 소재, 부품, 장비, SW, OS 등 다양한 분야에서 AI 기술, 사업 지도를 만들고 우리가 잘할 수 있는 분야를 집중 공략해야 한다. 국제표준을 논하는 무대애서는 EU도 미국도 아닌 우리의 상황에 맞는 전략을 구사해야 한다. 제3국과의 합종연횡도 중요하다. AI 없는 미래는 없다. 지독하게 살 길을 찾아야 한다.
|
이상직
- 법무법인 태평양 변호사
- (사)한국인공지능협회 전문위원
- (전) (주)KT 법무센터장
- (전) 정보통신부 재정과장
- 고려대학교 학사 법학 전공 | | | |
