IT 리더가 검토해야 하는 생성형 AI 쟁점 20가지

반응형

 

CIO는 생성형 AI 기술 발달로 촉발된 새로운 IT 혁명 중심에 서 있다. 이제 AI로 인해 비즈니스 전반에서 등장하는 새로운 문제를 탐색하고 대응책을 마련해야 할 때이다.

 

ⓒ Getty Images Bank

 

2022년 11월 생성형 AI 툴 챗GPT가 출시되면서 열정(및 우려)의 파도가 몰아친 지 불과 몇 달 만에 기업 리더 대부분은 AI의 잠재력을 활용하기 위해 빠르게 노력하고 있다. 다만 채택 과정은 순탄하지만은 않다.

 

통계를 한번 살펴보자. 2023년 5월 리서치 기관 가트너가 진행한 설문조사에 따르면, 응답자 2,500명의 임원 중 약 45%가 챗GPT 인기로 인해 AI 투자를 늘렸다고 답했다. 70%는 조직에서 이미 생성형 AI를 탐색 중이라고 설명했고, 19%는 실제 파일럿 또는 제작 모드에 있다고 밝혔다.

 

이러한 결과는 최근 2023년 7월에 실시한 파운드리의 CIO 테크 토크 설문조사 결과에서도 볼 수 있다. 해당 설문 조사에서 IT 리더 중 60%가 기업에서 생성형 AI를 적극적으로 사용하고 있으며, 28% 이상은 탐색 단계에 있다고 답했다.

 

파운드리 설문조사에 따르면 IT 리더의 과반수는 직원들에게 생성형 AI에 대한 교육을 제공하고(54%), 사용자들에게 생성형 AI 툴을 제공하고(52%) 있으며, 42%는 생성형 AI 정책과 가이드라인을 수립하고 있다. 그러나 IT 리더, 경영진 고문, 경영 컨설턴트, AI 애호가들은 최고 경영진이 생성형 AI를 테스트하고 채택하는 과정에서 여러 문제에 직면하고 있다는 데 동의한다. 또한, 조직 내 최고 기술 전문가인 CIO가 기업이 생성형 AI 전략을 수립할 때 이러한 우려를 소홀히 하지 말아야 한다는 점을 강조한다.

 

그렇다면 기업 내 생성형 AI 전략 과정을 복잡하게 만드는 우려 사항에는 어떤 것이 있을까? 오늘날 생성형 AI 전략에 영향을 미치는 상위 20개 쟁점을 요약하자면 다음과 같다.

 

1. 허용 여부

여러 언론 보도에 따르면, 일부 유명 기업들은 초기에 독점 데이터 보호에 대한 우려를 포함하여 다양한 이유로 챗GPT와 같은 생성형 AI 툴을 차단했다. 특정 기업들은 차단까지 하지 않고, 기술으로 제한적으로 허용하고 있는데, 모든 기업이 그런 것은 아니다.

 

공급업체는 엔터프라이즈 소프트웨어 제품에 생성형 AI를 추가하고 있을 것이고 직원들이 관련 기술을 테스트를 늘릴 것이다. 이때 CIO는 직원에게 생성형 AI 사용의 장단점과 이를 금지하거나 제한할 경우 발생할 수 있는 잠재적 결과에 대해 조언할 수 있어야 한다.

 

컨설팅 기업 PwC US의 데이터 위험 및 개인정보 보호 리더인 미르 카시푸딘은 “현재 핵심 문제는 허용할 것인가, 허용하지 않을 것인가이다. 많은 기업이 차단할 것인가, 아니면 허용할 것인가에 대한 논의의 한가운데에 서 있다”라고 말했다.

 

이때 기술 임원진과 논의도 함께 해야 한다. CIO가 스스로 AI 탐색을 추진할지 또는 일시 중지할지 정하는 과정이 수반되기 때문이다.

 

2. 빠르게 진화하는 위험

생성형 AI의 사용을 차단한 기업들도 일부 직원들이 여전히 그것을 테스트하고 있다는 사실을 알고 있다. 이들은 기술의 잠재력을 활용하는 법을 배우지 않으면 뒤처질 수 있다는 사실도 깨닫고 있다.

 

그로 인해 기업들은 생성형 AI 파일럿들을 활용하는 데 있어서 가장 즉각적인 위험을 서둘러 식별하려고 노력한다. 거버넌스 협회인 ISACA의 위험 자문 위원회 위원이자 모멘텀 테크놀로지(Momentum Technology)의 위험 자문 담당 이사인 메리 카마이클은 “CIO라는 직업은 잠재적인 시나리오에 대해 질문하는 것이다. CIO는 위험과 그 위험이 무엇인가에 대해 이야기해야 한다”라고 표현했다.

 

3. 허용가능한 사용정책

카마이클은 경영진이 챗GPT와 같은 툴에 대해 그들 앞에 놓인 또 다른 큰 의문을 가지고 있다고 지적한다. 바로 ‘무료이면서 접근 가능한 기술에 대해 지금 직원들에게 어떤 방향을 제시할 것인가?’라는 것이다.

 

카마이클은 최근 임원진 모임에서 허용가능한 사용 정책을 가진 회사가 있는지 물었다. 이때 직원들에게 회사가 허용할 수 있는 범위를 안내하기 위해 사용 정책을 만들었다고 답한 기업은 소수에 불과했다고 밝혔다.

 

카마이클은 “직원들은 이미 ‘이 툴을 사용해야 하는가? 언제 사용해야 하는가? 무엇을 주의해야 하는가?’라고 질문을 던지고 있다. 현재는 IT 부서가 이를 처리하려고 노력하는 것 같다. 따라서 CIO는 제어 기능을 갖춘 엔터프라이즈 생성형 AI에 대해 고민하고 몇 가지 정책을 설정해야 한다”라고 밝혔다.

 

4. 비즈니스 중단

생성형 AI는 파괴적인 기술이기 때문에 CIO와 최고 경영진은 회사가 이 기술의 희생양이 될지, 아니면 어떻게 될지 고려해야 한다.

 

카마이클은 ‘생성형 AI가 비즈니스에 어떤 영향을 미쳤는가? 예를 들어 챗GPT가 당신의 비즈니스 모델에 어떤 영향을 미쳤는가?’와 같은 질문을 던지며, 일부 기업들은 생성형 AI와의 갑작스러운 경쟁에 직면하면서 이미 상당한 시장 가치를 잃게 되었다고 지적한다.

 

카마이클은 “해당 질문은 CIO에게 중요한 문제이다. 일부는 생성형 AI 기술을 사용하여 비용을 절감할 수 있을 것으로 기대하지만, AI를 자사 제품에 통합하여 제품을 강화할 수 있는 방법을 찾을 수 있을 것이라는 기대도 있다. 바로 이 지점에서 CIO는 기술에 대한 지식을 습득하고 지침과 조언을 제공해야 한다”라고 덧붙였다.

 

5. 비행기에 엔진 달기

앞서 언급한 문제가 어느정도 해결할 능력이 있다면, 경영진은 모든 것이 진행 중일 때 빠르게 움직여 문제를 바로 처리해야 한다.

 

경영 컨설팅 회사인 맥킨지의 파트너인 더글러스 메릴은 CIO가 애자일 프로세스를 생성형 AI 전략에 적용해야 한다고 말했다. 메릴은 “일이 진행되는 과정에서 학습을 하되, 안전하고 통제되며 위험 관리에 초점을 맞춘 반복을 수행해야 한다”라고 설명했다.

 

6. 아직 좋은 지침은 없다

CIO가 광범위한 관심과 많은 실험을 불러일으키고 있는 기술에 제어 및 위험 관리를 도입하려고 할 때, 그들은 기존의 지침과 지원 없이 이를 수행하고 있다.

 

메릴은 “우리 모두가 직면한 특별한 문제 중 하나는 생성형 AI가 매우 새롭고 매우 빠르게 발전하고 있기 때문에 이용 가능한 툴이 많이 없다는 점이다. 생성형 AI에 대한 위험 가이드라인은 취약하면서도 새롭기 때문에 일반적으로 받아들여지는 ‘위험 가드레일에 대해 어떻게 생각해야 하는지’에 대한 지침이 없다. 언젠가는 생기겠지만 아직은 존재하지 않는다”라고 표현했다.

 

7. 빠른 속도로 혁신

CIO가 해결해야 할 또 다른 영역은 조직을 차별화하기 위해 생성형 AI를 사용하는 방법이다. 가트너의 수석 부사장이자 애널리스트인 프란세스 카라모지스는 “CIO는 ‘생성형 AI를 효과적으로 사용할 수 있는 곳’에 집중해야 한다. 그것은 간단한 도구가 아니며, 그들은 가능성의 예술을 찾고 있다. 그리고 가능성이 너무 많기 때문에 비즈니스 전략에 직접 연계해야 한다”라고 말했다.

 

카라모지스는 기술 주도의 혁신이 CIO에게 새로운 것이 아니라는 것을 인정하지만, 생성형 AI는 진화의 속도와 힘 및 복잡성으로 인해 새로운 도전 과제를 제시하고 있다고 설명했다.

 

카라모지스는 “CIO는 솔루션의 속도와 점도 측면에서 매우 다른 방식으로 아이디어를 내고 교육하고 실행해야 할 것이다”라고 덧붙였다.

 

8. 사용 사례 식별 및 우선 순위 지정

리서치 기관 IDC는 2023년 5월에 발표한 ‘엔터프라이즈 인텔리전스 서비스의 생성형 AI 조사 결과’에서 엔터프라이즈 인텔리전스 서비스 구매자의 약 70%가 생성형 AI의 사용 사례를 고려 중이거나 이에 대해서 적극적으로 작업하고 있다고 밝혔다.

 

기업에는 기업의 이익을 위해 해당 기술을 사용하는 방법에 대한 아이디어를 수집, 심사하고 우선순위를 정할 수 있는 방법이 필요하다.

 

AI 솔루션 기업 어드밴스AI(Advance.AI)의 규정 준수 책임자이자 ISACA 이머징 트렌드 워킹 그룹 멤버인 고설융은 “CIO는 무엇보다도 먼저 생성형 AI 구현을 위한 명확한 로드맵을 수립해야 한다. 목표가 생산성 향상이든 기타 상업적 이득이든, 로드맵을 구현하도록 해주는 기술을 선택하기 전에 로드맵에 대한 전체 최고 경영진의 의견이 일치해야 한다”라고 밝혔다.

 

카라모지스는 CIO가 기술 중심 이니셔티브의 우선순위를 정했던 이전 경험을 활용하고, 조직이 현명하게 투자할 수 있도록 생성형 AI 아이디어에도 동일한 규율을 적용해야 한다고 말한다.

 

IDC는 설문조사에서 가장 우선순위가 높은 사용 사례는 지식 관리, 코드 생성, 제품 또는 서비스 설계 및 엔지니어링 범주에 속하는 것으로 나타났다. 구매자들은 생성형 AI를 통해 직원들이 더 가치 있는 업무에 집중할 수 있을 것이라는 의견에 가장 강하게 동의했다. 그리고 구매자들은 생성형 AI가 더 큰 위험에 노출될 것이라는 의견에 가장 많이 동의하지 않았다.

 

파운드리의 생성형 AI 설문조사에 따르면 리테일 CIO가 사용 사례를 파악하는 데 앞장서고 있으며(49%), 제조(42%), 기술(42%), 금융 서비스(32%) 부문의 IT 리더가 그 뒤를 잇고 있는 것으로 나타났다.

 

9. 구매 또는 수정 또는 제작

기업은 세 가지 다른 방식으로 생성형 AI를 조직에 도입할 수 있으며, CIO는 어떤 방식이 가장 적합한지 결정하는 데 앞장서게 된다.

 

맥킨지는 다양한 사용 유형을 ‘수용자’, ‘변형자’, ‘제작자’로 설명하는 적절성 프레임워크를 개발했다. 수용자는 다른 사람이 만든 것을 사용하며, 기능을 바로 활용할 수 있다. 변형자는 기본적으로 이러한 기능을 자신의 필요에 맞게 또는 자체 독점 데이터로 작동하도록 사용자 지정할 것이다.

 

맥킨지의 메릴은 “세 가지 유형 중 가장 흔하지 않은 유형인 제작자는 구조와 제어에 대한 필요성이 가장 크므로 고도로 전문화된 요건을 충족하기 위해 자체 모델을 구축할 것”이라고 설명했다.

 

10. 엔터프라이즈 준비태세

어떤 기업이 수용자, 변형자, 제작자 중 어느 쪽이든 생성형 AI를 효과적으로 활용하려면 충분히 최신의 기술 스택과 데이터 프로그램이 필요할 것이다.

 

카라모지스는 “데이터, 클라우드의 구조, 컴퓨팅 네트워크, 스토리지는 확실히 CIO의 영역이다”라며 “CIO는 마찬가지로 조직이 설정한 생성형 AI 목표를 실현하는 데 방해가 되는 기술 또는 데이터 스택 내의 병목 현상이나 장벽을 식별하고 해결할 책임이 있다”라고 덧붙였다.

 

여기에 카라모지스는 “CIO는 이를 가능하게 하는 기술을 구축할 사람이다”라고 표현했다.

 

11. 데이터 개인정보보호 및 보안

2023년 봄, 삼성전자는 내부 소스코드가 챗GPT에 업로드 된 것을 발견한 직후 직원들의 생성형 AI 툴 사용을 금지했다. 카시푸딘은 다른 회사에서도 직원들이 같은 일을 하고 있는 것은 아닌지 걱정하고 있다고 말한다.

 

카시푸딘은 “인력이 이러한 툴과 상호 작용할 때 기업은 기본 모델에 전송되어 백업되는 독점 데이터를 입력하지 않도록 해야 한다”라고 밝혔다.

 

경영진은 조치를 취하고, 거버넌스 정책을 개발하고, 제어를 구현하고, 모니터링 툴을 배포하여 직원들이 허용 가능한 사용 정책을 준수하고 독점 데이터와 지적 재산이 노출되지 않도록 해야 한다. CIO는 물론 데이터 리더와 개인정보 보호 담당 임원 모두 이런 환경을 만들어야 한다.

 

12. 데이터 및 개인정보보호법 준수

데이터, 의무 준수, 위험 및 보안 리더뿐만 아니라 CIO들이 직면하고 있는 또 다른 문제는 직원들이 생성형 AI를 사용할 때 데이터 개인정보보호법 및 데이터 보호 모범 사례를 위반하지 않도록 모니터링하고 보장하는 방법이다.

 

사이버 보안 플랫폼 제조업체인 딥 인스팅트(Deep Instinct)의 CIO인 칼 프로겟은 “다른 사람이 제어하는 AI 엔진에 데이터를 넣으면 해당 데이터에 대한 통제권을 잃게 된다”라고 경고했다.

 

13. 감사 추적의 필요성

전문가들에 따르면 CIO는 또한 생성형 AI가 생산한 결과가 정확하고 편향되지 않으며 보호되는 지적 재산에 대한 침해가 없는지 확인하기 위해 결과를 식별하고 감사하는 방법을 고안하도록 요구받는다. 카마이클은 “책임감 있고 설명 가능한 AI는 CIO가 해결해야 할 또 다른 과제이다”라고 설명한다.

 

14. 새로운 규정

전 세계 각국 정부는 AI 사용을 규제할지 여부와 방법을 논의하는 중이다. 기업 법무 부서와 외부 변호사는 경영진이 새로운 법률이 어떤 의미를 갖는지 파악하는 데 도움을 주지만, CIO는 기업 내 AI 기술이 새로운 법률을 준수하도록 하는 역할을 맡게 될 것이다.

 

고는 “CIO는 최근 유럽연합의 AI 법안과 같이 AI 사용과 관련하여 진화하는 규정과 법적 프레임워크를 파악하고 있어야 한다. 데이터 보호법, 지적 재산권 규정, 산업별 지침, 윤리 표준을 준수하는 것은 매우 중요하다. CIO는 법무팀과 긴밀히 협력하여 생성형 AI와 관련된 모든 법적 영향을 이해하고 해결해야 한다”라고 말했다.

 

15. 정확성 우려

마찬가지로, 카시푸딘과 다른 사람들은 CIO가 조직과 직원들이 AI로 생산된 인사이트를 검증하는 품질 보증 절차를 채택하도록 도와야 한다고 강조한다. 여기에는 개발자가 사용하고자 하는 모든 코드에 대해 IT 부서 내에서 QA를 구현하는 것도 포함된다고 카시푸딘은 덧붙인다.

 

잘 알려진 몇 가지 사례에서 알 수 있듯이, 해당 단계를 거치지 않을 경우 결과는 심각할 수 있다. 챗GPT를 사용하여 작성한 법률 문서에 이 기술로 구성한 법률 사례를 인용하여 제출한 후 법정 심리를 앞두고 있는 뉴욕 변호사의 사례는 주목할 만하다.

 

16. 업스킬링 요건

AI는 IT 기술과 인재에 대한 수요를 빠르게 재편하고 있으며, 조직 전반의 직원은 생성형 AI 툴로 작업하는 방법을 배워야 할 것이다.

 

한편, IT 직원은 업무를 수행하기 위해 생성형 AI 툴로 작업하고 조직 전체에서 기술이 사용됨에 따라 이를 지원하는 데 필요한 기술을 습득하기 위해 재교육을 받아야 한다. 고는 “CIO는 IT 부서 내의 기술 격차를 평가하고 생성형 AI를 효과적으로 이해하고 작업할 수 있도록 적절한 교육과 리소스를 제공해야 한다”라고 말했다.

 

17. AI로 강화된 사이버보안 위협

CIO가 우려하는 또 다른 영역은 해커가 생성형 AI를 사용하는 방법이다. 프로겟은 “해커가 이메일과 메시지를 조작하고 생체인식을 우회하는 데 있어 새로운 차원의 정교함이 요구되는데, 이는 생성형 AI가 실제 사람이 사용하는 페르소나, 매너리즘, 문구를 취하기 때문이다”라며 “생성형 AI는 진짜처럼 보이는 가짜 동영상과 오디오를 생성할 수 있다”라고 밝혔다.

 

이러한 정교한 공격은 음성 인증과 같은 기존 보안 제어를 무용지물로 만들 수 있으므로 CIO와 CISO는 신속하게 대안을 찾을 수밖에 없다. 프로겟은 “생성형 AI가 이미 수행 중인 작업 때문에 우리가 시행 중인 제어 기능이 작동하지 않을 수 있다”라고 설명했다.

 

18. 초조한 노동자들

골드만삭스는 2023년 3월 보고서에서 “현재 일자리의 약 3분의 2가 어느 정도의 AI 자동화에 노출되어 있으며, 생성형 AI가 현재 업무의 최대 4분의 1을 대체할 수 있다”라고 추정했다. 즉, 3억 개의 정규직에 해당하는 일자리가 자동화로 인해 사라질 수 있다는 것이라고 골드만 삭스는 밝혔다.

 

카마이클은 “많은 불확실성이 존재한다. 사람들은 ‘이것이 내 경력에 어떤 영향을 미칠까? 재교육을 받아야 할까?’를 고민한다”라고 말했다.

 

또한 카마이클은 “경영진의 일원으로서 CIO는 직원들의 참여를 유도하고 직원들의 우려를 해소하기 위해 노력해야 한다”라며 “생성형 AI가 일자리를 창출할 것이며, 아마도 잃게 될 일자리보다 더 많은 일자리를 창출할 것이라고 믿는다”라고 덧붙였다. 이는 까다로운 생성형 AI 변화 관리 과제를 해결할 때 CIO가 공유할 수 있는 메시지이기도 하다.

 

19. 이 새로운 기술을 통해 변화를 주도

CIO는 생성형 AI가 가져올 것으로 예상되는 모든 혼란 속에서 조직을 이끌 책임이 있는 임원 중 한 명이 될 것이다.

카마이클을 비롯해 여러 전문가가 “지난 10년 동안 디지털 전환을 통해 조직을 이끌면서 이 분야에서 기술을 쌓아온 CIO는 이 업무에 천부적인 적임자”라고 표현혔다.

 

그러나 일부에서는 생성형 AI의 도입 속도와 파괴적 혁신이 이전의 기술 혁명을 압도할 수 있기 때문에 다가오는 변화를 통해 주도하는 것이 이전의 변화 관리 시나리오와는 다를 것이라고 말한다.

 

카마이클은 “발전 속도는 모두를 놀라게 했고, 이제 우리는 그 속도를 따라잡아야 한다. 문제는 이 모든 것을 얼마나 잘 관리하고 자신감 있게 앞으로 나아갈 수 있느냐이다”라고 표현했다.

 

20. 팀을 하나로 모으기

물론 CIO가 이러한 모든 문제를 혼자서 해결할 수는 없으며, 시도해서도 안 된다. 하지만 많은 조직의 주요 기술자로서 CIO는 생성형 AI가 가져올 위험과 기회에 대해 경영진에게 핵심적인 조언자가 될 것이다.

 

카라모지스는 “CIO는 촉진자, 조언자, 전달자 역할을 하며, 이를 가능하게 하거나 그럴 준비가 되어 있다. 따라서 이제 CIO의 역할은 다른 사람들이 해야 할 일의 전체 목록을 이해하도록 돕는 최고 경영진의 필수적인 역할 중 하나가 되었다”라고 밝혔다.

ciokr@idg.co.kr