직장에서 생성 AI 도구를 사용하면 보안이 더 필요합니다.
생성 AI는 누구도 눈을 떼지 못하는 정말 반짝이는 물체와 같습니다.
전 세계 거의 모든 기업이 자사 사업을 혁신하는 데 활용할 수 있는 생성 AI 도구의 잠재력에 주목하고 있으며, 그럴 만한 이유도 충분합니다.
자연어 요청에 따라 텍스트와 이미지와 같은 콘텐츠를 생성하는 기계 학습의 한 형태인 생성 AI는 획기적인 기술입니다. 생산성 향상부터 개인화 개선까지, 생성적 AI 도구는 다양한 이점을 제공합니다.
예를 들어, Gartner 가 최근 실시한 여론 조사에 따르면 2,500명 이상의 임원이 고객 경험과 유지(38%)를 생성적 AI 투자의 주요 목적으로 꼽았습니다. 그 다음으로는 매출 성장(26%), 비용 최적화(17%), 비즈니스 연속성(7%) 등의 분야가 뒤를 따릅니다.
게다가 IBM 이 3,000명의 CEO를 대상으로 별도로 실시한 설문 조사에 따르면, 응답한 CEO의 69%가 조직 전반에 걸쳐 생성적 AI가 광범위한 이점을 제공한다고 생각합니다. 하지만 CEO가 아닌 고위 임원 중에서는 조직이 책임감 있게 생성적 AI를 도입할 준비가 되었다고 답한 사람은 30%에 불과했습니다.
솔직히 말해서: 그거 놀랍네요. 고위 임원 중 3분의 1도 안 되는 사람들이 조직이 책임감 있게 생성적 AI를 도입할 준비가 되었다고 답했습니다.
생성적 AI 도구를 사용하면 잠재적으로 얻을 수 있는 모든 긍정적인 이익에 푹 빠지기 쉽습니다. 하지만 잊지 마세요: 생성적 AI 도구를 사용하면 심각한 위험과 과제가 발생할 수 있습니다.
생성적 AI가 얼마나 빨리 진화하고 있는지 생각해보면, 조직이 사람들이 생성적 AI 도구를 어떻게 활용하고 생성적 AI 인터페이스에 공급되는 데이터를 인식하고 있는지 주의하지 않는다면 빠르게 난관에 봉착할 수 있습니다.
생성 AI가 긍정적이고 유익한 경험을 갑자기 비용이 많이 들고 부정적인 보안 문제로 바꿀 수 있는 여러 가지 방법 중 몇 가지를 소개합니다.
- 기업의 민감한 데이터 유출.
삼성 직원이 실수로 Open AI의 챗봇 ChatGPT 에 코드를 업로드했다는 이야기를 들어보셨거나 읽어보셨을 것입니다. 그로 인해 삼성의 독점 데이터가 노출되었을 뿐만 아니라, 삼성의 전 세계적인 홍보에 큰 악몽이 초래되었습니다. 그리고 이런 일이 일어났거나 일어날 수 있는 조직이 삼성뿐만은 아닐 가능성이 크다. 다음은 귀하의 회사일 수도 있습니다.
- 잘못된 정보와 편견을 퍼뜨리는 것.
ChatGPT와 같은 생성 AI 도구는 대규모 언어 모델(LLM)을 기반으로 합니다. LLM은 기사, 웹사이트 등 모든 것에서 얻은 데이터 세트를 바탕으로 교육을 받습니다. 여기에는 잘못된 정보와 부정확한 정보도 포함됩니다. 생성 AI 도구가 잘못된 정보를 생성하거나 편견을 확산시키지 않고 이를 캠페인에 사용하거나 가정을 구축하지 않을 것이라는 생각에 속기 쉽습니다. 하지만 알기도 전에 진실과 거짓의 경계는 모호해지고, 당신의 평판도 흐려집니다. 더불어 생성적 AI 챗봇이 만들어내는 편견과 부정확한 정보는 AI 환각이 야기하는 문제에 비하면 아무것도 아닙니다!
- 개인 식별 정보(PII)를 잘못 취급하는 경우.
PII는 생성 AI 도구와 상호 작용하는 동안 수집될 수 있습니다. 이러한 도구를 제공하는 기업은 엄격한 데이터 개인정보 보호 조치를 준수해야 합니다. 그렇지 않은 경우 계정 인수 문제를 겪을 수도 있습니다. 아니면 악의적인 행위자가 고객의 개인식별정보를 손에 넣으면 엄청난 법적 문제가 발생하거나 고객과 마찰이 생길 수도 있습니다.
다행히도 많은 조직이 안전 관행을 유지하기 위한 조치를 취하고 있습니다. 여러 회사에서 생성 AI의 긍정적, 부정적 측면에 대한 교육을 제공합니다. 또는 직원들이 책임감 있게 탐구하고 실험하도록 장려합니다. 직원의 인정과 필요한 지침을 위한 생성 AI 정책을 설계한 기업도 있습니다.
이러한 조치에는 확실히 장점이 있지만, 생성적 AI 도구의 인기, 복잡성, 빠른 진화 속도로 인해 보안이 더 필요합니다. 게다가 방정식에는 항상 인간의 실수가 있을 것입니다.
이제 여러분도 한 번쯤 들어보셨을 거라고 확신합니다. 아니면 여러 번일 수도 있습니다: 보이지 않는 것이 당신을 다치게 할 수 있습니다. 그리고 직장에서 생성적 AI 도구를 사용하는 것에 관해서는 이보다 더 사실일 수 없습니다. 인식 부족으로 인해 회사가 손해를 볼 수 있습니다.
직장에서 생성적 AI 사용으로 인한 위협을 예방하기 위해 기업은 제로 트러스트 접근 방식을 취해야 합니다. 제로 트러스트의 핵심 원칙은 "절대 믿지 마십시오"라는 것을 기억하세요. 항상 확인하세요.” 그리고 오늘날 우선시해야 할 제로 트러스트 보안의 핵심 전략 중 하나는 생성적 AI 도구에 대한 액세스를 감지하는 것입니다.
직원들이 직장에서 생성적 AI 도구를 활용하는 방법에 대한 가시성을 높이고 세부적인 제어를 가능하게 함으로써 보안 팀은 잠재적 위험을 식별하고 관리할 수 있습니다. 이는 조직에 다음과 같은 도움이 됩니다.
- 데이터, PII, 코드, 지적 재산권(IP) 등을 보호합니다.
- 회사 지침을 지원하는 정책을 활성화하고 적용합니다.
- 생성 AI 도구의 의도적 또는 우발적 오용으로부터 보안을 유지합니다.
생성적 AI 환경이 계속해서 급속하게 전개됨에 따라, 기업은 생성적 AI 도구 감지 기능을 제공하는 제로 트러스트 보안 프레임워크를 통해 안심하고 보안을 유지할 수 있습니다.
직장에서 생성적 AI 도구를 사용할 때 발생할 수 있는 잠재적 위험을 완화하는 데 F5가 어떻게 도움을 줄 수 있는지 자세히 알아보려면 F5 BIG-IP SSL Orchestrator DevCentral 문서를 확인하세요 .