정밀성을 향한 발전: AI를 과도하게 필터링하는 것이 왜 큰 대가를 치르는 실수인가

F5 ADSP | 2024년 10월 03일

조직이 생성형 AI(GenAI)를 워크플로에 통합하기 시작하면 AI 모델이 생성하는 콘텐츠뿐만 아니라, 아직 초기 단계인 이 기술을 사용할 때 수반되는 실제 위험과 잠재적 위험에 대해 우려하는 것은 당연합니다. 일부 공급업체는 모델에 입력하는 프롬프트나 모델의 응답에서 조금이라도 문제가 될 만한 모든 것을 무차별적으로 차단하는 보안 도구를 내세워 이러한 우려에 대응합니다. 하지만 현실은 이렇습니다. 이는 정말 잘못된 접근입니다.

획일적이고 엄격한 기준에 부합하지 않는 모든 콘텐츠를 차단하는 것은 이론적으로는 그럴듯해 보일 수 있지만, 실제로는 매우 비현실적이며 오히려 해가 되는 경우가 많습니다. 왜일까요? 조직마다 상황이 다르기 때문입니다. 한 기업이 ‘위험하다’거나 ‘용납할 수 없다’고 판단하는 콘텐츠가 다른 기업에는 일상적인 업무 콘텐츠이거나 가치 있는 데이터, 또는 핵심 정보일 수 있습니다. 직원이 무엇에 접근하거나 무엇과 상호 작용할 수 있는지를 공급업체가 결정하도록 맡기면 불필요한 마찰과 불만만 초래하게 됩니다.

과도한 필터링의 문제점

이런 경우를 생각해 보세요. 일부 콘텐츠 필터는 알고리즘에 맥락이나 정규 표현식(RegEx)을 반영하지 않고 키워드에만 초점을 맞추기 때문에, ‘이상하다’거나 ‘부적절하다’고 판단한 주제를 차단합니다. 이로 인해 유용한 정보가 서툴게 표현되어 있거나, 완전히 안전한 주제임에도 타사 공급업체가 설정한 제한적인 기준에 맞지 않는 경우 AI 프롬프트가 불필요하게 차단될 수 있습니다. 마치 아이들이 잠든 뒤 PG-13 등급 영화를 보려는데, 비밀번호를 몰라 자녀 보호 기능을 해제하지 못하는 것과 같습니다.

답답하죠? 따라서 직원의 프롬프트가 차단되면 IT 팀은 해당 공급업체에 다시 찾아가 사정하며 필터를 수정하거나 제한 수준을 낮춰 달라고 요청해야 합니다. 하지만 이러한 도구 중 상당수는 조정할 수 있도록 설계되지 않아 임시방편이 필요합니다. 이런 일이 하루나 일주일에 여러 번 발생하면, 그때그때 적용한 임시 조치들이 흔히 그렇듯 고객사에 훨씬 더 큰 문제를 초래할 수 있습니다. 예를 들어 의료 관련 기관의 직원들은 신체 부위와 관련된 프롬프트를 일상적으로 작성할 가능성이 높으며, 이는 허용될 뿐만 아니라 반드시 필요한 일입니다. 그런 용어를 차단하면 큰 문제가 됩니다. (반면 회계법인 직원이 프롬프트에 같은 용어를 넣었다가 차단된다면, 필터가 의도대로 작동한 것입니다.)

이제 프롬프트가 계속 차단되고 공급업체에 연락해야 하는 골칫거리가 비즈니스 환경에서 어떤 결과를 초래하는지 생각해 보세요. IT 리소스가 계획된 업무에서 이탈하고, 담당자와 프로젝트는 불필요한 지연을 감수해야 합니다. 중요한 시점에 프로젝트가 중단되고 생산성이 곤두박질칠 수 있으며, 사전에 범위가 정해지지 않은 변경을 공급업체가 처리해 주길 기다리는 동안 이러한 지연은 매출 손실로 이어질 수 있습니다. 그렇다면 공급업체는 보통 무엇을 제안할까요? 대개는 임시방편을 마련하는 동안 필터를 완전히 비활성화하자고 합니다. 하지만 이는 위험합니다. 필터를 해제하면 시스템이 차단하도록 설계된 모든 원치 않는 콘텐츠까지 통과시키게 되기 때문입니다. 이 모든 문제는 오탐이 지나치게 많이 발생해서 생깁니다. 이는 전형적인 진전을 희생하면서 완벽을 추구하는 것의 사례입니다.

유연성과 정밀성이 필요한 이유

모든 기업은 저마다 감수할 수 있는 위험 수준과 고유한 문화, 정보 요구 사항을 가지고 있습니다. 그런데 왜 제3자 공급업체가 일률적인 규칙을 적용해 중요한 데이터에 대한 접근을 제한해야 할까요? 더 심각한 문제는, 귀사의 비즈니스가 지닌 복잡한 특성이나 특정 정보가 필요한 이유조차 알지 못하면서 팀이 무엇을 볼 수 있고 볼 수 없는지를 그들이 통제해야 하느냐는 것입니다. 솔직히 말해, 이는 단순한 월권을 넘어 귀사의 운영 자율성을 침해하는 행위입니다.

F5는 차별화된, 어쩌면 논란의 여지가 있는 전략에 따라 운영됩니다. 고객이 정밀성을 높여 나갈 수 있도록 지원합니다. 과도한 필터링으로 완벽을 추구하기보다는 보다 균형 잡힌 접근 방식을 취합니다. F5의 솔루션은 대부분의 기업이 시스템에 유입되거나 시스템에서 유출되어서는 안 된다고 판단할 콘텐츠의 80%를 포착하도록 설계되었습니다. 이것이 바로 강력한 보호와 최소한의 마찰이라는 기본 원칙입니다. 하지만 여기서부터가 흥미롭습니다. 나머지 20%를 어떻게 처리할지는 고객이 결정합니다. 그렇습니다. 고객의 고유한 요구 사항, 사용 사례, 위험 허용 수준에 따라 무엇을 차단하고 허용할지 직접 정할 수 있습니다. 경직된 타사 필터도, 임시 조정을 위해 공급업체에 매달릴 필요도 없습니다. 제어권은 고객에게 있습니다.

귀사의 비즈니스에 맞춘 솔루션

모든 조직은 서로 다릅니다. 합병, 인수, 매각 또는 프로젝트의 자연스러운 진행 등으로 비즈니스가 발전함에 따라 콘텐츠 필터도 함께 변경되어야 합니다. F5 AI Guardrails는 이러한 유연성을 제공합니다. 언제든지 맞춤형 스캐너를 만들고 수정할 수 있습니다. 새로운 제품군에 맞게 필터를 업데이트하거나, 고객 기반이 확대됨에 따라 허용되는 콘텐츠의 범위를 넓히거나, 변화하는 기업 문화에 맞춰 제한 사항을 조정하는 등 당사의 플랫폼은 귀사의 변화에 발맞춰 적응합니다. 결국 현재 상황을 반영하지 못하는 정적이고 변경 불가능한 필터에 얽매일 필요가 없습니다. 귀사에 가장 적합한 것이 무엇인지 공급업체가 결정하게 할 필요도 없습니다. 팀이 위험에 노출되거나 유용한 데이터가 검열되는 일 없이 필요한 정보를 얻을 수 있도록 지원하는 솔루션이 필요합니다.

과제

그래서 저희는 여러분께 제안합니다. 일부 공급업체가 ‘기능’으로 포장한 과장된 홍보와 한계를 넘어 진정한 가치를 살펴보십시오. 이들의 경직되고 지나치게 민감한 필터는 여러분의 발전을 가로막고 있습니다. 대신 F5를 사용해 보십시오. 필요에 맞게 직접 맞춤형 스캐너를 만들어 보십시오. F5의 AI 런타임 보안 솔루션은 검열하거나 과도하게 차단하지 않으며, 공급업체의 승인을 기다리게 하지도 않습니다. 필요한 것을 정확히, 더도 덜도 없이 확보할 수 있는 권한을 제공합니다. 이를 통해 여러분의 보안은 직면한 위협만큼이나 고도화될 수 있습니다. GenAI 솔루션을 직접 관리할 준비가 되셨다면, 저희가 도와드리겠습니다.