자승자박: 거대하고 지저분한 데이터

F5 에코시스템 | 2017년 8월 21일

빅데이터. 비즈니스 가치 사슬 전반의 사물에 내장된 수백만 개의 센서와 모니터에서 매시간 페타바이트 규모의 데이터가 생성됩니다. 제조부터 배송까지, POS부터 소비자에 이르기까지 전례 없는 양의 데이터가 생성되고 있습니다.

그 데이터는 그 자체로는 아무런 의미가 없습니다. 데이터 자체는 특정한 형태로 배열된 1과 0의 집합이며, 앱이 이를 해석하면 정보가 됩니다. 정보는 분석될 때 비로소 유용해지고, 이를 바탕으로 행동할 때 비로소 가치 가 됩니다.

사람은 현재 생성되고 있는 데이터조차 효과적으로 분석하기 어려우며, 앞으로 한 시간, 하루 또는 일주일 동안 생성될 데이터는 말할 것도 없습니다. 그럼에도 비즈니스 의사결정은 점점 더 실시간에 가깝게 이루어져야 합니다. 이를 실현하려면 매일 쌓이는 방대한 노이즈 속에서 유의미한 신호를 식별하도록 훈련된 컴퓨팅 자원과 시스템이 필요합니다.

이는 단순한 추측이 아닙니다. “머신러닝: 경쟁 우위를 위한 새로운 시험대”는 MIT Technology Review Custom과 Google Cloud가 실시한 설문조사로, 응답자의 60% 이상이 “이미 ML[머신러닝] 전략을 도입했으며, 약 3분의 1은 자사의 이니셔티브가 성숙 단계에 이르렀다고 평가했습니다.” 이들이 이 초기 기술에 상당한 투자를 하는 이유는 경쟁 우위에 있습니다. “응답자들에 따르면 ML의 주요 이점은 경쟁 우위를 확보할 수 있다는 것이며, 현재 ML을 도입한 기업의 26%는 이미 그 목표를 달성했다고 답했습니다.”

그 이점은 엄청날 것으로 예상됩니다.

“일반적인 포춘 1000대 기업의 경우, 데이터 접근성을 단 10%만 높여도 순이익이 6,500만 달러 이상 증가합니다.”

“빅데이터의 잠재력을 최대한 활용하는 소매업체는 영업이익률을 최대 60%까지 높일 수 있습니다.”

지금까지는 순조롭습니다. 우리는 데이터를 활용해 기업이 시장을 선도하고 성장할 수 있도록 의사결정을 내리고 있습니다.

위험은 어떤 것에 의존하든 그에 따른 리스크가 있다는 사실을 인식하지 못하는 데 있습니다. 제가 사는 곳에 대중교통이 없어 식료품점에 가기 위해 자동차에 의존한다면, 그 자동차에 문제가 생길 위험이 있습니다. 그것도 상당히 큰 위험입니다. 제 비즈니스가 의사 결정을 위해 빅데이터에 의존한다면(전문가들의 예측을 액면 그대로 받아들일 경우, 빅데이터가 저를 대신해 결정을 내릴 수도 있습니다), 그 데이터에 문제가 생길 위험이 있습니다.

지금 제가 말하는 것은 명백한 데이터 손실이나 데이터 훼손이 아닙니다. 제가 말하는 것은 그 데이터의 진실성을 신뢰하는 데서 비롯되는, 더욱 교묘한 위협입니다.

개인 생활에서든 비즈니스에서든 어떤 데이터를 바탕으로 의사 결정을 내리려면, 먼저 그 데이터가 정확하다는 믿음이 있어야 합니다.

빅 더티 데이터

더티 데이터는 새로운 현상이 아닙니다. 저도 인터넷에서 기사나 자료를 보기 위해 개인정보를 요구받을 때면 가끔 사실과 다르게 입력하곤 했음을 인정합니다. 하지만 새로운 데이터 스트림이 반드시 이런 무해한 데이터 왜곡 때문에 위험에 처하는 것은 아닙니다. 오히려 비즈니스를 잘못된 방향으로 이끌려는 악의적 행위자들의 고의적인 데이터 조작이 위협이 됩니다.

우리는 데이터를 바탕으로 의사결정을 내리면서도 명백한 이상치가 나타날 때에만 데이터를 의심하는 경향이 있기 때문에, 데이터가 서서히 오염되는 위협을 거의 인지하지 못합니다. 이제는 진부한 소재가 된, 은행 거래에서 몇 푼씩 빼돌리는 수법처럼 데이터의 미묘한 변화도 눈에 띄지 않을 수 있습니다. 특정 시장에서 제품 X의 수요가 점진적으로 증가하면 마케팅이나 판촉 활동의 성과로 여겨질 수 있습니다. 다른 시장에서 제품 Y의 수요가 갑자기 감소하는 현상은 거시경제적 요인으로 설명되는 경우가 많습니다. 제가 인내심과 집요함을 갖고 여러분이 제조 또는 유통 관련 의사결정을 내릴 때 근거로 삼는 데이터를 오염시킨다면, 여러분의 비즈니스에 상당한 영향을 미칠 수 있습니다.

얼마나 심각할까요? 낮은 데이터 품질로 인해 매출의 약 30%가 손실됩니다. Ovum Research에 따르면 그렇습니다Analytics Week는 잘못된 데이터가 초래하는 유사한 결과를 보여 주는 흥미로운 빅데이터 관련 사실들을 다음과 같이 정리했습니다:

“부실한 데이터로 인해 기업은 영업 수익의 20%~35%에 달하는 손실을 입을 수 있습니다.”

“잘못된 데이터나 낮은 데이터 품질로 인해 미국 기업들은 매년 6,000억 달러의 비용을 부담합니다.”

그럴 가능성이 낮아 보이나요? 기업 스파이 활동의 일환으로 정보를 수집하기 위한 웹 스크래핑은 실제로 벌어지고 있으며, 이를 막는 전담 팀도 있습니다. API를 사용하면 이러한 활동은 훨씬 더 쉽고 심각해지며, 때로는 실시간으로 이루어지기도 합니다. 따라서 누군가가 의도적으로 데이터 스트림에 잘못된 데이터를 주입할 가능성은 없다고 생각하는 것은 악의적인 행위자들이 흔히(대개) 우리보다 두 수 앞서 있다는 현실을 애써 외면하는 것과 같습니다.

레드록-CSI-데이터

특히 많은 빅데이터가 저장될 것으로 예상되는 클라우드 환경에서의 보안 관행은 이러한 위협을 더욱 증폭시킵니다. Information Builders가 후원한 TDWI 백서에는 더 많은 사례가 소개되어 있습니다 이러한 사례는 불량 데이터로 인해 발생하는 비용을 보여 줍니다. 대부분은 인수로 인한 데이터 통합 과정에서 발생하는 일반적인 불량 데이터 문제나 고객이 부정확하게 입력한 정보와 관련되어 있지만, 제시된 비용 모델은 손상되었을 수 있는 데이터를 신뢰할 때 기업이 직면하는 위협과 이에 대한 대응 방안을 이해하는 데 매우 유용합니다.

기본 설정에 의존한 탓에 올해에만 여러 건의 보안 침해가 발생했습니다. 지난 1월의 MongoDB 사태를 기억하시나요? 기본 설정 때문에 데이터베이스가 인터넷상의 누구에게나 완전히 노출되었던 사건 말입니다. 또는 RedLock CSI 연구에서 Kubernetes 관리 콘솔 285개가 완전히 개방된 상태였다는 사실이 밝혀진 것은 어떻습니까? 자격 증명조차 필요하지 않았습니다. 같은 보고서에 따르면 클라우드에 있는 암호화되지 않은 데이터베이스의 31%가 인터넷에서 들어오는 연결을 허용하고 있었습니다. 직접 말입니다. 그러니까 저와 여러분의 데이터 사이에 아무것도 없는 셈입니다.

27,000개가 넘는 데이터베이스가 보안을 위한 어떠한 조치도 취하지 않은 탓에 인터넷에 노출되어 누구나 접근할 수 있는 상태라면, 데이터 스트림이 손쉽게 오염될 수 있다는 것은 어렵지 않게 상상할 수 있습니다. 조직들이 클라우드 스토리지 서비스의 기본 보안 제어 기능을 의도적으로 제거하여 누구나 찾아내고 훼손할 수 있도록 완전히 개방해 둔다면, 악의적인 행위자가 오염된 데이터를 삽입할 수 있다는 우려는 단순한 가능성을 넘어 실제로 일어날 법한 일이 됩니다. 오늘날 사실상 모든 조직이 데이터에 의존하는 만큼, 데이터를 어떻게 보호할지뿐만 아니라 그 정확성을 어떻게 검증할지에도 각별히 주의를 기울여야 합니다.

데이터 중심 비즈니스의 미래에서 보안은 단순히 데이터 유출을 방지하는 것에 그치지 않고, 실제로 존재하는 데이터 침투 위협과 그 대응 방안까지 고려해야 합니다.

공유

작성자 소개

Lori Mac Vittie
Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물

관련 블로그 게시물

성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A
F5 에코시스템 | 2023. 07. 13.

성평등을 향한 여정: 사이버 보안 분야에서 성공적인 커리어를 개척하는 방법에 관한 Jenn Gile과의 Q&A

F5의 ‘성평등을 향한 여정’ 시리즈 네 번째 Q&A에서는 Rachael Shah와 NGINX 제품 마케팅 책임자 Jenn Gile이 사이버 보안 직종에 대한 오해를 바로잡고, 사이버 보안 분야의 성별 격차를 해소하기 위한 조언과 그 이점에 대해 이야기합니다.

TLS 검사에서 피터 파커 원칙 다루기
F5 에코시스템 | 2019. 12. 09.

TLS 검사에서 피터 파커 원칙 다루기

“큰 힘에는 큰 책임이 따른다.” 볼테르와 처칠도 이와 비슷한 말을 남겼지만, 이 문구는 스파이더맨 코믹스에서 벤 삼촌의 말로 가장 널리 알려져 있습니다. 물론 이 문구가 문화적으로 널리 통용되는 이유 중 하나는 TLS 검사를 비롯해 수많은 상황과 주제에 적용할 수 있기 때문입니다.

Venafi와 F5를 통한 머신 아이덴티티 보호
F5 에코시스템 | 2018. 12. 11.

Venafi와 F5를 통한 머신 아이덴티티 보호

‘머신 아이덴티티’란 간단히 말해 자동화된 프로세스가 자신의 신원을 식별할 수 있도록 하고, 다른 자동화 시스템과 프로세스가 관련 리소스에 적절한 수준의 접근 권한을 부여하도록 하는 방법을 의미합니다. 이 개념 자체는 새로운 것이 아닙니다. 비교적 새로운 점은 이를 구현해야 하는 규모입니다.

마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다
F5 에코시스템 | 2018. 07. 23.

마이너와 미니언: 데이터 유출만이 비용을 초래하는 것은 아닙니다

물론 데이터 유출은 더 큰 비용을 초래할 수 있고(적어도 지금은), 실패 사실을 세상에 드러낼 수밖에 없게 합니다(통지 의무가 있으니까요). 하지만 보안을 단순히 데이터 노출 문제로만 봐서는 안 됩니다. 요즘은 데이터가...

내 클라우드에서 나가!
F5 에코시스템 | 2016. 10. 12.

내 클라우드에서 나가!

F5의 Jay Kelley가 전하는 최신 소식에는 Microsoft Office 365용 신규 ID 및 액세스 솔루션을 배포할 때 고려해야 할 사항이 정리되어 있습니다.

Shift(웹 앱) 보안 레터
F5 에코시스템 | 2015. 07. 06.

Shift(웹 앱) 보안 레터

웹 앱 보안을 개발 초기 단계로 앞당기세요. F5 블로그에서 DevOps 파이프라인 초기에 보안을 통합하여 취약점을 예방하고 시간을 절약하는 방법을 알아보세요.