하드웨어의 혁신 정리

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

최근에 『페르마의 마지막 정리』(사이먼 싱)를 다 읽었는데, 놀랍게도 극적인 사건과 음모, 살인, 정부 이야기로 가득했습니다. 정말입니다. 수학의 역사를 보면 우리 같은 평범한 사람은 제대로 이해하기조차 어려운 개념들을 놀라울 정도로 깊이 이해하면서도, 결국은 그저 평범한 인간일 뿐인 사람들이 참 많습니다.

하지만 오늘 이야기하려는 요점은 사실 그게 아니다. 요점은 350년이 넘는 세월 동안 수학자들이 페르마의 마지막 정리로 알려진 명제를 증명(또는 반증)하려는 열망에 사로잡혀 있었다는 것이다. 정리라기보다는 추측에 가까운 이 명제에서, 이 뛰어난 (아마추어) 수학자는 피타고라스 정리가 거의 공리처럼 여겨지지만 제곱에만 성립한다고 지적했다. 즉, 다음 식의 해는 구할 수 없다. an + bn = cn 여기서 “n”이 “2”가 아닌 어떤 수일 때도 말이다. 수학자들을 정말 미치게 만든 것은, 페르마가 이에 대한 참으로 경이로운 증명을 발견했지만 자신이 주석을 적던 책의 여백이 너무 좁아 그 증명을 쓸 수 없다고 남겼다는 사실이었던 모양이다.

그리고 그들은 어디에서도 그 증명을 찾을 수 없었습니다.

그래서 수학자들은 이를 증명하거나 반증하기 위해 나섰습니다. 결론부터 말하자면, 마침내 누군가가 증명해 냈습니다. 하지만 이를 증명하려면 서로 완전히 다른 두 수학 분야를 결합해야 했습니다. 페르마가 이 명제를 제시했을 당시에는 존재하지도 않았던 분야들이었습니다. 그중 일부는 페르마의 마지막 정리를 비롯한 여러 난해한 수학 문제를 풀려는 시도에서 비롯되었습니다. 페르마의 마지막 정리를 푸는 데 활용된 분야 중 하나는 타원 곡선에 관한 연구였습니다. 이 말이 익숙하게 들린다면, 타원 곡선이 ECC(타원 곡선 암호)의 기반이기 때문입니다. ECC는 오늘날 기존의 취약한 암호화 방식을 대체할 기술로 점점 더 각광받고 있습니다.

기본적으로 한 수학 분야의 문제를 해결함으로써 얻는 이점 중 하나는, 서로 연관되어 있지만 분명히 구별되는 다른 수학 분야의 혁신을 촉진하는 경우가 많다는 것입니다.

그렇다면 이제 제목에서 왜 ‘하드웨어’를 언급했는지 궁금하실 겁니다. 하드웨어는 그저 하드웨어일 뿐이지 않나요? 모든 것을 소프트웨어가 집어삼키며 앱을 제공하는 오늘날의 세상에서, 하드웨어가 과연 어떤 의미 있는 혁신을 촉진할 수 있을까요?

물론, 소프트웨어입니다.

데이터 센터의 남북 방향 경로에 배포된 서비스에 필요한 용량과 속도를 확보하기 위해 자체 하드웨어를 구축하다 보면, 그에 맞는 소프트웨어도 함께 개발해야 한다는 사실을 알게 됩니다. 사실 하드웨어 자체는 대부분 리소스에 불과합니다. 이 역시 변화하고 있지만, 그 이야기는 다음 기회에 다루겠습니다. 대체로 현실은 하드웨어가 리소스를 제공한다는 것입니다. 소프트웨어는 이러한 리소스를 실제로 사용할 수 있는 형태로 바꾸는 마법과도 같습니다. 그렇게 만들어진 리소스는 궁극적으로 인터넷 전반에서 매일 매 순간 앱을 보호하고 전송하는 서비스에 사용됩니다. 따라서 누군가 네트워킹 업계에 새로운 하드웨어가 등장했다고 알린다면, 이는 곧 새로운 소프트웨어의 출시도 알리는 셈입니다. 소프트웨어가 없다면 맞춤형 하드웨어만으로는 할 수 있는 일이 많지 않기 때문입니다.

이제 바로 여기서 혁신이 하드웨어와 소프트웨어의 경계를 넘나듭니다. 이 소프트웨어는 원래의 하드웨어에서 범용 하드웨어(COTS)로 그대로 이전할 수 있습니다. 범용 하드웨어란 일반적인 용도의 서버를 말하며, 모든 것을 지원해야 하므로 특정 용도에 최적화되어 있지 않다는 의미에서 붙은 이름입니다. 하지만 이전에 특수 제작된 하드웨어에서 실행되던 소프트웨어는 실제로 최적화되어 있으며, 엔지니어들이 오랜 시간에 걸쳐 익히고 개선해 온 노하우와 기법도 소프트웨어 버전에 그대로 적용됩니다.

그리고 실제로는 생각보다 훨씬 많은 기술이 그대로 적용됩니다. 예를 들어 Intel 같은 업체의 칩 중에는 맞춤형 하드웨어에 사용되면서 범용 시스템에도 함께 탑재되는 것들이 있습니다. 하지만 대부분의 소프트웨어는 해당 하드웨어를 염두에 두고 개발되지 않았기 때문에, 대체로 이런 칩의 성능이나 용량 향상 기능을 활용하지 못합니다. 반면 일부 시스템은 이를 고려해 개발되었습니다. 따라서 해당 소프트웨어를 범용 하드웨어로 그대로 이전해도, 특수 하드웨어를 활용하지 않는 동일 용도의 다른 소프트웨어보다 뛰어난 성능과 용량상의 이점을 상당 부분 유지할 수 있습니다.

소프트웨어와 관련된 성능 및 용량 문제를 해결하려는 노력은 (아주 오래전인 1990년대에) 네트워크에서 하드웨어를 광범위하게 활용하는 결과로 이어졌으며, 여기에는 시스템 내부에서 데이터가 전달되는 방식과 관련된 새로운 내부 아키텍처도 포함되었습니다. 이제는 성능과 용량을 개선하기 위해 이러한 기법과 기술이 다시 소프트웨어에 적용되고 있습니다. 개발 중인 하드웨어를 위한 플랫폼이 없어 고속·대용량 소프트웨어를 설계해야 하는 상황에 놓이면, 사람들은 새로운 방식을 고안해 냅니다. 기존의 가정에 의문을 제기하고, 시스템을 통과하는 데이터를 조작하고 검사하며 수정하는 더 나은 방법을 찾아냅니다. 또한 메모리 관리와 프로토콜 파싱을 개선하는 새로운 알고리즘과 더 나은 데이터 구조를 개발합니다.

대부분의 사람들은 하드웨어를 혁신과 연관 짓지 않지만, 실제로는 수학과 마찬가지로 한 분야의 문제를 해결하는 과정에서 다른 분야의 혁신이 탄생합니다. 이는 맞춤형 하드웨어 플랫폼에서 구동되는 BIG-IP 소프트웨어를 프라이빗 클라우드, 온프레미스 및 퍼블릭 클라우드 환경에서 사용하는 범용 하드웨어로 이전할 때마다 확인할 수 있습니다. 이러한 이전에는 작업이 필요합니다. 소프트웨어를 가상화, 컨테이너화 및 클라우드화된 폼 팩터에 맞게 조정해야 하기 때문입니다. 하지만 새로운 하드웨어에서 비롯된 혁신은 그대로 유지되어 범용 플랫폼에서도 더 빠르고 확장성이 뛰어나며 효율적인 운영을 가능하게 합니다.

새로운 하드웨어를 개발하고 소프트웨어가 그 새로운 기능을 활용할 수 있도록 조정하는 일은, 해당 소프트웨어가 맞춤형 하드웨어에서 실행되든 범용 하드웨어에서 실행되든 궁극적으로 소프트웨어의 혁신으로 이어집니다. 그렇기에 새로운 하드웨어의 등장은 흥미로운 일입니다. 혁신을 예고하는 신호이기 때문입니다.

이것이 바로 하드웨어 혁신 정리입니다. 페르마의 정리를 증명하는 일이 수학 전반의 더 많은 혁신으로 이어지고 그 발전이 암호학과 보안 분야에까지 파급되듯이, 소프트웨어를 새로운 맞춤형 하드웨어에 맞게 조정하는 과제를 해결하면 해당 소프트웨어의 더 큰 혁신으로 이어지고, 그 영향은 앞으로 수년간 온프레미스 및 클라우드 데이터 센터 전반으로 확산될 것입니다.

작성자 소개

Lori Mac Vittie수석 엔지니어 겸 최고 에반젤리스트 | F5

Lori MacVittie는 F5 CTO 오피스의 수석 엔지니어이자 최고 에반젤리스트로, 애플리케이션 딜리버리, 자동화 전략 및 인프라 분야에서 깊이 있는 전문성을 보유하고 있습니다. AI 에이전트를 위한 가드레일을 정의하고, 취약한 멀티클라우드 아키텍처를 분석하며, 확장 가능한 시스템의 한계를 탐구하는 등 복잡한 문제를 명확하게 풀어내는 것으로 잘 알려져 있습니다. 애플리케이션 개발, IT 아키텍처, 네트워크 및 시스템 운영 전반에 걸쳐 30년 이상의 업계 경험을 쌓았습니다. F5에 합류하기 전에는 수상 경력이 있는 기술 편집자로 활동했습니다. MacVittie는 컴퓨터 과학 석사 학위를 보유하고 있으며, 보안, 클라우드 및 엔터프라이즈 아키텍처 분야를 아우르는 다수의 저서를 집필한 작가입니다. 또한 보드게임과 비디오 게임을 열정적으로 즐기며, 치즈에 대해서는 거리낌 없이 확고한 견해를 갖고 있습니다.

Lori Mac Vittie의 다른 블로그 게시물