블로그

인공지능을 활용한 보안 취약점 탐색

2025-12-14/ 15

#인공지능/정보보안 #정보보안

인공지능의 봄

인공지능 제2의 겨울이 찾아오면서, 과학자들의 기대와 관심이 멈췄었다. 나도 마찬가지였다. 2016년 구글 Deepmind의 Alpha Go와 이세돌의 바둑 대결에서 4:1로 인공지능의 승리는 겨울을 초래했던 문제가 깔끔하게 해결되었음을 보여주었다.

이후 머신러닝에 적합한 하드웨어가 속속 개발되어 등장하고, 대규모 언어모델과 생성형 인공지능이 등장했다. 겨울은 완벽히 끝났고 인공지능과 직접적인 관계가 없던 전세계 모든 사람들에게 관심받기 시작했다.

때마침 웹서버 사용량 폭증

생성형 인공지능의 가능성과 놀라움에 관심을 가지기는 했지만, 딱히 매력적인 계기가 없었던 차. 때마침 웹서버의 과부하가 시작됐다. 시스템 로그는 웹서비스 무작위 검색, SSH 무작위 공격이 과부하를 일으키고 있다는데, 이걸 내가 도구를 사용하거나 직접 확인하지 않고, 인공지능에게 분석을 시키면 잘 할 수 있을까?라는 막연한 호기심이 생겼다.

로그 분석

첫 시도는 로그파일의 문제되는 일부를 쭈욱 끊어서 Copy - Paste 방식으로 Gemini에게 붙여넣고 살펴봐 달라는 프롬프트를 보냈다. 결과는 이미 알고 있었지만, 얼마나 정확히 분석하는지 확인하고 싶었다.

결과적으로, 잘하네?를 넘어서서 놀랍다!고 할 수 밖에 없었다. 대단히 꼼꼼하게 살펴서 원인을 알려주고, 시스템 환경설정과 솔루션까지 제안했다. 서버 스팩을 추가로 알려주고 서로 문답하다보니, 나도모르게 서버 튜닝을 하기 시작했고…

정확과 반복

내가 놓친 부분과 귀찮아서 대충 훑어보게 되는 용량계산, 증감비교, 예상치를 찾아냈고, IP주소도 의심되는 것과 무시할 것들을 정확히 찾아냈다.

컴퓨터를 이용하는 이유는 정확하게 무한반복 할 수 있기 때문이다. 대규모 언어 모델의 특성에 맞게, 로그가 하나의 문맥으로 파악했고, 정말 꼼꼼하게 분석해서 이미 학습한 내용을 토대로 연관지어 대답해 주었다.

문제찾기부터 해결까지

LLM 기반의 인공지능이 코드 생성과 시스템의 점검에 완전히 최고의 도구일 수 있겠다는 생각이 들었다. 반복적이고 눈에 익혀야 하는 코드 들여다보기는 이제 인공지능이 해낼 수 있을 것이다.

시험삼아 해 본 로그분석에서 감동받아 바이브코딩을 집중적으로 연구해보니, 더욱 놀라웠다. 이미 완성된 소스코드를 보여주고 점검한다면 인공지능이 문제를 찾는 것 뿐만 아니라, 그럴듯하게 문제가 있는 코드를 해결할 수 있는 능력이 있었다. 아직은 개발자의 안목과 요령이 필요하긴 하지만, 새로운 버전이 공개 될 때마다 놀라울 정도로 스킬이 향상되고있다.

인공지능의 봄과 배고픔

피할 수 없다

피해갈 수 없다고들 이야기 한다. 제로데이 취약점을 찾는데 적극 활용할 것은 말할 것도 없고, 찾아낸 취약점을 악용한 공격방법을 연구하는데도 당연히 큰 도움이 될 것이다.

버그와 보안 문제는 일어날 수 밖에 없다. 내가 만든 코드를 인공지능에게 보안문제를 점검하고 해결해보라 했다. 교과서적이고 전통적인(?) 방식을 찾아냈다. 여러 상황과 아이디어를 제안하고, 만약의 조건을 제안하니, 그제서야 Deep Thinking 을 시작했고, 내가 해야 할 노력을 최소한으로 축소시켜 주었다. 반복작업과 전체 코드를 뒤져서 찾아내야 하는 번거로운 작업들을 반복해서 번개같이 연결지어 해결했다.

새로운 세상

인공지능을 응용 소프트웨어로 활용할 것인가?
나의 코파일럿으로 도움받을 것인가?

단순한 선택의 문제로 보이지만, 새로운 기능이 추가된 응용 소프트웨어 정도로 활용할 수 있고, 코파일럿으로 나의 시간과 노력을 대신해 줄 수 있을지는 온전 나의 역량에 달려있다. 지금의 생성형 인공지능은 내가 컴퓨터 상에서 요구하는 무엇이든지 할 수 있는 수준으로 성장했다.

당신은 무엇을 할 줄 알고, 어떤 도움이 필요한가?