AWS 교육 후기와 웅장해지는 AI for Security

결론부터 말하자면, AI for Security에 빛줄기가 들어왔달까. 뒷북이긴 하다.

 

얼마 전 AWS에서 진행하는 교육을 듣고 왔다.

 

처음에는 SageMaker 실습 시간이 있길래 신청했다.

전체 세션을 다 들었는데, 전반적으로 SageMaker보다는 CodeWhisperer라고 하는 제품에 집중된 내용이였다.

CodeWhisperer라는 제품을 소개하기 위해 AI for Security, Securirty for AI와 관련된 세미나도 진행해주셨는데, 사실 난 네트워크쪽으로 AI for Security를 해본 입장에서 약간 회의적이긴 하다.

 

(이건 오롯이 내 의견이다.)

기존에 AI for Security는 넓은 범위에서 한 3가지 정도가 있었다.

네트워크, 악성코드, 시스템.

악성 패킷을 잡는다던가, 악성 프로그램을 잡는다던가, 악성 프로세스를 잡는다던가.

물론 세부적으로 보면 더 많다. 클라우드쪽으로도 연구되고 있고. 내가 말한건 더 넓은 범위에서의 메인 주제랄까.

 

AI기반의 비전 분야나 음성, 텍스트 분야는 극단적인 미탐과 오탐을 요구하지 않는다. safety-critical한 몇 가지 경우를 제외하곤. (예를 들어, 자율주행자동차)

그런데 보안은 조금 다르다. 가용성을 해치지 않는 범위에서 보안을 제공해야 하고, 그러면서 1개만 못 막아도 다 뚫려버린다.

이런 면에서 AI 기반의 보안 기술을 메인으로 설정하기가 쉽지 않은데, 0%의 미탐과 0%의 오탐을 보장할 수 없는 AI의 특성 상 반드시 문제가 발생하기 때문이다.

그러다보니 AI for Security 분야에서 네트워크, 악성코드, 시스템에 대한 악성행위 탐지 성능을 올려도 이 기술을 차용해 메인으로 활용하기는 쉽지 않은 결정이다.

결국에는 AI for Security에 대한 상업성보다는 연구성이 높다고 말할 수밖에 없고, 연구성이 높더라도 아직까지 획기적인 상업 활용 기술은 제안되지 않았다고 생각한다.

 

그런 와중에 AWS에서 CodeWhisperer를 발표했다고 소개했다. 이건 쉽게 시큐어 코딩이 가능한 AWS 친화형 copilot이라고 말하면 될 것 같다.

copilot은 목적에 맞게 코드를 제안해주는 AI 툴인데, CodeWhisperer는 코드를 제안해주되 시큐어 코딩을 해주는 기능도 있고, AWS의 다양한 환경에 최적화된 코드를 제안해준다고 한다.

설명만 듣고 사용은 해보지 못해서 아쉬웠는데, chatGPT로 비슷한 테스트를 해봤다.

어차피 CodeWhisperer도 transformer나 BERT 기반의 텍스트 AI 모델일거니까..

물론 chatGPT가 처음 나왔을 때부터도 많이들 시도했던 내용이긴 한데, 그냥 나도 해봤다.. CodeWhisperer 대신..

 

SQL 인젝션이 가능하도록 코드를 짜고, 이 코드에 대한 시큐어 코딩을 해달라고 요청해봤다. (ChatGPT 4.0 버전 사용 중이다.)

 

 

이런식으로 제안해준다.

어떤 취약점이라고 말도 안 했는데 알아서 SQL 인젝션이 불가능하도록 코드를 수정해줬고, 패스워드를 저장할 때도 해시로 저장하도록 바꿔줬다.

 

이 코드를 직접 설정해보진 않았고 또 여기에도 취약점이 있을 수 있지만, 어쨌든 AI for Security를 상업적으로 사용할 수 있는 방법이 나온 것 같다.

기업 입장에서도 사용하기 좋지 않을까. 가격도 copilot이랑 크게 다르지 않은 것 같던데,,

 

AI가 너무 빨리 발전하긴 하는데 이렇게 다른 분야에도 더 나아갈 수 있는 좋은 영향을 주는 면도 있는 것 같다.

내 일자리만 안 뺏긴다면,,