블로그

Aug 29, 2023

돈, 시장 및 기계 학습: 적대적 AI의 위험 풀기

오늘날 주식 시장에서 인공 지능(AI)과 그 하위 집합인 머신 러닝이 수행하는 중요한 역할을 무시하는 것은 불가능합니다. AI는 다음과 같은 작업을 수행할 수 있는 기계를 의미합니다.

오늘날 주식 시장에서 인공 지능(AI)과 그 하위 집합인 머신 러닝이 수행하는 중요한 역할을 무시하는 것은 불가능합니다.

AI는 일반적으로 인간의 지능이 필요한 작업을 수행할 수 있는 기계를 의미하는 반면, 기계 학습(ML)은 데이터에서 패턴을 학습하여 기계의 예측 및 결정 능력을 향상시킵니다.

주식 시장에서 기계 학습을 사용하는 주요 방법 중 하나는 알고리즘 거래입니다. ML 모델은 방대한 양의 금융 데이터에서 패턴을 인식한 다음 이러한 패턴을 기반으로 1초도 안되는 짧은 시간에 수천 건의 거래를 수행합니다. 이러한 알고리즘 거래 모델은 지속적으로 학습하여 지속적으로 발생하는 프로세스에서 예측과 행동을 조정합니다. 이는 때로는 특정 패턴이 피드백 루프를 유발하여 시장의 특정 부문을 갑작스러운 자유낙하로 보내는 플래시 크래시와 같은 현상으로 이어질 수 있습니다.

가끔 발생하는 단점에도 불구하고 알고리즘 거래는 우리 금융 시스템에 없어서는 안 될 요소가 되었습니다. 엄청난 장점이 있습니다. 이는 어떤 사람들을 엄청난 돈으로 만든다는 또 다른 표현입니다. 기술 서비스 회사인 Exadel에 따르면 은행은 알고리즘 거래 덕분에 2030년까지 1조 달러를 절약할 수 있을 것으로 예상됩니다.

그러나 금융 분야에서 머신러닝 모델에 대한 이러한 의존에는 위험이 없는 것은 아닙니다. 심지어 플래시 크래시 이상의 위험도 있습니다.

이러한 시스템에 대한 중요하면서도 과소평가된 위협 중 하나는 적대적 공격이라고 알려진 것입니다. 이는 악의적인 행위자가 ML 모델에 제공되는 입력 데이터를 조작하여 모델이 잘못된 예측을 하게 만들 때 발생합니다.

이러한 적대적 공격의 한 가지 형태는 악의적인 행위자가 입력에 "노이즈" 또는 허위 데이터를 도입하는 "데이터 중독"으로 알려져 있습니다. 이렇게 오염된 데이터를 훈련하면 모델이 전체 데이터 세트를 잘못 분류할 수 있습니다. 예를 들어, 신용 카드 사기 시스템은 사기 행위가 전혀 없었는데도 사기 행위를 잘못 귀속시킬 수 있습니다.

이러한 조작은 단순한 이론적인 위협이 아닙니다. 데이터 오염 및 적대적 공격의 영향은 재무 예측 모델을 포함한 다양한 기계 학습 애플리케이션 전반에 걸쳐 광범위한 영향을 미칩니다. 일리노이 대학, IBM 및 기타 기관의 연구원들이 실시한 연구에서 재무 예측 모델이 적의 공격에 취약하다는 사실이 입증되었습니다. 연구 결과에 따르면 이러한 공격은 최적이 아닌 거래 결정으로 이어질 수 있으며, 이로 인해 투자자는 23~32%의 손실을 입을 수 있습니다. 본 연구에서는 이러한 위협의 잠재적인 심각성을 강조하고 적의 공격에 대한 강력한 방어의 필요성을 강조합니다.

이러한 공격에 대한 금융 업계의 반응은 공격이 발생한 후에만 방어력을 높이는 두더지 잡기 게임인 경우가 많습니다. 그러나 이러한 위협은 ML 알고리즘의 구조 자체에 내재되어 있다는 점을 고려할 때, 보다 사전 예방적인 접근 방식이 현재 진행 중인 문제를 의미 있게 해결하는 유일한 방법입니다.

금융 기관은 잠재적인 약점을 감지하고 이러한 공격으로부터 보호할 수 있는 강력하고 효율적인 테스트 및 평가 방법을 구현해야 합니다. 이러한 구현에는 엄격한 테스트 절차, "레드 팀"을 고용하여 공격을 시뮬레이션하고 모델이 악의적인 행위자나 열악한 데이터로 인해 손상되지 않도록 지속적으로 업데이트하는 작업이 포함될 수 있습니다.

알고리즘 거래에서 적대적 공격 문제를 무시한 결과는 상당한 금전적 손실부터 기업의 평판 손상, 심지어 광범위한 경제적 혼란까지 잠재적으로 재앙적일 수 있습니다. ML 모델에 점점 더 의존하는 세상에서 금융 부문은 금융 시스템의 보안과 무결성을 보장하기 위해 사후 대응에서 사전 대응으로 전환해야 합니다.

Joshua Steier는 기술 분석가이고 Sai Prathyush Katragadda는 비영리, 초당파 RAND Corporation의 데이터 과학자입니다.

Copyright 2023 (주)넥스타미디어 All Rights Reserved. 이 자료는 출판, 방송, 재작성 또는 재배포될 수 없습니다.