온라인 게임, 은행, 의료, 금융 서비스 등 다양한 산업이 딥페이크와 합성 신원이 더욱 정교해짐에 따라 AI 기반 사기 확산이라는 커지는 도전에 직면하고 있습니다. 필리핀 블록체인 위크(Philippine Blockchain Week)의 전문가들은 허위 정보와의 싸움이 더 이상 단순한 사이버 보안 문제가 아니라 공공 신뢰에 대한 더 광범위한 위기라고 경고했습니다. 이는 신원 확인과 플레이어 보호가 중요한 온라인 게임과 같은 규제 산업에 심각한 영향을 미칠 수 있습니다.
“진실이 공격받다: 딥페이크, 허위 정보 및 공공 신뢰의 보안”이라는 제목의 패널 토론에는 업계 리더들이 참여했으며, 이들은 합성 조작에 대응하기 위해서는 정부, 기업, 소비자 간의 공동 대응이 필요하다고 주장했습니다.
Exoasia Innovation Hub의 설립자인 Mack Comandante는 정책 입안자들이 콘텐츠보다 행동에 초점을 맞춰야 한다고 밝혔습니다. “우리는 진실이 아닌 행위를 규제하고 신뢰를 인프라로 구축하고자 합니다”라고 말했습니다.
단일 실패 지점이 아닌 공동 책임
Asia ISAC의 설립자인 James Cruz는 어떠한 조직이나 개인도 이 위협을 독립적으로 해결할 수 없다고 밝혔습니다. “저는 사회 전체가 참여하는 접근 방식처럼 포괄적인 관점에서 접근해야 한다고 생각합니다”라고 Cruz는 말했습니다. 이어 “조직과 개인은 사이버 보안에 대해 더 잘 이해해야 합니다”라고 덧붙였습니다.
그는 사용자들에게 “신뢰하되 검증하는” 태도를 가져야 한다고 촉구했습니다. “문자 메시지나 이메일을 받았는데 확실하지 않다면 그냥 무시하십시오. 정말 중요하고 진짜라면 상대방이 다시 연락할 것입니다”라고 설명했습니다.
Sumsub의 필리핀 국가 관리자인 Moises Ycot도 모든 이해관계자가 역할을 해야 한다는 의견에 동의했습니다.
“대중도 자신의 역할을 해야 합니다. 링크 클릭을 멈추고 OTP 공유를 멈춰야 합니다. 하지만 동시에 은행과 금융 기관도 적절한 시스템을 구축해 지속적으로 모니터링하고, 검증하고, 위험을 평가할 책임이 있습니다”라고 밝혔습니다.
그는 규제 기관의 역할도 언급했습니다. “예를 들어 BSP는 금융 사기를 막기 위한 규정을 마련했습니다. 그것이 바로 그들이 해야 할 역할입니다”라고 말했습니다.
조직화된 사기 네트워크 증가
딥페이크가 대중적 논의의 중심에 있지만, 전문가들은 범죄 집단이 합성 미디어를 신원 사기, 계정 탈취, 행동 조작과 점점 더 결합하고 있다고 경고했습니다.
“확실히 딥페이크와 계정 탈취가 가장 중요한 목록에 올라 있습니다”라고 Ycot은 밝혔습니다.
그러나 그는 위협 환경이 변화하고 있다고 설명했습니다. “이전에는 일반 사람들이 직접 딥페이크를 만들고 가짜 신분증을 위조하는 경우가 많았습니다. 하지만 이제 우리가 보고 있는 것은 사기 시도가 더욱 조직화되고 있다는 점입니다”라고 말했습니다.
Ycot에 따르면 범죄 집단은 자동화된 AI 에이전트와 더욱 발전된 사기 기술을 활용하고 있습니다. “그들은 자동화된 AI 에이전트와 같은 더 발전된 기술을 만들고 있습니다. 또한 기기, 행동 이상 패턴 등을 위조하려고 시도하고 있습니다”라고 설명했습니다.
이러한 경고는 게임 산업 전반에서 제기되는 우려와 일치합니다. 사이버 보안 전문가들은 아시아 온라인 도박 시장 전반에서 운영자와 플레이어를 대상으로 가짜 신원, 복제 지갑, 피싱 공격, 딥페이크 기반 사회공학 공격이 점점 더 많이 사용되고 있다고 보고하고 있습니다.
최근 필리핀의 단속 노력도 이러한 우려를 반영하고 있습니다. 올해 초 대통령 직속 조직범죄위원회(PAOCC)와 사이버범죄 조사 및 조정센터(CICC)는 불법 온라인 도박 운영과 이전 역외 게임 네트워크를 포함한 초국가적 사이버 범죄 네트워크를 대상으로 하는 협력 협약을 체결했습니다. 해당 협약은 디지털 포렌식, 사건 구축, 조직 범죄 집단에 대한 공동 단속에 초점을 맞추고 있습니다.
규제와 자율 관리는 함께 작동해야
Scytalex LLC의 최고경영자인 Steve Ivsan은 기업이 고객 보호와 취약점 감소에 대한 책임을 져야 한다고 밝혔습니다. “저는 고객의 자금이 신뢰받고 있는지, 가능한 모든 공격 경로를 제거하기 위해 인간이 할 수 있는 모든 조치를 취했는지 반드시 확인해야 합니다”라고 말했습니다.
동시에 그는 정부 역시 역할을 해야 한다고 주장했습니다. “강력한 협력이 필요하다고 생각합니다”라고 밝혔습니다.
Cruz 역시 산업 전반의 공동 대응을 촉구했습니다. “성공 가능성을 높이고 싶다면 혼자가 아닌 함께하는 전략을 채택해야 합니다”라고 말했습니다.
AI로 AI에 맞서기
AI가 생성한 사기를 탐지하기 위해 AI를 사용하는 것이 지속 가능한 균형을 만들 수 있는지 질문을 받은 Ycot은 조직이 적응할 수밖에 없다고 밝혔습니다. “기술은 앞으로 몇 달, 몇 년, 수십 년 동안 계속 발전할 것입니다”라고 말했습니다.
그러나 장기적인 목표는 더 나은 탐지 도구에만 국한되어서는 안 된다고 설명했습니다. “지속 가능한 모델은 이러한 AI 기술과 다른 시스템을 활용하는 신뢰 시스템을 구축하는 것입니다”라고 밝혔습니다.
“공공 신뢰를 보호하는 것은 모두의 책임입니다”라고 Cruz는 결론지었습니다.
글로벌 iGaming을 이끄는 주요 이야기를 놓치지 마세요. 독점적인 업계 목소리, 베팅 트렌드, 예측 시장 및 주요 규제 업데이트를 확인하려면 SiGMA World를 선호 소스로 선택하세요.
