오늘 Mediterranean Maritime Hub(MMH)에서 열리는 유로-지중해 컨퍼런스 AIBC 스테이지에서 몰타 디지털 혁신청(MDIA) 전략·정책·거버넌스 책임자인 Gavril Flores가 신뢰할 수 있는 AI의 미래와 몰타의 거버넌스 접근 방식에 관한 기조연설을 진행했습니다.
그는 AI 안전을 논할 때 다음과 같은 질문이 필요하다고 강조했습니다. “왜 이것이 중요한가? 그리고 왜 이에 대한 거버넌스가 필요할까?”
Flores는 GPT-1에서 GPT-3, 그리고 이제 GPT-5에 이르기까지 발전 속도를 보면 개발 주기가 급격히 가속화되고 있다고 주장했습니다. AI는 신약 개발과 암 연구에서부터 스마트 농업과 광범위한 과학 혁신에 이르기까지 다양한 분야에 활용되고 있습니다. 이러한 발전은 AI를 더욱 강력하게 만들 뿐만 아니라, 비용을 낮추고 접근성을 높이고 있습니다.
그는 이것이 많은 기회를 제공하는 동시에, 주의해야 할 도전 과제도 함께 가져온다고 경고했습니다.
긍정적인 측면에서, AI는 의료와 과학 연구를 크게 발전시키고 있으며, 이전에는 접근하기 어려웠던 기술을 더 쉽게 활용할 수 있게 하고, 개발 비용을 대폭 절감하고 있습니다.
하지만 개인정보 보호 문제, 일자리 대체, 편향, 신뢰성 문제, 오류 위험 등 다양한 도전 과제가 존재하며, 이는 투명성과 책임성을 강화해야 할 필요성을 강조합니다.
“AI에서 발생하는 많은 오류는 솔루션을 배포하기 전에 편향을 테스트하고, 감독 체계를 마련하며, 적절한 안전 장치를 구현하면 예방할 수 있습니다.”
글로벌 AI 환경
- 기업의 AI 투자액은 2024년에 2,520억 달러에 달했습니다.
- 69개국 이상이 AI 전략을 수립했습니다.
- 몰타 인구의 약 50%가 AI에 대해 어느 정도 알고 있다고 답했습니다.
- 몰타 인구의 24%가 AI에 대해 높은 신뢰를 보인다고 보고했습니다.
하지만 그는 신뢰는 무턱대고 주어서는 안 된다고 경고합니다. 신뢰는 얻어야 합니다. “신뢰를 구축하려면 강력한 거버넌스 체계와 사람들이 AI가 책임 있게 개발되고 있다는 확신을 가질 수 있는 생태계가 필요합니다.”
AI 법안: 유럽의 규제 접근 방식
그는 EU AI법, 즉 ‘방 안의 코끼리’라고 불리는 문제에 대해 이야기합니다. Flores는 이 법을 ‘최근 몇 년간 가장 중요한 법안 중 하나’라고 묘사합니다. 그는 이 법안의 접근 방식이 위험도를 기준으로 AI 시스템을 분류하는 것이라고 설명합니다.
금지된 AI 시스템(2024/2025년부터)
예: 소셜 스코어링, 조작 시스템(예: 게임에서 데이터를 사용하여 중독성이나 불안한 행동을 조장하는 시뮬레이션을 만드는 것)
벌금: 전 세계 매출의 최대 7% 또는 3,500만 유로.
고위험 시스템
예: 중요 분야의 자동화된 의사 결정, 생체 인식 시스템, 의료 또는 채용.
요구 사항: 위험 관리 시스템, 데이터 거버넌스, 사이버 보안, 적합성 평가(CE 마크), 투명성, 문서화, 로그 및 인적 감독.
제한적 위험 시스템
예: 챗봇.
요구 사항: 사용자가 AI 시스템과 상호 작용하고 있다는 사실을 공개해야 합니다.
최소 위험 시스템
AI 사용 사례의 약 90%가 이 범주에 속합니다.
그는 또한 딥페이크에 대한 논란의 여지가 있는 문제를 제기했는데, 이 역시 반드시 해결해야 한다고 말했습니다. 그는 일반 소비자에게 명백히 풍자적이거나 명백하지 않은 한 딥페이크라고 분류해야 한다고 말했습니다.
몰타의 역할: 규제자이자 지원자로서의 MDIA
몰타 디지털 혁신청(MDIA)은 혁신의 규제 기관이자 촉진 기관 역할을 합니다. Flores는 시장 감시 및 적합성 평가, 부트캠프, 여름 캠프, 청소년 장학금 등 혁신 생태계 제공, 고성능 컴퓨팅 등의 지원 인프라, 그리고 스타트업을 위한 사무 공간 및 자원 제공 등의 책임을 설명합니다.
AI 샌드박스(2021년 출시):
대규모 배포 전에 AI 시스템을 테스트할 수 있는 안전한 공간
지침, 피드백 및 규정 준수 지원
현재 EU 전역에서 모델이 채택되고 있음(내년부터 의무화)
헬프데스크 지원: AI 법 및 규정 준수에 대한 질의에 답변
그는 몰타가 EU에서, 그리고 전 세계적으로도 최초로 AI 샌드박스를 도입한 국가 중 하나라는 점을 인정하며 마무리합니다. 그는 몰타의 접근 방식이 규제와 혁신 지원을 결합하고 있다고 밝혔습니다.
AI에 대한 신뢰는 투명성, 책임성, 그리고 강력한 거버넌스를 통해 확보되어야 한다고 그는 결론짓습니다. 적절한 프레임워크를 통해 AI는 사람, 기업, 그리고 사회를 보호하면서 번영할 수 있습니다.
