在今天于地中海海事枢纽（MMH）举行的欧洲-地中海大会上，Malta Digital Innovation Authority（马耳他数字创新局）战略、政策与治理主管 Gavril Flores 先生登上AIBC舞台，发表了关于可信AI未来与马耳他治理方法的主题演讲。
在谈到AI安全时，他强调必须提出的问题是：为什么安全很重要？为什么我们需要治理？
Flores 指出，如果看看进步的速度——从GPT-1到GPT-3，再到如今的GPT-5——发展周期正在急剧加快。AI正被应用于多样化的场景：从药物研发、癌症研究，到智能农业以及更广泛的科学创新。这些进步不仅让AI更加强大，同时也变得更便宜、更易获取。
这既带来机遇，也如他警告的那样：带来挑战。
优势方面，AI正显著推动医疗和科研进展，让曾经遥不可及的技术变得可接近和可扩展，并大幅降低研发成本。但与此同时，隐私担忧、就业替代、偏见风险、可靠性问题和错误风险等挑战，也凸显了透明度和问责制的必要性。
“很多AI中的错误其实可以避免——只要我们在部署解决方案前进行偏见测试，确保监管，并在上线前实施适当的安全防护。”
全球AI格局
- 2024年，企业对AI的投资达 2520亿美元。
- 超过 69个国家 制定了AI战略。
- 约 50% 的马耳他民众 表示了解一些AI相关知识。
- 24% 的马耳他民众 表示对AI高度信任。
然而，Flores 警告说，信任不能盲目给予，而是必须赢得。“建立信任需要一个强有力的治理框架和一个让人们有信心的生态系统，确保AI是以负责任的方式开发的。”
《AI法案》：欧洲的监管方法
谈到所谓“房间里的大象”——欧盟的《AI法案》，Flores 将其形容为“近年来最重要的立法之一”。其方法是根据风险对AI系统进行分类：
禁止类AI系统（2024/2025起）
示例：社会评分、操纵性系统（如在游戏中利用数据制造令人上瘾或焦虑的行为模拟）。
处罚：最高可罚 全球营业额的7% 或 3500万欧元。
高风险系统
示例：关键领域的自动化决策、生物识别系统、医疗保健或招聘。
要求：风险管理体系、数据治理、网络安全、合格评估（CE认证）、透明度、文档与日志记录，以及人工监管。
有限风险系统
示例：聊天机器人。
要求：必须披露用户正在与AI系统互动。
最低风险系统
约 90% 的AI应用 属于此类。
他还提及了争议性的 深度伪造（deepfake） 问题——必须加以规范。他强调，深度伪造必须明确标注，除非它显然是讽刺作品或普通消费者一眼就能识别。
马耳他的角色：MDIA作为监管者和赋能者
马耳他数字创新局 (MDIA) 既是创新的监管者，也是创新的推动者。弗洛雷斯概述了其职责，包括市场监督和合格评定，以及提供创新生态系统：例如为青年提供训练营、夏令营和奖学金，支持性基础设施（例如高性能计算），以及为初创企业提供办公空间和资源。
AI Sandbox（AI 沙盒，2021年启动）：
在大规模部署前测试AI系统的安全环境
提供指导、反馈和合规支持
该模式已在欧盟范围内推广（从明年起强制实施）
提供咨询支持，解答关于《AI法案》及合规性的疑问
他最后指出，马耳他是欧盟乃至全球最早推出AI Sandbox的国家之一。该国的做法结合了监管与对创新的支持。
Flores 总结道：AI的信任必须通过透明度、问责制和强有力的治理来赢得。只要有合适的框架，AI就能在保障人类、企业和社会的前提下蓬勃发展。
