О доверии к ИИ: MDIA на конференции SiGMA AIBC Европа-Средиземноморье
Выступление Гаврила Флореса, руководителя по стратегии, политике и управлению в Управлении по цифровым инновациям Мальты (MDIA), на конференции Euro-Med в Средиземноморском морском хабе (MMH) было посвящено будущему надёжного ИИ и подходу Мальты к управлению в этой сфере.
Флорес подчеркнул, что прежде чем говорить о безопасности ИИ, необходимо задать себе ключевой вопрос: почему это так важно и зачем нужно регулирование?
Темпы прогресса ИИ поражают. От GPT-1 до GPT-3, а затем до GPT-5 — циклы разработки стремительно сокращаются. ИИ внедряется повсеместно: от разработки лекарств и исследований онкологических заболеваний до умного сельского хозяйства и научных инноваций. Это делает его не только мощнее, но и дешевле, и доступнее.
Такой прогресс, по словам Флореса, открывает и возможности, и вызовы.
С положительной стороны, ИИ значительно продвигает здравоохранение и научные исследования, делая ранее недоступные технологии более доступными и масштабируемыми, а также существенно снижая затраты на разработку. При этом такие проблемы, как вопросы конфиденциальности, вытеснение рабочих мест, предвзятость, надежность и риск ошибок, подчеркивают необходимость прозрачности и подотчетности.
“Многих ошибок в ИИ можно избежать, если проверять решения на предвзятость, обеспечивать надлежащий контроль и внедрять меры безопасности до их развёртывания”.
Глобальный ландшафт ИИ
- $252 млрд — корпоративные инвестиции в ИИ в 2024 году
- Более 69 стран разработали национальные стратегии по ИИ.
- Около 50% жителей Мальты знакомы с технологиями ИИ.
- 24% населения Мальты высоко доверяют ИИ.
Однако Флорес предупреждает, что доверие нельзя давать слепо. Его нужно заслужить. “Построение доверия требует сильной регуляторной базы и экосистемы, в которой люди будут уверены, что ИИ разрабатывается ответственно”, — заявил он
Закон об ИИ: регуляторный подход Европы
Флорес уделил особое внимание главному вопросу — Закону ЕС об ИИ (EU AI Act), назвав его “одним из самых значимых законодательных актов последних лет”. Закон классифицирует системы ИИ по уровню риска:
Запрещённые системы ИИ (с 2024/2025 гг.)
Примеры: системы социального рейтинга, манипулятивные системы, которые могут провоцировать аддиктивное поведение (например, в играх).
Штрафы: до 7% от мирового годового оборота или до €35 млн.
Системы высокого риска
Примеры: автоматизированное принятие решений в критических секторах (здравоохранение, подбор персонала), биометрические системы.
Требования: внедрение систем управления рисками, надёжное управление данными, кибербезопасность, оценка соответствия (маркировка CE), прозрачность, ведение документации, логирование и человеческий надзор.
Системы ограниченного риска
Пример: чат-боты.
Требование: обязательное информирование пользователя о том, что он взаимодействует с ИИ.
Системы минимального риска
к этой категории относятся около 90% всех существующих случаев использования ИИ.
Флорес также подчеркнул необходимость регулирования дипфейков, которые, по его словам, должны быть чётко обозначены как таковые, если только не являются очевидно сатирическими или понятными для рядового пользователя.
Роль Мальты: MDIA как регулятор и катализатор
Управление по цифровым инновациям Мальты (MDIA) выступает одновременно и как регулятор, и как катализатор инноваций. Флорес выделяет следующие направления деятельности: надзор за рынком и оценка соответствия, создание экосистем для инноваций (таких как буткемпы, летние лагеря и стипендии для молодежи), поддержка инфраструктуры (например, высокопроизводительные вычисления) и предоставление офисных помещений и ресурсов для стартапов.
Песочница ИИ (запущена в 2021 году):
Безопасная среда для тестирования систем ИИ перед их масштабным внедрением
Предоставление рекомендаций, обратной связи и поддержки в вопросах соответствия
Модель, которая сейчас внедряется по всему ЕС (обязательно с следующего года)
Поддержка через службу помощи: ответы на вопросы о Законе об ИИ и соблюдении нормативных требований
В завершение он отметил, что Мальта была одной из первых стран в ЕС — и даже в мире, — которая запустила “песочницу” для ИИ. Подход страны, как он раскрывает, сочетает регулирование с поддержкой инноваций.
Доверие к ИИ, заключает он, должно быть заслужено через прозрачность, подотчетность и сильное управление. При наличии правильной структуры ИИ может развиваться, обеспечивая при этом безопасность людей, бизнеса и общества.
