ИИ в индустрии iGaming — спасение или «Черное зеркало»?
Сегодня в Мальте в рамках конференции SiGMA Европа-Средиземноморье состоялось обсуждение этических аспектов внедрения искусственного интеллекта (ИИ) в сектор онлайн-игр. Дискуссию модерировал Крис Гэллоуэй, глава направления iGaming Product в компании Sumsub. В качестве спикеров выступили Ягуар Гал, генеральный директор Jaguar Reg&Comp, Шэрон Хуэреб, старший юрист Camilleri Preziosi, и Куш Десаи, основатель и генеральный директор Source Code Lab. С полной программой конференции можно ознакомиться онлайн.
С юридической точки зрения, Шэрон Хуэреб считает, что ИИ занимает промежуточную позицию: он не является ни спасением, ни антиутопической угрозой по своей сути. Она признала, что ИИ может снизить вред и улучшить технологии в рамках действующих законов, таких как EU AI Act, Data Act и GDPR. Однако Хуэреб предупредила, что риски антиутопии реальны, особенно с развитием генеративного ИИ, и пока неясно, будут ли текущие законы ЕС достаточными для полного управления этими рисками.
«Пока рано говорить, является ли ИИ спасением или антиутопической угрозой. Мы еще не видели весь потенциал ИИ, особенно с учетом быстрого распространения таких технологий, как генеративный ИИ. Мы находимся на решающем этапе», — отметила она.
Куш Десаи добавил, что «ИИ — не новая технология, он существует с 1950-х годов. Новым является появление генеративного ИИ, который стал широко доступен только в 2021 году. По своей сути, ИИ — это статистическая, языковая технология. И, как и другие цифровые инструменты до него (аналитика, бизнес-анализ, персонализация), он предназначен для достижения капиталистической цели: побудить клиентов тратить больше».
Десаи четко обозначил свою позицию: вопрос не в том, манипулирует ли ИИ, поскольку он это делает и будет делать — такова его бизнес-роль. По его мнению, суть вопроса в том, чтобы найти, где провести границы. Он также предупредил, что Европа рискует создать избыточное регулирование. «При ответственном использовании, ИИ — это просто еще один шаг вперед, как интернет или криптовалюта. Но жесткое регулирование, особенно в Европе, рискует подтолкнуть компании в другие регионы, например, в США, которые занимают более проинновационную позицию», — сказал Десаи.
Ягуар Гал более оптимистична. «ИИ — это естественный следующий шаг для iGaming, если мы хотим развивать индустрию. Конечно, есть неизвестные факторы — мы не знаем, как именно он будет развиваться — но я считаю, что в целом это позитивные изменения. Не спасение, но определенно мощный инструмент, который может двигать индустрию вперед», — заключила она.
Персонализация на основе ИИ: инструмент или ловушка?
Переходя к следующей теме, модератор Крис Гэллоуэй задал вопрос: «Персонализация делает азартные игры более увлекательными, но в какой момент персонализация превращается в ловушку?»
Куш Десаи отметил, что сегодня пользователи уже ожидают высокого уровня персонализации, и в играх она может повысить вовлеченность и удержание клиентов. В качестве примера он привел Netflix, который показывает нам то, что нам нравится и чем мы наслаждаемся. По его мнению, опасность возникает, когда персонализация переходит в манипуляцию, что порождает компульсивные циклы и, в конечном итоге, зависимость. Он пришел к выводу, что регуляторам придется проводить очень тонкие границы.
Ягуар Гал согласилась: «Регуляторам нужно будет вмешаться и определить границы, позволяя при этом бизнесу развиваться. Законы постоянно меняются в разных регионах, поэтому важно найти баланс между удержанием клиентов и ответственностью». Она добавила, что индустрии развлечений по своей природе стремятся «удержать» внимание, и в какой-то момент игроки неизбежно почувствуют себя «в ловушке» — это часть дизайна.
Далее был поднят вопрос, что можно сделать на законодательном уровне для регулирования индустрии iGaming.
Как отметила Шэрон Хуэреб, хотя персонализация может восприниматься потребителями как благо, с юридической точки зрения, она уже определена как профилирование в рамках GDPR.
«Статья 22 определяет, что может и не может быть автоматизировано без надзора или согласия человека. EU AI Act развивает эти положения, добавляя требования к прозрачности и участию человека в работе с системами высокого риска», — пояснила она, посоветовав сосредоточиться на адаптации существующих правил, а не на панике и «изобретении велосипеда»
Ответственная игра: баланс между прибылью и защитой
Куш Десаи считает, что пока это скорее «продажный ход», так как регулирование отстает от технологий. По его словам, EU AI Act намеренно сделан широким. «Регулирование всегда следует за инновациями, а ИИ — это все еще новая технология».
«Настоящей проверкой станет то, смогут ли операторы, регуляторы и провайдеры платформ работать вместе, чтобы персонализация не превращалась в манипуляцию».
Ягуар Гал выразила мнение, что существующий AI Act уже рискует устареть. По ее словам, в нынешнем виде закон не может идти в ногу с технологиями.
«Технологии развиваются быстрее, чем регулирование. Компании, которые строго соблюдают законы, рискуют оказаться позади. Мы, скорее всего, увидим множество интерпретаций, процедур и руководств, которые будут обновляться быстрее, чем само законодательство».
Шэрон Хуэреб согласилась. Она считает, что главной проверкой станет правоприменение, то есть «наличие у регуляторов опыта и полномочий для эффективных действий». По ее словам, одно дело — написать законы на бумаге, и совсем другое — обеспечить их исполнение в таких сферах, как iGaming, где пересекаются данные, ИИ и регулирование.
