สร้างความเชื่อมั่นใน AI: ข้อมูลเชิงลึกจาก MDIA ที่ SiGMA AIBC ยุโรป-เมดิเตอร์เรเนียน
Gavril Flores หัวหน้าฝ่ายกลยุทธ์ นโยบาย และการกำกับดูแลของ Malta Digital Innovation Authority ได้กล่าวปาฐกถาสำคัญเกี่ยวกับอนาคตของ AI ที่เชื่อถือได้และแนวทางการกำกับดูแลของมอลตา บนเวที AIBC ในงานประชุมยุโรป-เมดิเตอร์เรเนียน ซึ่งจัดขึ้นที่ Mediterranean Maritime Hub (MMH) เมื่อวันนี้
เมื่อเราคิดถึงความปลอดภัยใน AI เขาเน้นย้ำถึงความจำเป็นในการถามว่า เหตุใดจึงสำคัญ และเหตุใดเราจึงควรมีการกำกับดูแลเกี่ยวกับเรื่องนี้?
หากพิจารณาถึงความก้าวหน้าอย่างรวดเร็ว ตั้งแต่ GPT-1 สู่ GPT-3 และปัจจุบันเป็น GPT-5 วงจรการพัฒนากำลังเร่งตัวขึ้นอย่างมาก ฟลอเรสกล่าว AI กำลังถูกนำไปใช้งานในสถานการณ์ที่หลากหลาย ตั้งแต่การค้นพบยาและการวิจัยโรคมะเร็ง ไปจนถึงเกษตรอัจฉริยะและนวัตกรรมทางวิทยาศาสตร์ที่กว้างขวางยิ่งขึ้น ความก้าวหน้าเหล่านี้ทำให้ AI ไม่เพียงแต่มีประสิทธิภาพมากขึ้นเท่านั้น แต่ยังมีราคาที่ถูกลงและเข้าถึงได้ง่ายขึ้นอีกด้วย
สิ่งนี้นำมาซึ่งทั้งโอกาสและความท้าทายดังที่เขาเตือนไว้
ในด้านดี AI ได้ก้าวหน้าอย่างมากในด้านการดูแลสุขภาพและการวิจัยทางวิทยาศาสตร์ ทำให้เทคโนโลยีที่เคยอยู่นอกเหนือการเข้าถึงนั้นเข้าถึงได้ง่ายขึ้นและปรับขนาดได้ และลดต้นทุนการพัฒนาลงอย่างมาก
เมื่อกล่าวเช่นนี้ ความท้าทายต่างๆ เช่น ความกังวลด้านความเป็นส่วนตัว การเลิกจ้างงาน ความลำเอียง ความน่าเชื่อถือ และความเสี่ยงของข้อผิดพลาด ล้วนเน้นย้ำถึงความจำเป็นในการมีความโปร่งใสและความรับผิดชอบ
“ข้อผิดพลาดหลายประการใน AI สามารถป้องกันได้หากเราทดสอบอคติก่อนที่จะนำโซลูชันไปใช้ ตรวจสอบให้แน่ใจว่ามีการกำกับดูแล และนำการป้องกันที่เหมาะสมมาใช้ก่อนการนำไปใช้”
ภูมิทัศน์ AI ทั่วโลก
- การลงทุนขององค์กรใน AI สูงถึง 252 พันล้านดอลลาร์ในปี 2024
- มีมากกว่า 69 ประเทศที่ได้พัฒนากลยุทธ์ด้าน AI
- ประมาณร้อยละ 50 ของคนในมอลตาบอกว่าพวกเขารู้บางอย่างเกี่ยวกับ AI
- 24% ของประชากรชาวมอลตารายงานว่ามีความไว้วางใจใน AI สูง
อย่างไรก็ตาม เขาเตือนว่า ไม่ควรมอบความไว้วางใจอย่างไร้เหตุผล ความไว้วางใจต้องได้มาโดยได้รับ “การสร้างความไว้วางใจต้องอาศัยกรอบการกำกับดูแลที่แข็งแกร่งและระบบนิเวศที่ผู้คนรู้สึกมั่นใจว่า AI กำลังได้รับการพัฒนาอย่างมีความรับผิดชอบ”
พระราชบัญญัติ AI: แนวทางการกำกับดูแลของยุโรป
เมื่อพูดถึงสิ่งที่เขาเรียกว่า “ช้างในห้อง” นั่นคือ พระราชบัญญัติ AI ของสหภาพยุโรป ซึ่งฟลอเรสอธิบายว่าเป็น “หนึ่งในกฎหมายที่สำคัญที่สุดในช่วงไม่กี่ปีที่ผ่านมา” เขาอธิบายว่าแนวทางของกฎหมายนี้คือการจัดหมวดหมู่ระบบ AI ตามความเสี่ยง:
ระบบ AI ต้องห้าม (จาก 2024/2025)
ตัวอย่าง: การให้คะแนนทางสังคม ระบบการจัดการ (เช่น ในเกม ใช้ข้อมูลเพื่อสร้างการจำลองที่ส่งเสริมพฤติกรรมเสพติดหรือวิตกกังวล)
โทษปรับ: ปรับสูงสุด 7% ของยอดขายทั่วโลกหรือ 35 ล้านยูโร
ระบบที่มีความเสี่ยงสูง
ตัวอย่าง: การตัดสินใจอัตโนมัติในภาคส่วนที่สำคัญ ระบบไบโอเมตริกซ์ การดูแลสุขภาพ หรือการสรรหาบุคลากร
ข้อกำหนด: ระบบการจัดการความเสี่ยง การกำกับดูแลข้อมูล ความปลอดภัยทางไซเบอร์ การประเมินความสอดคล้อง (เครื่องหมาย CE) ความโปร่งใส เอกสารประกอบ บันทึก และการกำกับดูแลโดยมนุษย์
ระบบความเสี่ยงจำกัด
ตัวอย่าง: แชทบอท
ข้อกำหนด: การเปิดเผยว่าผู้ใช้กำลังโต้ตอบกับระบบ AI
ระบบความเสี่ยงขั้นต่ำ
ประมาณ 90% ของกรณีการใช้งาน AI อยู่ในหมวดหมู่นี้
เขายังหยิบยกประเด็นถกเถียงเกี่ยวกับดีปเฟกขึ้นมาด้วย ซึ่งต้องได้รับการแก้ไขเช่นกัน เขาบอกว่าต้องระบุให้ชัดเจนว่าเป็นดีปเฟก เว้นแต่จะเป็นการเสียดสีหรือเห็นได้ชัดเจนสำหรับผู้บริโภคทั่วไป
บทบาทของมอลตา: MDIA ในฐานะหน่วยงานกำกับดูแลและผู้สนับสนุน
สำนักงานนวัตกรรมดิจิทัลแห่งมอลตา (MDIA) ทำหน้าที่เป็นทั้งหน่วยงานกำกับดูแลและผู้สนับสนุนนวัตกรรม ฟลอเรสได้กำหนดหน้าที่ความรับผิดชอบไว้อย่างชัดเจน ได้แก่ การเฝ้าระวังตลาดและการประเมินความสอดคล้อง การจัดหาระบบนิเวศสำหรับนวัตกรรม เช่น ค่ายฝึกอบรม ค่ายฤดูร้อน และทุนการศึกษาสำหรับเยาวชน โครงสร้างพื้นฐานที่สนับสนุน (เช่น คอมพิวเตอร์ประสิทธิภาพสูง) รวมถึงพื้นที่สำนักงานและทรัพยากรสำหรับธุรกิจสตาร์ทอัพ
AI Sandbox (เปิดตัวในปี 2021):
พื้นที่ปลอดภัยสำหรับทดสอบระบบ AI ก่อนการใช้งานในระดับใหญ่
คำแนะนำ ข้อเสนอแนะ และการสนับสนุนการปฏิบัติตาม
ขณะนี้โมเดลดังกล่าวได้รับการนำมาใช้ทั่วทั้งสหภาพยุโรป (บังคับใช้ตั้งแต่ปีหน้า)
ฝ่ายสนับสนุนช่วยเหลือ: ตอบคำถามเกี่ยวกับพระราชบัญญัติ AI และการปฏิบัติตามกฎระเบียบ
เขาสรุปประเด็นนี้ด้วยการยอมรับว่ามอลตาเป็นหนึ่งในประเทศแรกๆ ในสหภาพยุโรป และแม้แต่ในระดับโลก ที่เปิดตัว AI Sandbox แนวทางของประเทศนี้ เขาเปิดเผยว่าผสมผสานการควบคุมเข้ากับการสนับสนุนนวัตกรรม
เขาสรุปว่า ความไว้วางใจใน AI ต้องได้รับจากความโปร่งใส ความรับผิดชอบ และการกำกับดูแลที่เข้มแข็ง ด้วยกรอบการทำงานที่เหมาะสม AI จะสามารถเติบโตได้ พร้อมกับปกป้องผู้คน ธุรกิจ และสังคม
