เจ้าหน้าที่เตือนประชาชนให้ระวังกลโกงจาก AI
เมื่อเร็ว ๆ นี้ หน่วยงานรักษาความปลอดภัยสาธารณะในหลายเมืองได้กระตุ้นให้ผู้คนมีความเข้มแข็งมากขึ้น หลังจากมีการเปิดเผยกรณีการฉ้อโกง AI หลายกรณี ซึ่งมีการใช้เครื่องมือปัญญาประดิษฐ์เพื่อเลียนแบบเสียงและรูปลักษณ์ของผู้คน
ในกรณีที่เพิ่งเปิดเผยโดยสำนักงานความมั่นคงสาธารณะของเมืองเปาโถว เขตปกครองตนเองมองโกเลียใน เหยื่อถูกหลอกให้โอนเงินจำนวน 4.3 ล้านหยวน (ประมาณ 21.5 ล้านบาท) ผ่านบัญชีบริษัท หลังจากสนทนาทางวิดีโอกับบุคคลที่ปลอมตัวเป็นเพื่อนของเขา
ด้วยความร่วมมือของธนาคาร ตำรวจสามารถระงับการโอนเงินจำนวน 3.37 ล้านหยวน แต่กล่าวว่าพวกเขายังคงพยายามที่จะกู้คืนเงินจำนวน 931,600 หยวนที่ถูกส่งไปแล้ว
เมื่อวันที่ 20 เมษายน ชายแซ่กัวคนหนึ่ง ซึ่งเป็นตัวแทนทางกฎหมายของบริษัทเทคโนโลยีในฝูโจว มณฑลฝูเจี้ยน ได้รับโทรศัพท์ผ่านวิดีโอทางโปรแกรมวีแชทจากนักต้มตุ๋น โดยใช้ AI เพื่อปลอมตัวเป็นเพื่อนของเขา นักต้มตุ๋นขอความช่วยเหลือจากเขา
“เพื่อนปลอม” ของนายกัว กล่าวว่าเขากำลังประมูลโครงการในเมืองอื่น และต้องการใช้บัญชีของบริษัทซึ่งนายกัวเป็นเจ้าของ เพื่อยื่นประมูล ด้วยมูลค่า 4.3 ล้านหยวน ซึ่งเขาสัญญาว่าจะจ่ายเงินให้กัวทันที จากนั้น นักต้มตุ๋นได้ส่งหมายเลขบัญชีธนาคารให้กัว และส่งภาพหน้าจอของเอกสารการโอนเงินผ่านธนาคารเพื่อพิสูจน์ว่าเขาได้โอนเงินไปยังบัญชีของบริษัทของนายกัวแล้ว ดังนั้น นายกัวจึงโอนเงิน 4.3 ล้านหยวนไปยังบัญชีที่ระบุในการชำระเงิน โดยแยกจ่าย 2 ครั้ง
เมื่อนายกัวโทรหาเพื่อนจริงของเขาเพื่อยืนยันหลังจากได้โอนเงินเรียบร้อยแล้ว เพื่อนของเขาปฏิเสธว่าเป็นเขาที่โทรหานายกัว และไม่ได้เคยขอให้เขาโอนเงินใด ๆ ให้ “เป็นเพราะเขาคุยกับผมทางวิดีโอแล้วและผมเห็นหน้าและเสียงเขาในวิดีโอ ทำให้ผมไม่ได้ระวังตัว” นายกัวกล่าว
ภาพจาก CFP
คดีดังกล่าวสร้างความฮือฮาบนโซเชียลเน็ตเวิร์ก และทำให้ชาวเน็ตตกอกตกใจ โดยกล่าวว่า คนที่ไว้ใจและขาดความตระหนัก เช่น เด็กและคนชรา มีความเสี่ยงเป็นพิเศษต่อการหลอกลวงแบบไฮเทคดังกล่าว ทั้งนี้ พวกเขาเรียกร้องให้รัฐบาลเพิ่มการบริหารจัดการเทคโนโลยีที่เกี่ยวข้องและปราบปรามอาชญากรรมอย่างเข้มแข็งยิ่งขึ้น
เมื่อวันที่ 24 พฤษภาคม สมาคมอินเทอร์เน็ตของจีน (Internet Society of China) ได้ออกแถลงการณ์เกี่ยวกับกลโกงการสลับใบหน้าของ AI โดยกล่าวว่าเป็นเทคโนโลยี “ปลอมหน้าในระดับลึก” หรือ deepfake ซึ่งมักใช้เพื่อเลียนแบบเสียงและรูปลักษณ์ของผู้อื่นการบันทึกวิดีโอและเสียง เทคโนโลยีนี้มีอิสระมากขึ้น ผลิตภัณฑ์และบริการที่เกี่ยวข้องก็เพิ่มจำนวนมากขึ้น
แถลงการณ์ยังระบุว่า เป็นเรื่องปกติมากขึ้นที่บางคนใช้ AI เพื่อวัตถุประสงค์ทางอาชญากรรม รวมถึงการฉ้อโกงและการใส่ร้าย และผู้คนจำเป็นต้องระมัดระวังและเพิ่มความตระหนักรู้เพื่อป้องกันตนเองจากการตกเป็นเหยื่อของการหลอกลวง ผู้คนควรตระหนักถึงการปกป้องข้อมูลส่วนบุคคลให้มากขึ้น และไม่ด่วนให้ภาพใบหน้า ลายนิ้วมือ และข้อมูลไบโอเมตริกซ์อื่น ๆ แก่คนแปลกหน้า พวกเขาไม่ควรเปิดเผยรายละเอียดของบัตรประจำตัว บัตรธนาคาร รหัสยืนยัน และข้อมูลอื่น ๆ ที่คล้ายคลึงกัน และเตือนให้ผู้คนจัดการบัญชีโซเชียลมีเดียอย่างระมัดระวังเพื่อป้องกันไม่ให้ข้อมูลส่วนตัวถูกขโมย โดยเฉพาะอย่างยิ่งเมื่อเข้าสู่ระบบบนอุปกรณ์ที่ไม่คุ้นเคย
ในยุคของ AI ข้อความ เสียง รูปภาพ และวิดีโอทั้งหมดน่าจะถูกสังเคราะห์อย่างลึกซึ้ง ในกรณีของนายกัว จำเป็นต้องตรวจสอบข้อมูลด้วยวิธีเพิ่มเติม เช่น การโทรหาบุคคลที่เกี่ยวข้องกับการโอนเงินโดยตรงหลังจากสื่อสารด้วยข้อความหรือวิธีอื่นโดยไม่ได้ยืนยัน ไม่ว่าอีกฝ่ายจะเป็นใครก็ตาม
ในเดือนพฤศจิกายน สำนักงานบริหารไซเบอร์สเปซแห่งประเทศจีน กระทรวงอุตสาหกรรมและเทคโนโลยีสารสนเทศ และกระทรวงความมั่นคงสาธารณะได้ร่วมกันออกข้อกำหนดสำหรับการจัดการการสังเคราะห์เชิงลึกของบริการข้อมูลทางอินเทอร์เน็ต โดยกำหนดข้อจำกัดที่ชัดเจนเกี่ยวกับการสร้าง การแทนที่และการจัดการของใบหน้ามนุษย์ ตลอดจนการสังเคราะห์และเลียนแบบเสียงของมนุษย์
แพลตฟอร์มและองค์กรบางแห่งได้เปิดตัวความคิดริเริ่มเพื่อห้ามการใช้เทคโนโลยีการสร้าง AI เพื่อสร้างและเผยแพร่เนื้อหาที่ละเมิด ซึ่งรวมถึงสิทธิ์ในการถ่ายภาพบุคคลและสิทธิ์ในทรัพย์สินทางปัญญา
โจว หลินน่า ศาสตราจารย์แห่งคณะความมั่นคงทางไซเบอร์สเปซ มหาวิทยาลัยไปรษณีย์และโทรคมนาคมแห่งปักกิ่ง (BUPT) กล่าวว่า “AI face-swapping” กำลังกลายเป็นเครื่องมือฉ้อโกงทางออนไลน์ที่พบได้บ่อยมากขึ้น และอาจกระตุ้นให้เกิดความไม่ไว้วางใจและความกลัวมากขึ้นในสังคม
“เทคโนโลยี AI เป็นสิ่งใหม่และสะดวกมาก แต่อาจส่งผลกระทบต่อชีวิตของเราในทางลบด้วย และจำเป็นต้องปรับปรุง สร้างกฎหมายและข้อบังคับเพื่อใช้และควบคุมเทคโนโลยีดังกล่าวอย่างเหมาะสม” โจวกล่าว
