share

“Deepfake” ความกังวลเกี่ยวกับการฉ้อโกงด้วย AI

Last updated: 5 Jan 2024
585 Views
“Deepfake” ความกังวลเกี่ยวกับการฉ้อโกงด้วย AI

“Deepfake” ความกังวลเกี่ยวกับการฉ้อโกงด้วย AI

เมื่อเดือนพฤษภาคมที่ผ่านมา ได้มีการเปิดเผยเรื่องราวเกี่ยวกับคดีการฉ้อโกงรายหนึ่งที่เกิดขึ้นทางตอนเหนือของประเทศจีน ชายคนหนึ่งได้สนทนาผ่านทางวีดีโอกับเพื่อนของเขา ก่อนที่เพื่อนคนดังกล่าวจะโน้มน้าวให้เขาโอนเงินไปให้ เพราะจำเป็นต้องใช้เงิน ด้วยความที่กังวลว่าเพื่อนจะลำบาก เขาจึงโอนเงินไปให้ตามคำขอ

ฟังดูแล้วเหมือนจะเป็นการช่วยเหลือด้วยมิตรภาพที่ดี แต่ไม่เลย! เพราะเขาได้ตกเป็นเหยื่อของมิจฉาชีพที่ใช้เทคโนโลยี AI (Artificial Intelligence) สร้างวิดีโอ Deepfake ปลอมเป็นเพื่อนของเขาและหลอกตุ๋นเงินจากเขาไปได้ 4.3 ล้านหยวน

ภายหลังเกิดเหตุการณ์ขึ้น เจ้าหน้าที่ตำรวจในเมืองเป่าโถว ในเขตปกครองตนเองมองโกเลียใน ระบุว่า ผู้กระทำความผิดใช้เทคโนโลยีการสลับใบหน้าที่ขับเคลื่อนด้วย AI เพื่อปลอมตัวเป็นเพื่อนของเหยื่อระหว่างการสนทนาทางวิดีโอ และรับเงินไป 4.3 ล้านหยวน หรือประมาณ 21 ล้านบาท โดยสาเหตุที่เขาโอนเงินไปให้นั้น ด้วยความเชื่อว่าเพื่อนของเขาจำเป็นต้องทำการฝากเงินในระหว่างขั้นตอนการประมูลโครงการในเมืองอื่น

“เขาคุยกับผมผ่านวิดีโอคอล และผมก็ยืนยันใบหน้าและเสียงของเขาในวิดีโอด้วย นั่นเป็นเหตุผลที่เราลดการป้องกันลง” เหยื่อกล่าวกับสื่อท้องถิ่นของรัฐ

โดยชายคนนี้เพิ่งรู้ตัวว่าเขาถูกหลอกหลังจากที่เขาโทรไปหาเพื่อนเพื่อยืนยันการรับโอนเงิน เมื่อเพื่อนตัวจริงของเขา ได้ออกมากล่าวแสดงความไม่รู้ไม่เห็นเกี่ยวกับสถานการณ์ที่เกิดขึ้น และไม่ได้เป็นคนขอให้เขาโอนเงินให้ในวันและเวลาที่เกิดเหตุ ดังนั้นเขาจึงเข้าแจ้งความกับตำรวจ

ตำรวจในเมืองเป่าโถว มณฑลมองโกเลียใน ซึ่งเป็นที่ตั้งของบัญชีธนาคารของผู้กระทำความผิด กล่าวว่า พวกเขาสามารถหยุดการโอนเงินจำนวน 3.37 ล้านหยวนได้แล้ว การดำเนินการเพื่อกู้คืนส่วนที่เหลืออีก 931,600 หยวน ยังดำเนินอยู่ ตำรวจกล่าวเสริม

การหลอกลวงแบบ Deepfake ทำให้เกิดการถกเถียงอย่างเผ็ดร้อนเกี่ยวกับภัยคุกคามต่อความเป็นส่วนตัวและความปลอดภัยทางออนไลน์บนเว็บไซต์ Weibo ไมโครบล็อกของจีน พร้อมติดแฮชแท็ก “#AI การหลอกลวงกำลังระบาดทั่วประเทศ” ซึ่งดึงดูดผู้ชมมากกว่า 120 ล้านครั้งในช่วงเวลาดังกล่าว

“สิ่งนี้แสดงให้เห็นว่ารูปภาพ เสียง และวิดีโอทั้งหมดสามารถใช้โดยนักต้มตุ๋นได้” ผู้ใช้รายหนึ่งเขียนพร้อมกับตั้งคำถามต่อไปว่า “กฎความปลอดภัยของข้อมูลจะตามทันเทคนิคของคนเหล่านี้ได้หรือไม่?”

กรณีนี้เกิดขึ้นในช่วงเวลาที่จีนเข้มงวดในการตรวจสอบเทคโนโลยีและแอพที่สามารถจัดการกับข้อมูลเสียงและใบหน้าได้ กฎใหม่ที่มีผลบังคับใช้ตั้งแต่เดือนมกราคม ห้ามการใช้เนื้อหาที่สร้างโดย AI เพื่อเผยแพร่ “ข่าวปลอม”

ซึ่งข้อบังคับจาก Cyberspace Administration of China (CAC) ยังกำหนดให้ผู้ให้บริการเทคโนโลยีดังกล่าวติดป้ายภาพถ่าย วิดีโอ และข้อความอย่างชัดเจนว่าสร้างขึ้นหรือดัดแปลงโดยสังเคราะห์ หากอาจถูกตีความผิดว่าเป็นของจริง ขณะเดียวกัน ตำรวจในเมืองเปาโถวเรียกร้องให้ประชาชนระมัดระวังในขณะที่แชร์ข้อมูล เช่น ภาพใบหน้าและลายนิ้วมือ นอกจากนี้ยังขอให้ผู้คนยืนยันตัวตนของผู้โทรดังกล่าวผ่านโหมดอื่น เช่น การโทร ก่อนที่จะทำการโอนเงินใดๆ

แม้จะไม่ใช่เรื่องใหม่แต่สิ่งที่น่ากลัวก็คือเทคโนโลยี “Deepfake” นับวันยิ่งแนบเนียนมากขึ้น อีกทั้งยังเป็นการจุดประกายความกังวลเกี่ยวกับศักยภาพของเทคโนโลยี AI เพื่อช่วยเหลืออาชญากรรมทางการเงินในการฉ้อโกงเหยื่อ

กับคำถามที่ว่า “กฎความปลอดภัยของข้อมูลจะตามทันเทคนิคของคนเหล่านี้ได้หรือไม่?” สำหรับเทคโนโลยี AI เป็นอะไรที่น่าคิดตามอย่างยิ่ง ด้วยว่าจะถูกควบคุมอย่างไร? มีหลักเกณฑ์แบบไหน? ประเด็นนี้กำลังถกเถียงกันโดยผู้กำหนดนโยบายทั่วโลก เพราะ “กฎระเบียบของ AI เป็นสิ่งจำเป็น” สำหรับโลกใบนี้

ที่มา: สำนักข่าวรอยเตอร์  
www.asiafinancial.com 

หมายเหตุ : Deepfake ประกอบขึ้นจากศัพท์ deep learning “การเรียนรู้เชิงลึก” และ fake “ปลอม” สรุปก็คือการสร้าง “สื่อสังเคราะห์” ที่ซึ่งบุคคลในรูปภาพหรือวิดีโอใดๆ ถูกแทนที่ด้วยลักษณะหรืออากัปกิริยาของบุคคลอื่น แม้ว่าการปลอมแปลงเนื้อหาจะไม่ใช่เรื่องใหม่ แต่ Deepfake ก็ใช้เทคนิคอันทรงพลังจาก Machine Learning - ML และปัญญาประดิษฐ์ AI ในการบิดเบือนหรือสร้างเนื้อหาภาพและเสียงที่มีศักยภาพสูงในการหลอกลวง

Related Content
This website uses cookies to enhance your experience and providing the best service from us. Please confirm the acceptance. You can learn more about our use of cookies from our Policy. Privacy Policy and Cookies Policy
Compare product
0/4
Remove all
Compare