วันจันทร์ที่ผ่านมามีเผยแพร่ภาพการระเบิดที่เพนตากอน ที่ดูเหมือนจะถูกสร้างขึ้นจาก AI แพร่ไปทั่วโลกออนไลน์และภาพดังกล่าวก็ถูกทวีตโดยบัญชี “Bloomberg Feed” ที่มีเครื่องหมายติ๊กถูกสีฟ้ายืนยันแล้ว ซึ่งเป็นบัญชีปลอมที่ถูกสร้างขึ้น แต่อาจทำให้หลายคนเข้าใจผิดว่าเป็นบัญชีจริงในเครือ Bloomberg

ต่อมาบัญชีนั้นได้ถูกระงับเป็นที่เรียบร้อย แต่สำนักข่าว RT ใต้สังกัดรัฐบาลของรัสเซียได้แชร์ภาพที่เกิดเหตุแต่มีการลบภายหลัง รวมถึงอีกหลายบัญชีที่มีผู้ติดตามจำนวนมากเช่น DeItaone , OSINTdefender และ Whale Chart ก็ได้มีการเผยแพร่ภาพดังกล่าวเช่นกัน ซึ่งยังไม่แน่ชัดว่าภาพและข่าวปลอมนี้มาจากต้นทางใด

บางคนให้ความเห็นว่าภาพปลอมอาจส่งผลให้ดัชนี S&P 500 ปรับตัวลงถึง 25 จุด แต่ปรับตัวลงได้ไม่นาน จึงไม่สามารถระบุได้ว่าเกี่ยวข้องกับภาพเหตุการณ์นี้ แต่ก็ทำให้เกิดความกังวลถึงประเด็นที่ AI อาจถูกใช้เพื่อปั่นป่วนตลาดหุ้นในอนาคต

ข้อมูลปลอมเป็นปัญหาที่มีมานานในโลกอินเทอร์เน็ต ซึ่งความสามารถของ AI ในการสร้างสรรค์สิ่งใหม่ๆ รวมไปถึงการเปลี่ยนแปลงเครื่องหมายยืนยันของ Twitter ที่เปิดให้คนจ่ายเงินเพื่อซื้อ เป็นส่วนเสริมที่ทำให้ข้อมูลปลอมดูสมจริงมากขึ้น

Prime example of the dangers in the pay-to-verify system: This account, which tweeted a (very likely AI-generated) photo of a (fake) story about an explosion at the Pentagon, looks at first glance like a legit Bloomberg news feed. pic.twitter.com/SThErCln0p

— Andy Campbell (@AndyBCampbell) May 22, 2023

ที่มา: Techcrunch