The Washington Post มีบทความวิเคราะห์ปัญหา Full Self-Driving (FSD) ของ Tesla ที่เกิดอุบัติเหตุบ่อยครั้ง จนถูกหน่วยงานความปลอดภัยทางหลวงของสหรัฐ NHTSA สั่งให้เรียกคืน (recall) เพื่ออัพเดตซอฟต์แวร์

แหล่งข่าวของ The Washington Post มาจากการสัมภาษณ์อดีตพนักงานและผู้เกี่ยวข้องหลายราย ซึ่งพูดตรงกันว่าสาเหตุหลักมาจากการที่ Elon Musk ตัดสินใจเลิกใช้ระบบเรดาร์เพื่อลดต้นทุน เปลี่ยนมาใช้กล้องอย่างเดียว ทำให้ระบบ FSD ไม่สามารถตรวจจับวัตถุรอบรถได้ดีพอ

ข้อดีของเรดาร์คือสามารถตรวจจับวัตถุใหญ่ๆ อย่างรถไฟหรือรถบรรทุกได้เสมอ แม้ไม่รู้ว่ามันคืออะไรก็ตาม แต่กล้องที่เป็นการวัดแสงเหมือนที่ตามองเห็น (vision) ต้องนำภาพไปตีความโดยหน่วยประมวลผลก่อนเสมอ ทำให้การตรวจจับผิดพลาดบ่อยครั้ง (เช่น กรณีวิ่งไปชนรถฉุกเฉินที่จอดอยู่ตรงไหล่ทาง) และเกิดอาการที่เรียกว่า “เบรกทิพย์” (phantom braking) จู่ๆ รถยนต์ก็ลดความเร็วลงเองแม้ไม่มีวัตถุใดๆ อยู่รอบรถเลย

หากดูจากสถิติ Tesla ถูกร้องเรียนเรื่องอุบัติเหตุของ FSD รวมถึง “เบรกทิพย์” เพิ่มขึ้นมากหลังออกอัพเดต FSD ที่เปลี่ยนมาใช้กล้องอย่างเดียว ผู้เชี่ยวชาญของ NHTSA ให้ความเห็นว่าสาเหตุมาจากการตัดเรดาร์ออกเป็นหลัก เพราะเรดาร์จะสามารถตรวจจับวัตถุที่อยู่ในระยะไกลได้ดีกว่า ถือเป็นตัวช่วยตรวจสอบความแม่นยำของกล้องอีกชั้น

We have to solve a huge part of AI just to make cars drive themselves. In retrospect, it was inevitable. The road system is designed for cameras (eyes) & neural nets (brains).

— Elon Musk (@elonmusk) February 5, 2022

นอกจากเรื่องการตัดเรดาร์เพื่อลดต้นทุนแล้ว กระบวนการพัฒนาของ Tesla ก็ยังมีปัญหาด้วย เพราะแนวทางการนำงานของ Elon Musk คือเร่งพัฒนาเทคโนโลยี แล้วนำไปให้ผู้คนลองใช้งานก่อนเทคโนโลยีมีความพร้อม ในอีกด้าน Elon ก็ขยันโพสต์โฆษณาว่าเกือบทำสำเร็จแล้ว ทั้งที่จริงๆ งานยังไม่คืบหน้าไปจากเดิมสักเท่าไร แถมวัฒนธรรมองค์กรที่ “Elon เป็นใหญ่” ทำให้พนักงานที่กล้าเถียงมักโดนไล่ออก

John Bernal อดีตพนักงานทดสอบ FSD ที่ถูกไล่ออกในปี 2022 ให้ความเห็นว่า เดิมที Elon ก็ทำงานแบบนี้มานานแล้ว แต่ไปเล่าใครก็ไม่มีใครเชื่อ จนกระทั่ง Elon มาบริหาร Twitter คนถึงได้รู้ว่าเขาเป็นอย่างไร และผลงานของ Elon ที่ Twitter เป็นเพียงยอดภูเขาน้ำแข็งของที่ Tesla เท่านั้น ในบทความยังพูดถึงบริษัท Tesla ติดตั้งซอฟต์แวร์มอนิเตอร์การทำงานของพนักงานแปะป้ายให้ภาพ (image labeling) เพื่อเตรียมข้อมูลก่อนเทรนโมเดล หากพนักงานไม่ขยับเมาส์ตามระยะเวลาที่กำหนดจะถือว่าอู้งาน และมีบทลงโทษตามมา

FSD Beta has now been expanded to ~2000 owners & we’ve also revoked beta where drivers did not pay sufficient attention to the road. No accidents to date.Next significant release will be in April. Going with pure vision — not even using radar. This is the way to real-world AI.

— Elon Musk (@elonmusk) March 12, 2021

แนวทางการทำงานของ Elon ยังพยายามรวมทีมวิศวกรซูเปอร์สตาร์เข้าด้วยกัน ให้ทำงานหนัก และเขาเป็นผู้ทดสอบซอฟต์แวร์เวอร์ชันล่าสุดด้วยตัวเอง แล้วทำ “รายการแก้ไข” (fix-it requests) ส่งกลับไปยังทีมวิศวกร แนวทางนี้อาจช่วยให้ระบบดูคืบหน้า แต่เอาจริงเป็นการปะผุ อุดรอยรั่วโดยไม่มีแผนยุทธศาสตร์ภาพใหญ่ ต่างจากแนวทางของคู่แข่งอย่าง Waymo ที่มีโปรโตคอลการทดสอบความปลอดภัยอย่างเข้มงวดกว่า ยังไม่รวมถึงเทคโนโลยีเซ็นเซอร์ที่ใช้ทั้ง radar/lidar คู่ไปกับกล้องด้วย

ตัวอย่างหนึ่งของการปะผุของ Tesla คือในปี 2021 มียูทูบเบอร์ช่อง Tesla Raj ลองนำรถไปขับบนถนนซิกแซก Lombard Street ที่โด่งดังของเมืองซานฟรานซิสโก ปรากฎว่ารถยนต์ Tesla มีปัญหา เหตุการณ์จากคลิปนี้ทำให้วิศวกรของ Tesla “ออกแพตช์แก้” สร้างบาเรียที่มองไม่เห็นมาป้องกันไม่ให้รถไปชนขอบถนน Lombard Street

อดีตผู้บริหาร Tesla รายหนึ่งให้สัมภาษณ์ว่าการแก้บั๊กตามคำสั่งของ Elon เปรียบเสมือนโดนเสือวิ่งไล่ ซึ่งคนที่โดนเสือวิ่งไล่ไม่มีทางนำเสนอทางแก้ดีๆ ในระยะยาวได้หรอก

การที่ Elon หันไปสนใจเรื่อง Twitter ยังทำให้เขาให้ความสำคัญกับ Tesla น้อยลงตามไปด้วย วิศวกรของ Tesla จำนวนมากถูกโยกไปทำงานให้ Twitter แทน ผลคือกระบวนการพัฒนาช้าลง อัพเดตที่เคยออกทุกสองสัปดาห์ ยืดเวลากลายมาเป็นหลักเดือนแทน พนักงานบางคนเลือกลาออกไปอยู่กับ Waymo เพราะ “อย่างน้อยก็ไม่ต้องเป็นห่วงว่ารถหยุดที่ป้ายหยุดจริงๆ หรือเปล่า”

ลูกค้าที่จ่ายเงินซื้อระบบ FSD ในราคาแพง 15,000 ดอลลาร์ ก็ไม่พอใจที่ Tesla ไม่สามารถทำได้อย่างที่ Elon เคยสัญญาไว้ ลูกค้ารายหนึ่งที่เป็นเจ้าของ Model Y บอกว่าคนซื้อ FSD คาดหวังว่าตอนนี้รถยนต์ของตัวเองควรขับได้เองเป็น robotaxi ได้แล้ว แต่ความจริงมันก็ไม่ใช่แบบนั้น

ที่มา – The Washington Post