Elon Musk และผู้เชี่ยวชาญด้าน AI คนอื่นๆ มองว่าข้อมูลในโลกจริง (real-world data) สำหรับการฝึกอบรมโมเดล AI เหลือให้ใช้ไม่มากแล้ว เพราะความรู้ของมนุษย์ที่สะสมมา ถูกนำมาใช้ในการฝึกอบรม AI หมดแล้ว
.
เหมือนกับที่ Ilya Sutskever อดีตหัวหน้านักวิทยาศาสตร์ของ OpenAI ที่เคยบอกว่าอุตสาหกรรม AI เข้าถึงจุดที่พีกของข้อมูล (peak data) แล้ว ซึ่งคาดว่าข้อมูลการฝึกอบรมที่มีน้อยลง จะทำให้ต้องเปลี่ยนวิธีการฝึกอบรมโมเดลในปัจจุบัน
.
แนวทางแก้ไขที่ Musk เสนอคือการใช้ข้อมูลสังเคราะห์ (synthetic data) หรือข้อมูลที่สร้างโดยโมเดล AI เอง บริษัทต่างๆ เช่น Microsoft, Meta, OpenAI และ Anthropic ได้นำแนวทางนี้ไปใช้แล้ว
.
ตรงกับที่ Gartner ประมาณการว่า 60% ของข้อมูลที่ใช้สำหรับการฝึกอบรม และวิเคราะห์โมเดล AI ในปี 2024 ถูกสร้างขึ้นแบบสังเคราะห์
.
แม้ว่าข้อมูลสังเคราะห์จะช่วยประหยัดต้นทุน และทำให้โมเดลเรียนรู้ด้วยตนเองได้อย่างต่อเนื่อง แต่ก็ทำให้โมเดลมีความคิดสร้างสรรค์น้อยลง และมีอคติมากขึ้น เนื่องจากข้อมูลสังเคราะห์ซึมซับอคติจากข้อมูลต้นแบบที่ถูกใช้ในการสังเคราะห์ข้อมูลใหม่ขึ้นมา
.
#blognone #bnnews