2024 ACM Europe Summer School @ Barcelona
ภาพและเนื้อหาจาก https://www.facebook.com/sciencetulp และผศ.ดร.วรวรรณ ดีอัซ การ์บาโย
ประสบการณ์ที่ได้เข้าร่วมงาน 2024 ACM Europe Summer School on “HPC Computer Architectures for AI and Dedicated Applications” ระหว่างวันที่ 2 – 6 กันยายน 2567 ณ เมืองบาร์เซโลนา ประเทศสเปน นำโดย ผศ.ดร.วรวรรณ ดีอัซ การ์บาโย, นายธนเทพ โรจนไพรวงศ์ และนายพีระ สิทธิรส นักศึกษาชั้นปีที่ 4 คณะวิทยาศาสตร์และเทคโนโลยี มหาวิทยาลัยธรรมศาสตร์ ศูนย์ลำปาง ได้รับการคัดเลือกให้เข้าร่วมกิจกรรมเพื่อเข้าร่วมฟังการบรรยาย การปราศรัยจากผู้เชี่ยวชาญ และกิจกรรมอื่น ๆ ที่เกี่ยวข้อง เพื่อเป็นการเพิ่มพูนความรู้และแลกเปลี่ยนประสบการณ์ของบุคลากรและนักศึกษา โดยมีหัวข้อที่เกี่ยวข้องสรุปได้ดังนี้
1. บทบาทของซูเปอร์คอมพิวเตอร์ในยุคปัจจุบัน ครอบคลุม IoT, Edge Node, ยานยนต์ไร้คนขับ, และการพยากรณ์อากาศ
2. การจัดการ Big Data อย่างมีประสิทธิภาพผ่านระบบ NSDF (National Science Data Fabric)
3. การใช้งานระบบ eFlow4HPC เพื่อสร้าง workflow ที่สามารถผสานงานคำนวณ GPU/CPU ได้อย่างอัตโนมัติ
4. การใช้งานโปรแกรมจำลอง CPU (SimEng) พร้อมโอกาสฝึกงานกับ BSC สำหรับผู้ชนะการแข่งขัน
5. ความพยายามของ EU ในการสร้างหน่วยประมวลผลของตัวเอง เพื่อเสริมความมั่นคงทางเทคโนโลยี
6. เจาะลึกระบบ HPC แบบยั่งยืนด้วยสถาปัตยกรรม RISC-V
7. การวิเคราะห์ข้อมูลขนาดใหญ่ระดับ Petabyte ต้องใช้เครื่องมือพิเศษ เช่นการใช้ Apache Hadoop และ Spark เพื่อจัดการข้อมูลขนาดใหญ่และการประมวลผล AI ในระบบ HPC ที่ช่วยให้การประมวลผลทำได้อย่างมีประสิทธิภาพผ่านการกระจายงานไปยังหลายโหนด
8. การสร้างโมเดลภาษาขนาดใหญ่เช่น GPT40, llamar สร้างด้วยเทคนิคทรานฟอร์เมอร์ (Transformer) และได้มีทีมวิจัยเสนอเทคนิค การมี CURATE pipeline ทำให้คัดเลือกข้อมูลได้มีคุณภาพมากขึ้น นอกจากนี้ มีการพูดถึง การสร้างโมเดลภาษาใหม่ ซึ่งมีทางเลือกสองทางคือ เทรนโมเดลใหม่ทั้งหมดด้วยข้อมูลภาษาใหม่ หรือ การทำ Continual Pretrain (CPT) การทำ CPT จะได้ผลลัพธ์ที่เร็วและต้องการข้อมูลน้อยกว่าการเทรนโมเดลใหม่ทั้งหมด และเทคนิคที่มักจะใช้ทำ CPT คือ การปรับคำศัพท์ (Vocabulary Adaptation)
กิจกรรมครั้งนี้ ได้รับทุนอุดหนุนการเดินทางจากหลายฝ่าย ซึ่งมีรายนามดังนี้
- เงินบริจาค 200,000 บาท (จากคุณบุญชู ตรีทอง และผู้บริจาครายอื่น)
- งบฝ่ายวิเทศสัมพันธ์ 10,000 บาท
- Travel Grant จาก ACM จำนวน 250 ยูโรต่อคน
- ค่าใช้จ่ายอื่นๆ (ค่าเล่าเรียน, อาหาร, อุปกรณ์) สนับสนุนโดย ACM และสปอนเซอร์ทั้งภาครัฐและเอกชน