encountered: https://www.facebook.com/cecile.tamura/posts/pfbid02RgarXP6zgFm8BPxZoKtzWTTeuJfjtXGfg8XpgHd32Vm8HbM4Rob6A5eiHvqH5sdpl
discussed with : sivakorn

(Write In Progress)
https://arxiv.org/abs/2507.18074
ASI-Arch (Yixiu et al.,2025)
Can we vibe AI-architechture now?

เท่าที่เข้าใจ งานวิจัยนี้คือการสร้าง
Automated End-to-End Process ในการหา breakthrough ด้าน AI Architecture Performance
ด้วย LLM-agents 3 ตัว: Researcher, Engineer, Analyst

• มีการสร้าง metric เฉพาะ(p.5)
• มีแจก System/user prompts, 106 architectures ที่ performance สูงสุด
  Comments
• ถ้าตัว Analyze ประเมินตัวโมเดลที่มันทำ โดยอิงจาก experiments, test sets ที่อาจมี data leak เราจะเชื่อถือผลลัพธ์จากมันได้ขนาดไหน ?
• ใช้คำว่า ASI อาจ overclaim เกินไป
  Keywords: Neural Architecture Search(NAS), Darwin-Gödel machines, Native Sparse Attention(NSA) (Yuan et al., 2025), Reward hacking (Amodei et al., 2016)

Links: paper-Native Sparse Attention Hardware-Aligned and Natively Trainable Sparse Attention (Yuan et al., 2025)

Key takeaway:
ผลลัพธ์ breakthrough ใหม่ๆ จากโมเดลนี้ statistically มาจากการต่อยอดจากการทดลองที่ผ่านมา(experiences) มากกว่าการใช้ซ้ำ, originality (p.14)

created on: Wed Jul 30 2025