因為前段時間 Steam 夏季促銷，正好 Telegram 的 Arch 群友 @RichardLuo 給我推薦了這款遊戲：What Remains of Edith Finch，遊戲中文名：《艾迪芬奇的記憶》、《伊迪·芬奇的回憶豪宅》。

因為目前需要針對稀疏 MoE 進行研究，所以整理了這些論文。

在此篇文章我想要粗略思考，如果我們使用 Mixture-of-Experts (MoE) 去結合 cifar-10 和 TCIR 數據集，該做哪些前置分析，因爲目前還只是想法階段，沒有真實的代碼，最後使用 Gemini 幫我生成了代碼。

想像一下，有一個非常複雜的問題需要解決，比如要識別圖像中的各種物體、翻譯不同語言的文本、或是回答各種領域的問題。如果只有一個「專家」來處理所有這些問題，它可能需要學習非常多的知識，這會讓它變得非常龐大和低效，而且它可能無法在所有領域都表現出色。