Sam Altman 认为,在资源紧缺的环境下,本地推理其实是一种很糟糕的资源配置: “很多人认为,有了开源模型,就能在自己的电脑上运行,不再需要数据中心。 但从全球资源配置的角度看,让每个人都在电脑里放着大量稀缺的 DRAM,却只使用 5% 的时间,是非常低效的。 https://t.co/5RXktIAWLQ
Sam Altman 认为,在资源紧缺的环境下,本地推理其实是一种很糟糕的资源配置: “很多人认为,有了开源模型,就能在自己的电脑上运行,不再需要数据中心。 但从全球资源配置的角度看,让每个人都在电脑里放着大量稀缺的 DRAM,却只使用 5% 的时间,是非常低效的。 https://t.co/5RXktIAWLQ