微比恩 > 信息聚合 > 对话彭博:开源LLM「RWKV」想要打造AI领域的Linux和Android|ChatAI

对话彭博:开源LLM「RWKV」想要打造AI领域的Linux和Android|ChatAI

2023-05-15 11:19:10来源: 36氪

作者|沈筱 编辑|王与桐 “我们没有护城河,OpenAI也是。”近期,谷歌内部人士在Discord社区匿名共享了一份内部文件,点破了谷歌和OpenAI正面临的来自开源社区的挑战。尽管经外媒SemiAnalysis求证,文件内容仅代表谷歌部分员工而非整个公司的观点,但其中陈述的一个事实再次引起了广泛关注和讨论——开源LLM正呈现出百花齐放的态势。 抛开开源和闭源之争,可以窥见,同时更加值得关注的是,模型架构和算法层面的创新将加速涌现。 如德克萨斯大学教授Alex Dimakis对谷歌内部文件泄露事件发表的观点中所指,LoRA(low rank adaptation,低秩适应,一种创新的大型语言模型微调机制)打开了算法创新的大门。而被泄露的谷歌内部文件也提到,模型可扩展性和低成本微调机制这两个问题的解决,使得公众能以更低成本参与模型开发和优化迭代过程。 当前,在开源LLM的大军中,也不乏中国开发者的身影。例如,在开源社区吸

关注公众号
标签: AI 开源 Linux Android