Meta 工程师：明年全球 AI 推理用电量仅需新增两座核电站即可满足

图片地址：https://img.ithome.com/newsuploadfiles/2023/11/e1e70cd2-bc49-4a34-a86f-c2e6883856ce.jpg?x-bce-process=image/format,f_auto

IT之家 11 月 14 日消息，Meta 生成式人工智能工程总监谢尔盖・埃杜诺夫近日在硅谷数字工人论坛上分享了他对人工智能推理需求的预测。他认为，明年全球新增的人工智能应用推理需求，如果使用合理规模的语言模型，仅需两座核电站的发电量就可以满足。图源 Pexels人工智能推理是指利用已经训练好的人工智能模型，在实际场景中进行各种任务，如生成文本、回答问题、识别图像等。埃杜诺夫表示，他通过简单的数学计算，估计了明年全球推理需求的用电量。他假设，明年全球会新增 100 万到 200 万个 Nvidia H100 图形处理器，每个处理器的功率约为 1 千瓦。如果每个处理器每天运行 24 小时，每人每天可生成 10 万个“token”。他认为以人类规模来看，这用电量尚属合理。全球仅需新增两座核电站，就可以提供足够电力。不过IT之家注意到，埃杜诺夫也指出，人工智能的发展还面临着一些挑战和限制，其中之一是数据量的问题。目前，人工智能模型的训