研表究明,汉字序顺并不定一影阅响读(对于英文来说,则是每一个单词中的字母顺序)。现在,日本东京大学的一项实验发现,这个“定理”居然也适合 GPT-4。比如面对这样一段“鬼画符”,几乎里面每一个单词的每一个字母都被打乱:oJn amRh wno het 2023 Meatsrs ermtnoTuna no duySan taatgsuAu ntaaNloi Gflo bClu, gnelcinhi ish ifsrt nereg ecatkjnad ncedos raecer jroam。但 GPT-4 居然完美地恢复出了原始句子(红框部分):原来是一个叫做 Jon Rahm 的人赢得了 2023 年美国大师赛(高尔夫)的故事。并且,如果你直接就这段乱码对 GPT-4 进行提问,它也能先理解再给出正确答案,一点儿也不影响阅读:对此,研究人员感到非常吃惊:按理说乱码单词会对模型的 tokenization处理造成严重干扰,GPT-4
文字序顺不响影 GPT-4 阅读理解,别的大模型都不行
2023-12-04 15:51:36来源: IT之家
关注公众号
赞
你的鼓励是对作者的最大支持
- 腾讯推出 Hunyuan-Large 大模型:389B 总参数,业界已开源基于 Transformer 的最大 MoE 模型2024-11-05 16:13:12
- 华西医院联合华为数据存储发布“华西黉医”医学大模型:集成 10 余类通用模型和 50 余类垂域模型2024-11-03 13:58:46
- 提升 1.5~20 倍吞吐量,字节豆包大模型团队与香港大学发布并开源全新 RLHF 框架2024-11-03 15:24:59
- 智己汽车发布 IM AD 3.0 智驾,全球首批量产一段式端到端大模型2024-10-28 16:41:37
- 科大讯飞升级星火大模型,持续推动AI大模型产业化应用 | 最前线2024-10-25 14:58:35
- 钛媒体独家|大模型独角兽MiniMax将于11月发布首款对标GPT-4o的端到端实时语音对话API产品2024-10-25 10:26:26
- 中信建投:零一万物发布Yi-Lightning,国产大模型迭代加速2024-10-25 07:57:29
- 加速大模型上车 浪潮信息自动驾驶计算框架AutoDRRT 2.0实现车端低延时计算2024-10-21 17:07:00
- 国内首个应用临床眼科大模型 “伏羲慧眼”发布,可检测、预测眼部健康状态2024-10-21 09:28:33
- 字节跳动大模型遭实习生攻击,损失超千万美元?相关人士回应2024-10-19 14:18:35