大模型新突破!Meta Llama 3.1 能回忆《哈利波特》42% 的内容!
最近,一组来自斯坦福大学、康奈尔大学和西弗吉尼亚大学的计算机科学家与法律学者共同发表了一项引人瞩目的研究,分析了几款开源大型语言模型在文本记忆方面的表现。这项研究着重考察了五种不同的开放权重模型,它们的能力是否能够重复经典书籍中的内容。这五款模型中,有三款来自 Meta,另外两款分别由微软和 EleutherAI 开发。研究团队采用了 Books3这一流行的书籍数据库,作为训练这些大模型的素材,值