AI社区

人工智能模型社区 1个主题内容
ChatGPT注册使用 0个主题内容
算力百科 0个主题内容
bug及解决办法 0个主题内容
数据集应用社区 7个主题内容
AI大学 2个主题内容
应用案例：双目作为3D相机，仿照人类双眼感知世界
卷积神经网络（Convolutional Neural Networks）
BP(back propagation)神经网络
SOM 自组织映射神经网络
独立同分布（iid，independently identically distribution）
层次聚类算法
Mean Squared Error 均方误差
致AI开发者的公开信

Messages

OctoPack：指令调整代码大型语言模型

Niklas Muennighoff、Qian Liu、Armel Zebaze、Qinkai Zheng、Binyuan Hui、Terry Yue Zhuo、Swayam Singh、Xiangru Tang、Leandro von Werra和Shayne Longpre
本文介绍了一种利用代码进行指令调整的方法，以提高大型语言模型（LLMs）在自然语言任务中的性能。作者们利用 Git 提交的自然结构，将代码更改与人类指令配对，使用代码进行指令调整。他们编译了 CommitPack，其中包含 350 种编程语言的 4TB Git 提交。作者们在 16B 参数的 StarCo...
论文地址：https://arxiv.org/pdf/2308.07124.pdf

用户分享观点：