神经正切核是一种用于解释神经网络在梯度下降训练过程中演化行为的核方法。它深入阐释了为何宽度足够的神经网络能够一致收敛至经验损失函数的全局最小值，即使在参数量远超训练样本数的过参数化情况下亦是如此。研究进一步探讨了在神经网络具有无限宽度的设定下，通过刻画神经正切核来证明其在不同初始化条件下能够确定性收敛的理论依据。

在训练数据有限的情况下，文章探讨了两种生成合成数据的核心方法。一是数据增强，通过对现有样本施加变换、扭曲等操作生成新数据点，同时保持关键属性不变，这种方法在文本和图像领域已有较多应用。二是生成全新数据，尤其依赖强大的预训练语言模型（如GPT、LLaMA），在极少甚至没有原始数据时，能够通过上下文学习生成高质量的合成数据点，显著拓展了小样本学习的可能性。

研究发现，Transformer语言模型中的“归纳头”可能是其实现上下文学习能力的主要机制。归纳头是一种能够识别并复制序列模式的内部电路，其功能是在序列中寻找当前令牌的先前出现，并预测相同的后续令牌。在训练早期，模型会经历一个“相位变化”，此时归纳头迅速形成，同时上下文学习能力显著提升。通过架构扰动、直接剔除等六条互补的证据链表明，这种电路不仅存在于小型模型中，也可能构成了大型模型上下文学习的核心机制。这一机制性解释为理解模型内部计算、系统化解决安全问题提供了新途径。

监督学习任务的性能通常随高质量标签数量的增加而提升，但大规模标注数据的获取成本高昂。在标签稀缺的场景下，半监督学习作为一种有效的机器学习范式，通过同时利用大量无标签数据与少量标签数据来提升模型性能。面对有限的标注数据，本文重点探讨了四种常用的半监督学习方法，为数据受限条件下的模型训练提供了技术路径。

自回归语言模型（GPT-3、GPT-Neo、GPT-J 等）的多项选择任务评估存在多种实现路径。文章系统梳理了当前主流的归一化（Normalization）方法，针对模型在不同选项上的概率计算方式、长度偏差修正及分数标准化技术进行详细阐述，为统一语言模型评测标准提供方法论参考。

训练大型神经网络面临GPU内存需求巨大和训练时间漫长的双重挑战。文章系统梳理了多种主流的并行训练范式，以及模型架构与内存优化设计方案，为跨多GPU训练超大规模神经网络提供了可行路径。文中进一步补充了专家选择路由等新技术，并提及本文的精简升级版已作为《训练大型神经网络的技术》发布于OpenAI官方博客。

该评估系统对比了旋转位置编码（RoPE）与 GPT 类学习式位置编码在下游任务中的性能表现，通过多维度基准测试分析两种位置编码机制的应用差异，为 Transformer 模型架构中位置编码方案的选择提供实证依据。

研究团队对GPT-Neo模型开展下游任务微调实验，利用eval harness评测体系进行针对性训练，系统观测微调过程对其性能表现产生的具体影响。实验通过调整模型参数适配特定任务，评估预训练模型在下游场景中的能力变化与适应性表现，为理解微调对模型性能的优化效果提供实证数据支撑。

针对类 GPT 自回归语言模型开展激活函数消融实验，系统评估不同激活函数对模型性能的影响。通过对比分析各类激活函数在自回归架构中的表现差异，检验其对模型表达能力、训练稳定性及生成质量的作用机制，为大语言模型的激活函数选择与架构优化提供实验依据。

旋转位置编码（RoPE）作为一种新型位置编码技术，统一了绝对位置与相对位置编码方法。该技术突破了传统位置编码的局限，在保持绝对位置信息的同时实现了相对位置感知能力。测试验证表明，这种编码方案在模型性能和位置外推方面展现出优势，为大语言模型的位置表示策略提供了新的技术路径。

可控神经文本生成是当前人工智能研究的热点，旨在引导大型语言模型生成具有特定属性的文本。现代语言模型虽在多项自然语言处理任务上表现先进，但控制生成内容属性仍面临挑战。主流方法包括引导解码策略、智能提示设计和模型微调。自2021年以来，该领域持续更新：2月发布版本2.0，修正拼写错误并添加多项新研究；5月集成 P-tuning 和 Prompt Tuning 等提示优化技术；9月引入未似然训练方法，进一步提升生成控制的精准度。这些进展推动了可控文本生成在实际应用中的发展。

课程学习作为一种渐进式教学方法，通过分解复杂任务并提供由易到难的学习序列，显著提升了强化学习模型解决复杂问题的能力。文章系统介绍了该方法在强化学习领域的应用框架，涵盖任务特定课程设计、基于课程的学习策略等关键技术，并特别提及了程序化内容生成技术与知识蒸馏新路径。最新更新于2020年2月增加了相关技术章节，进一步扩展了课程学习的实现维度与实践参考。

本文聚焦自监督表示学习，这是一种利用未标注数据通过监督学习范式进行训练的关键技术。文章全面覆盖了在图像、视频以及控制问题中应用的自监督学习任务。自2020年1月9日首次更新以来，文章不断演进，新增了对比预测编码部分；2020年7月8日引入了双模拟主题，探讨DeepMDP和DBC模型。期间，曾系统介绍动量对比方法，包括MoCo、SimCLR、CURL、MoCo V2和BYOL，但于2021年5月31日将这部分内容整合到独立的对比表示学习文章中。通过这些关键更新，文章反映了自监督学习领域的快速进展和研究动态。

Meta-RL是将元学习应用于强化学习任务的方法。其核心在于，智能体在经历了一系列任务的分布训练后，能够通过内部活动动态自主生成新的强化学习算法，从而快速高效地解决全新的任务。文章首先追溯了Meta-RL的起源，随后深入剖析了该方法的三个关键组成部分。

深度神经网络因参数众多且训练误差易达完美，常被认为会严重过拟合，却仍能有效泛化到样本外数据，这一悖论困扰着许多从传统机器学习转型的研究者。文章更新于2019年5月27日，新增了Lottery Ticket Hypothesis部分，该假说通过网络稀疏性为理解泛化能力提供了新视角。内容从困惑切入，分析深度学习与传统方法的差异，探讨过拟合问题的本质，但未提供具体实验数据或指标。

元学习，又称“学会学习”，旨在设计能够快速适应新任务或环境的模型，仅需少量训练样本。其主流方法包括三类：基于度量的方法，通过学习高效的距离度量；基于模型的方法，利用带有内部或外部存储的（循环）网络；以及基于优化的方法，通过显式优化模型参数以实现快速学习。此外，文章提及已有中文翻译版本可用。

本文系统梳理了自编码器系列模型的演进历程。自编码器通过瓶颈神经网络结构学习高维数据的压缩表示，其副产品是可用于降维、特征提取等任务的潜在编码。文章重点介绍了变分自编码器（VAE）及其关键变体Beta-VAE，它们通过引入概率框架和解缠约束，显著提升了生成能力。此外，还涵盖了去噪、稀疏等经典改进模型，并补充了后续发展如VQ-VAE与TD-VAE的相关内容。

这是一篇系统性的强化学习入门综述，内容涵盖从基础概念到经典算法的完整知识路径。文章旨在为初学者搭建清晰的认知框架，避免其在专业术语中迷失。它详细梳理了强化学习的主要算法，并于近期更新了SARSA和Q-learning算法的描述，使两者的差异更加清晰。作为一篇长文，它还提供了中文翻译版本，以帮助中文读者理解这一人工智能的重要分支。

词嵌入是一种将词汇表示为数值向量的密集表达方法，能够通过多种语言模型学习得到。这种表示形式可以揭示词语之间隐藏的关系，例如“猫”与“小猫”的向量差类似于“狗”与“小狗”的向量差。文章介绍了几种用于学习词嵌入的模型，并阐述了其损失函数的设计原理，旨在帮助机器学习模型理解和处理自然语言文本。

Naftali Tishby教授在生前演讲中提出，信息论可应用于研究深度神经网络的训练过程，核心是信息瓶颈

该教程介绍了如何使用Tensorflow构建循环神经网络（RNN）来预测股票市场价格，其中第一部分重点针对标准普尔500指数进行预测。教程提供了完整可运行的代码，托管于GitHub仓库。