使用大模型开发“数据解读大师”应用，同事们惊呆了
文章概要：
1. 作者认为国产大模型面临数据体量和质量跟不上、缺乏高质量数据等问题，且大模型推理能力可能下降。
2. 作者使用智谱AI开发了一款名为“数据解读大师”的应用，该应用可以根据用户提供的真实业务数据生成数据分析结论和建议方案。
3. 作者介绍了“数据解读大师”的开发流程，包括注册BigModel账号、创建API Key、选择GLM-4-Plus模型并自定义参数、编写代码、应用部署和使用。
4. 作者分享了使用GLM-4-Plus模型的感受，认为该模型在数据处理、推理计算、编程等能力上出众，能够精确捕捉语言细微差别，输出的结论贴近人类思维方式。
阅读原文
2. 作者使用智谱AI开发了一款名为“数据解读大师”的应用，该应用可以根据用户提供的真实业务数据生成数据分析结论和建议方案。
3. 作者介绍了“数据解读大师”的开发流程，包括注册BigModel账号、创建API Key、选择GLM-4-Plus模型并自定义参数、编写代码、应用部署和使用。
4. 作者分享了使用GLM-4-Plus模型的感受，认为该模型在数据处理、推理计算、编程等能力上出众，能够精确捕捉语言细微差别，输出的结论贴近人类思维方式。
大语言模型技术演进与启示！
文章概要：
1. 大模型技术体系复杂，涉及算法、硬件和系统架构的全方位整合。
2. 2024全球机器学习技术大会特设“大模型技术演进”分论坛，探讨从设计到实际落地的核心技术实践。
3. 来自多家机构与企业的嘉宾分享了Transformer效率优化、合成指令优化、多模态跨模态对齐等技术的最新研究成果。
4. 王炳宁介绍了Transformer的机制是Attention，通过全局关注输入序列，实现显著的效果提升。
5. Michael Wong分享了AI领域的发展现状和未来方向，包括硬件创新、软件框架进化、Python的重要性等。
6. 刘广介绍了Infinity Instruct项目，通过整合现有开源数据，构建两级标签体系，提升了数据筛选的效率。<> 7. 吴凌翔介绍了紫东太初多模态模型，包括可变形视觉Transformer模型、对比掩码自监督模型、数据鲁棒自监督模型等。
8. 鱼哲介绍了生成式AI的核心目标和挑战，包括最大化机会和选择任务，将AI的应用场景划分为四个象限。
9. 孟令公介绍了大模型推理性能优化与实践，包括KV Cache管理Prefill阶段和Decode阶段的优化。
10. 彭厚文介绍了腾讯混元多模态大模型技术实践与思考，包括视觉视觉-语言适配器、大语言模型等。
11. 圆桌对话环节，嘉宾围绕“大模型系统技术实践”展开了深入分享，涵盖了系统能力划分、开发工具链的不足以及大模型的实际应用方向等核心议题。
阅读原文
2. 2024全球机器学习技术大会特设“大模型技术演进”分论坛，探讨从设计到实际落地的核心技术实践。
3. 来自多家机构与企业的嘉宾分享了Transformer效率优化、合成指令优化、多模态跨模态对齐等技术的最新研究成果。
4. 王炳宁介绍了Transformer的机制是Attention，通过全局关注输入序列，实现显著的效果提升。
5. Michael Wong分享了AI领域的发展现状和未来方向，包括硬件创新、软件框架进化、Python的重要性等。
6. 刘广介绍了Infinity Instruct项目，通过整合现有开源数据，构建两级标签体系，提升了数据筛选的效率。<> 7. 吴凌翔介绍了紫东太初多模态模型，包括可变形视觉Transformer模型、对比掩码自监督模型、数据鲁棒自监督模型等。
8. 鱼哲介绍了生成式AI的核心目标和挑战，包括最大化机会和选择任务，将AI的应用场景划分为四个象限。
9. 孟令公介绍了大模型推理性能优化与实践，包括KV Cache管理Prefill阶段和Decode阶段的优化。
10. 彭厚文介绍了腾讯混元多模态大模型技术实践与思考，包括视觉视觉-语言适配器、大语言模型等。
11. 圆桌对话环节，嘉宾围绕“大模型系统技术实践”展开了深入分享，涵盖了系统能力划分、开发工具链的不足以及大模型的实际应用方向等核心议题。
AI大模型赋能抗体设计：基于语言模型的抗体结合位点精准预测方法ParaAntiProt
文章概要：
1. 近日，来自伊朗沙里夫理工大学的研究团队开发了一种创新的抗体结合位点(paratope)预测方法——ParaAntiProt，该方法基于蛋白质语言模型和抗体语言模型，实现了高精度的抗体结合位点预测。
2. ParaAntiProt的创新之处在于将蛋白质语言模型和抗体语言模型相结合，仅依靠氨基酸序列就能实现高精度预测。该方法的核心架构包含以下几个关键组件：多重语言模型嵌入、CDR位置编码创新、深度学习架构设计。br>3. ParaAntiProt在多个数据集上展现出优异的性能，在标准测试集性能在SAbDab数据集上的 AUC、F1分数、MCC指标都优于现有方法。在纳米抗体预测能力在纳米抗体数据集上的ROC AUC、PR AUC表现优于专门的纳米抗体预测模型。
4.Prot具有以下显著优势：仅需序列信息、抗原无关性、多场景适用、高效且实用。
5. 尽管取得了显著成果，ParaAntiProt仍存在一些局限：未考虑疏水性、电荷等物理化学性质、不同语言模型的嵌入维度差异带来的挑战、训练规模有限。
6. 未来研究方向包括：整合物理化学特性、开发维度管理策略、扩大训练数据集规模。
7. 研究团队已将相关代码和数据集开源，可通过以下地址访问： https://github.com/Alirzeanoroozi/PAntiProt。
阅读原文
2. ParaAntiProt的创新之处在于将蛋白质语言模型和抗体语言模型相结合，仅依靠氨基酸序列就能实现高精度预测。该方法的核心架构包含以下几个关键组件：多重语言模型嵌入、CDR位置编码创新、深度学习架构设计。br>3. ParaAntiProt在多个数据集上展现出优异的性能，在标准测试集性能在SAbDab数据集上的 AUC、F1分数、MCC指标都优于现有方法。在纳米抗体预测能力在纳米抗体数据集上的ROC AUC、PR AUC表现优于专门的纳米抗体预测模型。
4.Prot具有以下显著优势：仅需序列信息、抗原无关性、多场景适用、高效且实用。
5. 尽管取得了显著成果，ParaAntiProt仍存在一些局限：未考虑疏水性、电荷等物理化学性质、不同语言模型的嵌入维度差异带来的挑战、训练规模有限。
6. 未来研究方向包括：整合物理化学特性、开发维度管理策略、扩大训练数据集规模。
7. 研究团队已将相关代码和数据集开源，可通过以下地址访问： https://github.com/Alirzeanoroozi/PAntiProt。
大模型吞吐率总是上不去，我太难了。。。
文章概要：
. 面试官心理分析：主要想了解者做过大模型服务性能的调，是否了解模型服务吞吐率跟哪些因素有关以及展开实战用过的优化技术，是怎么解决这个问题的
2. 面试题剖析：模型的率单次推理的延迟和模型一次能处理请求数量有关因此让吞吐率提高的方法尽量降低模型的推理，同时增大模型的处理请求能力
3. 进阶大的单次推理采用权重+激活来解决，如果profile到服务的资源空余，可以投机采样方法来做；大模型的并行处理能力两个优化方向一是在显存运行的，模型一次的size，是在业务允许下，扩展，增加节点数。<>4.进阶：业务中实际且行之有效的技术让面试官信服，要注意重点，最重要，落地的来讲也是考验技术的，切忌不分。br>.一层回答就以现目前最流行加速明显 b技术，来详细讲解是如何和实际业务模型结合的
阅读原文
2. 面试题剖析：模型的率单次推理的延迟和模型一次能处理请求数量有关因此让吞吐率提高的方法尽量降低模型的推理，同时增大模型的处理请求能力
3. 进阶大的单次推理采用权重+激活来解决，如果profile到服务的资源空余，可以投机采样方法来做；大模型的并行处理能力两个优化方向一是在显存运行的，模型一次的size，是在业务允许下，扩展，增加节点数。<>4.进阶：业务中实际且行之有效的技术让面试官信服，要注意重点，最重要，落地的来讲也是考验技术的，切忌不分。br>.一层回答就以现目前最流行加速明显 b技术，来详细讲解是如何和实际业务模型结合的
猎户星空发布MoE大模型，推出AI数据宝AirDS
文章概要：
1. 1127猎户星空聚云科技了题为《Data for Al，MoE模型发布暨闭环分享》媒体见面会，了Orion-MoE 87大模型，并携手聚云科技AI数据宝AirDS。
2. 猎户星空首席科学家韩堃介绍了Oriono 8×7B大模型的特点和优势。
3. 猎户研发MoE模型对训练的认知理解和能力积累，携手猎豹移动旗下聚云科技共同推出模型服务—AI数据宝AirDS。br>4. 猎豹移动副总裁童在会上详细介绍AI数据宝Air的案例<>5. 会议接近尾声，移动高级副总裁孙明总结此次推出AI数据是猎豹移动在多个领域的既有基因和显著优势。<>6. 除了发布Oriono 8×7B大模型AI数据宝AirDS，星空宣布与香港大学与科学学院签订了合作。
阅读原文
2. 猎户星空首席科学家韩堃介绍了Oriono 8×7B大模型的特点和优势。
3. 猎户研发MoE模型对训练的认知理解和能力积累，携手猎豹移动旗下聚云科技共同推出模型服务—AI数据宝AirDS。br>4. 猎豹移动副总裁童在会上详细介绍AI数据宝Air的案例<>5. 会议接近尾声，移动高级副总裁孙明总结此次推出AI数据是猎豹移动在多个领域的既有基因和显著优势。<>6. 除了发布Oriono 8×7B大模型AI数据宝AirDS，星空宣布与香港大学与科学学院签订了合作。
35家央国企已落地66个大模型，国家队引领AI变革
文章概要：
1. 国资央企是国民经济的主体、国家科技创新的主力军、维护国家安全的核心力量，承担着统筹推进传统产业升级、新兴产业壮大、未来产业培育的战略任务。2. 2023年以来，国资委多次对中央企业发展人工智能提出要求。在2024年2月的中央企业人工智能专题推进会上，提出中央企业要“AI行动”，强化需求牵引，加快重点行业赋能，构建一批产业多模态优质数据集，打造从基础设施、算法工具、智能平台到解决方案的大模型赋能产业生态”。3. 在政策指引下，国资央企正快马加鞭推动大模型布局，成为大模型落地的“新势力”。按照“数据为根、算力为本、以用促研”的思路，国资央企正在发挥各自之所长，挖掘场景之所需，探索中国特色的“大模型技术体系”。4. 据不完全统计，央国企已落地的6个AI大模型布局，服务于企业内部实现降本增效的同时为外部千行百业。5在大模型的相关投入上基于其自身能力承担不同的研发任务。在通用大模型（L0）的研发方面，三大通信运营商承担主力军。6. 行业大模型（L1）和细分领域专用大模型L2）是大部分央企的投入重点。行业大模型建设的关键成功因素在于高质量领域数据，这正在国资央企的优势所在。
阅读原文
写给小白的大模型应用科普：RAG篇
文章概要：
1. 文章介绍了模型被普遍看好的两个专业应用方向是RAG与Agent，RAG是最重要的方案，其基本思想将传统的生成式模型实时信息检索相结合，大模型来自外部相关数据上下文帮助大模型更丰富、更、更可靠内容。br> 2用一个例子帮助理解AG的，将大模型比喻成一个经过大量知识与训练优秀学生大响应的比喻成，这个优秀学生考试时可能会遇到掌握知识，编造答案幻觉）RAG在这个学生考试时给他的参考书。
4.介绍一个基础、最常见的AG应用的架构与流程一个简单的R应用从整体上分为索引（ing）数据查询Query）大的阶段，而在阶段都包含的环节。
阅读原文
4.介绍一个基础、最常见的AG应用的架构与流程一个简单的R应用从整体上分为索引（ing）数据查询Query）大的阶段，而在阶段都包含的环节。
AI大模型如何重塑软件开发：现状、优势与未来展望
文章概要：
1. AI大模型的定义与特点：具有强大的自然语言处理能力，能够理解、生成并优化代码，其核心特点包括强大的语言理解和生成能力、跨领域知识整合、持续学习与优化、高效的人机交互。
2. AI大模型在软件开发中的应用场景：包括需求分析与设计代码生成与优化、测试与调试、运维与维护等。
3. 现代AI编码工具生态：介绍Cursor AI编辑器、Claude Artifacts功能、Bolt.new平台等工具。
4. AI大模型带来的优势：提升效率、降低开发门槛、提高质量、促进创新。
5. AI大模型面临的挑战：技术挑战包括代码质量保障安全性问题、模型局限性；组织与管理挑战包括开发流程调整、团队角色转变、伦理与责任问题；数据隐私与合规性涉及用户隐私和数据合规性问题。
6. 未来发展趋势：包括智能化开发平台的普及、人机协作模式的优化、行业定制化模型的兴起、AI辅助决策的普及、AI开发工具的融合与进化、企业采用策略。
阅读原文
2. AI大模型在软件开发中的应用场景：包括需求分析与设计代码生成与优化、测试与调试、运维与维护等。
3. 现代AI编码工具生态：介绍Cursor AI编辑器、Claude Artifacts功能、Bolt.new平台等工具。
4. AI大模型带来的优势：提升效率、降低开发门槛、提高质量、促进创新。
5. AI大模型面临的挑战：技术挑战包括代码质量保障安全性问题、模型局限性；组织与管理挑战包括开发流程调整、团队角色转变、伦理与责任问题；数据隐私与合规性涉及用户隐私和数据合规性问题。
6. 未来发展趋势：包括智能化开发平台的普及、人机协作模式的优化、行业定制化模型的兴起、AI辅助决策的普及、AI开发工具的融合与进化、企业采用策略。
写给小白的大模型入门科普
文章概要：
1 大模型是包含超大规模参数（通常在十亿个以上）的神经网络模型，业界大部分的大模型，都了transformer架构。
2. 大模型的训练过程分为预训练和微调两个环节，预训练使用海量的未标注数据，微调使用特定领域的标注数据集。
3. 大模型的作用根据训练的数据类型应用方向，可以分为语言大模型、音频大模型、视觉大模型和多模态大模型。
4. 大模型的发展趋势是从“打造大模型”变成“使用大模型”，大模型落地到能力“入”端，也带来了轻量化的趋势。
5 大模型会带来一些新的挑战，如影响失业率、版权问题、算法偏见和不公平、被用于犯罪、能耗问题等。
阅读原文
2. 大模型的训练过程分为预训练和微调两个环节，预训练使用海量的未标注数据，微调使用特定领域的标注数据集。
3. 大模型的作用根据训练的数据类型应用方向，可以分为语言大模型、音频大模型、视觉大模型和多模态大模型。
4. 大模型的发展趋势是从“打造大模型”变成“使用大模型”，大模型落地到能力“入”端，也带来了轻量化的趋势。
5 大模型会带来一些新的挑战，如影响失业率、版权问题、算法偏见和不公平、被用于犯罪、能耗问题等。
大模型应用人人皆可开发，星火低代码智能体平台全新升级
文章概要：
1. 202年被视作智能体落地元年，国内外大模型厂商纷纷布局智能体开发平台，讯飞星火也在探索智能体生态。br>2. 智能体像AI时代的“自媒体”，低创作门槛、强应用潜力，让每个普通人都可以成为开发者。
3 智能体由大语言模型、、规划工具能力组成，C端和B场景都广泛应用。
4. 今年1024开发者节，星火低代码体平台全新升级，微调平台实现定制优化、升级RAG扩充知识上线创建模板开发门槛
.的星火代码体平台提供可视化操作界面，用户将大型语言模型、、代码等模块灵活组合编排复杂且稳定的业务流程。
6 智能体上线，体开发像乐高一样有趣，0编程基础的用户也上手。
. 提供AI应用开发全套工具链，定制开发多场景深度业务。<>8. 智能赛道正处于发展阶段，讯飞星火致力于打造一个强丰富易于使用体，一个、协作且充满活力的生态。
阅读原文
3 智能体由大语言模型、、规划工具能力组成，C端和B场景都广泛应用。
4. 今年1024开发者节，星火低代码体平台全新升级，微调平台实现定制优化、升级RAG扩充知识上线创建模板开发门槛
.的星火代码体平台提供可视化操作界面，用户将大型语言模型、、代码等模块灵活组合编排复杂且稳定的业务流程。
6 智能体上线，体开发像乐高一样有趣，0编程基础的用户也上手。
. 提供AI应用开发全套工具链，定制开发多场景深度业务。<>8. 智能赛道正处于发展阶段，讯飞星火致力于打造一个强丰富易于使用体，一个、协作且充满活力的生态。
打破知识壁垒，原来AI大模型还可以这样玩！
文章概要：
1. 人工智能逐渐成为推动社会进步的中坚力量缩短园区企业前沿技术之间的掌握AI思维和运用方法，提高工作效率，2021127日合肥新站科创运营管理有限公司与安徽科技大市场建设运营有限公司合肥荃湖谷服务有限公司开展主题“打破信息差 AI模型基础教学的社群活动。<> 2 活动了AC讲师吴进行授课“生成式发展简析、“AI介绍”AI工具”三个让大家知道生成式AI发展、技术特点在领域的前景，并通过实际的带领大家了解了如何正确高效的AI大模型工具。
3. 活动在交流问答中迎来一波高潮，踊跃提问，讲师进行的交流讨论br> 4. 通过这次活动，打破了与AI技术之间的信息壁垒还了大家对AI的热情。下一步科创公司将了解企业发展需求，形式更为丰富园区活动根据活动的，持续优化活动内容和形式，为企业提供有价值的和资源，营造良好的氛围
阅读原文
3. 活动在交流问答中迎来一波高潮，踊跃提问，讲师进行的交流讨论br> 4. 通过这次活动，打破了与AI技术之间的信息壁垒还了大家对AI的热情。下一步科创公司将了解企业发展需求，形式更为丰富园区活动根据活动的，持续优化活动内容和形式，为企业提供有价值的和资源，营造良好的氛围
金融大模型落地，别卡在GPU上
文章概要：
1. 文章提到京东云云舰vGPU将GPU利用率提升0，加速金融大模型
2 文章引导用户关注公众号
阅读原文
2 文章引导用户关注公众号
【GET2024】科大讯飞韩萌：认知大模型技术在教育领域应用的思考
文章概要：
1. 科大讯飞教育大模型产品总经理韩萌在GET2024教育科技大会上进行了主题分享，探讨了认知大模型技术在教育领域的应用
2. 韩萌认为技术发展快于教育发展时会带来社会震荡和失业潮，教育信息化改变了老师的定位，大模型的机遇并非转瞬即逝，需要5-10年时间达到综合性解决方案
3. 大模型改变未来教育的关键点包括整体流程再造、应用边界拓展和人机交互界面，老师和学生在大模型技术下都面临挑战
4. 科大讯飞依托讯飞星火构建智能教室，遇到了如何参数化老师的育人智慧、化繁为简复杂知识和实现个性化学习的难题，通过学科逻辑、教学逻辑和学习逻辑的搭建，形成了智能教室，并在高中语文和数学学科试用
5. 教学一体化需要打造基于复合式AI的学习助手，构建多维知识图谱，关注学业、素养和兴趣，同时避免固化思维和放任自流
6. 大模型对学生身心健康服务意义重大，如体质健康监测和心理情感支持，现在很多工具可以满足个性化需求，技术不会替代老师，老师需要提升自己驾驭AI的能力
阅读原文
2. 韩萌认为技术发展快于教育发展时会带来社会震荡和失业潮，教育信息化改变了老师的定位，大模型的机遇并非转瞬即逝，需要5-10年时间达到综合性解决方案
3. 大模型改变未来教育的关键点包括整体流程再造、应用边界拓展和人机交互界面，老师和学生在大模型技术下都面临挑战
4. 科大讯飞依托讯飞星火构建智能教室，遇到了如何参数化老师的育人智慧、化繁为简复杂知识和实现个性化学习的难题，通过学科逻辑、教学逻辑和学习逻辑的搭建，形成了智能教室，并在高中语文和数学学科试用
5. 教学一体化需要打造基于复合式AI的学习助手，构建多维知识图谱，关注学业、素养和兴趣，同时避免固化思维和放任自流
6. 大模型对学生身心健康服务意义重大，如体质健康监测和心理情感支持，现在很多工具可以满足个性化需求，技术不会替代老师，老师需要提升自己驾驭AI的能力
保护大模型隐私安全，摩斯获NeurIPS顶会“2024大模型隐私挑战赛赛道冠军”
文章概要：
1. 摩斯联合浙江大学计算机体系结构实验室陈文智、成坤团队NeurIPS顶“224大模型挑战赛冠军。br> 2 摩斯攻击赛道中采用基于分段与聚合的计算方法加速候选项的选择过程，在比赛提供的L3.-8模型可以0.33的成功率
3. 摩斯防御赛道利用数据脱敏与合成技术，包含P语进行随机替换，之后以自回归的方式目标模型，可以扰乱大模型对P信息的，降低其输出PII的，防止隐私数据泄漏。
4.斯了大保护，产品融合多种技术路线，大模型落地应用中的模型微调、推理全链路数据和模型隐私保护br> 5 摩大模型保护产品已在、证券等多个落地推进中。
阅读原文
3. 摩斯防御赛道利用数据脱敏与合成技术，包含P语进行随机替换，之后以自回归的方式目标模型，可以扰乱大模型对P信息的，降低其输出PII的，防止隐私数据泄漏。
4.斯了大保护，产品融合多种技术路线，大模型落地应用中的模型微调、推理全链路数据和模型隐私保护br> 5 摩大模型保护产品已在、证券等多个落地推进中。
大幅降低数据科学门槛！豆包大模型团队开源AutoKaggle，端到端解决数据处理
文章概要：
1. 豆包大模型团队与M-A-P社区提出AutoKaggle，为数据科学家提供了一个端到端的数据处理解决方案，帮助简化和优化日常数据科学工作流程的同时，极大降低数据科学的门槛，可帮助更多没有相关背景的使用者进行有价值的探索。
2. AutoKaggle通过构建一个多智能体（Agent）的工作流，以提高逻辑复杂的数据科学任务中间决策步骤的可解释性与透明性，并保持优秀性能及易用性，以降低理解难度和使用门槛。br>3. 在对8个Kaggle竞赛数据集的评估中，AutoKaggle的有效提交率达到85%，综合评分为0.82（满分为1），超过了在MLE-Bench中表现优秀的AIDE框架，展现了其在复杂数据科学任务中的高效性和广泛适应性，性能超过人类平均水平！
4. 目前，论文成果已经开源，同时，团队针对AutoKaggle的运行结果提供了详细报告，可帮助大家观察细节，以便进一步探索。
阅读原文
2. AutoKaggle通过构建一个多智能体（Agent）的工作流，以提高逻辑复杂的数据科学任务中间决策步骤的可解释性与透明性，并保持优秀性能及易用性，以降低理解难度和使用门槛。br>3. 在对8个Kaggle竞赛数据集的评估中，AutoKaggle的有效提交率达到85%，综合评分为0.82（满分为1），超过了在MLE-Bench中表现优秀的AIDE框架，展现了其在复杂数据科学任务中的高效性和广泛适应性，性能超过人类平均水平！
4. 目前，论文成果已经开源，同时，团队针对AutoKaggle的运行结果提供了详细报告，可帮助大家观察细节，以便进一步探索。
基于昇思MindSpore打造的药灵大模型SciMind赋能新药研发
文章概要：
1. 华为全联接大会22期间，思Spore论坛聚焦大模型科学创新
. 中国科学院药物研究员明月分享基于昇思MindSpore打造药物大的报告
3. 郑明月与昇思、华为中央先进计算存储实验室开发药灵大模型Mind
4. SciMind模型架构包括接受四种模态输入、前馈层权重使用受限K-均值聚类1名专家等
.Mind包含专利数据解析、国产化学信息数据库、模态应用、合成规划四个创新场景
6 Sci在化学和生物信息处理具有强大和广泛，在药学领域了准确性实用性，在分子-语言多模态模型生成中第一名
阅读原文
. 中国科学院药物研究员明月分享基于昇思MindSpore打造药物大的报告
3. 郑明月与昇思、华为中央先进计算存储实验室开发药灵大模型Mind
4. SciMind模型架构包括接受四种模态输入、前馈层权重使用受限K-均值聚类1名专家等
.Mind包含专利数据解析、国产化学信息数据库、模态应用、合成规划四个创新场景
6 Sci在化学和生物信息处理具有强大和广泛，在药学领域了准确性实用性，在分子-语言多模态模型生成中第一名
AI大模型如何破解“指尖之累”？当虹龙智亮相世界元宇宙大会
文章概要：
1. 许多基层干部日常工作存在“多系统重复填报“留痕”使用”等问题，疲于应对各种“指尖工作”，专注于任务形成了“指尖的形式主义。
. 11月2日，在中国仿真、中国指挥与学会华中科技大学和北京理工大学共同主办的204第三届世界元大会上，虹智提供思路。
3. 当龙智以文本、、视频、音频等模态政务数据作为算料资源，全方位、多层次训练，基层政务打造了多模态AI政务大模型AI社工”br>4. “AI数字社工通过梳理、整合不同系统中的表格和字段，出高频报表，各实现数据和自动填报“指尖”干部，他们更专注服务群众
. “AI还承担复杂的任务，比如预警在瓶安全核查中，只需上传照片，大模型自动识别设备是否合规是否隐患，并提前给出预警，工作人员快速。
阅读原文
. 11月2日，在中国仿真、中国指挥与学会华中科技大学和北京理工大学共同主办的204第三届世界元大会上，虹智提供思路。
3. 当龙智以文本、、视频、音频等模态政务数据作为算料资源，全方位、多层次训练，基层政务打造了多模态AI政务大模型AI社工”br>4. “AI数字社工通过梳理、整合不同系统中的表格和字段，出高频报表，各实现数据和自动填报“指尖”干部，他们更专注服务群众
. “AI还承担复杂的任务，比如预警在瓶安全核查中，只需上传照片，大模型自动识别设备是否合规是否隐患，并提前给出预警，工作人员快速。
融资12亿！「银河通用机器人」创具身大模型国内融资记录
文章概要：
1. 银河通用机器人完成5亿元战略轮融资，参与投资机构包括上汽恒旭香港投资公司IC、深创投等，已完成超过12亿元融资，创下具身大模型领域融资纪录
2. 银河创始人、CTO王鹤现担任前沿计算中心助理教授、导师联合创始人姚腾洲毕业于航空航天研究所，师从王田苗
3. 银河通用在空间智能、智能硬件智能方面栈布局研发了世界第一个支持开放语义指令六自由度放的空间智能大模型系统Open6DOR及对应Benchmark
4.通用注重将学术研究转化为实践，今年6月了首款具身Galbot G19月美团战略合作协议，商业领域值守场景，布局到工厂车厂的中，康养医疗、科研教育、等场景应用
5. 银河通用计划于06年开始大规模，在未来3-5年内，将有更多机器人逐步进入工厂和家庭
阅读原文
2. 银河创始人、CTO王鹤现担任前沿计算中心助理教授、导师联合创始人姚腾洲毕业于航空航天研究所，师从王田苗
3. 银河通用在空间智能、智能硬件智能方面栈布局研发了世界第一个支持开放语义指令六自由度放的空间智能大模型系统Open6DOR及对应Benchmark
4.通用注重将学术研究转化为实践，今年6月了首款具身Galbot G19月美团战略合作协议，商业领域值守场景，布局到工厂车厂的中，康养医疗、科研教育、等场景应用
5. 银河通用计划于06年开始大规模，在未来3-5年内，将有更多机器人逐步进入工厂和家庭
大模型在数据管理和应用领域的实践
文章概要：
1. 壹钱包大模型应用现状：介绍了壹钱包大模型的应用场景，包括营销触达、宠物智能社区、数据管理、风控运营等。
2. 大模型在数据管理领域的：包括辅助安全和监管对数据的分类分级要求，可实现节省90%人力；尝试实现元数据检索；打标商品标签并迁移至用户，提升用户标签丰富度。
3. 大模型在数据风控领域的应用：包括风控运营案件处理，效率从30分钟降低到分钟；电话照会剧本生成；管控建议及案件小结生成。
4. 大模型技术架构及平台建设：整体平台架构包括技术底座、工程建设与平台建设；通过RAG技术实现基于知识库的智能回复；解决多轮对话问题IUR；通过Workflow Agent技术处理复杂业务。
5. 问答环节：回答了在大模型场景下做用户标签或画像时，如何权衡API调用的时效和成本问题；用大模型进行资产分级分类时，每晚都会全面运行一遍，这是只对原始数据进行扫描，还是会涉及交易数据呢；传统的数据分级分类往往依赖于数据管理平台上的人工标注来进行分级分类，那么应该如何结合我们自身准则、人员权限等，来为大模型提供必要的知识输入？另外，如果我们在前端已经为数据定义了相应的安全分类等级分类，是否可以通过数据的血缘关系，将自动地传递到下游，从而补充到整条数据链路中的所有相关数据上？
阅读原文
2. 大模型在数据管理领域的：包括辅助安全和监管对数据的分类分级要求，可实现节省90%人力；尝试实现元数据检索；打标商品标签并迁移至用户，提升用户标签丰富度。
3. 大模型在数据风控领域的应用：包括风控运营案件处理，效率从30分钟降低到分钟；电话照会剧本生成；管控建议及案件小结生成。
4. 大模型技术架构及平台建设：整体平台架构包括技术底座、工程建设与平台建设；通过RAG技术实现基于知识库的智能回复；解决多轮对话问题IUR；通过Workflow Agent技术处理复杂业务。
5. 问答环节：回答了在大模型场景下做用户标签或画像时，如何权衡API调用的时效和成本问题；用大模型进行资产分级分类时，每晚都会全面运行一遍，这是只对原始数据进行扫描，还是会涉及交易数据呢；传统的数据分级分类往往依赖于数据管理平台上的人工标注来进行分级分类，那么应该如何结合我们自身准则、人员权限等，来为大模型提供必要的知识输入？另外，如果我们在前端已经为数据定义了相应的安全分类等级分类，是否可以通过数据的血缘关系，将自动地传递到下游，从而补充到整条数据链路中的所有相关数据上？
连信数字的“洞见人和”心理大模型赋能社会治理与民生服务，通过工信部工业文化发展中心“AI产业创新场景应用案例”评定
文章概要：
1. 浙江连信数字研发的《洞见心理模型社会治理民生服务智能体，荣获AI产业创新场景应用案例”认证。
2 工业和部工业文化中心于224年5月“AI产业场景应用”征集评估黑马负责征集任务承担工作并开展伙伴服务运营。br> 3主要通过6个标准进行，包括场景应用、技术维度、、体验、社会效益和风险。
4.信将人工智能大数据和物联网尖端技术于心理健康心理学应用确立
5. 连信研发“洞人和”大，了国家网信认证，行业领先。<> 6 依托“洞大模型社会治理、心健康政务服务产业发展等多领域科技创新业务场景，了评估智能系统谈话助手、智能审讯系统生命体征等应用产品
阅读原文
2 工业和部工业文化中心于224年5月“AI产业场景应用”征集评估黑马负责征集任务承担工作并开展伙伴服务运营。br> 3主要通过6个标准进行，包括场景应用、技术维度、、体验、社会效益和风险。
4.信将人工智能大数据和物联网尖端技术于心理健康心理学应用确立
5. 连信研发“洞人和”大，了国家网信认证，行业领先。<> 6 依托“洞大模型社会治理、心健康政务服务产业发展等多领域科技创新业务场景，了评估智能系统谈话助手、智能审讯系统生命体征等应用产品
“要把AI用起来，这是企业的一号工程”
文章概要：
1. 文章主要讨论了AI如何塑造产业未来以及企业如何把握AI转型的机遇，涉及AI在工业、服务业和日常生活的广泛应用，以及AI技术如何推动产业变革和企业效率的提升
2. 嘉宾们分享了对于人工智能和机器人的看法和经验，包括通用人工智能的发展阶段、具身智能在工业场景中的应用、工业机器人的能力和应用场景、大模型的应用落地和潜力、多模态能力的提升对行业的影响、国内外机器人产业的发展水平和制约因素等
3. 最后，嘉宾们对企业在AI时代的转型提出了建议，包括关注最前沿的技术、脚踏实地找到结合点、将AI作为手段提升效率、裁掉部分程序员和设计师并让他们学会使用AI工具、改变获取知识的习惯等
阅读原文
2. 嘉宾们分享了对于人工智能和机器人的看法和经验，包括通用人工智能的发展阶段、具身智能在工业场景中的应用、工业机器人的能力和应用场景、大模型的应用落地和潜力、多模态能力的提升对行业的影响、国内外机器人产业的发展水平和制约因素等
3. 最后，嘉宾们对企业在AI时代的转型提出了建议，包括关注最前沿的技术、脚踏实地找到结合点、将AI作为手段提升效率、裁掉部分程序员和设计师并让他们学会使用AI工具、改变获取知识的习惯等
【AIGC学习地图】能力提升系列二：prompt+国内外大模型工具手册大全
文章概要：
1. 文章介绍了Prompt工程的原理、设计、实践应用和编写有效的词的技巧。
2. 文章列举了国外大模型工具，包括文案创作、音频生成、图像设计、视频生成、自主学习等领域的工具。
3. 文章列举了国内大模型工具，包括文案创作、音频生成、图像设计、视频生成、数字人、自主学习等领域的工具。
阅读原文
2. 文章列举了国外大模型工具，包括文案创作、音频生成、图像设计、视频生成、自主学习等领域的工具。
3. 文章列举了国内大模型工具，包括文案创作、音频生成、图像设计、视频生成、数字人、自主学习等领域的工具。
人工智能大模型在智慧农业领域的应用
文章概要：
1 人工智能大模型概述：介绍了人工智能大的基本概念和构成，包括卷积神经网络和递归神经网络等能够处理和分析大量数据，识别、语言和预测分析等多个领域出色。
.模型在智慧农业具体应用：包括作物病虫害检测与预测、灌溉系统与水资源、作物生长监测与产量预测以及农业与自动化作业。br>3. 人工智能带来的与优势：包括提高农业效率与产量降低资源消耗与环境影响决策制定风险管理。<>.：总结了人工智能模型在智慧农业领域的为实现可持续发展提供了支持，也了需要解决的。
阅读原文
.模型在智慧农业具体应用：包括作物病虫害检测与预测、灌溉系统与水资源、作物生长监测与产量预测以及农业与自动化作业。br>3. 人工智能带来的与优势：包括提高农业效率与产量降低资源消耗与环境影响决策制定风险管理。<>.：总结了人工智能模型在智慧农业领域的为实现可持续发展提供了支持，也了需要解决的。
【报告9114】小米大模型端侧部署落地探索（34页PDF下载）
文章概要：
1 该网页文章是一篇报告分享，主题为小米端侧落地探索
2. 文章提供了报告的PDF下载地址，并表示职场新精英会全网搜集精选实时干货的，助力每一位快速成长
3. 受篇幅限制，文章仅列举了报告内容
4. 文章建议如果觉得本期分享的内容有帮助，欢迎把文章分享给身边更多的朋友
阅读原文
2. 文章提供了报告的PDF下载地址，并表示职场新精英会全网搜集精选实时干货的，助力每一位快速成长
3. 受篇幅限制，文章仅列举了报告内容
4. 文章建议如果觉得本期分享的内容有帮助，欢迎把文章分享给身边更多的朋友
一文理解多模态大语言模型——上
文章概要：
1 本文是对多模态语言的，作者在阅读大量相关论文和博客的基础，了解读多模态语言模型的文章《Understand Multimodal LLMs》
2 多模态大能够处理“模态输入的大语言模型其中每个“的特定的数据，：文本声音图像、等处理结果以文本类型输出。
3. 构建多模态语言的方式：统一嵌入解码器架构和跨模态注意架构< 4 统一解码器架构是一种将图像向量和文本向量组合成嵌入向量后输入大模型的架构其优点无需修改原大模型架构。
阅读原文
2 多模态大能够处理“模态输入的大语言模型其中每个“的特定的数据，：文本声音图像、等处理结果以文本类型输出。
3. 构建多模态语言的方式：统一嵌入解码器架构和跨模态注意架构< 4 统一解码器架构是一种将图像向量和文本向量组合成嵌入向量后输入大模型的架构其优点无需修改原大模型架构。
OpenVINO 2024.5发布，让在边缘或云端运行大模型更轻松
文章概要：
1 OpenVINO在22年12日了OpenV™ 22.5版本，使得部署AI更加和高效，实现在、云端本地AI大<>. OpenVINO 204.最新亮点包括新增了在CPU和GPU上的，NPU现在支持模型，新的OpenV™ Not，广泛LLM支持和更多的技术，边缘、云端或AI PC上运行AI，具有更好可移植和性能新的V Gen应用br>. 大家可以通过立即下载、完整发布说明深入最新的upyter、Hging上的转换模型、ModelScope模型等方式来试试OpenVINO 2.5
阅读原文
大模型分布式训练学习过程总结（万字长文）
文章概要：
1. 介绍了分布式训练学习过程包括必要前置知识、演进路线等。
2. 阐述了分布式训练的加速原理和内存开销。
3. 讲解了分布式训练的几种方法，包括数据并行、管线并行、张量并行和DeepSpeed等。
4. 对分布式训练的进行了展望。
阅读原文
2. 阐述了分布式训练的加速原理和内存开销。
3. 讲解了分布式训练的几种方法，包括数据并行、管线并行、张量并行和DeepSpeed等。
4. 对分布式训练的进行了展望。
红山开源系列创新大赛·大模型竞赛·创意应用赛圆满落幕
文章概要：
1. 11月8，20年度红山开源系列创新的大竞赛应用决赛成功举办。本次竞赛由中国学会开源发展委员会提供指导，红山开源平台与启元联合主办。
2. 竞赛参赛团队“九格端侧大模型作为基础模型，创意出发点、技术创新、产品原型和实现方面展示基于九”模型并实现其在行业的创新应用。<> 3. 竞赛设有能力挑战和创新应用两大赛，旨在激发开发者的研究热情创新，基于大模型能力提升和创意应用共吸引了9支团队参与，涵盖了多所高校、军事院校、机构企业br>. 经过激烈的和决赛评审武警工程大学蛛丝迹军警视频深度系统荣获，获奖依次中国移动、长沙大学理工、中国地质北京)华南
7 未来，启元实验室邀请更多团队访问交流实习，进一步提升质量，扩大其影响力，科研院所企事业单位搭建合作桥梁。
阅读原文
2. 竞赛参赛团队“九格端侧大模型作为基础模型，创意出发点、技术创新、产品原型和实现方面展示基于九”模型并实现其在行业的创新应用。<> 3. 竞赛设有能力挑战和创新应用两大赛，旨在激发开发者的研究热情创新，基于大模型能力提升和创意应用共吸引了9支团队参与，涵盖了多所高校、军事院校、机构企业br>. 经过激烈的和决赛评审武警工程大学蛛丝迹军警视频深度系统荣获，获奖依次中国移动、长沙大学理工、中国地质北京)华南
7 未来，启元实验室邀请更多团队访问交流实习，进一步提升质量，扩大其影响力，科研院所企事业单位搭建合作桥梁。
红山开源系列创新大赛·大模型竞赛·创意应用赛圆满落幕
文章概要：
1 11月8日024年度红山系列的大模型应用决赛成功<> 2 竞赛参赛以九侧大模型基础，围绕创意出发点、技术、原型设计和技术实现方面，展示如何基于“格大并实现其在行业的应用<> 3 竞赛设有能力挑战和应用大赛道共吸引29支团队报名参与。> 4.激烈的初赛和决赛评审，工程大学的蛛丝马迹”视频深度检索系统荣获一等奖，获奖团队依次中国移动、长沙理工大学、北京理工大学中国地质大学（北京华南师范大学
.颁奖典礼上刘知远发表了题为“大知识定律：可持续AGI”的，王洪振研究员了。br 6 作为大赛的联合启元实验室全面参与赛事组织与工作提供了基座模型、基础算力支持及培训课程，并参与了CCF开源发展委员会组织的场线上直播和宣讲活动。br> 7.，元计划邀请更多优秀团队进行访问交流和，以进一步提升质量，扩大其，科研院所及企搭建合作。
阅读原文
.颁奖典礼上刘知远发表了题为“大知识定律：可持续AGI”的，王洪振研究员了。br 6 作为大赛的联合启元实验室全面参与赛事组织与工作提供了基座模型、基础算力支持及培训课程，并参与了CCF开源发展委员会组织的场线上直播和宣讲活动。br> 7.，元计划邀请更多优秀团队进行访问交流和，以进一步提升质量，扩大其，科研院所及企搭建合作。
大模型落地中国第一！百度认准大模型新方向：超级有用
文章概要：
1. 百度发布了两大AI技术：检索增强的文生图技术（iR无代码工具“秒哒”。李彦宏，智能体是AI应用的最主流形态，即将迎来爆发点。
2. 截至11月初，百度文心大模型的日均调用量超15，增长7.5倍。百度重点突破了幻觉问题，成功开发了检索增强的文生图技术iRAG，极大地提高了AI生成图片的可用性。
3. 百度将“智能体”作为公司最重要的战略方向，展示了公司、角色、工具、行业类智能体的特色功能及使用场景。目前，文心智能体平台已吸引了1万家企业和80万名开发者。
4. 百度智能云已经在能源、电力、制造、金融、交通、政务、互联网、教育、电商等数十个行业、几百个场景中落地大模型应用。
5. 百度智能云推出的百舸AI异构计算平台4.0，服务了中国石化、中海石油、长安汽车、上海交通大学、地平线等行业企业，目前已了成熟的0万卡集群部署和管理能力。
阅读原文
2. 截至11月初，百度文心大模型的日均调用量超15，增长7.5倍。百度重点突破了幻觉问题，成功开发了检索增强的文生图技术iRAG，极大地提高了AI生成图片的可用性。
3. 百度将“智能体”作为公司最重要的战略方向，展示了公司、角色、工具、行业类智能体的特色功能及使用场景。目前，文心智能体平台已吸引了1万家企业和80万名开发者。
4. 百度智能云已经在能源、电力、制造、金融、交通、政务、互联网、教育、电商等数十个行业、几百个场景中落地大模型应用。
5. 百度智能云推出的百舸AI异构计算平台4.0，服务了中国石化、中海石油、长安汽车、上海交通大学、地平线等行业企业，目前已了成熟的0万卡集群部署和管理能力。
昆仑万维“天工大模型4.0”o1版：首个中文逻辑推理AI
文章概要：
1. 昆仑维集团近日宣布，正式复杂思考推理能力的系列模型——“天.”o（Skywork o1）<>.天模型.”o1Skywork1）国内第一款具备中文推理能力的o1模型。 Sky o在逻辑推理任务上性能大幅提升得益于工阶段自研的训练方案，包括推理反思能力、推理强化学习以及planning。br5. 昆仑将开源推理任务的Process Reward Model（PRM）work o1-PRM-1.B 和Skywork o Open-PRM7这进一步国内开源社区现1进程。
阅读原文
精彩演讲 | 罗智泉院士：落地实现AI大模型的价值，需要考虑部署成本
文章概要：
1. 1月6中国院士香港中文大学深圳副校长学术、深圳市大数据院长智泉数字化时代的变革——“AI发展现状应用”做精彩演讲，并与线上近0万进行了互动。<>. 罗智院士简要梳理了的发展，及全球态势，并指出我国大语言发展迅速，但在技术封锁的大下上呈追随。>. 罗院士将AI能耗与人脑对比，大模型的发展模式不可的，落地实现模型的，部署成本，领域中小模型新方向<>4 罗院士对中国及产业持乐观态度以AI技术赋能G网络性能亲身体展现了AI在突破技术封锁引领产业升级的巨大作用
5.AI的发展，院士表示更重要的广泛应用，的很重要，因为能耗、能力等方面的，AI产业在烧钱的。
阅读原文
5.AI的发展，院士表示更重要的广泛应用，的很重要，因为能耗、能力等方面的，AI产业在烧钱的。
报春数据2024年会分享丨刘文远：钢铁企业大模型应用的技术路线探讨
文章概要：
1 2024年111下午中国钢铁绿色转型数字创新高峰论坛举行。论坛上大学网络感知大数据研究、教授、导师刘文远发表了《钢铁企业模型技术路线》演讲。
2. 刘文远教授深入探讨了钢铁大应用前沿技术分享其独到的见解。从人工智能与大的兴起燕山大学-智大模型实验室的建设以及钢铁大模型应用等三个方面详细了模型企业发展关键作用。
3. 刘文远指出，随着工业.0时代的，行业正面临着未与。在一下大模型的应用不仅能够提高生产效率还优化资源分配，降低能耗实现绿色可持续他强调，构建钢铁行业特点相适应大模型，可以有效市场需求，指导生产，提升产品质量。br>.演讲中刘文远教授还了智谱AI的最新研究成果。他详细介绍联合实验室钢铁模型研发方面的进展，数据采集、模型训练、模型在实际生产应用情况。，还探讨大模型钢铁行业应用前景，如何通过技术创新行业。
阅读原文
2. 刘文远教授深入探讨了钢铁大应用前沿技术分享其独到的见解。从人工智能与大的兴起燕山大学-智大模型实验室的建设以及钢铁大模型应用等三个方面详细了模型企业发展关键作用。
3. 刘文远指出，随着工业.0时代的，行业正面临着未与。在一下大模型的应用不仅能够提高生产效率还优化资源分配，降低能耗实现绿色可持续他强调，构建钢铁行业特点相适应大模型，可以有效市场需求，指导生产，提升产品质量。br>.演讲中刘文远教授还了智谱AI的最新研究成果。他详细介绍联合实验室钢铁模型研发方面的进展，数据采集、模型训练、模型在实际生产应用情况。，还探讨大模型钢铁行业应用前景，如何通过技术创新行业。
投资人逃离大模型
文章概要：
1. 截至目前，国内至少已有200多家大模型厂商推出了各自的产品，互联网大厂、垂直于AI领域的老牌厂商和有出色实力的新秀。
2. 国外AI主流玩家们在过去的两年里也迎来了迅猛的发展和AI、Anthropic、Meta、Google等企业纷纷推出了新一代的大模型产品。
3. 开源大模型和闭源大模型都作为大模型的两种主要技术形态，其各自拥有独特魅力和应用场景。
4. 大模型时代并不同于前三个时代，由于大模型通用性的特征，其发展十分有望实现商业闭环。
5. 大模型的市场规模也在持续扩大，资本热度攀升，但随着市场竞争的日益激烈，算力等资源会呈现供需失衡的状态并出现资源配置倾斜。
6. 如今，这场百模大战已持续一年有余，战事正逐渐往新的阶段升级，大模型融资已经在开始慢慢降温了。
7. 大模型的发展需要大量资源和算力的消耗，在这种逻辑下，金钱就成唯一入场券
8. 这样的境地也迫使大模型人士开始继续思考未来的商业化，浪漫的技术研发逐渐向艰苦的落地求生转化。
9. 由此，引发了一系列新的竞争，首当其冲的，就是大模型之间的价格战。
10. 另外，在新时代下，大模型正在从拼参数到卷应用上。
11. 不同的厂商采取了不同的策略，一些厂商通过大量的广告宣传来吸引用户利用流量优势；一些则不断进行产品迭代和优化，以提升产品性能和用户体验；还有一些采取了面向消费者和企业两端的策略，以扩大市场份额。
阅读原文
2. 国外AI主流玩家们在过去的两年里也迎来了迅猛的发展和AI、Anthropic、Meta、Google等企业纷纷推出了新一代的大模型产品。
3. 开源大模型和闭源大模型都作为大模型的两种主要技术形态，其各自拥有独特魅力和应用场景。
4. 大模型时代并不同于前三个时代，由于大模型通用性的特征，其发展十分有望实现商业闭环。
5. 大模型的市场规模也在持续扩大，资本热度攀升，但随着市场竞争的日益激烈，算力等资源会呈现供需失衡的状态并出现资源配置倾斜。
6. 如今，这场百模大战已持续一年有余，战事正逐渐往新的阶段升级，大模型融资已经在开始慢慢降温了。
7. 大模型的发展需要大量资源和算力的消耗，在这种逻辑下，金钱就成唯一入场券
8. 这样的境地也迫使大模型人士开始继续思考未来的商业化，浪漫的技术研发逐渐向艰苦的落地求生转化。
9. 由此，引发了一系列新的竞争，首当其冲的，就是大模型之间的价格战。
10. 另外，在新时代下，大模型正在从拼参数到卷应用上。
11. 不同的厂商采取了不同的策略，一些厂商通过大量的广告宣传来吸引用户利用流量优势；一些则不断进行产品迭代和优化，以提升产品性能和用户体验；还有一些采取了面向消费者和企业两端的策略，以扩大市场份额。
AI大模型的三种增强技术：让AI更懂你的需求
文章概要：
1. 大语言模型在实际，用户往往需要模型更专业、更及时或更有针对性的能力。接下来我们将深入三种主流的模型增强技术：上下文学习、RAG和微调，详细它们如何提升模型性能，以及在实际应用中的优势与局限。
2. 上下文学习技术解决了大语言模型在特定任务适配上的核心问题。少样本学习是上下文学习最常用的实现形式。
3. 上下文学习的技术实现相对简单，但其背后的认知机制却十分复杂。然而，上下文学习面临着几个关键性的技术限制。
4. RAG技术通过创新的检索增强生成架构，从根本上解决了大语言模型知识更新的问题。RAG的技术架构包含两个核心模块：检索模块和生成模块。
5. RAG技术虽然强大，但也面临着一些重要挑战。微调技术通过继续训练来提升模型在特定能力。微调的技术本质是一个参数优化的过程。
6. 微调技术主要有两种实现方式：监督式微调（SFT）和基于人类反馈的强化学习（RLHF）。微调技术虽然强大，但也面临着几个重要挑战。
7. 这三种技术方法各有优势，也各有其适用场景。在技术选择时，需要综合考虑多个因素：任务的专业性要求、知识更新的需求、资源的可用性、时间和成本的限制等。
阅读原文
2. 上下文学习技术解决了大语言模型在特定任务适配上的核心问题。少样本学习是上下文学习最常用的实现形式。
3. 上下文学习的技术实现相对简单，但其背后的认知机制却十分复杂。然而，上下文学习面临着几个关键性的技术限制。
4. RAG技术通过创新的检索增强生成架构，从根本上解决了大语言模型知识更新的问题。RAG的技术架构包含两个核心模块：检索模块和生成模块。
5. RAG技术虽然强大，但也面临着一些重要挑战。微调技术通过继续训练来提升模型在特定能力。微调的技术本质是一个参数优化的过程。
6. 微调技术主要有两种实现方式：监督式微调（SFT）和基于人类反馈的强化学习（RLHF）。微调技术虽然强大，但也面临着几个重要挑战。
7. 这三种技术方法各有优势，也各有其适用场景。在技术选择时，需要综合考虑多个因素：任务的专业性要求、知识更新的需求、资源的可用性、时间和成本的限制等。
中科院香港创新院发布CARES Copilot 2.0具身智能手术AI大模型
文章概要：
1. 近日，科学院香港创新研究院人工智能与机器人中心发布了RESilot具身AI大的2.0版本。
2.RES Copilot 2.在技术和功能上实现四大核心：MedSearch高效医学与内容生成Know智能建议手术报告自动生成系统具身与超声检查。
3.RES Copilot.0发布在领域应用备受瞩目，身智能正逐步渗透到微创手术和手术机器人中为医生提供高精度、低风险。
4. 中国科学院香港创新机器人创新还成功了第二届具身科技，论坛汇聚了专家学者临床医生及医疗器械者各方人士共同探讨了人工智能在的最新突破与趋势
阅读原文
2.RES Copilot 2.在技术和功能上实现四大核心：MedSearch高效医学与内容生成Know智能建议手术报告自动生成系统具身与超声检查。
3.RES Copilot.0发布在领域应用备受瞩目，身智能正逐步渗透到微创手术和手术机器人中为医生提供高精度、低风险。
4. 中国科学院香港创新机器人创新还成功了第二届具身科技，论坛汇聚了专家学者临床医生及医疗器械者各方人士共同探讨了人工智能在的最新突破与趋势
大模型改变了NLP的游戏规则了吗（文末送书）
文章概要：
1. 自从 ChatGPT 横空出世以来，自然语言处理研究领域出现消极声音，认为大模型技术导致LP “死了”，也有人认为大模型为 NLP 打开了新天地。交通大学 ACM 班创办人俞勇教授等几位 AI 学界大咖认为，不了解过去，就无法当下。所以俞勇教授等大佬们决心为 NLP 技术编写一本在历史和现代之间更加平衡的教科书——《动手学自然语言处理》。
2. 2年前后，基于符号系统和统计学习的方法主导着 NLP 研究的潮流。2018 年，基于 Transfomer 架构的预训练语言模型崛起。到 2022 年底，ChatGPT 的发布引发了前所未有的热潮，自然语言处理进入新时代。
本书的作者团队堪称豪华，包括屠可伟、王新宇、曲彦儒、俞勇等。本书将 NLP 的知识分为基础、序列、结构三部分，读者学透 NLP 只需要走好这三步。
4. 本书最大的特色就是理论与实践紧密了大量的配套学习。
阅读原文
2. 2年前后，基于符号系统和统计学习的方法主导着 NLP 研究的潮流。2018 年，基于 Transfomer 架构的预训练语言模型崛起。到 2022 年底，ChatGPT 的发布引发了前所未有的热潮，自然语言处理进入新时代。
本书的作者团队堪称豪华，包括屠可伟、王新宇、曲彦儒、俞勇等。本书将 NLP 的知识分为基础、序列、结构三部分，读者学透 NLP 只需要走好这三步。
4. 本书最大的特色就是理论与实践紧密了大量的配套学习。
Scaling Law 撞墙？复旦团队大模型推理新思路：Two-Player架构打破自我反思瓶颈
文章概要：
1. 在 AI 领域，近期的新闻焦点是关于「Scaling Law 是否撞墙？」的辩论，复旦 NLP 研究团队提出了一种全新的双模型协作架构（Two-Player Paradigm），让评判模型（Critique Model）参与到行为模型（Actor Model）的推理过程中，以打破传统依赖于单一模型的限制，实现性能随计算投增大的不断提升。
2. 研究团队聚焦以下四个核心内容：如何自动化构建 critique 数据集，训练高效、可靠的评判模型（Critique Model）；推动测试阶段的扩展（Test-time Scaling）；通过交互协作提升行为模型的训练性能（Training-time Scaling）；基于 critique 数据的 Self-talk 帮助模型自我纠错。
3. 作者们提出了一个创新性框架 ——AutoMathCritique，可以自动生成步骤级别的反馈（step-level feedback），并基于此构建了名为 MathCritique-76k 的数据集，用于训练评判模型。
4. 研究团队深入探讨了评判模型在测试阶段助力推理性能的机制，并通过引入双模型协作架构 Critique-in-the-Loop，有效缓解了模型探索与学习的自训练过程中常见的长尾分布问题，为复现 OpenAI o1 深度推理表现开辟了新的可能性。6. 实验探究：Critique 模型在训练时对模型性能的影响，Critique-in-the-loop 能够显著改善这一情况，既使得模型的自我提升较为稳定，又能够在多个采样次数下获得相当显著的。
7. 实验探究：Critique 模型扩展性（Scaling Properties），无论何种模型大小， Critique 模型的存在均能显著提升模型测试性能。
8. 实验探究：Critique 模型对 Majority Voting 性能的影响，拥有 Critique 模型的情况下，Actor 模型在整体上提高了问题的正确率，从而带来了 Majority Voting 的稳定性。
9. 实验探究：不同计算策略对性能的影响，在 Pass@k 的设定下，线性采样的表现略低于并行采样，这可能源于并行会带来更多样化的答案选择。而需要给出答案的设定下，仅选取最终答案并不如 Majority voting 的表现要好，强调了内在一致方式的重要性；随着采样次数的提高，线性采样的性能超过了并行采样的方式，这有可能源于当采样次数足够大时，并行采样带来的多样性答案可能有害于最终的性能表现，而线性采样通过反复修改一个回答，使得结果更加稳定。
10. 基于 Critique 数据构建 Self-talk 模型帮助自我纠错，Self-talk 形式帮助模型在每一个推理步骤后立刻开始反思与改进，而不必等整个轨迹生成完之后再进行改进。
阅读原文
2. 研究团队聚焦以下四个核心内容：如何自动化构建 critique 数据集，训练高效、可靠的评判模型（Critique Model）；推动测试阶段的扩展（Test-time Scaling）；通过交互协作提升行为模型的训练性能（Training-time Scaling）；基于 critique 数据的 Self-talk 帮助模型自我纠错。
3. 作者们提出了一个创新性框架 ——AutoMathCritique，可以自动生成步骤级别的反馈（step-level feedback），并基于此构建了名为 MathCritique-76k 的数据集，用于训练评判模型。
4. 研究团队深入探讨了评判模型在测试阶段助力推理性能的机制，并通过引入双模型协作架构 Critique-in-the-Loop，有效缓解了模型探索与学习的自训练过程中常见的长尾分布问题，为复现 OpenAI o1 深度推理表现开辟了新的可能性。
7. 实验探究：Critique 模型扩展性（Scaling Properties），无论何种模型大小， Critique 模型的存在均能显著提升模型测试性能。
8. 实验探究：Critique 模型对 Majority Voting 性能的影响，拥有 Critique 模型的情况下，Actor 模型在整体上提高了问题的正确率，从而带来了 Majority Voting 的稳定性。
9. 实验探究：不同计算策略对性能的影响，在 Pass@k 的设定下，线性采样的表现略低于并行采样，这可能源于并行会带来更多样化的答案选择。而需要给出答案的设定下，仅选取最终答案并不如 Majority voting 的表现要好，强调了内在一致方式的重要性；随着采样次数的提高，线性采样的性能超过了并行采样的方式，这有可能源于当采样次数足够大时，并行采样带来的多样性答案可能有害于最终的性能表现，而线性采样通过反复修改一个回答，使得结果更加稳定。
10. 基于 Critique 数据构建 Self-talk 模型帮助自我纠错，Self-talk 形式帮助模型在每一个推理步骤后立刻开始反思与改进，而不必等整个轨迹生成完之后再进行改进。
大语言模型的幻觉和人类的幻觉有啥区别？
文章概要：
1 大语言模型和生成式人工智能在各个领域中得到了应用，但这些强大的工具也会出现令人啼笑皆非的案例，引发人们对其可靠性深思。
2. 大语言的幻觉来源主要有训练集数据质量参差不齐和模型本质上是统计学的，对世界的真正理解概率猜测。<>. 要减少语言模型，可以从提高训练数据的通过外部RAG知识库逻辑推理的Prompts模型的能力、人机交互设定安全机制等入手。
阅读原文
2. 大语言的幻觉来源主要有训练集数据质量参差不齐和模型本质上是统计学的，对世界的真正理解概率猜测。<>. 要减少语言模型，可以从提高训练数据的通过外部RAG知识库逻辑推理的Prompts模型的能力、人机交互设定安全机制等入手。
电信数智参编《人工智能云管理服务能力要求 大模型工程化交付》系列标准
文章概要：
1 20年1，中国信通院的跨越·升级——AI Cloud MSP大模型交付服务主题活动以标准提升交付质量”成功在京会上正式发布《人工智能服务要求 大模型工程化系列。
2 该标准由中国信通院编制，旨在提升行业标准化水平，通过标准提升大模型交付质量提升加快人工智能云计算标准体系向各行业渗透赋能。中电信数智科技有限公司作为参编单位，深度参与了本次标准编制，与融合等人工智能技术融合提供了大力支撑。
3 随着AI技术云计算的融合，上云云赋智新，数智融合算力底座及训推一体平台提升AI时代质量<. 融合算力底座电信数自研，面向私有化多算力融合场景聚焦算力、算力高性能算力等算力多层面、多角度的编排，构建无缝分布式体系，实现算力区域、跨厂商、跨架构的和，“融合算力一体化”能力<>.推是电信数的，集成大模型训练推理栈调优的AI平台。训推平台针对特定业务提供“开箱即用大模型，并通过协同优化提高性能降低大模型部署、方案建设和调试的。
阅读原文
2 该标准由中国信通院编制，旨在提升行业标准化水平，通过标准提升大模型交付质量提升加快人工智能云计算标准体系向各行业渗透赋能。中电信数智科技有限公司作为参编单位，深度参与了本次标准编制，与融合等人工智能技术融合提供了大力支撑。
3 随着AI技术云计算的融合，上云云赋智新，数智融合算力底座及训推一体平台提升AI时代质量<. 融合算力底座电信数自研，面向私有化多算力融合场景聚焦算力、算力高性能算力等算力多层面、多角度的编排，构建无缝分布式体系，实现算力区域、跨厂商、跨架构的和，“融合算力一体化”能力<>.推是电信数的，集成大模型训练推理栈调优的AI平台。训推平台针对特定业务提供“开箱即用大模型，并通过协同优化提高性能降低大模型部署、方案建设和调试的。
大模型（LLM）和智能体（Agent）有什么区别？
文章概要：
1 大和智能体的关系，可以用生产流水线来比喻，大模型像是流水线环节里的车机系统智能体就是整个生成流水线。
. 大是指通过数据训练的语言处理模型，处理的，的功能是和自然语言，进行、文本生成问题回答任务
3 智能体是可以自主执行并作出决策的系统，不仅仅限于处理语言，而是能够在的中执行多种任务。<>4. 大模型智能可以互补使用，例如，智能体可以使用大模型自然语言和来与人类进行，但它具备自主决策、环境和任务执行能力
阅读原文
. 大是指通过数据训练的语言处理模型，处理的，的功能是和自然语言，进行、文本生成问题回答任务
3 智能体是可以自主执行并作出决策的系统，不仅仅限于处理语言，而是能够在的中执行多种任务。<>4. 大模型智能可以互补使用，例如，智能体可以使用大模型自然语言和来与人类进行，但它具备自主决策、环境和任务执行能力
360发布全球首份《大模型安全漏洞报告》，曝光近40个大模型相关安全漏洞
文章概要：
1. 全球人工智能浪潮持续升温，大模型能力得到进一步提升也带来的风险
2. 30数字安全集团全球首份《大安全报告》，从模型层、框架层和应用层三大维度探查安全问题>3. 报告借助360大的分析能力，多个开源项目代码梳理和风险评估>.审计并发现了近4个大安全漏洞，范围覆盖多个知名模型服务框架国际厂商开发的产品
5. 报告全面呈现了大发展所面对的安全威胁态势构建更加安全健康AI数字环境
阅读原文
2. 30数字安全集团全球首份《大安全报告》，从模型层、框架层和应用层三大维度探查安全问题>3. 报告借助360大的分析能力，多个开源项目代码梳理和风险评估>.审计并发现了近4个大安全漏洞，范围覆盖多个知名模型服务框架国际厂商开发的产品
5. 报告全面呈现了大发展所面对的安全威胁态势构建更加安全健康AI数字环境
通义千问2.5大模型免费开源，你知道最快的用法吗？
文章概要：
1. 阿里云的通义问25大是人工智能开源领域的里程碑
2 英推理服务平台为开发者提供便捷体验，可快速接入千问全家桶
3. 平台向用户免费200万Tokens，参与推广可获
4. 介绍了英智大模型推理API平台快速调用模型的步骤
阅读原文
2 英推理服务平台为开发者提供便捷体验，可快速接入千问全家桶
3. 平台向用户免费200万Tokens，参与推广可获
4. 介绍了英智大模型推理API平台快速调用模型的步骤
松鼠Ai栗浩洋：AI自习室没有大模型能走下去吗？
文章概要：
1. 松鼠Ai栗浩洋在GET2024教育科技大会上进行了主题分享，探讨AI自习室与大模型结合的价值。
2. 松鼠Ai的大模型是学生的学习顺序排序，通过100亿学习行为数据训练而成。
3. 大模型的参数量大，可以解决暗逻辑，对人工智能自习室有意义
4. AI自习室可以通过分析学生的学习行为数据，提供个性化的学习路径，帮助学生提高学习效果。
. AI自习室可以通过分析学生的学习行为数据，提供个性化的学习路径，帮助学生学习效果。
6. 松鼠的大模型可以帮助学生提高学习效果，并且获得了国家发明专利和授权。
阅读原文
2. 松鼠Ai的大模型是学生的学习顺序排序，通过100亿学习行为数据训练而成。
3. 大模型的参数量大，可以解决暗逻辑，对人工智能自习室有意义
4. AI自习室可以通过分析学生的学习行为数据，提供个性化的学习路径，帮助学生提高学习效果。
. AI自习室可以通过分析学生的学习行为数据，提供个性化的学习路径，帮助学生学习效果。
6. 松鼠的大模型可以帮助学生提高学习效果，并且获得了国家发明专利和授权。
浩鲸科技助力AIIA发布多项关键大模型标准成果，共筑大模型生态
文章概要：
1. 浩鲸科技AIIA多项关键大模型成果，共筑大模型
. 浩鲸与中国通信研究院等合作伙伴共同启动“大模型培育行动计划”。
. 浩科技相关实践被纳入《204人工智能案例》。
. 浩科技南方电网获国家级殊荣，入选AII《24年先锋集br>5. 浩科技依托南方电网人工智能平台构建了一套计算与推理相结合的体系。br>6 浩鲸主导及参与的多项正式发布旨在为供需产业链规范，助力构建高质量大模型及应用，产业发展。br>7. 中国信通人工智能研究所所长魏凯，鲸科技在内的十余家成员代表启动“模型生态培育行动计划”
阅读原文
. 浩鲸与中国通信研究院等合作伙伴共同启动“大模型培育行动计划”。
. 浩科技相关实践被纳入《204人工智能案例》。
. 浩科技南方电网获国家级殊荣，入选AII《24年先锋集br>5. 浩科技依托南方电网人工智能平台构建了一套计算与推理相结合的体系。br>6 浩鲸主导及参与的多项正式发布旨在为供需产业链规范，助力构建高质量大模型及应用，产业发展。br>7. 中国信通人工智能研究所所长魏凯，鲸科技在内的十余家成员代表启动“模型生态培育行动计划”
周成虎：大模型推动地理科学迈向地理智能
文章概要：
1. 我国科学家以“坤元”命名了全球首个地理科学大模型，旨在拓宽普通大众的地理视野，增强地理科技工作者的智力加速重大地理科学发现。
2. 研发“坤元”大模型契机是地理科学是一个高度综合性的学科，大模型可以把不同时期地理知识统一在一个时空框架下，为解决全球气候变化、可持续发展问题提供新的科技手段。
3. “坤元”大模型的应用优势体现在“懂地理”“精配图”“知人心”“智生图”等方面，实现了地理专业问题解答、地理学文献智能分析、地理数据资源查询、地理数据挖掘分析、专题地图绘制等功能。
4. “坤元”大模型已经发挥了作用，例如文献的辅助阅读工作、撰写综述以及辅助撰写论文等。
5. 地理科学大模型驱动地理科学研究范式变革，目标是将地理科学研究从各个研究、各个课题或各个区域的小作坊模式转变为平台科研模式，将“坤元”打造成为地理科学领域研究者之间的重要协作工具。7. 遥感大模型的建设需要学术界和工业界共同联手研究、攻克遥感模型的底层技术。
阅读原文
2. 研发“坤元”大模型契机是地理科学是一个高度综合性的学科，大模型可以把不同时期地理知识统一在一个时空框架下，为解决全球气候变化、可持续发展问题提供新的科技手段。
3. “坤元”大模型的应用优势体现在“懂地理”“精配图”“知人心”“智生图”等方面，实现了地理专业问题解答、地理学文献智能分析、地理数据资源查询、地理数据挖掘分析、专题地图绘制等功能。
4. “坤元”大模型已经发挥了作用，例如文献的辅助阅读工作、撰写综述以及辅助撰写论文等。
5. 地理科学大模型驱动地理科学研究范式变革，目标是将地理科学研究从各个研究、各个课题或各个区域的小作坊模式转变为平台科研模式，将“坤元”打造成为地理科学领域研究者之间的重要协作工具。
第四期课程回顾丨大模型研讨课
文章概要：
1024年111日，“大模型研讨课”第四期在中国计算技术四层举行。
2 本次课程由明博士主持，探讨强化学习大模型训练和微调中的<>3 课程后半段，郭家明博士介绍了参数高效微调(PEFT)的前沿方法。
本次课程了计算所各实验室的众多师生现场参与，郭博士的分享与会者的未来研究工作提供了重要启发<>. 主讲人郭家明中国计算技术研究所特别研究助理，经验丰富
阅读原文
2 本次课程由明博士主持，探讨强化学习大模型训练和微调中的<>3 课程后半段，郭家明博士介绍了参数高效微调(PEFT)的前沿方法。
本次课程了计算所各实验室的众多师生现场参与，郭博士的分享与会者的未来研究工作提供了重要启发<>. 主讲人郭家明中国计算技术研究所特别研究助理，经验丰富
NeurIPS 2024 || GLBench: 面向大模型的图学习基准测试集
文章概要：
1 本文介绍了一篇关于图学习和大模型结合的重要研究，提出了GLBench基准测试集这首个系统评估图-大模型(GraphLLM方法的测试框架
.图学习，图神经网络(GNN)和训练语言PL)在处理已经取得显著研究进展
.Bench的核心架构包含三个关键组成：的与、学习场景设计以及评估方法的分类体系>4. 实验结果分为监督学习和零样本学习两个主要场景进行深入分析
.分析表明现有GraphLLM方法的和空间复杂度普遍高于传统GNN
. 参考文献：[1]Achiam, J et al. GPT-4 report arXiv preprint:2308774 23
[2], Z., et al. the potential of language models (LLMs) in learning on graphs. ACM SIGKDDations Newsletter, 204
[3]ipf T. N Welling. Semi-supervised classification with graph convolutional networks.CL, 2017
[4]Liu, Y., et al. RoBERT: A robustly optimized BERT pretraining. preprint arXiv:1907.12, 209
阅读原文
.图学习，图神经网络(GNN)和训练语言PL)在处理已经取得显著研究进展
.Bench的核心架构包含三个关键组成：的与、学习场景设计以及评估方法的分类体系>4. 实验结果分为监督学习和零样本学习两个主要场景进行深入分析
.分析表明现有GraphLLM方法的和空间复杂度普遍高于传统GNN
. 参考文献：[1]Achiam, J et al. GPT-4 report arXiv preprint:2308774 23
[2], Z., et al. the potential of language models (LLMs) in learning on graphs. ACM SIGKDDations Newsletter, 204
[3]ipf T. N Welling. Semi-supervised classification with graph convolutional networks.CL, 2017
[4]Liu, Y., et al. RoBERT: A robustly optimized BERT pretraining. preprint arXiv:1907.12, 209
深言科技：基于大模型的新一代智能信息处理平台
文章概要：
1. 深言科技是一家基于AI大模型的新一代智能信息处理平台，其产品涵盖AIGC文本生成、信息抽取聚合、等功能，旨在重塑数亿脑力劳动者和数千万信息密集型组织的信息处理全流程。
2. 深言科技孵化自清华大学自然语言处理实验室和北京智源人工智能研究院，其团队成员背景复合，具备丰富的研究、技术和产品经验。
3. 深言科技的产品深言达意是一款可根据模糊描述，找词找句的智能写作工具，其核心功能是“据意查词查句”，可以实现高效准确找到与输入意思相关的好词好句。
阅读原文
2. 深言科技孵化自清华大学自然语言处理实验室和北京智源人工智能研究院，其团队成员背景复合，具备丰富的研究、技术和产品经验。
3. 深言科技的产品深言达意是一款可根据模糊描述，找词找句的智能写作工具，其核心功能是“据意查词查句”，可以实现高效准确找到与输入意思相关的好词好句。
大模型杀疯了...
文章概要：
1. AI大模型已衍生出智能化应用，已从模型训练延展到企业应用服务，为各行业提供定制化人工智能解决方案。
2. 咕泡人工智能《人人都要学的AI大模型全栈课》课程内容对非计算机专业人士友好，提供从0基础到原理的完整学习路线。
3. 课程包含26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型，从理论到实践给予最大程度支持。
4. 课程特色包括顶尖专家理论+实践大模型就业实战课、老师直播讲解课后答疑、实操私人部署、拆解20多个AI大模型结合各行业落地成功等。
5. 课程提供五大课程专属学习服务，包括课程内容对非计算机专业背景友好、3个月共58小时的内容、全程互动式直播、社区支持与行业网络支持、每月1~2次的行业分析就业分析支持。
6. 课程具有六大产品特色，包括掌握AI未来解锁大模型无限潜能、基础到进阶构建完整知识体系、多模态融合拓宽AI应用场景、提升可解释性打造透明AI、紧跟行业趋势把握AI未来、实战导向加速AI项目落地。
7. 课程适合人群广泛，包括编程工作者、老板、管理者、产品经理、运营、客服等互联网行业从业者，以及即将进入职场的学生。
8. 课程一共学习3个月，每周2次直播课，上课时间为每周三、周五 20:00~22:00，如遇突发情况可能会提前一周临时调整上课时间。
9. 课程支持在线学习平台，提供视频、作业和资源库，同时助教团队将通过社群支持和课后辅导帮助学员解决学习中的问题。
10. 课程对学员的基础要求是只要认真每一节课，基本上都能听懂，另外如果有不懂的问题，可以在课程结束后当场进行答疑。
11. 大模型非常火爆，很多人急迫的想要了解目前最火爆的技术，该课程就是教大家最前沿的技术。
12. 课程学完后能达到超级个体能力、开发项目能力、训练专业大模型能力、独有场景【私人订制】项目、产品设计实战加强、业务沟通实战加强、学会AI绘图、AI设计等，成为真正成为超级个体，提升大模型认知，把握百年难遇的时代红利。
13. 本期课程视频永久有效，其中包含“在学期”和“观看期”。
14. 目前课程是直播学习和录播学习两种方式，对于中途插班或者开班之前参加学习的同学，可以先按照课程录播的顺序来学习，还会额外赠送三个课程。
阅读原文
2. 咕泡人工智能《人人都要学的AI大模型全栈课》课程内容对非计算机专业人士友好，提供从0基础到原理的完整学习路线。
3. 课程包含26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型，从理论到实践给予最大程度支持。
4. 课程特色包括顶尖专家理论+实践大模型就业实战课、老师直播讲解课后答疑、实操私人部署、拆解20多个AI大模型结合各行业落地成功等。
5. 课程提供五大课程专属学习服务，包括课程内容对非计算机专业背景友好、3个月共58小时的内容、全程互动式直播、社区支持与行业网络支持、每月1~2次的行业分析就业分析支持。
6. 课程具有六大产品特色，包括掌握AI未来解锁大模型无限潜能、基础到进阶构建完整知识体系、多模态融合拓宽AI应用场景、提升可解释性打造透明AI、紧跟行业趋势把握AI未来、实战导向加速AI项目落地。
7. 课程适合人群广泛，包括编程工作者、老板、管理者、产品经理、运营、客服等互联网行业从业者，以及即将进入职场的学生。
8. 课程一共学习3个月，每周2次直播课，上课时间为每周三、周五 20:00~22:00，如遇突发情况可能会提前一周临时调整上课时间。
9. 课程支持在线学习平台，提供视频、作业和资源库，同时助教团队将通过社群支持和课后辅导帮助学员解决学习中的问题。
10. 课程对学员的基础要求是只要认真每一节课，基本上都能听懂，另外如果有不懂的问题，可以在课程结束后当场进行答疑。
11. 大模型非常火爆，很多人急迫的想要了解目前最火爆的技术，该课程就是教大家最前沿的技术。
12. 课程学完后能达到超级个体能力、开发项目能力、训练专业大模型能力、独有场景【私人订制】项目、产品设计实战加强、业务沟通实战加强、学会AI绘图、AI设计等，成为真正成为超级个体，提升大模型认知，把握百年难遇的时代红利。
13. 本期课程视频永久有效，其中包含“在学期”和“观看期”。
14. 目前课程是直播学习和录播学习两种方式，对于中途插班或者开班之前参加学习的同学，可以先按照课程录播的顺序来学习，还会额外赠送三个课程。
大模型杀疯了...
文章概要：
1. AI大模型已衍生出很多智能化应用，且已从模型训练延展到企业应用服务。
2. 掌握AI大模型能力成为职场人基本能力，不同职业人群可利用其提升竞争力。
3. 咕泡人工智能的《人人都要学的AI大模型全栈课》提供从0基础到原理的完整学习路线，适合非计算机专业职场人士。
4. 课程内容包括理论到实践的支持，以及课程特色、学习收获、专属学习服务、产品特色等。
5 该课程适合不同人群，学习周期为3个月，每周2次直播课，师资力量雄厚。
6. 课程支持在线学习平台，提供视频、作业和资源库，同时有助教团队提供答疑解惑。
7. 课程对学员基础要求不高，零基础也可学习，且定位是人人都能学。
8. 大模型非常火爆，该大家最前沿的技术，学完后可提升超级个体能力、AI开发项目能力等。
9. 课程视频永久有效，包含在学期和观看期，现在报名通过直播或录播学习。
10. 咕泡科技在职业教育领域沉淀8年，在AI领域沉淀6年，是国内老牌AI技术培训机构。
阅读原文
2. 掌握AI大模型能力成为职场人基本能力，不同职业人群可利用其提升竞争力。
3. 咕泡人工智能的《人人都要学的AI大模型全栈课》提供从0基础到原理的完整学习路线，适合非计算机专业职场人士。
4. 课程内容包括理论到实践的支持，以及课程特色、学习收获、专属学习服务、产品特色等。
5 该课程适合不同人群，学习周期为3个月，每周2次直播课，师资力量雄厚。
6. 课程支持在线学习平台，提供视频、作业和资源库，同时有助教团队提供答疑解惑。
7. 课程对学员基础要求不高，零基础也可学习，且定位是人人都能学。
8. 大模型非常火爆，该大家最前沿的技术，学完后可提升超级个体能力、AI开发项目能力等。
9. 课程视频永久有效，包含在学期和观看期，现在报名通过直播或录播学习。
10. 咕泡科技在职业教育领域沉淀8年，在AI领域沉淀6年，是国内老牌AI技术培训机构。
大模型杀疯了...
文章概要：
1. AI大模型已衍生出很多智能化应用，且逐步从模型训练延展到企业应用服务。
2. 掌握AI大模型能力成为职场人基本能力，建议互联网行业从业者将其作为基础能力。
3. 咕泡人工智能《人人都要学的AI大模型全栈课》提供从0基础到原理的完整学习路线，让零基础的人也能学得会。
4. 课程内容对非计算机专业背景友好，精心设计的课程体系，理解快，学得会。
5. 课程特色包括顶尖专家理论+实践直播大模型就业实战课，掌握最新的技术趋势等。
6. 课程提供一对一辅导与答疑服务，确保学员在学习过程中遇到的任何问题都能得到及时解决。
学习周期为3个月，每周2次直播课，一共接近58个小时的直播内容。
8. 课程支持在线学习平台，提供视频、作业和资源库。同时，助教团队将通过社群支持和课后辅导帮助学员解决学习中的问题。
9. 课程定位是人人都能学，所以课程内容设计上考虑到了没有任何代码基础的同学，用更多的理论内容和图形化场景演示和讲解。
10. 课程学完后能达到应聘大模型岗位的要求和标准，同时，也能完整掌握AI方面的技术技能，为自己的职业方向赋能。
阅读原文
2. 掌握AI大模型能力成为职场人基本能力，建议互联网行业从业者将其作为基础能力。
3. 咕泡人工智能《人人都要学的AI大模型全栈课》提供从0基础到原理的完整学习路线，让零基础的人也能学得会。
4. 课程内容对非计算机专业背景友好，精心设计的课程体系，理解快，学得会。
5. 课程特色包括顶尖专家理论+实践直播大模型就业实战课，掌握最新的技术趋势等。
6. 课程提供一对一辅导与答疑服务，确保学员在学习过程中遇到的任何问题都能得到及时解决。
学习周期为3个月，每周2次直播课，一共接近58个小时的直播内容。
8. 课程支持在线学习平台，提供视频、作业和资源库。同时，助教团队将通过社群支持和课后辅导帮助学员解决学习中的问题。
9. 课程定位是人人都能学，所以课程内容设计上考虑到了没有任何代码基础的同学，用更多的理论内容和图形化场景演示和讲解。
10. 课程学完后能达到应聘大模型岗位的要求和标准，同时，也能完整掌握AI方面的技术技能，为自己的职业方向赋能。
大模型杀疯了...
文章概要：
1. AI大模型已衍生出很多智能化应用，且逐渐从模型训练延展到企业应用服务，掌握AI大模型能力成为职场人基本能力。
2. 咕泡人工智能的《人人都要学的AI课》对非计算机专业人士友好，提供从0基础到原理的完整学习路线。
3. 课程内容包括26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型等，学习目标是达到应聘大模型岗位要求
4. 课程特色包括顶尖专家理论+实践直播老师直播讲解、课后答疑、实操私人部署、拆解20多个AI大模型结合各行业落地成功案例等。
5. 课程学习服务包括课程内容对非计算机专业背景友好、3个月共58小时内容、全程互动式直播、社区支持与行业网络支持、每月1~2次的行业分析和就业分析支持等。
6. 课程适合人群包括编程工作者、老板、管理者、产品经理、运营、客服等互联网行业从业者，以及即将进入职场的学生。
7. 课程学习周期为3个月，每周2次直播课，上课时间为每周三、周五 20:00~22:00。
8. 课程师资力量雄厚，包括多位专家。
9. 课程支持在线学习平台，提供视频、作业和资源库，助教团队将通过社群支持和课后辅导帮助学员解决学习中的
10. 课程对学员的基础要求是AI大模型课程定位是人人都能学，课程内容设计上考虑到了没有任何代码基础的同学。
11. 学习AI大模型可以提升个人的超级个体能力、AI开发项目能力、训练专业大模型能力、独有场景【私人订制】项目能力、产品设计实战加强、业务沟通实战加强、学会AI、AI设计等。
12. 课程视频的观看期限是永久有效，其中包含“在学期”和“观看期”。
阅读原文
2. 咕泡人工智能的《人人都要学的AI课》对非计算机专业人士友好，提供从0基础到原理的完整学习路线。
3. 课程内容包括26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型等，学习目标是达到应聘大模型岗位要求
4. 课程特色包括顶尖专家理论+实践直播老师直播讲解、课后答疑、实操私人部署、拆解20多个AI大模型结合各行业落地成功案例等。
5. 课程学习服务包括课程内容对非计算机专业背景友好、3个月共58小时内容、全程互动式直播、社区支持与行业网络支持、每月1~2次的行业分析和就业分析支持等。
6. 课程适合人群包括编程工作者、老板、管理者、产品经理、运营、客服等互联网行业从业者，以及即将进入职场的学生。
7. 课程学习周期为3个月，每周2次直播课，上课时间为每周三、周五 20:00~22:00。
8. 课程师资力量雄厚，包括多位专家。
9. 课程支持在线学习平台，提供视频、作业和资源库，助教团队将通过社群支持和课后辅导帮助学员解决学习中的
10. 课程对学员的基础要求是AI大模型课程定位是人人都能学，课程内容设计上考虑到了没有任何代码基础的同学。
11. 学习AI大模型可以提升个人的超级个体能力、AI开发项目能力、训练专业大模型能力、独有场景【私人订制】项目能力、产品设计实战加强、业务沟通实战加强、学会AI、AI设计等。
12. 课程视频的观看期限是永久有效，其中包含“在学期”和“观看期”。
大模型杀疯了...
文章概要：
1. AI大模型从出圈到现在2年多时间，各个行业已经基于大模型衍生了很多的智能化应用。
2. 大模型已经逐步模型训练方面延展到了企业应用服务，比如根据企业的特定需求和业务场景，利用大模型为其提供定制化的人工智能解决方案。
3. 掌握AI大模型的能力边界以及如何使用AI大模型技术结合企业业务场景做赋能，成为了每一个职场基本能力。
4. 咕泡人工智能《人人都要学的AI大模型全栈课》最大的优势在于，课程内容的设计对非计算机专业的职场人士非常友好，同时通过对课程体系精心设计，为大家提供了从0基础到原理的完整学习路线每一个零基础的人都能学得会。
5. 咕泡人工智能《人人都要学的AI大模型全课》，包含26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型，理论将给予最大程度的支持，课程学习的目标是，可达到应聘大模型岗位的要求和标准，同时，也能完整掌握AI方面的技术为自己的职业方向赋能。
6. 课程内容对非计算机专业背景非常友好，精心设计的课程体系，理解快，学得会。
7. 3个月共58小时的内容，从理论到实战快速掌握AI大模型。
8. 全程互动式直播，遇到不懂的问题当场就解决。
9. 社区支持与行业网络支持。
10. 每月1~2次的行业分析，就业分析支持。
11. 课程一共学习3个月，每周2次直播课，一共接近58个小时的直播内容。br>12. 课程支持在线学习平台，提供视频、作业和资源库。，助教团队将通过社群支持和课后辅导帮助学员解决学习中的问题。
13. 大模型本身很强，目前50%的代码您通过prompt和AI编程就可以完成自动编程，所以咱们要学的是框架是思维。
14. 零基础——发展方向：大模型产品经理、大模型指令工程师、大模型项目经理等，学习大模型完全不会有问题。
15. AI大模型课程定位是人人都能学，所以课程内容设计上考虑到了没有任何代码基础的同学，用更多的理论内容和图形化场景做演示和讲解。
16. 课程学完后能到什么水平：超级个体能力、AI开发项目能力、训练专业大模型能力、独有场景【私人订制】项目、产品设计实战加强 、业务沟通实战加强、AI绘图、AI设计等，成为真正成为超级个体、提升大模型认知，把握百年难遇的时代红利。
17. 本期课程视频永久有效，其中包含“在学期”和“观看期”。
18. 咕泡科技在职业教育领域沉淀8年， 在AI领域沉淀6年，目前是国内AI技术培训比较老牌的机构。
19. 6年AI领域的沉淀，有大量的AI资源积累，目前我们有300多位AI领域的专家团队，可以为学员提供不同方向的支持， 如大模型企业级实战、大模型理论教学等。
20. 全程直播教学，提供充分的学习过程中交流和互动的空间。
21. 20多个企业级实战案例分析，帮助大家更好的理解技术和业务的结合。
22. 小群1v1辅导，班主任全程陪伴护航，提供完善的学习服务和好的学习体验。
23. 买一期直播，赠送2期直播权益，一共3期直播权益，不断强化和巩固学习效果。
24. 服务期限内不限次数的内推权益。
阅读原文
2. 大模型已经逐步模型训练方面延展到了企业应用服务，比如根据企业的特定需求和业务场景，利用大模型为其提供定制化的人工智能解决方案。
3. 掌握AI大模型的能力边界以及如何使用AI大模型技术结合企业业务场景做赋能，成为了每一个职场基本能力。
4. 咕泡人工智能《人人都要学的AI大模型全栈课》最大的优势在于，课程内容的设计对非计算机专业的职场人士非常友好，同时通过对课程体系精心设计，为大家提供了从0基础到原理的完整学习路线每一个零基础的人都能学得会。
5. 咕泡人工智能《人人都要学的AI大模型全课》，包含26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型，理论将给予最大程度的支持，课程学习的目标是，可达到应聘大模型岗位的要求和标准，同时，也能完整掌握AI方面的技术为自己的职业方向赋能。
6. 课程内容对非计算机专业背景非常友好，精心设计的课程体系，理解快，学得会。
7. 3个月共58小时的内容，从理论到实战快速掌握AI大模型。
8. 全程互动式直播，遇到不懂的问题当场就解决。
9. 社区支持与行业网络支持。
10. 每月1~2次的行业分析，就业分析支持。
11. 课程一共学习3个月，每周2次直播课，一共接近58个小时的直播内容。br>12. 课程支持在线学习平台，提供视频、作业和资源库。，助教团队将通过社群支持和课后辅导帮助学员解决学习中的问题。
13. 大模型本身很强，目前50%的代码您通过prompt和AI编程就可以完成自动编程，所以咱们要学的是框架是思维。
14. 零基础——发展方向：大模型产品经理、大模型指令工程师、大模型项目经理等，学习大模型完全不会有问题。
15. AI大模型课程定位是人人都能学，所以课程内容设计上考虑到了没有任何代码基础的同学，用更多的理论内容和图形化场景做演示和讲解。
16. 课程学完后能到什么水平：超级个体能力、AI开发项目能力、训练专业大模型能力、独有场景【私人订制】项目、产品设计实战加强 、业务沟通实战加强、AI绘图、AI设计等，成为真正成为超级个体、提升大模型认知，把握百年难遇的时代红利。
17. 本期课程视频永久有效，其中包含“在学期”和“观看期”。
18. 咕泡科技在职业教育领域沉淀8年， 在AI领域沉淀6年，目前是国内AI技术培训比较老牌的机构。
19. 6年AI领域的沉淀，有大量的AI资源积累，目前我们有300多位AI领域的专家团队，可以为学员提供不同方向的支持， 如大模型企业级实战、大模型理论教学等。
20. 全程直播教学，提供充分的学习过程中交流和互动的空间。
21. 20多个企业级实战案例分析，帮助大家更好的理解技术和业务的结合。
22. 小群1v1辅导，班主任全程陪伴护航，提供完善的学习服务和好的学习体验。
23. 买一期直播，赠送2期直播权益，一共3期直播权益，不断强化和巩固学习效果。
24. 服务期限内不限次数的内推权益。
大模型杀疯了...
文章概要：
1. AI大模型已衍生出很多智能化应用，且从模型训练延展到企业应用服务。
2. 掌握AI大模型能力并结合企业业务场景做赋能，人基本能力。
3. 咕泡人工智能的《人人都要学的AI大全栈课》提供从0基础到原理的完整学习路线，课程内容对非计算机专业友好。
4. 课程包含26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型，有顶尖专家理论+实践直播大模型就业实战课。
5. 课程有老师直播讲解，课后答疑，实操私人部署，打造专属，学完即可使用，拆解20多个AI大模型结合各行业落地成功的案例，学完即可立即使用AI模型赋能当前业务场景。
6. 课程提供3个月共58小时的内容，全程互动式直播，遇到不懂的问题当场就解决，有社区支持与行业网络支持，每月1~2次的行业分析，就业分析支持。
7. 课程内容紧跟行业趋势，不断更新迭代，确保掌握最新的大模型技术和应用案例，把握AI未来的发展机遇。
8. 课程通过搭建智能问答系统、自动驾驶数据处理系统、推荐系统等实战项目，让学员在实战中快速掌握大模型的应用技巧，加速AI项目落地。
阅读原文
2. 掌握AI大模型能力并结合企业业务场景做赋能，人基本能力。
3. 咕泡人工智能的《人人都要学的AI大全栈课》提供从0基础到原理的完整学习路线，课程内容对非计算机专业友好。
4. 课程包含26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型，有顶尖专家理论+实践直播大模型就业实战课。
5. 课程有老师直播讲解，课后答疑，实操私人部署，打造专属，学完即可使用，拆解20多个AI大模型结合各行业落地成功的案例，学完即可立即使用AI模型赋能当前业务场景。
6. 课程提供3个月共58小时的内容，全程互动式直播，遇到不懂的问题当场就解决，有社区支持与行业网络支持，每月1~2次的行业分析，就业分析支持。
7. 课程内容紧跟行业趋势，不断更新迭代，确保掌握最新的大模型技术和应用案例，把握AI未来的发展机遇。
8. 课程通过搭建智能问答系统、自动驾驶数据处理系统、推荐系统等实战项目，让学员在实战中快速掌握大模型的应用技巧，加速AI项目落地。
大模型杀疯了...
文章概要：
1. AI大模型已各行业衍生出众多智能化应用，且逐渐从模型训练拓展到企业应用服务。
2. 咕泡人工智能《人人都要学的AI大全栈课》提供从0基础到原理的完整学习路线，课程内容对非计算机专业人士友好。
3. 课程包含26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型，提供5大课程专属学习服务和6大产品
4. 课程适合各类人群，包括互联网行业从业者、即将进入职场的学生等。
5. 课程一共学习3个月，每周2次直播课，上课时间为每周三、周五 20:00~22:00。
6. 课程提供在线学习平台，支持多种学习工具，对学员基础要求不高。
7. 无论工作是否与AI相关，都应学习AI大模型以抓住时代红利。
8. 课程学完后可达到应聘大模型岗位的要求和标准，同时能完整掌握AI方面的技术技能。
9. 课程视频永久有效，包含“在学期”和“观看期”。
10. 目前课程有直播学习和录播学习两种方式，插班同学可先跟着录播学习。
11. 咕泡科技在职业教育领域沉淀8年，在AI领域沉淀6年，有大量AI积累。
12. 课程全程直播教学，提供20多个企业级实战案例分析，小群1v1辅导，班主任全程陪伴护航。
13. 购买一期直播，赠送2期直播服务期限内不限次数内推。
阅读原文
2. 咕泡人工智能《人人都要学的AI大全栈课》提供从0基础到原理的完整学习路线，课程内容对非计算机专业人士友好。
3. 课程包含26+真实项目Demo演示、24+动手实践、4+原创项目部署大模型，提供5大课程专属学习服务和6大产品
4. 课程适合各类人群，包括互联网行业从业者、即将进入职场的学生等。
5. 课程一共学习3个月，每周2次直播课，上课时间为每周三、周五 20:00~22:00。
6. 课程提供在线学习平台，支持多种学习工具，对学员基础要求不高。
7. 无论工作是否与AI相关，都应学习AI大模型以抓住时代红利。
8. 课程学完后可达到应聘大模型岗位的要求和标准，同时能完整掌握AI方面的技术技能。
9. 课程视频永久有效，包含“在学期”和“观看期”。
10. 目前课程有直播学习和录播学习两种方式，插班同学可先跟着录播学习。
11. 咕泡科技在职业教育领域沉淀8年，在AI领域沉淀6年，有大量AI积累。
12. 课程全程直播教学，提供20多个企业级实战案例分析，小群1v1辅导，班主任全程陪伴护航。
13. 购买一期直播，赠送2期直播服务期限内不限次数内推。
行业资讯 | 35家央国企已落地 66 个大模型 国家队引领AI 变革
文章概要：
1. 自23年以来，国资委多次对中央企业发展人工智能提出要求。2024年1-7月，央国企采购大模型项目数量已超过950个。
2. 国资央企在大模型的相关投入上基于其自身能力的研发任务：在通用大模型（L0）的研发方面，三大通信运营商承担主力军；行业大模型（L1）和细分领域专用大模型（L2）是大部分央企的投入重点。
3. 本文整理了央国企已落地的6大模型布局，包括中核集团、中国核电、中国航天科工、中国、中国电科、中国石油等。
阅读原文
2. 国资央企在大模型的相关投入上基于其自身能力的研发任务：在通用大模型（L0）的研发方面，三大通信运营商承担主力军；行业大模型（L1）和细分领域专用大模型（L2）是大部分央企的投入重点。
3. 本文整理了央国企已落地的6大模型布局，包括中核集团、中国核电、中国航天科工、中国、中国电科、中国石油等。
“为什么说大模型可能是软件开发的死胡同？”
文章概要：
1. 文章讨论了将大语言模型（LLM）作为产品解决方案的一部分所面临的挑战，包括LLM的不可分解性、可解释性缺失、安全和隐私问题、法律所有权问题以及对计算资源的高需求等
2.认为LLM服务被引入产品的不大，除非它本身就是，但这对企业是一个巨大的
.建议软件开发人员应保持开放的态度，拥抱真正可解释、可测试的AI，并设计一个能够为企业提供所需功能的流程，然后开发一个平台，以可持续的让开发人员进行
阅读原文
2.认为LLM服务被引入产品的不大，除非它本身就是，但这对企业是一个巨大的
.建议软件开发人员应保持开放的态度，拥抱真正可解释、可测试的AI，并设计一个能够为企业提供所需功能的流程，然后开发一个平台，以可持续的让开发人员进行
大模型轻量化的五个主流方法，快来了解！
文章概要：
1. 大模型轻量化的关键突破点在于解决庞大的计算量和存储需求限制其广泛应用的问题
2. 介绍了大模型轻量化的五个主流方法，包括低秩分解、剪枝、量化、知识蒸馏和精简网络设计与搜索
3. 对大模型感兴趣的小伙伴，可以去看看《深度神经网络计算:大模型轻量化原理与关键技术》这本书
阅读原文
2. 介绍了大模型轻量化的五个主流方法，包括低秩分解、剪枝、量化、知识蒸馏和精简网络设计与搜索
3. 对大模型感兴趣的小伙伴，可以去看看《深度神经网络计算:大模型轻量化原理与关键技术》这本书
上交团队构建AI社会模拟器，数千智能体引领大模型自演进
文章概要：
1. 人类期待通用人工智能具备“自我演进”能力，大模型的发展需要依赖“自演进”来推动自身发展。
2. 上交团队设计了名为MATRIX的社会模拟器，构建了一个由1000多个AI智能体组成的模拟社会。
3. 该团队采用指令微调模型驱动MATRIX，以提升预训练模型的能力。
4. 该团队探索了基于大语言模型驱动的社会模拟来合成对齐数据的创新方法。
5. MATRIX模拟器可以成功重现真实的社会交互，合成数据的高质量成果也得到了验证。
6. 这项基于社会模拟的大模型自演进研究，有望在大模型的自我提升、数字分身与社交网络、新型“数据工人”市场、计算社会学与社会政策等领域发挥深远的影响。
7. 课题组目前正在推进几个研究方向，以深入挖掘合成数据和虚实结合的潜力，推动这一技术在更广泛领域的应用。
阅读原文
2. 上交团队设计了名为MATRIX的社会模拟器，构建了一个由1000多个AI智能体组成的模拟社会。
3. 该团队采用指令微调模型驱动MATRIX，以提升预训练模型的能力。
4. 该团队探索了基于大语言模型驱动的社会模拟来合成对齐数据的创新方法。
5. MATRIX模拟器可以成功重现真实的社会交互，合成数据的高质量成果也得到了验证。
6. 这项基于社会模拟的大模型自演进研究，有望在大模型的自我提升、数字分身与社交网络、新型“数据工人”市场、计算社会学与社会政策等领域发挥深远的影响。
7. 课题组目前正在推进几个研究方向，以深入挖掘合成数据和虚实结合的潜力，推动这一技术在更广泛领域的应用。
1行代码改进大模型训练，Llama训练速度提升至1.47倍，全华人团队出品
文章概要：
1 四名华人学者提出大模型训练优化Cautious Optimizers改一行代码可提升训练效率1.7
2.autiousizers以哈密顿量和动力学为基础在的同时影响收敛特性>.在60M1不同参数规模Llama上进行，最高4率，相关代码已开源
. Cautiousizers的核心思路是引入一种掩蔽机制，参数更新方向与梯度相悖
.在语言模型L和模型MAE进行试验，结果表明Cautiousizers在所有规模上都表现出明显的加速效果
.语句匹配、文本蕴含、情感等个UE下游任务上测试表明C-AdamW的得分比AdamW高出2%br> 对于视觉模型，以ViT为骨干网络，ImageNet-K数据集上训练，C-Adam的误差AdamW
8.项目是由华人共同打造的第一作者izhao Liang是AI推理加速服务商ambaNova公司的高级ML工程师
阅读原文
2.autiousizers以哈密顿量和动力学为基础在的同时影响收敛特性>.在60M1不同参数规模Llama上进行，最高4率，相关代码已开源
. Cautiousizers的核心思路是引入一种掩蔽机制，参数更新方向与梯度相悖
.在语言模型L和模型MAE进行试验，结果表明Cautiousizers在所有规模上都表现出明显的加速效果
.语句匹配、文本蕴含、情感等个UE下游任务上测试表明C-AdamW的得分比AdamW高出2%br> 对于视觉模型，以ViT为骨干网络，ImageNet-K数据集上训练，C-Adam的误差AdamW
8.项目是由华人共同打造的第一作者izhao Liang是AI推理加速服务商ambaNova公司的高级ML工程师
国产大模型首发中文逻辑推理，「天工大模型4.0」o1版来了
文章概要：
1. 介绍了OpenAI正式公开前所未有的复杂推理大模型o1，这是一个重大突破，新模型既具有通用的能力，也可以解决比此前的科学、代码和数学模型能做到的更难问题。2. 介绍了国产大模型天工大模型4.0o1版，这是国内首款具备中文逻辑推理能力的o1模型，由昆仑万维推出。3. 介绍了天.0o1版的三款模型，分别是Skywork o1 Open、Skywork o1 Lite和Skywork o1 Preview。4. 介绍了天工大模型4.0o1版的技术，包括推理反思能力训练、推理能力强化学习和推理planning。5. 介绍了天工大模型4.0o1版的应用，包括创意写作高质量内容生成与深度搜索领域。
阅读原文
国产大模型独角兽，困在光环里
文章概要：
1. 月之暗面举办媒体沟通会，发布数学模型，并与其他模型进行测试分数对比。
2. 月之暗面作风另类，不聊技术，只推拳头产品Kimi，其在今年年初的热度冲到一个高峰。
3. 月之暗面被冠以“大模型营销咖”的外号，模型乏善可陈，生态资源被大厂碾压，产品更新多为缝缝补补。
4. 月之暗面被质疑产品效果，多位用户吐槽说，Kimi最近莫名地越用越差，感觉比以前变蠢了，甚至有人怀疑这是不是想逼用户付费。
5. 月之暗面的B面：特长被复刻、出海失利、被前资方“逼宫”。
6. 月之暗面的特长是“长文本”，但竞争对手们纷纷高调跟上，Kimi的身份已经引领潮流者转向追随者。
7. 月之暗面在投流上的生猛，连大厂掌门人都侧目，其季度投放金额豪横到上亿元，吊打多数竞品。
8. 月之暗面出海项目在今年6月就已撤掉，前Noisee产品负责人明超平、前Ohai产品负责人已于近期离职创业。
9. 月之暗面陷入一系列舆情风波中，今年4月，杨植麟被传通过售出个人持股套现数千万美金，随后月之暗面进行辟谣，但其中牵扯出的“资本贵人襄助论”长期余温未了。
10. 月之暗面创始人杨植麟、联合创始人兼CTO张宇韬被循环智能7家投资方中的5家申请仲裁。
11. 国产大模型江湖格局生变，创业头部梯队从“四小龙”变为“六小虎”，即智谱AI 、月之暗面、MiniMax、百川智能、零一万物、阶跃。
12. 资本的追捧，与其在商业市场上的实际表现，始终存在着隐性的不平衡。
13. AI大模型独角兽们陷入的争议，很容易联想到AI 1.0创业时代的“CV四小龙”，高人才密度、强技术实力未能转换成高回报的市场竞争力，迄今难逃亏损魔咒。br>14. 模型提升见顶，意味着AI聊天产品的智力很难再出现质的飞跃。
15. 模型卷不动后，竞争焦点必然向产品转移。
16. 大模型创企们面前的，是涉及精简成本和聚焦核心业务的方向选择难题。
17. 除去人力成本不谈，大模型创企还面临三大烧钱问题：训练贵、推理贵、获客贵。
阅读原文
2. 月之暗面作风另类，不聊技术，只推拳头产品Kimi，其在今年年初的热度冲到一个高峰。
3. 月之暗面被冠以“大模型营销咖”的外号，模型乏善可陈，生态资源被大厂碾压，产品更新多为缝缝补补。
4. 月之暗面被质疑产品效果，多位用户吐槽说，Kimi最近莫名地越用越差，感觉比以前变蠢了，甚至有人怀疑这是不是想逼用户付费。
5. 月之暗面的B面：特长被复刻、出海失利、被前资方“逼宫”。
6. 月之暗面的特长是“长文本”，但竞争对手们纷纷高调跟上，Kimi的身份已经引领潮流者转向追随者。
7. 月之暗面在投流上的生猛，连大厂掌门人都侧目，其季度投放金额豪横到上亿元，吊打多数竞品。
8. 月之暗面出海项目在今年6月就已撤掉，前Noisee产品负责人明超平、前Ohai产品负责人已于近期离职创业。
9. 月之暗面陷入一系列舆情风波中，今年4月，杨植麟被传通过售出个人持股套现数千万美金，随后月之暗面进行辟谣，但其中牵扯出的“资本贵人襄助论”长期余温未了。
10. 月之暗面创始人杨植麟、联合创始人兼CTO张宇韬被循环智能7家投资方中的5家申请仲裁。
11. 国产大模型江湖格局生变，创业头部梯队从“四小龙”变为“六小虎”，即智谱AI 、月之暗面、MiniMax、百川智能、零一万物、阶跃。
12. 资本的追捧，与其在商业市场上的实际表现，始终存在着隐性的不平衡。
13. AI大模型独角兽们陷入的争议，很容易联想到AI 1.0创业时代的“CV四小龙”，高人才密度、强技术实力未能转换成高回报的市场竞争力，迄今难逃亏损魔咒。br>14. 模型提升见顶，意味着AI聊天产品的智力很难再出现质的飞跃。
15. 模型卷不动后，竞争焦点必然向产品转移。
16. 大模型创企们面前的，是涉及精简成本和聚焦核心业务的方向选择难题。
17. 除去人力成本不谈，大模型创企还面临三大烧钱问题：训练贵、推理贵、获客贵。
NeurIPS 2024 |大模型 EEGPT：通过预训练Transformer实现通用且可靠的脑电图信号表示
文章概要：
1. 论文《EE: Pretrained Transformer for Universal and Reliable Representation of EEG Signals》提交至NeurIPS 2024并录用，作者团队为哈尔滨工业大学计算机学院李海峰教授团队。
2. EEGPT是一种新提出的、具有1000万参数的预训练Transformer模型，为EEG信号的特征提取提供通用而可靠的表示。本文提出用于通用EEG 特征提取的EEGPT 模型，设计了双自监督学习方法，结合时空表示对齐和掩码重建，提高特征质量和模型收敛性，为EEG 信号处理提供有效的创新解决方案。
3. 研究背景：G动态反映大脑功能状态，广泛应用于情绪识别、运动想象分类等多个领域。目前EEG研究面临数据层面的多样性、模型层面的专业化和预训练及迁移学习方法的局限性，面临的挑战包括低信噪比、高个体间变异性以及EEG信号的任务依赖性变化。
4. 研究方法：EEGPT提出了一种基于时空一致性的双自监督EEG通用表示方法，主要包括时空表示对齐、掩码重构、局部时空嵌入、线性探测方法。
5. 实验设计：本文进行了多项实验，以评估EEGPT在不同EEG任务中的表现。实验数据集包括多种EEG 信号来源，如PhysioMI、 HGD 和M3CV等，每个数据集涵盖了不同的任务主题。实验评估了EEGPT在运动想象分类、事件相关电位检测和睡眠阶段检测等上的性能。
6. 结论：EEGPT通过创新的双自监督学习方法和时空表示对齐技术，显著提升了EEG信号的特征提取能力。
阅读原文
2. EEGPT是一种新提出的、具有1000万参数的预训练Transformer模型，为EEG信号的特征提取提供通用而可靠的表示。本文提出用于通用EEG 特征提取的EEGPT 模型，设计了双自监督学习方法，结合时空表示对齐和掩码重建，提高特征质量和模型收敛性，为EEG 信号处理提供有效的创新解决方案。
3. 研究背景：G动态反映大脑功能状态，广泛应用于情绪识别、运动想象分类等多个领域。目前EEG研究面临数据层面的多样性、模型层面的专业化和预训练及迁移学习方法的局限性，面临的挑战包括低信噪比、高个体间变异性以及EEG信号的任务依赖性变化。
4. 研究方法：EEGPT提出了一种基于时空一致性的双自监督EEG通用表示方法，主要包括时空表示对齐、掩码重构、局部时空嵌入、线性探测方法。
5. 实验设计：本文进行了多项实验，以评估EEGPT在不同EEG任务中的表现。实验数据集包括多种EEG 信号来源，如PhysioMI、 HGD 和M3CV等，每个数据集涵盖了不同的任务主题。实验评估了EEGPT在运动想象分类、事件相关电位检测和睡眠阶段检测等上的性能。
6. 结论：EEGPT通过创新的双自监督学习方法和时空表示对齐技术，显著提升了EEG信号的特征提取能力。
AI大模型工具盘点丨国内知名的大语言模型的汇总信息来了！（附使用说明）
文章概要：
1. 随着人工智能技术的快速发展，国内涌现出多个知名的AI大模型，如文心一言、义问、讯飞星火、Kimi、豆包和天工，这些模型在自然语言处理、图像生成和多模态理解等领域都有着出色的表现。
2. 不同的大模型有不同的特点和使用技巧，如文心一言具备丰富的知识库和强大的自然语言能力义问对于行程管理安排的规划高效合理，讯飞星火在中文处理方面表现突出，Kimi适用于创意设计和内容创作领域，豆包提供多样化模版，天工提供简介、增强和研究的不同模式。
3. 使用大模型时，可以通过提供详细说明、分解复杂任务提示进行推断和提供范本以供模仿等方式，让大模型可以更精准、更个性化地提供回复。
4. 大模型的发展为我们的学习生活带来了诸多便利，但同时也伴随着一些潜在的涉及伦理和法律的问题，在大模型提升效率的坚守底线、保持本心。
阅读原文
2. 不同的大模型有不同的特点和使用技巧，如文心一言具备丰富的知识库和强大的自然语言能力义问对于行程管理安排的规划高效合理，讯飞星火在中文处理方面表现突出，Kimi适用于创意设计和内容创作领域，豆包提供多样化模版，天工提供简介、增强和研究的不同模式。
3. 使用大模型时，可以通过提供详细说明、分解复杂任务提示进行推断和提供范本以供模仿等方式，让大模型可以更精准、更个性化地提供回复。
4. 大模型的发展为我们的学习生活带来了诸多便利，但同时也伴随着一些潜在的涉及伦理和法律的问题，在大模型提升效率的坚守底线、保持本心。
写给小白的大模型入门科普
文章概要：
1. 大模型是包含超大规模参数（通常在十亿个以上）的神经网络模型，包括语言大模型、视觉大模型、多模态大模型等。
2. 大模型的训练过程包括预训练微调两个环节，预训练使用未标注数据，微调使用特定领域的标注数据集。
3. 大模型的作用包括自然语言处理、计算机视觉、跨媒体搜索等，应用场景包括金融、医疗、法律、教育等。
4. 大模型的发展趋势包括参数规模更大、应用场景更多、能力“入”端等。
5. 大模型会带来一些挑战，包括影响失业率、版权问题、算法偏见和不公平、被用于犯罪、能耗问题等。
阅读原文
2. 大模型的训练过程包括预训练微调两个环节，预训练使用未标注数据，微调使用特定领域的标注数据集。
3. 大模型的作用包括自然语言处理、计算机视觉、跨媒体搜索等，应用场景包括金融、医疗、法律、教育等。
4. 大模型的发展趋势包括参数规模更大、应用场景更多、能力“入”端等。
5. 大模型会带来一些挑战，包括影响失业率、版权问题、算法偏见和不公平、被用于犯罪、能耗问题等。
【社科名词】什么是大语言模型？
文章概要：
1. 大语言模型是通过大量的文本数据训练，能够理解和生成自然语言的AI程序
2. 大语言模型可以处理分类、问答、对话等多种自然语言任务
3. 人们熟知的大语言百度“文心一言”、科大讯飞的“讯飞星火认知大模型”
阅读原文
2. 大语言模型可以处理分类、问答、对话等多种自然语言任务
3. 人们熟知的大语言百度“文心一言”、科大讯飞的“讯飞星火认知大模型”
企业想上大模型？现阶段的挑战、场景选择和落地方法
文章概要：
1. 大模型不能“点石成金”：大模型存在行业知识和内部话语不足、逻辑推理能力有限、回答准确性存疑等问题。
2. 怎么从“玩具”走出来：市场上的大模型应用还停留在“玩具”水平，无法应对复杂问题，需要提升系统的多链路深层次分析能力、处理复杂任务的能力以及理解与生成多模态内容的能力。
3. 在哪些场景探索应用：企业应选择业务相关性高、技术成熟度高、使用频次高的场景，如智能客服、企业制度流程智能问答等。
4. 工程化应用的关键是什么：企业应使用大模型API服务，融合领域知识与数据，打造非凡的用户体验。
5. 如何有效地推动落地：企业应采取阶段性的方法论，包括认知、评估、开动、阶梯、扩大等步骤。
6. 结束语：企业数字化转型已经在向智能化转型迈进，企业应选择合适的场景，平衡投入与回报，并制定全面的应对策略以实现真正的价值落地。
阅读原文
2. 怎么从“玩具”走出来：市场上的大模型应用还停留在“玩具”水平，无法应对复杂问题，需要提升系统的多链路深层次分析能力、处理复杂任务的能力以及理解与生成多模态内容的能力。
3. 在哪些场景探索应用：企业应选择业务相关性高、技术成熟度高、使用频次高的场景，如智能客服、企业制度流程智能问答等。
4. 工程化应用的关键是什么：企业应使用大模型API服务，融合领域知识与数据，打造非凡的用户体验。
5. 如何有效地推动落地：企业应采取阶段性的方法论，包括认知、评估、开动、阶梯、扩大等步骤。
6. 结束语：企业数字化转型已经在向智能化转型迈进，企业应选择合适的场景，平衡投入与回报，并制定全面的应对策略以实现真正的价值落地。
企业想上大模型？现阶段的挑战、场景选择和落地方法
文章概要：
1. 大模型不能“点石成金”：大模型存在不懂行业与内部话语、不太会逻辑推理、回答的准确性存疑等问题，在企业级场景并非即插即用
2. 怎么从“玩具”走出来：市场上的文档问答、AI搜索等应用还停留在“玩具”水平，无法应对复杂问题，我们必须提升系统的多链路深层次分析能力，处理复杂任务的能力，以及理解与生成多模态内容的能力
3.哪些场景探索应用：企业应从业务相关性、技术成熟度、使用频次三个因素选择应用场景，如智能客服、企业流程智能问答等
4. 工程应用的关键是什么：企业在选择的场景上发起的每一个项目，都要在工程化上做很多的工作，如使用大模型API服务、融合领域知识与数据、打造非凡的用户体验等
5. 如何有效地推动AI落地：企业需要采取一种阶段性的方法论来指导实践，如红杉中国提出的“AGILE五步方法论”
6. 结束语：企业数字化转型已经在向智能化转型迈进，以大模型为代表的生成式人工智能技术的应用，已经成为企业的一道“必答题”
阅读原文
2. 怎么从“玩具”走出来：市场上的文档问答、AI搜索等应用还停留在“玩具”水平，无法应对复杂问题，我们必须提升系统的多链路深层次分析能力，处理复杂任务的能力，以及理解与生成多模态内容的能力
3.哪些场景探索应用：企业应从业务相关性、技术成熟度、使用频次三个因素选择应用场景，如智能客服、企业流程智能问答等
4. 工程应用的关键是什么：企业在选择的场景上发起的每一个项目，都要在工程化上做很多的工作，如使用大模型API服务、融合领域知识与数据、打造非凡的用户体验等
5. 如何有效地推动AI落地：企业需要采取一种阶段性的方法论来指导实践，如红杉中国提出的“AGILE五步方法论”
6. 结束语：企业数字化转型已经在向智能化转型迈进，以大模型为代表的生成式人工智能技术的应用，已经成为企业的一道“必答题”
大语言模型技术演进与启示
文章概要：
1. 大模型在人工智能领域广泛应用，其技术体系愈发复杂精细，涉及算法、硬件和系统架构的全方位整合。
2. 由CSDN联合Boolan举办的“2024全球机器学习技术大会”特设“大语言模型技术演进”分论坛，探讨了从模型设计到实际落地的核心技术实践。
3. 论坛上，来自百川智能、中国科学院自动化研究所、腾讯、智源、智谱、得物、快手、CodePlay、Lepton AI等机构与企业多位嘉宾带来了最新研究成果，并深入剖析了提升推理效率的创新实践。
4. 王炳宁分享了Transformer效率优化的核心机制是Attention，通过全局关注所有输入序列，实现了显著的效果提升。
5. Michael Wong探讨了释放AI潜能的主题，包括AI领域的发展现状和未来方向，以及如何应对变幻莫测的AI硬件和软件。
6. 刘广介绍了Infinity Instruct项目，旨在解决指令数据集发展滞后的问题，通过整合现有开源数据，构建两级标签体系，提升数据筛选效率和模型能力。
7. 吴凌翔以“紫东太初多模态大模型”为例，分享了团队在多模态大模型方面的创新成果，包括可变形视觉Transformer模型、对比掩码自监督模型和数据鲁棒自监督模型等。
8. 鱼哲深入探讨了生成式AI的核心目标和挑战，包括最大化机会和选择任务，以及如何应对不同应用场景的需求和挑战。
9. 孟令公分享了大模型推理性能优化与实践的经验，包括KV Cache管理、Prefill阶段和Decode阶段的优化，以及多LoRA技术的应用。
10. 彭厚文介绍了腾讯混元多模态大模型技术实践与思考，包括视觉编码器、视觉-语言适配器和大语言模型的应用，以及数据处理、模型结构、模型训练和模型推理的优化。
11. 在圆桌对话环节中，刘广、张少博、毛航宇、姜勇围绕“大模型系统技术实践”展开了深入分享，涵盖了系统能力划分、开发工具链的不足以及大模型的实际应用方向等核心议题。
阅读原文
2. 由CSDN联合Boolan举办的“2024全球机器学习技术大会”特设“大语言模型技术演进”分论坛，探讨了从模型设计到实际落地的核心技术实践。
3. 论坛上，来自百川智能、中国科学院自动化研究所、腾讯、智源、智谱、得物、快手、CodePlay、Lepton AI等机构与企业多位嘉宾带来了最新研究成果，并深入剖析了提升推理效率的创新实践。
4. 王炳宁分享了Transformer效率优化的核心机制是Attention，通过全局关注所有输入序列，实现了显著的效果提升。
5. Michael Wong探讨了释放AI潜能的主题，包括AI领域的发展现状和未来方向，以及如何应对变幻莫测的AI硬件和软件。
6. 刘广介绍了Infinity Instruct项目，旨在解决指令数据集发展滞后的问题，通过整合现有开源数据，构建两级标签体系，提升数据筛选效率和模型能力。
7. 吴凌翔以“紫东太初多模态大模型”为例，分享了团队在多模态大模型方面的创新成果，包括可变形视觉Transformer模型、对比掩码自监督模型和数据鲁棒自监督模型等。
8. 鱼哲深入探讨了生成式AI的核心目标和挑战，包括最大化机会和选择任务，以及如何应对不同应用场景的需求和挑战。
9. 孟令公分享了大模型推理性能优化与实践的经验，包括KV Cache管理、Prefill阶段和Decode阶段的优化，以及多LoRA技术的应用。
10. 彭厚文介绍了腾讯混元多模态大模型技术实践与思考，包括视觉编码器、视觉-语言适配器和大语言模型的应用，以及数据处理、模型结构、模型训练和模型推理的优化。
11. 在圆桌对话环节中，刘广、张少博、毛航宇、姜勇围绕“大模型系统技术实践”展开了深入分享，涵盖了系统能力划分、开发工具链的不足以及大模型的实际应用方向等核心议题。
近期必看的多模态大模型进展：从Qwen2-VL到Pixtral
文章概要：
1. 文章总结了近期一些备受关注得多模态大模型相关工作，包括每个模型得主要技术框架，训练数据和最终表现等。
2. 阿里千问：Qwen2-VL的架构保留了Qwen-VL的框架，结合了视觉编码器和语言模型，并在此基础上做了若干重要的改进。
3. Molmo和PixMo总的来说，本文的改进集中在数据侧，包括了一些数据合成的方法，开放了更高质量得多模态数据等。
4. 英伟达：NVLM的三种不同的特征融合框架，NVLM-D:Decoder-only模型、NVLM-X:交叉注意力模型、NVLM-H:混合模型。
5. 文本任务表现：NVLM模型在多模态训练，文本任务的表现反而得到了提升，优于LLaVA-OneVision和InternVL-2-Llama3-76B等开源模型，证明了通过高质量的文本SFT数据进行多模态微调不会影响文本性能。
6. Pixtral 12B的表现接近更大规模的开源模型，如Q2L 72B和Llama-3.2 90B，在公共排行榜上取得了接近这些大型模型的成绩。
7. Rhymes AI:ARIA的模型权重和训练框架完全开源。
阅读原文
2. 阿里千问：Qwen2-VL的架构保留了Qwen-VL的框架，结合了视觉编码器和语言模型，并在此基础上做了若干重要的改进。
3. Molmo和PixMo总的来说，本文的改进集中在数据侧，包括了一些数据合成的方法，开放了更高质量得多模态数据等。
4. 英伟达：NVLM的三种不同的特征融合框架，NVLM-D:Decoder-only模型、NVLM-X:交叉注意力模型、NVLM-H:混合模型。
5. 文本任务表现：NVLM模型在多模态训练，文本任务的表现反而得到了提升，优于LLaVA-OneVision和InternVL-2-Llama3-76B等开源模型，证明了通过高质量的文本SFT数据进行多模态微调不会影响文本性能。
6. Pixtral 12B的表现接近更大规模的开源模型，如Q2L 72B和Llama-3.2 90B，在公共排行榜上取得了接近这些大型模型的成绩。
7. Rhymes AI:ARIA的模型权重和训练框架完全开源。
宇宙最强-清华大学《大模型研讨课》课程视频分享
文章概要：
1. OpenBMB携手清华大学自然语言处理实验室，推出《大模型交叉研讨课》。
2. 课程意在为对大模型感兴趣的同学提供相关资源，为大模型领域的探索打下基础。
4. 本书免费获取地址：关注微信公众号“大模型科技说”回复关键字“qhd24 ”获取下载地址。
阅读原文
2. 课程意在为对大模型感兴趣的同学提供相关资源，为大模型领域的探索打下基础。
4. 本书免费获取地址：关注微信公众号“大模型科技说”回复关键字“qhd24 ”获取下载地址。
OpenAI怒斥Scaling撞墙论！o1已产生推理直觉潜力巨大
文章概要：
1. OpenAI否认「Scaling Law撞墙论」，并表示o系列和GPT系列可以保持这种Scaling
2. OpenAI认为o1不仅是能力提升，也是安全改进
3. OpenAI提出AGI的不同级别，关键推动因素是稳健性和推理能力
4. OpenAI数据训练模型，如DALL-E
5. OpenAI认为Scaling Law没有撞墙，在推理模型的Scaling上也没有障碍
6. OpenAI的研究者通过集体努力，发现了o1中的推理直觉
7. OpenAI仍然注重安全，致力于研究和安全
8.AI认为现在是基于AI创立初创公司的好时机
9. OpenAI的基础模型专注通用性，初创企业可以在特定领域定制模型
10. OpenAI认为当我们拥有AGI，就是相当强大的形式，真正释放了全部潜力
阅读原文
2. OpenAI认为o1不仅是能力提升，也是安全改进
3. OpenAI提出AGI的不同级别，关键推动因素是稳健性和推理能力
4. OpenAI数据训练模型，如DALL-E
5. OpenAI认为Scaling Law没有撞墙，在推理模型的Scaling上也没有障碍
6. OpenAI的研究者通过集体努力，发现了o1中的推理直觉
7. OpenAI仍然注重安全，致力于研究和安全
8.AI认为现在是基于AI创立初创公司的好时机
9. OpenAI的基础模型专注通用性，初创企业可以在特定领域定制模型
10. OpenAI认为当我们拥有AGI，就是相当强大的形式，真正释放了全部潜力
大模型分布式训练学习过程总结（万字长文）
文章概要：
1. 介绍了写这篇文章的原因，是作为分布式训练的学习过程总结，帮助读者更了解大模型训练
2. 解释了分布式训练的原因，包括小模型训练速度更快和大模型内存开销太大
3. 说明了分布式训练的加速原理，通过多个卡数据并行的训练，然后把一轮数据算出来的梯度求和更新参数进行下一轮的梯度下降
4. 详细阐述了大模型的内存开销，以GPT-2模型为例，训练时需要的内存是时的8倍
5. 介绍了分布式训练的前置知识，包括MapReduce、通信原语、训练流程和Re-materialization
6. 详细讲解了数据并行的两种方式，包括Ring All Reduce和Parameter Server
7. 解释了管线并行的原理和两种实现方式，包括PipeDream和GPipe
8. 阐述了张量并行的原理和两种实现方式，包括Megatron和DeepSpeed
9. 详细介绍了DeepSpeed的ZeRO方法，包括ZeRO-DP、ZeRO-R、ZeRO-Offload和ZeRO-Infinity
10. 介绍了3D Parallelism，它结合了模型并行、管线并行和数据并行，可以用于训练目前所有规模的模型
阅读原文
2. 解释了分布式训练的原因，包括小模型训练速度更快和大模型内存开销太大
3. 说明了分布式训练的加速原理，通过多个卡数据并行的训练，然后把一轮数据算出来的梯度求和更新参数进行下一轮的梯度下降
4. 详细阐述了大模型的内存开销，以GPT-2模型为例，训练时需要的内存是时的8倍
5. 介绍了分布式训练的前置知识，包括MapReduce、通信原语、训练流程和Re-materialization
6. 详细讲解了数据并行的两种方式，包括Ring All Reduce和Parameter Server
7. 解释了管线并行的原理和两种实现方式，包括PipeDream和GPipe
8. 阐述了张量并行的原理和两种实现方式，包括Megatron和DeepSpeed
9. 详细介绍了DeepSpeed的ZeRO方法，包括ZeRO-DP、ZeRO-R、ZeRO-Offload和ZeRO-Infinity
10. 介绍了3D Parallelism，它结合了模型并行、管线并行和数据并行，可以用于训练目前所有规模的模型