今日AI-大模型-2024年11月4日

发现全网最新的AI内容

首页 AI AI写作 ChatGPT KIMI OpenAI 大模型 天工AI 文心一言 星火大模型 智谱清言 深度强化学习 混元大模型 讯飞星火 豆包大模型 通义千问

重磅！微软最新AI蛋白质大模型SFM-Protein：创新性整合共进化信息，性能全面超越ESM

文章概要：

1. 微软研究院AI科学团队提出了一个创新的蛋白质预训练模型SFM-Protein，通过独特的预训练策略来增强模型对蛋白质序列中短程和长程共进化特征的捕获能力。
2. SFM-Protein模型采用了创新性的预训练框架，包含了序列编码器、全局共进化头和局部共进化头三个主要组件。
3. SFM-Protein在多个关键任务上展现出优异性能，包括蛋白质功能预测、蛋白质适应性预测、蛋白质溶解性预测、抗体设计任务等。
4. SFM-Protein通过创新的预训练框架，成功整合了蛋白质序列中的局部和全局共进化信息，在多个关键任务上实现了优异表现。
5. 未来研究方向包括探索更有效的预训练技术、研究模型性能提升的具体机制、开发面向特定应用的优化策略。
阅读原文

AI分子设计突破：基于潜在提示Transformer的分子设计新方法

文章概要：

1. 近日，来自UCLA、西安交通大学等机构的研究人员提出了一种新的分子设计方法 - 潜在提示Transformer (Latent Prompt Transformer, LPT)，该方法在多个分子设计任务上取得了显著的突破性进展。
2. LPT模型的主要创新点在于：首次将分子设计问题框架化为条件生成建模任务，使用目标生物特性或化学约束作为条件变量。
3. LPT采用最大似然估计方法进行端到端训练，不需要额外的变分推断网络。
4. 该模型的整体架构如下：潜在向量先验模型、分子生成模型、属性预测模型。
5. 模型采用两阶段训练策略：预训练阶段和微调阶段。
6. 为了处理目标属性值超出已学习分布支持范围的情况，论文提出创新的在线学习方法：采样阶段、重标记阶段、训练阶段。
7. 在ESR1、ACAA1和PHGDH三个蛋白质的结合亲和力优化任务中，LPT都取得了显著优势。
8. 在以固定核心骨架为基础进行分子优化的任务中，LPT能够生成与人工设计相似的分子，并且性能更优。
9. 在同时优化结合亲和力、药物相似性(QED)和合成可行性(SA)的任务中，LPT也达到了最佳表现。
10. 在实际分子优化基准测试中，LPT展现出优异的样本效率。
11. LPT为分子设计领域带来了新的突破，其创新的模型架构和训练策略为药物发现提供了强大的工具。
阅读原文

“快手数字人直播助残基地”项目启动，AI大模型成为“数字助残”新路径

文章概要：

1. 10月31日，快手数字人直播助残基地揭牌仪式在河北行唐残疾人双创园举行，该项目由河北省残联携手快手公益与快手数字人团队发起。
2. 首期项目计划在河北省的5个行政村设立“快手数字人助残基地”，帮助每名残疾人每月实现增收。
3. 快手致力于AI大研发和使用，此次助残基地使用的快手女娲数字人直播系统，是具备矩阵式运营能力+提供72小时开播+全链路服务的虚拟人直播平台。
4. 快手为残障人士开展短视频直播培训、提升完善选品、内容展示、数据分析、孵化等技能，并对后续运营提供帮助。
5. 2023年快手公益发起普惠型新媒体职业技能培训项目“幸福大讲堂”，针对乡村主播、女性、青年创业者、残障人士等群体的就业增收需求，提供直播电商等新媒体职业技能。
6. 快手作为一家以科技创新为驱动力的公司，始终坚持平等普惠、科技向善理念。
7. 河北省行唐县政协副主席黄海表示，今天的揭牌仪式标志着我县电商事业进入了一个崭新阶段，希望通过这个项目龙洞村能够带动就业的同时壮大村集体经济，为全县残疾人就业提供样板和示范。
阅读原文

NeurlPS 2024 | 揭秘大模型内部工作机制！Diff-eRank为大模型评估提供全新视角与方法

文章概要：

1. 自、PaLM、Llama等预训练大语言模型在各种自然语言处理任务上表现出优秀的性能以来，大语言模型的发展十分迅速，并已经从单模态大语言模型扩展到了多模态大模型，例如MiniGPT-4、LLaVA等都在各种应用场景中取得了相当惊艳的效果。
2. 如何全面、科学地评估这些模型的重要挑战。传统的评估方法多集中于模型在下游任务上的表现，例如准确率 (Accuracy) 、交叉熵损失 (Cross-Entropy Loss) 等指标。但这些方法只关注模型的预测结果与标注标签之间的比较，无法深入探究模型内部的信息过程大语言模型现有的指标无法给出诸如模态之间的对齐程度等更加重要维度上的评价。因此，现阶段对于纯语言大模型和多模态大模型的评估方法仍然存在较大的局限性，需要更加多元化精细化的评价方法。
4. 为了解决这些挑战，来自上海交通大学和清华大学等科研团队的研究者提出了一种全新的大模型评估指标Diff-eRank。这是一种基于模型表征的「有效秩」的评估指标，从信息论和几何学的角度分析并量化大语言模型在训练前后如何剔除冗余信息，并以此衡量模型性能。
5. 与传统的评估指标（如交叉熵损失和测试集准确率）不同，Diff-eRank并不依赖于模型的输出结果，而是通过分析模型的隐藏表征来评估模型的性能。对于多模态大模型，研究团队也设计了基于有效秩的评估方法，通过比较不同模态表征之间的有效秩匹配程度来评估模态对齐性能，证实了主流多模态大模型具有出色的对齐能力。
6. 本工作已被NeurIPS 2024(机器学习三大顶会之一，CCF-A类) 会议接收。论文共同第一作者为上海交通大学MIFA实验室的博士生魏来和清华大学的博士生谭智泉，通讯作者为上海交通大学MIFA实验室的黄维然副教授，共同作者包括来自William and Mary的王晋东助理教授。
阅读原文

AI大模型开发

文章概要：

1. 随着人工智能技术的飞速发展，AI大模型已成为推动科技进步和产业变革的重要力量
2. 本文档旨在探讨AI大模型的开发流程、关键技术、挑战与解决方案，以及未来发展趋势，为相关从业者提供参考与指导
3. AIGC（Artificial Intelligence Generated Content）即人工智能生成内容，即人工智能通过学习大量的数据，来自动生成各种内容、图像、音频、视频等，是继专家生产内容（PGC Professional Generated Content）、用户生产内容（UGC, User Generated Content）之后的新型内容创作方式
4. AIGC有效解决了传统创作中成本高、效率、人力资源有限的问题，适用于需要快速生产大量重复性内容的领域
5. AIGC有提升速度和效率、定制的用户体验、增强创新和决策、业务流程自动化、节约成本和优化资源等优势
6. AI大模型开发流程包括需求分析与目标设定、数据收集与预处理、模型选择与架构设计、模型训练优化、模型评估与测试、部署与
7. 关键技术包括深度学习框架、分布式训练、自注意力机制、迁移学习、稀疏化与量化
8. 面临的挑战与解决方案包括数据质量与标注成本、模型复杂度与资源消耗、隐私保护伦理问题、模型可解释性与鲁棒性
9. 未来发展趋势包括模型轻量化、多模态融合、联邦学习、AI for Science> 10. AI大模型的开发是一个复杂而系统的工程，涉及数据、算法资源法律等多个方面
阅读原文

大模型的苦，创业的AI 科学家最懂

文章概要：

1. 李洋9个月不到，技术研发投入2000万元，现金流断裂后离开大厂，创业未半背上债务。
2. 李洋发现商业化搭子口条一流，但打动不了客户，最终亲自下场跑客户。<> 3. 刘自鸿的柔宇科技破产清算，稚晖君找到子，专注负责技术研发。
4. AI创企们在组建初期，就坚定地“不为爱发电”，把找商业化搭子刻进了基因。
5. AI科学家创业从技术控的完美主义走入实用主义，开始重视起工程思维。
6. AI科学家创业面临更大的商业化压力，需要来自投资人的输血，商业化审视也势必更加严苛。
7. AI科学家们在ToC和ToB的商业化上反复摇摆。
8. AI科学家们不仅需要变得实用主义，还需要“卷”实用性。
9. 大厂的探入，不仅加剧了卷度，也让AI科学家们的团队协作性受到了更大的考验。
10. 当AI竞争进入泡沫化的竞争阶段，谁商业化，就能更早回收成本。
阅读原文

大模型丛林，一家科技企业的创新样本

文章概要：

1. 快递100是快递物流信息云服务领导品牌，在大模型时代，积极拥抱大模型，基于「百递云GPT」全面升级原来的查快递、寄快递、管快递和客服服务。
2. 快递100在大模型应用和落地进展方面，交出了不少成果，如推出全网首款快递物流AI原生应用「快递100查快递」、「快递100·AI寄快递」，将AI大模型能力用到客服场景等。
3. 快递100的大模型应用能落地，还与他们早早意识到要从企业架构层面来建设大模型的应用和开发能力有关，如搭建企业级大模型开发平台——「百递云GPT」。
4. 拥抱大模型还给快递100带来了切实的用户增长。
5. 快递100创业一款国民级产品，其中不乏偶然，但有必然。这里面最关键的因素在于，他们抓住了客户的真需求，有一颗愿意积极探索新技术，用新技术开发出产品，来解决用户痛点的利他、破局之心。
6. 快递100在2011年就收到了来自百度的橄榄枝，成为了百度框架算合作伙伴，开始融入百度搜索生态，用户可以在搜索引擎界面直接查询到快递基础信息。
7. 快递100把“客户为先”写入了公司价值观，开放是必然的选择。
8. 快递100正积极拥抱大模型，基于「百递云GPT」全面升级原来的查快递、寄快递、管快递和客服服务。
阅读原文

AI大模型行业解码：应用及产业链的未来机遇

文章概要：

1. 行业概述：AI大模型是采用大规模参数的神经网络模型，具备泛化性、通用性和涌现性等特征，可分为自然语言处理、视觉、多模态等类型，部署方式分为云侧和端侧大模型。
2. 行业现状：全球范围内，OpenAI、Anthropic、谷歌等企业第一梯队，国内百度、、字节跳动等企业也在积极布局在竞争中，出现了闭源与开源两种模式。中国重视AI大模型的发展，发布了一系列支持政策。
3. 行业应用解决方案：算力与数据、缺失与法规、市场认知不准确、行业know-how不足等。解决方案包括租用算力、合作建设算力中心、算法、购买数据、与企业合作、现实传感、与高校合作培养人才、举办开发者大赛、建立安全风控机制增加隐性数字水印、推进市场化应用、塑造成功案例、与头部企业合作聘请行业专家、构建行业生态等。br> 4. 产业链分析：AI大模型的发展离不开高性能硬件设备、海量数据、强大算力和的算法模型。在基础层，高性能芯片的不断升级为大模型了坚实的算力支持；在技术层，Transformer架构占据主导地位在能力层、应用层及用户层，AI大模型的应用范围。
5 最后：EQMJ AI团队现有绘图、AIGC美术馆、AIGC、微映AI视频工具，为大家准备了丰富的AI实战案例社区，涉及电商、影视、动漫、游戏等众多前沿领域。EQMJAI普惠理念更多小伙伴们的加入！
阅读原文

国产AI大模型崛起之路：从萌芽到广泛应用

文章概要：

1 近年来，全球兴起AI大模型热潮，中国在该备受瞩目。
2. 中国AI模型的萌芽可追溯至上世纪末和本世纪初，中国开始涌现出一批从事AI技术研发和应用的企业和科研机构
3. 201年至2018年，自然语言处理模型Word2Vec、、Transformer架构、GPT-1与BERT大模型相继诞生，使大模型的性能得到了显著提升<> 4 进入21世纪0年代，AI大模型发展爆发期，以GPT为代表训练大模型的出现，标志着大技术进入了的发展阶段。
5. 当前，中国AI大模型的发展已经取得了成果在领域展现出了的应用潜力。
6. 未来，技术进步和应用拓展将使中国AI大前景更广阔，但也需要清醒地认识到，AI大发展还面临着诸多挑战问题。
阅读原文

当AI取代真相，大模型如何一步步诱骗了人类的文明？| 追问观察

文章概要：

1. 人们选择餐厅时会依赖社交媒体的信息，但的一家餐厅Ethos证实这种它根本不存在，其食物生成。
2. 大型模型（LLMs幻觉及涌现让忧虑虚假信息可能大模型通过其潜在影响的深刻思考。
3. AI生成的虚假信息影响深远，类似虚假餐厅的例子生活中发生了不止一次。普林斯顿的一项研究发现，截止24年8月，至少5%的英文维基百科页面是由AI生成的，相对而言德语、法语和意大利语文章的占比较低。
4. AI生成的虚假信息利用了判断真假的启发式弱点，我们判断一件事情是否为真时，有两种不同的思考方式，一是启发式，另一种则是费力的思考。在日常生活中，我们常用到两种启发式方法判断信息真实与否：一种是观察发言是否流畅自信，另一种是言论是否熟悉。然而事实证明，这两种判断基准在人工智能面前都会败下阵来。
5. 将AI拟人化使我们轻信大模型，大多数人倾向于认为，我们的对话伙伴是真诚的、合作的，并会为我们提供与话题相关的有用。在与大模型对话时，人们也会不自觉地将其拟人化，忘记自己面对的是代码而非真实的人。这种拟人化倾向让人们更容易依赖启发式思维，而非进行更深入的批判性分析。
6. 大模型会影响我们的群体智慧与记忆，按照目前大模型产生信息的速度发展下去，生成文本遣词造句风格，将变得比人类自己的内容更为人熟知。那么，它就有能力大规模地生成看似真实但却严重误导的消息，从特定社区扩散到主流社会，让人类社会的信任问题再升级。
阅读原文

ChatGPT4o、o1 谁才是最佳大模型？

文章概要：

1. ChatGPT已成为用户的强大助手，广泛应用于多个领域。OpenAI提供了众多模型，用户常感到困惑，本文将介绍这些模型的特点，并分析如何根据自身需求进行选择。br> 2 OpenAI的GPT系列目前有多个版本，如GPT-3.5、GPT-4GPT-4 Turbo、Mini、O1等，每个模型在速度、、价格等方面各具特色。
3 在了解了各个模型的特点后，可根据任务复杂度、响应速度预算控制等因素选择合适的ChatGPT模型
4. OpenAI不断更新和优化模型，以提升用户体验。最近的更新包括GPT-4 Turbo的发布、系统消息与任务定制、GPTs自定义功能等。> 5 GPTs是OpenAI新推出的功能，允许用户ChatGPT的和行为。s的功能包括任务定制、行为引导、外部工具等。
6. 无论你是普通用户内容创作者企业管理者还是，AI提供的多种ChatGPT模型都可以你的不同需求。
阅读原文

2024年上半年MaaS市场达2.5亿元，大模型应用“从通用迈向垂直”迎来新突破

文章概要：

1 2024年上半年MaaS规模已达2.5亿元，将继续增长02年有望达到38亿元。
2. 大模型的正在“通用”迈向“”行业大模型日渐受到企业端青睐，因为它的高性价比可专业定制和数据安全可控这三个。br> 3. 近期行业大模型的开发与应用迎来突破，冶金制造、、文旅、等相继新的行业大。br> 4认为行业大模型将是重要点，大模型、垂直化落地是一场有意义的竞赛。
5 在政府层面的调控和支持国内“政产学研”各界正在充分加强协作，推动模型差异化发展及商业
阅读原文

“多模态大模型在NPU上的应用能否开创新的交互范式”论坛在CNCC2024上成功举办

文章概要：

1. 2024年1月26日，由中国计算机学会的2024中国计算机大会“多模态大模型在NPU范式？论坛浙江横店成功召开 阅读原文

“多模态大模型在NPU上的应用能否开创新的交互范式”论坛在CNCC2024上成功举办

文章概要：

1. 2024年10月26日，由中国计算机学会主办的2024中国计算机大会（CNCC）“多模态大模型在NPU上的应用能否开创新的交互范式?”论坛在浙江横店成功召开。
2. 本次论坛由联想研究院PC创新与生态系统团队和清华大学联合举办，邀请到来自学术界和企业界的资深学者和技术大咖们，分享多模态大模型和NPU领域的最新成果，探讨面临的挑战和机遇。
3. 论坛分为技术专题演讲、技术专题讨论两个环节，由清华大学朱文武教授和联想集团副总裁王哲鹏主持专题演讲环节，联想集团首席研究员颜毅强主持技术专题讨论环节。
4. 论坛嘉宾以“大模型和NPU对智能终端创新的影响”为主题展开了热烈的分享讨论。
5. 联想集团已经在AI PC的产品布局上迈出了坚实的一步，集成了语音识别、图像分析、自然语言处理等多种功能，致力于通过技术创新，为用户提供更加自然、高效、个性化的交互体验。
6. 在结束的西雅图联想创新科技大会上，联想集团公布了下一阶段Smarter AI for all愿景，今年以来，联想集团进一步将混合式人工智能作为未来的发展方向。联想研究院作为联想集团的技术引擎，在大会上展示了一系列最新的技术创新成果，主要包括AI、大模型相关创新;3D显示和交互创新;以及元宇宙、机器人创新等。
阅读原文

“数据要素×”大赛全国总决赛获奖项目(二）：大模型赋能文旅行业数字化发展

文章概要：

1. 10月25日，2024年“数据要素×”大赛全国总决赛颁奖仪式在北京举行。大赛组委会遴选出20支队伍进入路演答辩，最终评选出个赛道的一二三等奖特色专项奖。
2. 同程旅行启动文旅专属大项目，汇集海量高质量文旅行业数据，基于通用大模型进行文旅垂训练，打造文旅垂类模型“程心”大模型旨在通过大模型能力解决文旅行业痛点，赋能文旅行业数字化发展。
3. “程心”大模型的数据主要来源于同程旅行实时数据、平台用户产出数据和伙伴数据。
. 通用大模型在具体的行业领域有着很大的业务鸿沟，了弥补通用大模型在旅行业务的适配性低的缺陷，“程心”大模型采用基于通用大模型训练方案。 阅读原文

中国信通院可信AI大模型服务平台专项评估正式启动

文章概要：

1. 近年来，大模型参数规模和模型通用化普惠化发展，如何实现大模型的真正落地成为关注的焦点
2. 中国信通院人工智能研究所高度关注大模型及大平台发展动态，前期围绕发展态势快速迭代大模型标准体系，并依据标准开展4轮5企业9>. 为进一步助力大模型行业快速应用落地，促进大模型服务平台的能力持续中国信通院正式启动可信AI大平台专项>. 评估将依据《大规模模型开发层、服务、应用管理层3个维度>5. 大模型服务平台专项评估流程主要商务确认两个部分，商务流程依次为参测意向沟通、评估流程申请和商务合同确认，技术对接主要围绕实施的评审.，评估执行时间2月，评审时间为24月底证书颁发时间为22公开会议
阅读原文

从“方升”大模型测试体系看大模型评测的现在与未来 | 报告分享

文章概要：

1 中国产业发展联盟定于11月6日召开第十三次全体会议，中国信通院将联合多家单位通报“方升”大模型能力监测情况。
2.方升”是由中国信通院联合多家头部大模型企业、用户单位和机构共同制定的评测体系，从理解、生成、推理等15个通用能力维度对大模型进行全方位测试。br> 3. 中国院上海工创中心通过四个问题解读大评测的现在与未来，大模型评测的意义、现有特征、面临挑战以及“方升”创新之处。
阅读原文

希沃：击穿教育大模型的两个痛点

文章概要：

1. 2024年诺贝尔奖肯定了人工智能和机器学习研究在物理学和化学领域的影响，AI在前沿科学研究和应用领域扮演着越来越重要的角色，教育科技企业也开始步入“深水区”。
2. 希沃教学大模型2.0在算力、数据、算法、场景方面做了通用的动作，解决了教育大模型化路径上的和了全链路的工程优化和算法优化，将大模型部署到小型边缘服务器上。
3. 希沃教学大模型2.0以技术为底座，用产品力把握市场心智，进行了全系列的产品升级，将大模型深度融合教育数字化软硬件产品，融入教学空间、教学过程、教学资源中，助力教育数字化发展。<4. 希沃教学大模型2.0在基础教育端、高等教育端、启蒙教育端都有相应的产品和应用，为教师提效减负，改善教学模式，穿透家庭教育的三层需求。
5. 新技术带来的不仅仅是新的产品，新的功能，还意味着一个新的时代即将到来，中国智能算力正处于高速增长阶段，人工智能与教育深度融合势在必行。
阅读原文

​百川智能：深度学习大模型推理性能优化策略

文章概要：

1. 随着深度学习技术的不断发展，大模型在各个领域的应用越来越广泛，如自然语言处理、图像识别、语音识别等。随着硬件技术的不断进步，未来的大模型推理框架将更加注重性能优化，提供更高效率的模型推理服务。大模型推理框架作为深度学习领域的一项重要技术，为处理大规模数据和模型提供了有效的解决方案，未来将在更多领域展现出其强大的应用价值。本文将从四个优化专项介绍如何优化大模型推理框架性能：量化、投机采样、TTFT 与 TPOT 的优化、通信优化。
2. 量化的本质通常是将模型的参数，或整个模型的推理过程从浮点转化为整型。模型量化是一种将浮点计算转成低比特定点计算的技术，可以有效降低模型计算强度、参数大小和内存消耗，但往往会带来巨大的精度损失。量化精度从高到低排列顺序是：fp16>int8>int4，量化的精度越低，模型的大小和推理所需的显存就越小，但模型的能力也会越差。
3. 投机采样是利用decode过程算力冗余，使用额外的技术生成多个候选token同时输送给大模型并行验证，可充分使用算力且不会额外增加过多时延。投机采样的设计基于两点认知：在模型推理中，token生成的难度有差别，有部分token生成低，用小参数（模型也能够好生成；小批次情况下，原始模型（下简称大模型）在前向推理的主要时间在加载模型权重而非计算，批次数量对推理时间的影响非常小。
4. TTFT：首个Token响应用户查询后快可以看到模型输出。在实时交互中，响应时间需要尽可能短，但在离线工作负载中则不那么重要。这个指标由处理提示信息和生成第一个输出token所需的时间决定。TPOT：每个输出Token的时间，系统生成每个用户查询的输出token所需的时间。这个指标与用户感知模型“速度”的方式直接相关。例如，如果TPOT是100毫秒/token，那么每秒可以生成10个token，或者每分钟约450个词，这比一般人的快。
5. 在大模型推理中，计算通信由于模型结构限制是串行执行的，会导致通信过程中算力被浪费。在4090卡上，由于通信能力很弱，问题更加明显，通信耗时占比很高，导致GPU大部分时间算力浪费。为解决这个问题，提出了很多计算通信overlap的方法。
阅读原文

​百川智能：深度学习大模型推理性能优化策略

文章概要：

1. 随着深度学习技术的发展，大模型在各领域应用广泛，未来大模型推理框架将更注重性能优化，提供更高效率的模型推理服务
2. 本文将从四个优化专项介绍如何优化模型推理框架性能，包括量化、投机采样、TTFT与TPOT的优化、通信优化
3. 量化的本质通常是将模型的参数，或整个模型的推理过程从浮点转化为整型，量化作为大模型最重要的性能优化手段，能有效降低显存占用，降低访存量，更充分地利用计算资源
4. 投机采样是利用decode过程算力冗余，额外技术生成多个候选token同时输送给大模型并行验证，可充分使用算力且不会额外增加过多时延
5. TTFT是响应，TPOT是每个输出Token的时间，首token耗时decode每个token间耗时的平衡驱动来源于用户体验上优化
6. 通信优化是为了解决在大模型推理中，计算通信由于模型结构限制是串行执行的，会导致通信过程中浪费问题
阅读原文

揭秘AI大模型

文章概要：

1 AI大模型：AI大经过海量数据训练的“超级大脑”，其原理主要基于深度学习技术，特别是神经网络和大规模的训练。
国内热门AI大：文心一言是多功能的大模型，在文本生成、摘要、翻译等多个领域表现出色；通义千问的专长是问答系统，在广泛的主题上用户提供更准确的答案；豆包是一个面向特定领域的大模型，它通过特定领域的大量数据进行预训练，从而为该领域提供专业的服务和支持。
3 国外热门AI大详解：ChatGPT是一个用于自然语言处理的模型，拥有1750亿参数理解并生成类似人类文本；emma是复杂语言理解而打造的模型，擅长分析上下文，能够理解人类语言的细微差异；Phi-3.5系列AI模型由三款模型组成，款模型均提供特定功能，满足不同应用场景的需求，为用户提供更高效AI解决方案。
阅读原文

速来围观！树莓派和Jetson主控都能部署AI大模型啦！

文章概要：

1. 终端设备应用一直是大模型的热点话题，树莓派5和Jetson系列等优质开发板的接连问世，运行大模型成为现实
2. 本次测试使用树莓5-8G版本作为平台。树莓派5-可以完成简单的AI模型测试在复杂的语言和任务稍迟缓。总体而言，该平台适合轻量级的AI，对AI技术的性学习应用。
3. 相比树莓派，Jetsonin NX在性能上具备更大优势。Jetson Orin NX在运行AI大时出明显的硬件优势，尤其是16GB版本，在大模型上响应速度更快，适合复杂应用部署。8GB版本则以较优满足了较多AI任务的需求，是移动端和中型规模AI任务理想选择<>4. 为帮助用户在树莓派和Jon平台上更高效地部署大，幻尔提供而系统AI大模型开发资料帮助开发者在低成本、低功耗的嵌入式设备上轻松运行大语言模型。
阅读原文

宁夏大语言模型实现零的突破

文章概要：

1 宁夏信息产业股份有限公司承担的自治区重点计划项目“政务服务大语言模型构建技术研究与示范”重要进展“希言大模型”顺利通过网信办生成式人工智能（大语言模型审批备案标志着宁夏人工智能大模型建设上实现零的
2. “希言大模型”具备多轮对话文本摘要、逻辑推理、规划建议、内容生成长文本理解、优化、安全检查判断等能力
3. 基于“希”政务模型，了政务AI办事、智能审批助手、数字人社助手、公积金办事助手、教学助手等AI应用，政务服务、住房公积金、教育等不同服务领域定制化解决方案，目前均已通过测试
4. 2018年以来，科技厅大力支持信息，坚持技术攻关、科技成果转化、创新主体培育、创新平台、人才培养一体化部署，为宁夏数字信息产业发展提供有力科技支撑
阅读原文

央视再度关注报道国星宇航AI大模型技术及“星算计划”

文章概要：

1 11月2日，央视新闻频道《新闻直播间报道了清大明韵已投企业国星宇航在轨运行大模型技术验证及星算计划”相关进展。这是继9月24日国星宇航全球首颗大模型科学卫星发射受央视关注报道后再一次登上央视。
2. “星算计划star-compute），旨在于2030建成由200颗算力卫星组网、全球的移动”算力网，让可持续算力覆盖地球、近地轨道乃至深空。
3 国星宇航“太空”领域开展的技术产品创新已多次获得央视报道。br>4. 国星宇航技术负责人介绍，今年九月发射任务的与此前不一样，一次新的技术突破，标志着星在“AI”之路上的一个新里程、新。br>5.星宇航更大的目标和展望。目前已启动的“算计划，将助力人类更好太空资源。同时算力结合大模型在一些细分领域，正在行业br>.大明韵是清华海峡研究院对外投资平台，为高速成长中国创业型企业拟上市公司上市公司提供专业的IPO咨询服务、再融资咨询服务并购咨询服务财务顾问服务。
阅读原文

突破短视频局限！MMBench 构建中长视频开放问答评测基准，全面评估多模态大模型视频理解能力

文章概要：

1. GPT-4o四月发布会掀起了视频理解的热潮，而开源领军者Qwen2对视频毫不手软，在视频评测基准上狠狠秀了一把肌肉。但当前大部分评测基准仍然具有以下几个缺陷：多于短视频，视频长度或视频镜头数不足，难以考察到模型的长时序理解能力模型的局限在部分较为简单的任务，更多细粒度的能力未被大部分基准所涉及到；现有的基准仍可以单帧图像以获取较高的分数，说明问题和画面的时序性关联；对开放性问题的评估仍旧采用旧-35，打分和人类偏好有较大的偏差且并不准确，高估模型性能。
2. 在最新的NeurIPS D&B 24由浙江大学联合上海人工智能实验室，交通大学香港中文大学提出的MMBench-Video打造了一个全面的开放性视频理解评测基准，并针对当前主流MLLM构建了开源的视频评估榜单。
3. MMBench-Video这一理解评测基准采取全标注，历经一次标注和二次质量核验，视频种类丰富且质量高，问答涵盖模型能力全面，回答问题需要时间维度对信息进行提取，更好的考察了模型的时序理解能力。
. 为了更加全面评估多个模型的视频理解性能，Bench-Video选取了11代表性的视频语言模型，个开源图文多模态大模型GPT-4o等个源模型进行全面的实验分析。
5. MMBench-Video目前在VLMEvalKit中一键评测。VLMEvalKit是一个专为大型视觉语言模型评测设计的开源工具包。它支持在各种基准测试上对大型视觉语言模型进行评估，无需进行繁重的数据准备工作，评估过程更加简便。VLMEKit用于图文多模态模型及视频多模态模型的，支持单对图文输入、图文交错输入及视频文本输入。实现70基准测试，覆盖了多种任务，包括但不限于图像描述、视觉问答、图像字幕生成等。所支持的模型及评测基准正在不断更新中。
阅读原文

心识周刊 | 大模型个性化综述、生成式AI交互设计……

文章概要：

1. 大型语言模型的个性化：一项调查，作者引入个性化LLM使用的分类法并总结主要差异和挑战，首次弥合了两个独立主要方向之间的差距。
2. 生成式AI应用中的用户界面设计和交互技术综述，作者提出了一项调查，全面介绍了人类如何与AI交互的分类法，满足各种相关用例需求的用户交互模式。
3. 论逻辑推理中大型语言模型的记忆，作者使用基于Knights and Knaves（K&K）谜题的动态生成的逻辑推理基准，通过对推理任务中的记忆进行定量测量来系统地研究这一假设。
4. 探索未知：用于个性化探索任务的基于聊天的协作界面，本文介绍了个性化探索协作助手（CARE），该系统旨在通过多智能体LLM框架与结构化用户界面相结合来增强探索任务的个性化。
5. 更好的桥梁：整合神经科学和意识哲学，本文开发了一种相对较新颖的方法来确定这一点，即使用不仅来自理论自身的领域，而且来自其互补领域的证据。
6. 感觉运动信号揭示了内隐和外显代理感之间的相互作用，作者在一个探索性实验和一个预先注册的实验中，使用机器学习方法评估了众所周知的内隐感觉运动适应机制与外显SoA判断关系。8. 信息本体论概念不能解释意识，信息本体论的概念，例如那些作为综合信息论基础的概念或任何与泛灵论相关的理论，都无法解释意识。
阅读原文

近三十家企业共创！能源行业大模型系列标准第一次研讨会成功召开！

文章概要：

1 国家能源局意见指出要发挥人工智能等数字化技术在能源领域的创新引领作用，能源行业的数智化转型必然选择，人工智能可提升能源行业效率，推动能源技术革命，促进绿色低碳发展
2. 中国信通院启动《能源行业大模型》标准编制工作，并召开第一次研讨会，针对煤炭、、矿山、油气四个领域的标准框架进行讨论，来自产学研用的30余名参与。
3. 研讨会上，中国信通院介绍了系列标准，与会专家围绕标准框架展开充分讨论，提出宝贵意见，为标准编制提供多维度视角。
4. 未来，中国信通院将携手各方深入开展能源行业大模型标准研究和评估咨询工作，推动标准进一步发展，欢迎业界专家咨询探讨。
阅读原文

征集发布｜关于开展2024年度人工智能大模型金融领域示范场景及创新应用案例征集宣传展示活动的通知

文章概要：

1. 上海金融科技联盟创新监管联合实验室启动开展“204年度人工智能大模型金融示范场景及创新征集宣传活动”通知背景为落实《上海高质量推进全球金融科技中心建设行动方案》，充分展示上海在科技赋能尤其是人工智能大模型金融领域的最新进展与成效，促进金融科技创新赋能金融行业高质量发展。
2. 活动时间安排为征集时间即日起至2024年11月15日，遴选时间2024年11月下旬，发布时间2024年12月。
3. 活动组织架构包括指导单位上海金融科技主办单位金融科技产业联盟创新监管联合实验室，支持单位上海金融科技产业联盟数据产业化专委会、上海金融科技产业联盟智慧金融专委会、金融科技产业联盟智能运维专委会承办单位上海城创投资管理股份有限公司。
4. 征集对象为联盟成员单位、监管实验室及专委会成员单位，注册在本市的金融要素市场、金融基础设施以及中、外资金融机构总部及其科技子公司，性金融机构在沪的持牌运营中心和市级分支机构在沪金融要素市场、金融机构等提供金融科技服务的科技企业、高等院校、科研院所等单位，报经指导单位同意的其他单位。br>5 征集范围包括优秀示范场景应用，示范场景面向金融要素市场金融基础设施、持牌机构及其金融科技子公司金融场景方征集，创新应用案例面向大模型企业以及大模型产业链上下游科技企业、高等院校、院所等技术提供方征集。
申报方式为线上征集，申报机构填写申报表并发送至实验室邮箱，申报材料要求描述详实、重点突出、表述准确、逻辑性强。
. 支持措施包括国际论坛重磅发布、线下举办成果特展、开展广泛宣传推广、参与联盟常设展厅、加入联盟生态平台、对接相关政策支持。
阅读原文

基于大模型交通事故分析能力，研究人员揭开交通事故背后新秘密

文章概要：

1. 美国佐治亚大学的研究团队借助链式思维和领域知识工程技术，分析交通事故严重程度，为传统交通安全研究提供新视角和方法。
2. 该研究评估了三种先进的大型语言模型在交通事故严重程度分析中的能力，将其视为分类问题，并比较了提示工程和链式思维对模型推理效果提升。
3. 研究人员关注了模型零样本和少样本学习场景下的适应能力，通过CoT技术深入理解模型在推理过程中考虑的因素。
4. 审稿人认为该研究首次将先进的大型语言模型应用于交通事故严重程度分析，展示了不同模型的能力与局限性，有助于更深入理解模型表现。
5. 该研究成果具有广泛的应用前景，包括事故分析与研究、交通管理、保险等领域。
6. 从研究起步到完成成果，经历了多个阶段，研究人员遭遇了一些挑战，未来计划继续深入探索，引入更先进的技术手段，进行有针对性的微调，在更大规模的多样化数据集上进行实验。
7. 甄皓本科攻读新能源科学与工程学士学位，硕士阶段考取技术经济及管理方向研究生，参与多个电网相关研究项目，后涉足能源管理与预测工作，撰写论文。
8. 2021年，甄皓进入佐治亚大学攻读土木环境工程（交通工程方向）博士学位，担任研究助理，研究主要集中在智能交通、交通安全、公平性和交通规划等方面。
阅读原文

双第一！百度智能云领跑中国大模型市场

文章概要：

1. IDC发布报告显示，2024上半年百度智能云以32.的位居中国aaS，同时在中国AI大模型解决方案市场营收占比达17.0%，位居市场第一。
2. 百度智能云的MaaS业务主要通过智能云千帆大模型平台提供服务，为企业提供大模型全生命周期工具链和整套环境。
. 百度智能云针对千帆大模型平台应用开发、模型服务、开发等不断精进迭代，目前平台累计帮助用户精了3万个大模型，开发了超过70万个应用，文心大模型的日均调用量已经超过7亿次。
4. 百度智能云拥有中国最最深的模型产业落地规模，目前已有超0%央企正在使用百度云进行创新，同时、互联网、在线教育、金融、、交通、政务等多个行业都在加速融合落地。
阅读原文

抛开技术，从问题的来串联人工智能，机器学习和大模型技术

文章概要：

1. 文章探讨了大模型技术，指出其是基于神经网络架构的机器学习模型，通过模仿人类神经元和大量数据学习来实现
2. 文章介绍了实现大模型的多种学科和基础结构之一的Transformer模型，以及将大模型技术与自然语言处理和计算机视觉技术相结合，使其具备读写和图像视频处理能力。
3. 文章还通过步骤拆解让大模型对简单逻辑进行拆解的能力，从而处理复杂问题。
阅读原文

AI大模型行业专题报告：大模型发展迈入爆发期，开启AI新纪元

文章概要：

1. 大模型发展呈现“规模定律”，Transformer为技术基座。
2. Transformer是LLM基座，核心优势在于Self-attention机制。
3. ChatGPT：一举成为现象级应用，引入RLHF算法改进训练数据。
4. 全球大模型竞争白热化，国产大能力对标GPT-3.5Turbo。
5. OpenAI：上半年重磅发布Sora，GPT-4o取得性能与实用性双突破。
6. 国产大模型：迈入爆发期，模型能力追赶GPT-4 Turbo。
7. 大模型商业形态多元，B端变现模式更清晰。
8. 全球API定价呈现下降趋势。
9. 破局之路：企业级需求快速增长，MaaS助力降低模型使用门槛。
10. 大模型技术与应用发展催生海量算力需求。
11. 大模型服务器成本测算。
阅读原文

IMLIP特约报告|清华大学陶建华：大模型与语音技术

文章概要：

1. 国际多语种智能信息处理会议（IMLIP）专注于多智能信息处理，具有国际影响力的产学研高端会议，旨在为学者提供学术交流合作研究的平台，促进语言学研究和自然语言处理的学术研究。
2. 2024年IMLIP会议由中国人工智能学会主办，将于202411月1617日在北京召开，大会邀请清华大学自动化系长聘教授陶建华报告。
3. 陶建华教授的报告题目为“大模型与语音技术”了大模型在语音生成、识别内容理解等方面的应用分析了大模型的问题和技术挑战提出了大模型与语音技术进一步融合的思路。>4. 陶建华教授是清华大学自动化系聘教授，国家杰出青年基金获得者，国家级领军人才，享受国务院政府特殊。他的成果多次获奖，并在多个国内外期刊担任编委，曾担任多个会议的大会主席或程序委员会主席。
阅读原文

数智QA｜大模型落地，为什么需要智能体一体机？

文章概要：

1. 企业智能化进程中面临决策成本、投入成本和效果不确定性等，希望在大模型“以小见大，见微知著”。智能体一体机完成大模型落地验证与探索的绝佳选择
. 大模型虽好，落地却不容易，需要面对兼容性、可靠性和投资回报率等不确定性。
3. 传统模式下，有效构建大模型需求的存算、网底座，进行巨大的IT基础设施升级，随后开始搭建大模型的技术架构，推动大模型能力与业务适配。. 联想推出的智能体一体机在软件层面配备了联想体平台”，在硬件层面采用了能够部署智能体的最小单元，对客户需求与大模型的理解深刻。
6. 联想智能体一体机帮助企业在私有化部署、数据绝对安全情况下获得多种大模型的定制化与再开发能力，让企业以小步快跑的方式，充分释放和激活大模型潜力。
阅读原文

上卫星、能带货 国人将AI大模型应用玩出了花

文章概要：

1. AI大模型卫星让卫星更聪明，它能在天上自主作决策，提高工作效率。国星宇航团队启动“星算计划”，将于2030年前建成由2800颗算力卫星组网、全球覆盖的“移动”算力网。
2. AI大模型在一些细分领域，正在颠覆传统行业。如利用大模型可以创造不同的，让效率提升10倍以上，成本也大大降低。
3. 记者探访迭代中的“AI打工人”，电商直播数字人大模型声音文字秒级生成，利用大模型直播有了落地的可能。
4. 智能体是将人工智能大模型与各种智能硬件相结合，打造出的智能系统。牵头发布了全球首份《终端智能化分级研究报告》，将终端智能化水平由低到高分为L1—L5五个等级。
阅读原文

苏州工业园区：垂域大模型激发新质生产力

文章概要：

1. 苏州工业园区积极引导支持大应用，大模型在驱动基础科研范式变革、提升要素配置效率、优化升级智能终端产品等领域作用显现，新业态、新模式、新产品加快涌现，初步探索出一条大模型驱动新质生产力发展的有效路径 园区企业依托大技术服务苏州、辐射全国，成为催生新质生产力“排头兵”。
4. 垂域大模型企业应该一味卷参数规模，关键是基于行业积累、理清行业链路，利用大模型进行精准赋能，往往能起到事半功倍的效果。
5. 园区引导企业应用大模型赋能高端装备、交通等优势制造业转型升级，推动各类智能产品从“能用”走向“好用”、智慧工厂加速落地。
阅读原文

加快发展“文化+科技”新质生产力，多彩新媒发布AI大模型应用创新实践新布局

文章概要：

1. 10月3日，流媒体网主办的南宁论道上，贵州多彩新媒体股份有限公司了自身的AI大模型应用创新实践
2. 贵州多彩新媒体股份有限公司是被贵州省委宣传部明确定位成“文化+发展的平台型一直是其重要。br> 3. 随着新一轮科技革命和产业变革深入发展人工智能已成为驱动新质生产力的引擎。AI大潮之下，新媒已完成智能推荐、智能播控、智能营销、智能用户运营等多项自主研发的“智能”解决方案。
4. 多彩新媒在AI+播控、AI+行业语料、+少儿、AI+生活服务、+文化出海等方向均在进行AI大模型应用创新实践。
5. 视听模型创新应用产业合作联盟的目标是围绕总局视听大模型，共建、共享AI大模型技术能力体系。<> 6. 联盟强调从服务用户角度，业务发展，共创、共用行业应用创新成果”。
7. 今年7月，贵阳市观山湖区入选第二批国家试点集数字视听文艺文创、康养度假于一体的兰山数字文化生态村落为申报板块之一。
阅读原文

万字长文细说端侧大模型进展

文章概要：

1. 11月7日晚7点， Lab OpenGVLab博士后研究员罗根将以《Mono-InternVL:突破原生模态大模型性能瓶颈》为主题进行直播讲解。
2. 最近，智谱AI推出的智能体AutoGLM引起了广泛关注。随着测试的深入，用户对该产品需要将屏幕数据上传至云端的隐私安全问题愈发担忧。为此，今天将基于近期一篇关于端侧大模型的综述文章，介绍该领域的一些最新进展。随着端侧大模型的发展，这些隐私安全的顾虑有望得到有效缓解。
3. 本文综述了设备端语言模型的发展，包括高效架构设计、模型压缩技术及硬件加速策略，并通过案例研究展示其实际应用及潜在优势。
4. 设计用于设备端部署的语言模型需要考虑多项架构原则和创新，以克服移动和边缘设备的资源限制。
5. 在大语言模型(LLMs)领域，尤其是针对边缘设备的，在保持性能的同时提高计算效率至关重要。
6. 硬件加速器如GPU、TPU和专用AI芯片在实现大语言模型的高效设备端推理中发挥着重要作用，提供强大的计算能力和高内存带宽。
7. 近年来，人工智能技术的迅猛发展和移动设备硬件的不断升级，使得在边缘设备上部署大型语言模型成为可能。
8. 设备端LLM的快速发展主要由因素驱动：数据安全需求、低延迟要求和边缘设备上个性化AI体验的需求增加。
9. 本综述全面阐述了设备上语言模型（LLMs）的最新进展，重点分析了模型压缩、高效架构和硬件-软件协同优化等领域的突破。
阅读原文

豆包招聘速递｜豆包大模型 LLM 团队热招中

文章概要：

1 豆包招聘速递|豆包大LLM团队热招中> 2. 豆模型团队2LLM1招聘1
. 豆大团队目录#豆包大模型团队
阅读原文

揭牌！在成都高新共建大模型实验室

文章概要：

1. 成都高新区企业中科创达与火山引擎在成都举行深度合作仪式，并为大模型实验室揭牌<> 2. 双方将大模型领域展开深度创新合作，共同开展科研项目，共享科研资源，携手推动大模型科研成果在和智能硬件端的和应用。
3. 中科创成都高新区车载智能产业链头部企业，是一家全球领先的智能操作系统及端侧智能技术和产品提供商。
4.引擎是字节跳动旗下的服务平台，致力于通过云和智能技术帮助企业构建体验创新、数据和业务敏捷迭代等能力，推进企业AI转型br> 5. 成都高新区是成都建设国家新一代人工智能创新发展试验区、国家人工智能创新应用先导区的区，四川省和成都市发展人工智能的重要承载
6.，成都高新区将坚持场景、算力促产、生态育产”路径算力基础设施、AI硬件、AI大模型、创新平台、应用场景、关键要素六大领域突破，全面提升人工智能与机器人产业核心竞争力和产业生态。
阅读原文

大模型时代，推荐算法工程师有哪些新机会？

文章概要：

1. 大模型时代，推荐算法工程师有哪些新机会？
2. 背景分析：大模型横空出世、移动互联网见顶、经济下行
3. 推荐算法的5大机会：赋能传统推荐系统、个性化“内容”创造、个性化专业顾问、私域精细化运营、端侧个性化
4. 双十一优惠中，快快抢购吧！
阅读原文

科大讯飞董事长刘庆峰：大模型落地全新时代，AI应用步入场景化深水区

文章概要：

1. 大模型的发展在通用底座能力、长逻辑推理、思维链能力以及多模态上不断进化。
2. 大模型落地进入更复杂的深水区，需要有对应的场景让大家看得见摸得着。
3. 科大讯飞的大模型在过去一年取得了显著的发展，大模型不仅是底层技术创新，还与应用对接。
4. 科大讯飞正式发布了讯飞星火大模型4.0 Turbo，其在数学能力和代码能力方面超过了GPT-4o。
5. 科大讯飞还发布了星火多语言大模型，首批除了中英文之外，还支持俄语、日语、阿拉伯语等8个。
6. 科大讯飞构建了从“建算力、理数据、模型，到落场景、保安全、精运营”的全套解决方案，面向教育、医疗、司法、政务服务、企业办公等多个行业场景发布了最新的产品应用。
7. 科大讯飞、华为、合肥市大数据资产运营有限公司三方联合打造的国产超大规模智算平台“飞星二号”正式启动。
8. 刘庆峰用五个关键词作出研判：顶天立地、可控、通专结合、云联动、软硬件一体。
9. AI for Science决定了中国科技发展的速度，而赋能科研则是中国造大模型的重要使命。
阅读原文

上卫星、能带货 国人将AI大模型应用玩出了花

文章概要：

1. 全球首颗AI大模型卫星发射，标志智能卫星时代开启。
2. AI大模型卫星可在轨运行试验，能更好地服务生产生活。
3. AI大模型卫星能自主作决策，提升工作效率。
4. 团队启动“星算计划”，将算力系统搬到天上。
5. AI大模型“造字”效率提升10以上，成本降低80%。
6. AI大模型可开发多语言符号字库，发扬传统汉字文化。
7. 记者探访迭代中的“AI打工人”，AI大模型的超强学习能力在各行各业的应用潜力巨大。
8. 电商直播数字人大模型，声音文字秒级生成，数字人利用大模型直播有了落地的可能。
9. 集成式开发模式，模型训练推理“多快省”。
10. 智能体将人工智能大模型与各种智能硬件相结合，打造出的智能系统。
11. 中国信通院牵头发布了全球首份《终端智能化分级研究报告》，将终端智能化水平由低到高分为L1—L5五个等级。
12. 目前智能终端发展阶段普遍在L2—L3级别之间，距离完全的自动化和智能化仍有距离
阅读原文

炸了！大模型教程发布

文章概要：

1. 《大语言模型基础与前沿》是由美国明尼苏达大学双城分校电子与计算机博士熊涛所著。深入涵盖大语言模型的广泛，适合高年级本科生和研究生、博士后研究人员以及行业从业者阅读与参考。br>2. 本书作者关注的不仅仅是过去和现在也想激励读者展望未来，探索大语言模型的前沿领域。
3. 大语言模型的迅猛发展了各国学术界高度重视，掌握大模型发展俨然是人工智能未来的趋势，语言模型（LLM的发展正朝着更大规模、更专业和更安全的发展，同时也在如何更好地集成到各种业务和应用中。
4. 很多同学陷入了写论文困境，其实很大原因是创新点不足，已经很多创新不足被拒稿的，要花费大量的时间来重新立意，然后从头开始去重建自己的论文逻辑。
5. 沃恩智慧是人工智能科研辅导行业中唯一受邀参会的公司，沃恩也在会上展示了他们的沃研Turbo大模型。这次申请到特别的福利沃恩智慧研发的Turbo大模型限时免费使用福利，直接扫码获取限时免费福利！
阅读原文

科大讯飞大模型竞速2年多，答卷不只是语音

文章概要：

1. 科大讯飞大模型竞速2年多，答卷不只是语音
2. 科大讯飞在大模型探索上是围绕业务“选择性答题”：不是要拿全领域第一名，但业务涉及的方向必须领先
3. 科大讯飞在推理方面主要关注两类问题：一是以为代表的学科类问题，如大学级别、奥数级别的问题；二是学科类中具有一定严格逻辑的大概率事件，比如医疗领域
4. 数字人赛道，对于讯飞来说则是商业模式相关的选择
5. 科大讯飞已在“大模型+科研”领域做了许多探索，如联合中国科学技术大学刘海燕教授团队，AI助力成功设计了48个自然界不存在的全新蛋白质；联合中科院动物研究所李鑫团队，研究单细胞基因表达课题；联合中科院等离子体物理建刚院士团队，研究托卡马克等离子体控制等
6. AI for Science赋能科研可以分为三个阶段：第一阶段，基础科研和基础工作的提效；第二阶段，科学任务建模；第三阶段，科研方案的辅助设计
7. 无论大模型硬实力、业务需求，还是给自己的责任，这是每个大模型落地企业都需要考虑的问题，科大讯飞给出了自己当前的回答
阅读原文

解析 | 大模型“六小虎”，一战定生死

文章概要：

1. AI圈“百模大战”方兴未艾，“十模共生”又已精彩纷呈。AI大模型发展正处在从无序竞争到日趋稳定的漫长进化中。虽然最终格局还没出现，但初步轮廓似乎已若隐若现：“六小虎”风头正劲、AI新势力（面壁智能、秘塔AI、DeepSeek）紧随其后、老牌科技大厂（阿里、百度、腾讯、字节、华为、讯飞、商汤、昆仑万维、快手等）蓄势待发……
2. 模型能力决定地平线，PMF决定天花板。在AI时代加速到来的背景下，AIGC浪潮越来越汹涌，从聊天机器人到AI搜索，再到虚拟角色、写作、翻译等各种场景，AIGC技术都在重塑内容创作的新局面。与此同时，国内外AIGC产业的格局也日益清晰。
3. “六小虎”突围的两个核心因素：大模型研发的可持续性和商业模式闭环的能力。
4. 建立竞争优势和壁垒的两个关键举措：高质量大规模数据和应用生态护城河。
阅读原文

AI大模型的营销大战，让PC渠道吃上了新增量蛋糕

文章概要：

1. AI模型在国内打起了烧钱，以Kimi为的大模型们纷纷开启了成本的马。
2 大模型选择高性价比的洼地，除了进入更多渠道新增外，直接的还是投流成本攀升带来的客观压力。
3 传统互联网营销（PC端渠道）能在时代翻红，进入其视野，除了基于营销投放成本的，还有一个重要原因就是时代已经出现了流量向PC的趋势。br> 4. AI作为新生产力，相比于移动设备，产品功能在端更容易实现使用
5.端除了面向AI工具用户天然友好性对于大模型厂商的品牌广告呈现也有优势。
阅读原文

安徽大模型：从拼性能到拼赋能

文章概要：

1. 安徽正抢抓通用人工智能发展战略机遇，致力打造产业新高地，大模型从拼性能到拼赋能，在寻找产业化发展的道路上，整个行业吹响了应用的“冲锋号”。<>2. 科大讯飞董事长刘庆峰了讯飞星火大模型应用成绩单正式发布讯飞星火4.0，国产超大规模“飞星二号”正式启动。
3. 大模型技术底座能力，是产业化应用最坚实的。科大讯飞定义了万物智能时代的人机交互（AIUI）标准并且通过了国际的认定，在去年5月正式发布了国际标准包括远场高噪、全双工、语种多方言等多个方面，此次102开发者节，标准再次升级，新增了多模态超拟人、。5. 大模型发展到今天，继续提升通用大模型性能，能带来的行业进步十分有限。要想摘到“产业果实”，必须扎根产业场景。汽车是大模型探索的绝佳载体。
6. 科大讯飞教育、医疗、、政务服务、办公等多个行业场景发布最新产品应用。
7. 在安徽，一个以大模型根基的产业森林正在生长。世界声博会暨科大讯飞全球10开发者节亦是推动安徽省智能语音及人工智能产业的重要平台，对于安徽构建“大大算力+大数据+大场景的产业发展格局具有重要促进作用。
阅读原文

徐汇区关于支持西岸人工智能大模型科创街区的扶持意见

文章概要：

1. 支持对象：徐汇区的企事业单位或民办非企业单位，或主要创新活动的相关单位，以及其他经区政府批准的对象。
2 支持：提升创新水平，推动产业集聚发展，优化产业生态营造，加强综合服务支撑。
3. 附则：按照“从高不重复”原则执行弄虚作假骗取扶持资金行为，将追究扶持对象的责任，并收回拨付的扶持资金。
阅读原文

人工智能大模型多场景应用解析

文章概要：

1. 生成式人工智能是一类能够生成新的、原创内容的人工智能模型，基于深度学习技术，已在图像生成、自然语言处理等领域取得成功，在元宇宙中可创造新的虚拟物品、环境、角色等。
2. 元宇宙是一个虚拟的、完全互联的世界，包括人工智能、虚拟现实、增强技术的融合，使人们可以在其中进行各种活动。
3. 生成式人工智能和元宇宙的关系密切，前者可以为后者提供新的，使其更加生动和有趣，同时后者也可以为前者提供更多的数据和场景，以便其能够更好地学习和生成内容。
4. 要促进元宇宙的实现，需要采取多种措施，包括技术研发、投资支持、政策引导等。其中，生成式人工智能可以为元宇宙提供独特的价值，可以通过提供丰富的内容和创意、优化交互和用户体验、和价值创造、加强安全和隐私保护等方式促进元宇宙的实现。
5. 生成式人工智能是指可以生成类似于人类创造的东西（例如文字、图像、音乐等）的人工智能系统，使用机器学习算法，通过学习大量数据集中的模式来创造新的数据。
6. 文档智能处理领域涉及到了多个方面的问题和技术，比如文档结构建模、错字检测、表格检测、PDF解析、神经网络渲染等。这些技术通过联合使用，可以实现文档智能处理的各种任务例如文本识别、表格识别、图像识别、文档分析等。
7. 合合信息在智能文字识别、图像处理、自然语言处理（NLP）、知识图谱、大数据挖掘等核心技术领域深耕十余年，拥有百余项自主知识产权的发明专利。
阅读原文

优Tech分享｜端侧大模型浪潮奔涌而至：态势、影响与建议

文章概要：

1. 自苹果推出AI手机以来，端侧大模型的产品发布进入加速期，如V推出蓝心端侧大模型3B，字节发布首款AI智能体耳机Ola Friend，荣耀发布Magic OS 9.0等。
2. 端侧大模型指在终端设备上运行的大型预训练模型，相较于云端大模型，其核心技术特点在于轻量化，当前主要的轻量化技术包括模型剪枝、知识蒸馏。
3. 端侧大模型之所以成为未来趋势，主要原因在于其实时性、保密性和经济性。
4. 端侧大模型的应用场景广泛，未来，AI推理将在手机、PC、耳机、音箱、XR、汽车，以及其它可穿戴式新型终端上运行。
5. 端侧大模型的到来，有望给全球手机市场注入新的增长力量。
6. 端侧大模型的技术发展路径，将向专业化任务的小模型优化、多功能与多模态能力集成等方向拓展。
7. 大模型正在加快向端侧迁移，新交互、新终端持续涌现，可能给行业生态利益协调带来新挑战。
8. 端侧大模型作为新生事物，代表了人工智能发展的一个重要方向。在带来巨大发展潜力的同时，也带来生态级的变革影响。
阅读原文

万字长文细说端侧大模型进展(综述)

文章概要：

1. 简介：介绍了端侧大模型的发展，包括高效架构设计、模型压缩技术及硬件加速策略，并通过案例研究展示其实际应用及潜在优势。
2. 基础与准备工作：介绍了端侧大模型的演进、大语言模型架构基础、端侧大语言模型训练、云端推理的局限性和端侧推理的优势、端侧大语言模型的性能指标。
3. 高效的端侧大模型架构：介绍了架构设计原则和创新、模型压缩和参数共享、协作和分层模型方法、内存和计算效率、混合专家(MoE)架构、通用效率性能改进。
4. 端侧大模型压缩和优化：介绍了量化、剪枝、知识蒸馏和低秩分解。
5. 硬件加速和部署策略：介绍了端侧大模型推理框架、硬件加速。
6. 应用实例：介绍了端侧语言模型示例、设备端LLM的应用。
7. 未来方向和挑战：介绍了数据安全技术、自适应边缘-云协作、多模态和跨模态学习、资源效率解决方案、硬件-软件协同设计、稳健性和可靠性、可扩展性和部署优化、持续学习和个性化。
8. 总结：总结了设备上语言模型（LLMs）的最新进展，重点分析了模型压缩、高效架构设计和硬件-软件协同优化等领域的突破。
阅读原文

大模型下一个战场在工具平台

文章概要：

1. 百度副总裁谢广军在2024百度云智大会上分享了一线洞察，公布了千帆平台日均调用量超过7亿次，累计帮助用户精调了3万个大模型，开发出70多万个企业级应用的数据，并介绍了百度千帆大模型平台3.0的诞生背景和特点。
2. 谢广军将过去一年半多的时间划分为三个阶段，分别是百模大战时期、应用场景探索时期和深入场景和深度融合应用时期，并指出每个阶段的特点和发展趋势。
3. 百度千帆大模型平台3.0是面向生产力场景的企业级一体化服务平台，主要企业生成式AI生产以及应用全流程开发工具链，在模型开发层、模型服务层和应用开发层均有全面升级。
4. 大模型的落地需要重视在行业场景中的能力增强和应用，百度智能云千帆大模型平台通过推出一系列应用样板间，让用户学会模型如何给大模型输入模板，降低用户入门门槛，提升大模型在若干行业场景的积累和推广渗透。
5. 谢广军简明勾勒了大模型产业落地的未来线条，包括模型推理成本的降低、模型效果的提升和各个厂商对自身成本的优化与控制。
阅读原文

港科大研发医学大模型

文章概要：

1. 港科大成功研发四大崭新的AI医学大模型，MOME（乳癌诊断STAR（病理辅助工具）、MedDr (全科)、XAIM（可解释的），旨在协助全科及专科医生诊症，能为多达30种及疾病提供诊断和预后评估，模型的准确度可与拥有5年或以上经验的专业医疗人员媲美。
2. 港科大过往在医学领域取得不少极具影响力的研究突破，包括能预测脑癌患者接受治疗后的进程和结果的AI模型、一项可精准检测阿尔兹海默症和轻度认知障碍的血液测试、以及一种崭新的AI细胞成像技术。
阅读原文

2024年中国AI大模型场景探索及产业应用调研报告

文章概要：

1. AI大模型行业应用>2.大模型应用现状及案例
3. AI大模型行业应用痛点及解决方案
4 AI大模型行业应用前景趋势及投资机会分析
阅读原文

LongReward：利用 AI 反馈改进长文本大语言模型

文章概要：

1. 合成有监督微调（S数据因缺乏人工审核，常常会影响长文本大模型的性能，使得SFT模型存在诸如产生幻觉和未能利用上下文信息等固有缺陷。
2. 提出了一种名为LongReward的新方法，该方法利用现有的大型语言模型LL）从四个维度（帮助性逻辑性、忠实性和完整性为长文本模型的回复打分，并结合强化学习来进一步模型性能，从而有效改善SFT模型的表现。
3. LongReward通过奖励信号解决了FT在长文本中因缺少人类标注而导致的数据质量问题。<>. 实验表明，LongReward不仅显著提高了模型的长文本性能，增强了遵循简短指令的能力。
5. 这一研究也存在一定的包括以下三点：LongReward的评估依赖于高精度、对齐良好的M模型（如GLM-4），并且每个QA实例需要花费数十次API调用；只在最大训练长度为64的10B级模型上进行，限制了对更大规模模型和长序列的；主要关注用户密集型长上下文，如长文档QA和总结
阅读原文

大模型“六小虎”，一战定生死

文章概要：

1. AI圈“百模大战”方兴未艾，“十模共生”又已精彩纷呈，AI大模型发展正处在从无序竞争到日趋稳定的漫长进化中。
2. 国外AIGC产业格局呈现出巨头主导、应用场景多元化的特点，国内AIGC产业同样发展迅猛，在聊天机器人、AI搜索、虚拟角色、写作辅助工具、翻译等五大应用场景中均有企业布局。
3. 当前，既是AI发展的机遇期，同时也是要谨慎应对的挑战期，以“小虎”为代表的国内头部AI企业，要想突破挑战，抓住机遇，取决于两大核心因素：大模型研发的可持续性和商业模式闭环的能力。
4. 建立竞争两个关键举措：高质量大规模数据和应用生态护城河。
阅读原文

AI大模型实务系列问答四：文生图、虚拟数字人和智能客服合规要点

文章概要：

1. 文章探讨了AI大模型在实务中的常见应用场景所涉及的具体合规要点。
2. 公司内部应用AI大模型产品应关注生成内容商业化侵权风险、内容合规问题、商业秘密泄漏风险和结合行业特别合规要求。
3. 在虚拟数字人方面，需注意人格权/知识产权侵权、经营资质与经营规范、权属及授权设置。
4. 对于智能客服，应根据不同行业的客户及应用需求，考虑额外的合规要求。
阅读原文

度小满朱光：推理大模型在金融领域的应用将从外围场景深入到核心业务

文章概要：

1. 10月2日22年香港金融科技周在香港亚洲国际博览馆开幕。度小满CEO朱光在科技周主论坛上表示，以o1大为代表新一波生成式AI技术在金融领域的应用，将从外围场景深入到核心业务，直接影响金融行业的核心决策质量，在为客户产品和服务体验上带来巨大突破的将会重塑金融行业。
2. 朱光认为，生成式AI技术要对行业变革有两个前提，一是必须让的客户体验发生巨大改变；二是必须对业务的核心决策产生影响。<>. GPT-o1发布之前，大模型在金融领域应用主要是智能客服、文档助手、内部办公提效等场景。今年9月份，OpenAI发布了GPT-o1大模型，“思考能力”显著提升，能够进行复杂逻辑推理和问题拆解。br>4. 在信贷领域，推理大模型可以通过分析客户的征信报告、银行流水，推理出来客户的，最后给出是否审核通过的风控决策建议。 阅读原文

Data+AI━━揭秘千亿参数背后的技术较量：全球巨头的大模型布局！

文章概要：

1. 大语言模型引发技术革命，全球顶尖科技公司和研究机构正在探索这项技术的新边界。
2. 大语言模型是AI技术创新的新高地，其规模效应带来了类人的理解力和创造力。
3 中国互联网公司纷纷布局语言模型，技术创新永远伴随着挑战。
4. 智能技术创新的水区，创新的浪潮此起彼伏，每一次探索都可能带来突破。
. 智能革命的下一站，对话式AI彻底改变了人机交互模式，多模态融合成为技术突破的新。
6. 技术创新正在催生新的商业模式，医疗健康领域的应用尤为令人期待。
阅读原文

沙丘智库《大模型应用跟踪月报（10月）》发布，洞察大模型最新落地进展

文章概要：

1. 沙丘智库发布《大模型应用跟踪月报0月，报告通过企业调研、公开信息等多种渠道收录已产生阶段性成果，旨在帮助企业及时了解模型应用的最新进展，调整战略规划。
2. 2024年10共收录51大模型案例，报告洞察到大模型在保险业的落地案例占比最高，在降本增效等方面的价值凸显。此外，大模型在销售赋能、软件测试、智能运维场景的上升明显，颠覆型的正在出现，有望创新产品形态。
阅读原文

万亿赛道！可信开源大模型解决方案第一篇 2024

文章概要：

1. 中国信通院可信开源大模型产业推进方阵成立
2. 中国信通院开启《可信开源大模型案例汇编（第一期）》案例征集计划
3. ChatGLM3-6B的基础模型ChatGLM3-6B-Base采用了更多样的训练、更充分的训练步数和更合理的训练策略
4. ChatGLM3-6B采用了全新设计的Prompt格式，除正常的多轮对话外，同时原生支持调用、代码执行和Agent任务等复杂场景
5. 除了对话模型ChatGLM3-6B外，还开源了基础模型ChatGLM3-6B-Base、长文本对话模型ChatGLM3-6B-32K
6. 通义千问模型自开源以来，广泛在阿里巴巴集团内外落地，典型案例包括对钉钉的魔法棒产品支持，可以实线问答、翻译、摘要等能力，以及浙江大学使用Qwen实现教育领域专属大模型智海三乐，以及有鹿机器人使用Qwen于清洁机器人等
7. 未来计划包括多个方面：坚持模型规模和数据规模的提升，不断提升基础模型的智能水平；打造结合大模型的AI系统，让AI具备听说看等基础能力，并实现和真实世界的交互；夯实大模型基础服务，并打造行业应用大模型
阅读原文

九个AI 大模型的功能特点与优势浅析（附链接）

文章概要：

1. 如今，人工智能已在日常生活中占据关键地位，尤其在教育领域展现出巨大赋能潜力。
2. 文心属于大规模语言模型，可进行文本创作、翻译等多项任务，生成高品质教育类文章，其翻译功能在国际教育交流中出色。
. 讯飞星火主要用于识别与合成，同时还支持多翻译等功能，其语音在课堂录音等方面优势明显。
4一款型AI大模型，支持多模态数据处理等教育应用场景，在个性化教学方案设计方面表现卓越。
5. 天工AI在图像识别等领域均有，广泛应用于教育评估和智慧校园管理能够自动批改作业等。
6. 百川AI主要在智能客服等方面发挥作用在教育资源推荐方面表现突出。
7. 豆包AI于情感计算与人机交互，在教育心理健康辅导和智能辅导员方面独具优势。<>8. GPT-4O是新一代大规模语言模型，以卓越的文本生成能力和理解能力著称，在教育领域的应用。
9. 商汤AI在计算机视觉和深度学习方面优势显著，应用于智能监控等领域，能够创建虚拟实验室。
10. Kimi模型主要6项功能，自然语言处理领域出色，情感分析和文本分类任务。
阅读原文

大模型新趋势之MoE：现状、挑战及研究方向

文章概要：

1. 2024年，全球主流企业加快推出MoE大模型，其架构更适合处理大规模数据和复杂任务，已成控制成本、提升性能、应对“价格战”的新方向。
2. MoE是一种用于提升深度学习模型性能和效率的，其特征优势是专家化动态化、稀疏化，在模型研发、训练/推理效率和整体性能之间实现最佳平衡。
3. 基于Transformer的MoE已成大模型主流架构，国内外主流企业差异化推进MoE大模型布局和落地。
4. MoE发展仍面临训练和微调的稳定性和可靠性挑战、大规模分布式部署难且通信成本高、存在原始缺陷与现有架构集成难等挑战。
5. MoE未来研究方向包括优化MoE架构、改进门控算法等，提高模型性能和稳定性；构建分布式训练系统/软件工具，提升MoE模型训练效率、降低训练门槛；利用模型蒸馏、硬件优化等技术，降低MoE模型部署难度；通过系统性优化、共享专家、通信结构设计等，降低通信成本。
阅读原文

车圈大模型落地竞速：从好用到易用，从尝鲜到常用

文章概要：

1. 全民AI需求爆发，大模型吹响落地冲锋号。
2. 大模型竞速升级，市场需求拷问加剧。
3. 抓住切实需求，大模型打造车企护城河。
4. 大模型既要好用也要易用，既要经济更要落地。
5. 结语：全民AI浪潮袭来，大模型不仅加速汽车行业向智能化迈进，还有望重塑全行业，成为新质生产力的关键支持技术。
阅读原文

第124期预告 | 生成式AI大模型概述

文章概要：

1. 介绍了生成式AI大模型的概述
2. 简介了国外主流AI大如GPT、Claude、ini、Llama等> 3.了国内主流AI大模型文一言、通义千问、智谱言、星火、imi豆包等
4了AI提示词工程：主流大模型Prompt提示词提问逻辑设计
5.了分享嘉宾湖南师范大学研学旅行副院长
6. 介绍了主持人通化师范学院高句丽研究院助理研究员
阅读原文

人工智能大模型多场景应用解析

文章概要：

1. 生成式人工智能可以为元宇宙提供新的内容和创意，使其更加生动和有趣。同时，元宇宙也可以为生成式人工智能提供更多的数据和场景，以便其能够更好地学习和生成内容。
2. 生成式人工智能是一种基于深度学习的AI技术，其通过学习海量数据中的规律和模式，能够生成新的数据、图像、语言等内容。这种技术在各个行业的应用都能够带来巨大的商业价值。
阅读原文

开放注册｜中国中文信息学会2024学术年会暨第三届全国大模型智能生成大会（CIPS-LMG2024）

文章概要：

1. 中国中文信息学会2024学术年会暨第三届全国大模型智能生成大会（CIPS-LMG 2024）将于2024年11月28日-12月1日于浙江嘉兴召开，本次大会围绕“智聚模都，生成未来”主题，除了邀请多位院士、学术专家及企业技术专家参与主论坛致辞报告外，还设置了14个分论坛。
2. 会议特别邀请了7位资深专家作报告分享，包括徐宗本院士、尼玛扎西院士、熊焰总裁、卢策吾教授、朱军教授、白翔教授、孙皓博士。
3. 会议安排：11月28日会议报到、理事会、专委会会议；11月29日-11月30日主会议、分论坛；12月1日讲习班。
4. 会议注册：个人注册和团体注册，个人注册11月10日前（含）学生800元/人，专业（非学生）1000元/人；团体注册满5人赠送1人，满10人赠送3人。
5. 酒店预订：会议举办地点为嘉兴南湖宾馆，会议协议价为大床房650元（含双早），标准间650元（含双早）；协议酒店为嘉兴·希尔顿酒店，协议价为大床房450元（含单早），500元（含双早），标准间450元（含单早），500元（含双早）。
6. 联系方式：注册、缴费问题，请联系cips@iscas.ac.cn；酒店、住宿、会务、交通问题，请联系tgui@fudan.edu.cn 桂韬 ，chenshuang_fd@fudan.edu.cn 陈爽。
阅读原文

中国科学院院士何积丰：普通人如何用好AI大模型产生更大价值？

文章概要：

1. 自1956提出概念以来，AI技术经历了多个发展阶段
2.AI发展过程中，人类的核心角色不可替代，AI技术是而非替代品。
3. AI已经走入千家万户，让生活变得更加智能便捷，例如打造智能物联网。
4. 随着大型语言模型的发展，未来AI将具备更多能力，推动产业升级转型。
5. 在AI时代，人们应该持续学习，专精优势专业领域，将AI应用到专业中，吸收新信息，拥抱变化。
阅读原文

投资人逃离大模型

文章概要：

1. 文章主要探讨了人工智能浪潮下，国内外AI大模型的发展情况，包括技术成熟度、应用落地、闭源与开源之争等方面的差异
2. 文章介绍了中国AI大模型的发展历程，包括高校的涌入、科技大厂的跟进、地方政策的支持等
3. 文章分析了AI大模型市场的竞争格局，包括互联网大厂、老牌厂商、实力新秀等的产品特点和市场表现
4. 文章探讨了AI大模型的未来发展趋势，包括技术创新、应用拓展、商业化等方面的挑战和机遇
阅读原文

一文看完多模态：从视觉表征到多模态大模型

文章概要：

1. 文章主要介绍了多模态技术的发展历程，包括视觉表征、多模态融合与预训练、多模态大模型等方面的内容。
2. 文章从卷积神经网络（CNN）和Vision Transformer（VIT）两大脉络出发，分别介绍了它们在视觉表征、预训练以及多模态对齐方面的发展过程。
3. 文章还介绍了多模态大模型的发展历程，包括Flamingo、BLIP-2、InstructBLIP、Qwen-VL、LLaVA1.5、VILA、Gemini 1.0和Gemini 1.5等模型。<>4. 文章最后对多模态技术的未来发展进行了展望。
阅读原文

AI大模型 | 国内244个大AI模型及国外汇总（收藏必备）

文章概要：

1. 文章对国内的44个大模型进行了盘点，并对国外的知名大模型进行了，包括GPT系列、Gemini系列、Claude、LLa、Copilot以及其他一些特色模型
2.还介绍了GPT系列、Gemini系列、ude系列、LLaMA、ilot等模型的功能、使用方法、技巧及注意事项等内容，帮助用户地了解和使用
3. 文章提到了ilot模型的最新版本功能、性能和用户体验上都得到了显著提升，成为编程和办公领域的一款强大工具
阅读原文