训练数据含0.001%的错误信息足以“毒害”医学AI模型;谷歌搜索霸主地位受挑战

文章正文
发布时间:2025-01-19 08:35

训练数据含0.001%的错误信息足以“毒害”医学AI模型;谷歌搜索霸主地位受挑战

主理人:

虎嗅出品,每日推送AI领域资讯新闻,追踪AI的每一步进展。

巨头动态

1.【消息称英伟达Blackwell芯片过热导致延迟交付】

1月14日消息,由于装有最新 Blackwell 芯片的机架存在过热和芯片互联故障,英伟达再次延迟交付数据中心 AI 芯片。主要客户如微软、亚马逊云、谷歌和 Meta 已削减 Blackwell GB200 机架订单,订单金额均达到或超过 100 亿美元。一些客户计划等待后续版本或购买旧款 AI 芯片。微软原计划在凤凰城设施中安装 5 万颗 Blackwell 芯片,但因延迟,OpenAI 要求提供上一代“Hopper”芯片。尽管订单削减,英伟达在修复故障后仍有望售出机架。英伟达 CEO 黄仁勋曾表示,公司有望在第四财季实现 Blackwell 芯片数十亿美元收入,超过目标。

2.【谷歌搜索霸主地位受挑战,自2015年来份额首次跌破90%】

1月14日消息,根据Statcounter的最新数据,谷歌在2024年最后三个月的市场份额均低于90%,分别为89.34%、89.99%和89.73%,这是自2015年以来首次跌破90%。这表明谷歌在搜索引擎领域的霸主地位可能面临挑战。数据显示,Bing、Yandex和雅虎的市场份额有所提升,微软Bing在2024年最后五个月中市场份额维持在4%左右。谷歌在美国市场的份额在2024年11月达到峰值90.37%,但在12月下降至87.39%。虽然AI搜索引擎如ChatGPT Search和Perplexity尚未对谷歌造成显著冲击,但其影响有待进一步观察。

技术突破

1.【吉利智能汽车全域AI技术 可支持500万在线车辆需求】

1月14日消息,2025国际消费电子展(CES)上,吉利汽车发布了业内首个“智能汽车全域AI”技术体系。该体系依托AIOS整车智能操作系统,覆盖C端消费者体验和B端企业服务,融入空天地一体的智能生态体系。吉利在算力、数据和算法三大核心要素上实现全面布局。星睿智算中心的云端总算力达每秒102亿亿次,支持车云一体化BMS系统。数据方面,吉利构建了10T的token数据和40B的汽车领域专业数据。算法上,吉利推出基于离散token的情感语音合成大模型,提升了发音准确度和自然度。吉利表示,“智能汽车”将经历“智能助手”、“智能体”至“生命体”的发展阶段,目前已进入“智能体”研究阶段并取得初步成果。

投融资信息

1.【加速AI和机器人融入生活空间,“一目科技”完成数亿元D轮融资】

1月14日消息,“一目科技”近期完成数亿元D轮融资,由赛富投资基金领投,南京市创新投资集团、松霖科技跟投。公司专注于多模态感知+AI计算解决方案,产品已应用于智慧水务、智慧家居、生命科学等领域,并打入TCL、惠而浦等头部白电厂商供应链。在CES 2025上,一目科技的AI洗护机器人首秀亮相并获媒体好评。

2.【大模型对话式人工智能平台型企业“思必驰”完成5亿元融资】

1月14日消息,近日,思必驰完成五亿元融资,本轮融资由知名产业基金、国资平台、私募基金共同参与。本次融资主要得益于思必驰在端侧应用场景的规模化商业能力以及持续提升的大模型人机对话技术创新能力。

3.【联想创投旗下基金等入股浙江人形机器人创新中心】

1月14日消息,近日,浙江人形机器人创新中心有限公司发生工商变更,新增联想创投旗下安徽省联想强链补链创业投资基金合伙企业(有限合伙)、浙江省创业投资集团有限公司等为股东,同时注册资本由约4142.1万人民币增至约6177.1万人民币。

4.【美元基金扎堆抢投这家AI编程公司,系月之暗面前产品经理创业项目】

1月14日消息,由月之暗面前海外产品负责人明超平创立的AI Coding项目新言意码宣布,其已完成两轮融资,五源资本、高榕资本、真格基金、高瓴创投和IDG资本等多家一线基金参与投资,目前公司估值为8000万美金。对上述消息,明超平对记者透露,“春节后可能会考虑对公司情况向外界做一些披露。”。

AI安全与伦理

1.【美国商务部发布新的AI相关出口管制措施 外交部回应】

1月14日消息,美国商务部发布新的AI相关出口管制措施,引发中方强烈反对。外交部发言人郭嘉昆在记者会上表示,美方泛化国家安全概念,政治化经贸科技问题,滥用出口管制,严重破坏市场规则和国际经贸秩序,损害全球产供链稳定和中美两国利益。中方将采取措施维护中国企业权益,并继续与各方合作,推动开放包容的人工智能发展环境。

2.【训练数据含0.001%的错误信息足以“毒害”医学AI模型】

1月14日消息,纽约大学的研究揭示了大型语言模型在医学信息训练中的潜在风险。研究发现,即使训练数据中仅含有0.001%的错误信息,也可能导致模型输出不准确的医学答案。研究团队使用“The Pile”数据库进行实验,该数据库包含大量未经人工审核的医学信息。研究人员在普通医学、神经外科和药物三个领域中选择了60个主题,并植入由GPT-3.5生成的“高质量”医学错误信息。结果显示,替换0.5%至1%的相关信息后,模型生成错误信息的概率显著增加,并影响其他医学主题。

AI燎原

一群来自虎嗅科技组的同学,制作了这个源流。我们想以观察者、亲历者视角,对 AI,尤其是 GenAI 进行祛魅——发布、提炼我们看到的 AI 进展,助你一手掌握 AI 的技术与行业动态,并一同迎接 AGI 的到来。

首页
评论
分享
Top