了解 i14 如何在 AWS Trainium2 上使用原生 PyTorch 训练和部署 Laplace 3B 这一线性注意力模型。无论上下文长度如何,其循环状态每条序列都固定为 29.5 MB,避免了 transformer 模型不断增长的键值缓存,并使服务内存保持可预测。
阅读全文THE AI NEWSROOM
AI 资讯
330已发布资讯
超越KV缓存:在AWS Trainium2上使用原生PyTorch训练和部署i14的Laplace 3B线性注意力模型
Hugging Face CEO警告称,Netflix的OpenAI黑客纪录片并不准确
在你分享Netflix纪录片《AI失控》之前,请注意。影片中出镜的Hugging Face联合创始人Clem Delangue表示,该片“完全陷入了末日论模式”,并不准确。
阅读全文Anthropic的云合作伙伴关系正变得一团糟
据报道,Anthropic在从云服务提供商那里获取足够算力方面正面临困难,因为这些提供商日益将其视为竞争对手,尽管该公司在计划于11月进行IPO之前基础设施支出正大幅膨胀。
阅读全文OpenAI收购初创公司Orchestra Bio以加强其生物技术业务
OpenAI表示,它将把Orchestra的团队和技术纳入麾下,用于推进其生命科学研究AI模型Rosalind,以及相关的Rosalind Workbench工具——一个旨在帮助研究人员规划实验并分析结果的框架。
阅读全文谷歌更个性化的Gemini AI即将登陆你的汽车
Google 正在将 Personal Intelligence 引入你车内的 Gemini AI。通过这次更新,Android Auto 中的 Gemini 以及内置 Google 的汽车可以访问你在 Google 应用中的信息,包括 Gmail、Calendar、Maps、Photos、YouTube 和 Search。举例来说,Google 表示如果你正在开车,可以向 Gemini 询问你的航班状态 […]
阅读全文加盟商使用ChatGPT Work将现金对账时间缩短94%
一家独立的Schlotzsky’s和Cinnabon加盟商将菜单重新定价时间缩短了95%,并构建了一个可释放10万美元现金流的工作流程。
阅读全文AI代理在AWS上使用Smartsheet MCP的工作管理上下文
Smartsheet Model Context Protocol (MCP) Server 让 AI 代理能够读取、更新并处理实时工作管理数据。本文介绍在 AWS 上连接它的两种方式:面向业务团队的 Amazon Quick 和面向开发者的 Kiro,让你的代理无需切换工具即可使用 Smartsheet。
阅读全文