AMD 推出首款小语言 AI 模型「Llama-135m」,具备推测解码技术显著降低内存占用 | 今日AI热点新闻

广告也精彩
AMD 推出首款小语言 AI 模型「Llama-135m」,具备推测解码技术显著降低内存占用 | 今日AI热点新闻

AMD 推出首款小语言 AI 模型「Llama-135m」,具备推测解码技术显著降低内存占用

今日AI热点新闻

1.AMD 推出首款小语言 AI 模型「Llama-135m」,具备推测解码技术显著降低内存占用
2.微软网页版 OneDrive 集成 Copilot,增强文档分析与协作能力
3.OpenAI 呼吁美国建设5GW大容量数据中心,推动AI发展与国际竞争
4.蔚来CEO李斌:智能电动汽车行业需具备AI研发能力
5.微软重新推出改进版 Windows Recall AI 搜索工具

 

AMD 推出首款小语言 AI 模型「Llama-135m」,具备推测解码技术显著降低内存占用

AMD在Huggingface平台上发布了其首款小语言模型——AMD-Llama-135m。该模型的核心亮点是其独特的「推测解码」功能,旨在通过减少内存(RAM)的占用提升运行效率。AMD-Llama-135m模型采用Apache 2.0开源许可,包含6700亿个token。

据介绍,「推测解码」技术的工作原理是通过一个小型草稿模型生成候选token,然后由更大规模的目标模型进行验证。该方法使得每次前向传递能够同时生成多个token,不会对性能产生影响,从而有效减少内存消耗,提升整体效率。

AMD透露,这一模型是在四个AMD Instinct MI250节点上训练了六天时间。此外,针对编程场景的特定版本——AMD-Llama-135m-code,还额外经过了四天的微调。

 

微软网页版 OneDrive 集成 Copilot,增强文档分析与协作能力

微软日前宣布,面向获得Copilot许可的商业用户,正式在网页版OneDrive中集成了Copilot功能。这一新功能的加入,能够帮助用户自动生成文档摘要,节省查找关键信息的时间,提升工作效率。

通过Copilot,用户无需打开多个文件,即可直接比较不同文档的差异,并快速获取关键点。Copilot还能够分析OneDrive中的文档内容,回答基于多个文档的复杂问题,从而将存储在OneDrive中的文件转化为宝贵的知识和洞察来源。

为帮助用户更好地上手这一工具,微软还提供了详细的使用指南和常见问题解答,并表示将持续收集用户反馈以改进Copilot体验。

 

OpenAI 呼吁美国建设5GW大容量数据中心,推动AI发展与国际竞争

OpenAI正在向拜登政府提出建议,呼吁在美国各州建设多个5GW(千兆瓦)的大型数据中心,以支持更先进的人工智能(AI)模型开发并增强与中国的科技竞争能力。据悉,OpenAI CEO Sam Altman和多位科技领袖出席了近期在白宫举行的一次会议,会议后该公司向政府提交了一份详细报告,阐述了这一扩张计划的经济和国家安全优势。

报告显示,每个5GW的数据中心耗电量相当于一个中等城市的用电需求,总电力输出接近五座核电反应堆的产能,能够为约300万户家庭提供电力。OpenAI认为,只有通过这种大规模基础设施扩建,才能推动下一代AI模型的研发,并在全球AI竞争中保持领先地位。

 

蔚来CEO李斌:智能电动汽车行业需具备AI研发能力

在全球智能汽车产业大会高层论坛上,蔚来创始人兼CEO李斌强调,AI技术在智能电动汽车行业中的应用前景广阔。他表示:“蔚来公司已经开始使用AI代码生成工具,提升了约30%的生产效率。智能电动汽车是AI最理想的应用场景之一,而一家成功的智能电动车公司也必须具备强大的AI研发和运营能力。”

李斌指出,随着AI技术的不断进步,智能电动汽车企业不仅要在硬件制造上占据优势,还要在AI软件开发领域具备创新能力,以实现行业内的长期竞争力。

 

微软重新推出改进版 Windows Recall AI 搜索工具

在公众的强烈反对下,微软曾在三个月前撤下了备受争议的Windows Recall AI搜索工具。近日,微软宣布对该功能进行了大幅改进,并重新发布了新版本。Windows Recall允许用户通过AI创建并搜索机器上的操作历史,其核心功能是每隔五秒钟对屏幕内容进行截图并存储以供语义搜索。

微软表示,新的Windows Recall在安全架构方面引入了诸如存在证明加密、防篡改和数据丢失防护(DLP)等措施,并将屏幕截图数据存储在隔离环境(secure enclaves)中,以提升安全性。微软副总裁David Weston指出,新的安全模型减少了恶意软件攻击的风险,并且该工具默认情况下是禁用的,用户可选择永久删除数据以确保隐私。尽管功能强大,Windows Recall此前因隐私和安全问题引发了广泛争议,但微软希望新版本能够缓解这些担忧。

广告也精彩
广告也精彩

暂无评论

暂无评论...