AI News

Evaluation of large language models on deep technical understanding of computer architecture research papers.

本文介绍了一种新型高带宽闪存技术，专为AI模型权重存储优化，能在降低功耗的同时显著提升数据吞吐量，为大规模模型部署提供更经济的存储方案。

本文介绍如何使用 MikroTik 路由器配置网络以支持大型语言模型（LLM）的工作负载，包括性能优化和可靠性设置。

Interactive visualization comparing J-space representations across multiple open-source models, aiding understanding of model similarities.

德国AI联盟发布开源30B模型Soofi S，在英语和德语基准测试中均排名领先，为多语言AI开发提供新的选择。

Thinking Machines AI 发布了 Inkling 开放权重模型，提供详细的性能基准和开源权重下载链接。该模型在多项自然语言处理任务上表现优异，展示了开放科学在 AI 领域的进展。

研究发现，Claude在印地语或阿拉伯语等非英语语言中表现出更友好、更有礼貌的回复风格，可能源于训练数据和文化习俗差异。

同一模型在相同量化标签Q4_K_M下，实测每权重比特数分别为5.02、5.07和5.27，揭示了量化精度标签与实际表现之间的差异。

PrismML 推出了 Bonsai 27B，一个具有27亿参数的模型，经过优化后可以在手机上高效运行，展示了大规模模型边缘部署的可能性。

Introduces a differentiable Fortran compiler leveraging LFortran and Enzyme for automatic differentiation, enabling gradient computation in legacy scientific code.

一个利用 Java 22 的 Panama FFM API 实现的本地 LLM 推理运行器，旨在提供低延迟性能，适合在本地部署和运行大语言模型。

YouTrackDB 是一个通用面向对象图数据库，支持复杂关系存储与查询，适合知识图谱、推荐系统等 AI 应用场景。