站内搜索 · 导航

出海搜索导航

聚合海外服务器、出海资源、实用工具与教程文档，输入关键词即可快速查找全站内容。

T5注意力改动让UMT5偷看答案T5注意力改动让UMT5偷看答案最近看到 Hugging Face 团队复盘的一个案例，挺有感触。今年 7 月底 Transformers 给 T5 启用 PyTorch 的 SDPA 加速，结果副作用是 UMT5 的解码器能注意到未来 …https://talk.lekuidc.com/3073.html
大模型库的测试困局与契约思路大模型库的测试困局与契约思路最近看到 Hugging Face 的工程师复盘了一个挺典型的案例：去年 7 月底 Transformers 给 T5 启用 PyTorch 的 SDPA 注意力后，UMT5 的解码器意外能「看到」未来 tok…https://talk.lekuidc.com/3042.html
Trainium 跑模型，先查这张表Trainium 跑模型，先查这张表最近看到 Hugging Face 上有个挺实用的 Space，专门回答一个问题：某个 Transformers 模型到底能不能在 AWS Trainium 上原样跑起来。它背后是 torch-neur…https://talk.lekuidc.com/2571.html
Trainium 跑模型实测清单来了Trainium 跑模型实测清单来了最近看到一个挺实用的工具，专门回答「这个模型到底能不能在 AWS Trainium 上跑」这个问题。它基于 torch-neuronx 这个原生 PyTorch 后端，让 Transformers 的建…https://talk.lekuidc.com/2274.html
Trainium 跑模型实测清单来了Trainium 跑模型实测清单来了最近看到 Hugging Face 上有人做了个挺实用的工具，专门回答一个问题：哪些 Transformers 模型能在 AWS Trainium 上不改代码直接跑起来。作者之前介绍过 TorchNeu…https://talk.lekuidc.com/2229.html
Mistral Large 4 开源发布 1T参数Mistral Large 4 开源发布 1T参数 Mistral 刚放出了 Large 4，内部代号 Le Chonk，这次直接走开源路线，参数规模约 1T、激活 49B，上下文窗口拉到 1M token，还支持文本加图像输入。对做跨境应…https://talk.lekuidc.com/2817.html
Mistral Large 4 开源：1T MoE 模型落地Mistral Large 4 开源：1T MoE 模型落地 Mistral 刚放出了 Large 4，内部代号 Le Chonk，这次直接开源了 FP8 权重。模型是 MoE 架构，总参数约 1T，激活 49B，上下文拉到 1M toke…https://talk.lekuidc.com/2809.html
Mistral Large 4 发布：1T 参数 MoE 模型Mistral Large 4 发布：1T 参数 MoE 模型 Mistral 刚发布了 Large 4，内部代号 Le Chonk，一个多模态多语言 MoE 模型。总参数约 1T，激活参数 49B，上下文窗口直接拉到 1M token，支…https://talk.lekuidc.com/2709.html
Mistral Large 4 发布，1T 参数开源Mistral Large 4 发布，1T 参数开源 Mistral 刚放出了 Large 4，内部代号 Le Chonk，这次直接走开源路线，参数规模到了 1T 总量、49B 激活，MoE 架构，上下文窗口给到 1M token。多模态和…https://talk.lekuidc.com/2689.html
Mistral Large 4 发布，1T MoE 开源Mistral Large 4 发布，1T MoE 开源 Mistral 刚放出了 Large 4，内部代号 Le Chonk，一个多模态、多语言的 MoE 模型。总参数约 1T，激活 49B，上下文窗口直接拉到 1M token，输入支持…https://talk.lekuidc.com/2681.html