Transformers Edge基于ONNX Runtime和TensorRT扩展，提供Python和C++ API。支持自动量化（INT8、FP16）和结构化剪枝，用户只需传入模型路径，引擎自动选择最佳压缩策略。实测将BERT-base压缩至120MB，推理延迟从50ms降至18ms（在Jetson Orin上）。
支持模型超过200种，包括BERT、RoBERTa、T5、ViT、CLIP等。通过Hugging Face Hub一键下载，无需手动转换。部署方式：可嵌入到移动应用、树莓派、智能摄像头等设备。提供模型加密和版本管理功能，保护知识产权。
与传统方案比，Transformers Edge无需手动编写量化代码，对非深度学习专家友好。但压缩后精度可能损失1-2个点，需根据业务容忍度调整。
应用场景：实时语音助手、离线翻译、智能安防、工业缺陷检测等。Hugging Face同时提供云端推理与边缘推理的混合方案，实现模型在云上训练、边缘端推理。
未来计划：支持更多硬件平台，包括高通Snapdragon、华为昇腾310等，并开放自定义编译选项。