.png){kind=icon}
返回
Accelerating Private Large Transformers Inference Through Fine-Grained Collaborative Computation
.png){kind=icon}
PRE
AI
DOI：10.1109/TIFS.2025.3584639.png)
.png){kind=icon}
原文求助.png){kind=icon}
分享.png){kind=icon}
收藏
摘要
En 中文
同态加密（HE）和秘密共享（SS）支持密文计算，为医学和金融等敏感领域的大型变换器模型（TBM）提供了显著的隐私优势。然而，私有TBM推理由于HE和SS的粗粒度应用而产生了高昂的成本。我们提出FASTLMPI，一种通过细粒度计算优化加速私有TBM推理的新方法。具体而言，通过同态加密和秘密共享的细粒度协同设计，FASTLMPI实现了矩阵乘法、SoftMax、LayerNorm和GeLU的高效协议。此外，FASTLMPI为可微分非线性函数引入了一种精确的分段近似技术，在保持低多项式次数的同时提高了其拟合精度。与解决方案BOLT（S&P’24）相比，FASTLMPI在运行时间上显示出25.1%至55.3%的显著减少，并在通信成本上实现了39.0%的惊人降低。
Keyword:
Secure multiparty computation
homomorphic encryption
privacy preserving
large transformer models
期刊
IF:
8
论文数:
5.3K
被引数:
2.3W
机构
引用论文
.png){kind=icon}
分享收藏Fundamentals of Recurrent Neural Network (RNN) and Long Short-Term Memory (LSTM) network递归神经网络 (RNN) 和长短期记忆 (LSTM) 网络的基本原理
OAAI
OAAI分享收藏分享收藏
分享收藏分享收藏
查看更多内容