轉換生成式 PyTorch 模型
透過集合功能整理內容
你可以依據偏好儲存及分類內容。
AI Edge Torch Generative API 是針對行動裝置最佳化的程式庫,可將以 Transformer 為基礎的 PyTorch 模型轉換為 TF Lite 格式,方便您透過 TF Lite 和 MediaPipe 轉換大型語言模型 (LLM) 產生裝置端圖片和文字產生作業。AI Edge Torch Generative API 目前只能使用 CPU,並有規劃的 GPU 和 NPU 支援。
行動應用程式開發人員可以使用 Edge Generative API 將 PyTorch LLM 與 MediaPipe LLM Inference API 整合,建立應用程式,並在裝置端完整執行已轉換的 PyTorch 模型。
詳情請參閱 Generative Torch API GitHub 存放區。
除非另有註明,否則本頁面中的內容是採用創用 CC 姓名標示 4.0 授權,程式碼範例則為阿帕契 2.0 授權。詳情請參閱《Google Developers 網站政策》。Java 是 Oracle 和/或其關聯企業的註冊商標。
上次更新時間:2024-05-14 (世界標準時間)。
[{
"type": "thumb-down",
"id": "missingTheInformationINeed",
"label":"缺少我需要的資訊"
},{
"type": "thumb-down",
"id": "tooComplicatedTooManySteps",
"label":"過於複雜/步驟過多"
},{
"type": "thumb-down",
"id": "outOfDate",
"label":"過時"
},{
"type": "thumb-down",
"id": "translationIssue",
"label":"翻譯問題"
},{
"type": "thumb-down",
"id": "samplesCodeIssue",
"label":"示例/程式碼問題"
},{
"type": "thumb-down",
"id": "otherDown",
"label":"其他"
}]
[{
"type": "thumb-up",
"id": "easyToUnderstand",
"label":"容易理解"
},{
"type": "thumb-up",
"id": "solvedMyProblem",
"label":"確實解決了我的問題"
},{
"type": "thumb-up",
"id": "otherUp",
"label":"其他"
}]