

谷歌AI Edge提供在边缘设备(尤其是Android)上部署AI模型的工具和资源。LiteRT是关键组件,优化模型以实现高效的设备端执行。该平台支持TensorFlow和PyTorch等多种模型,并提供转换、优化和部署工具。它包括Model Explorer、AI Edge Portal和API参考等功能。谷歌AI Edge还提供GenAI部署解决方案,并支持使用LiteRT-LM运行LLM。该平台旨在帮助开发者在Android设备上构建和部署AI驱动的应用程序,提供一系列模型优化和部署工具和资源。
优化AI模型,在Android设备上高效执行。
支持从TensorFlow和PyTorch格式转换模型。
提供用于优化模型大小和性能的工具。
提供用于管理和部署边缘设备上AI模型的门户。
支持在Android上部署生成式AI模型。
帮助评估模型兼容性和性能。
探索谷歌AI Edge文档以了解可用工具和资源。使用提供的转换工具转换您的PyTorch或TensorFlow模型。使用LiteRT优化您的Android设备模型。利用Model Explorer评估模型兼容性和性能。使用AI Edge Portal将优化的模型部署到Android设备上。
开发直接在Android设备上运行AI模型的应用程序,以提高性能和隐私。
将生成式AI功能集成到Android应用程序中。
在边缘设备上部署AI模型,以减少延迟并提高响应速度。
为Android设备构建AI驱动应用程序的开发者。
希望在边缘设备上部署和测试AI模型的研究人员。
谷歌AI Edge免费提供其工具和资源。