Google AI

Google AI là gì

Google AI Edge cung cấp công cụ và tài nguyên để triển khai các mô hình AI trên thiết bị edge, tập trung vào Android. LiteRT, một thành phần chính, tối ưu hóa các mô hình để thực thi hiệu quả trên thiết bị. Nền tảng này hỗ trợ nhiều mô hình khác nhau, bao gồm cả những mô hình từ TensorFlow và PyTorch, đồng thời cung cấp các công cụ để chuyển đổi, tối ưu hóa và triển khai. Nó bao gồm các tính năng như Model Explorer, AI Edge Portal và tham chiếu API. Google AI Edge cũng cung cấp các giải pháp cho việc triển khai GenAI và hỗ trợ chạy LLM bằng LiteRT-LM. Nền tảng này nhằm trao quyền cho các nhà phát triển xây dựng và triển khai các ứng dụng hỗ trợ AI trên thiết bị Android, cung cấp một loạt các công cụ và tài nguyên để tối ưu hóa và triển khai mô hình.

Các tính năng chính của Google AI

LiteRT cho Android

Tối ưu hóa các mô hình AI để thực thi hiệu quả trên thiết bị Android.

Chuyển đổi mô hình

Hỗ trợ chuyển đổi các mô hình từ định dạng TensorFlow và PyTorch.

Tối ưu hóa mô hình

Cung cấp các công cụ để tối ưu hóa mô hình về kích thước và hiệu suất.

AI Edge Portal

Cung cấp một cổng để quản lý và triển khai các mô hình AI trên thiết bị edge.

Triển khai GenAI

Hỗ trợ triển khai các mô hình AI tạo sinh trên Android.

Model Explorer

Giúp đánh giá khả năng tương thích và hiệu suất của mô hình.

Cách sử dụng Google AI

Khám phá tài liệu Google AI Edge để hiểu các công cụ và tài nguyên có sẵn.,Chuyển đổi các mô hình PyTorch hoặc TensorFlow của bạn bằng các công cụ chuyển đổi được cung cấp.,Tối ưu hóa các mô hình của bạn cho thiết bị Android bằng LiteRT.,Sử dụng Model Explorer để đánh giá khả năng tương thích và hiệu suất của mô hình.,Triển khai các mô hình đã được tối ưu hóa của bạn lên các thiết bị Android bằng AI Edge Portal.

Các trường hợp sử dụng của Google AI

Ứng dụng AI trên thiết bị

Phát triển các ứng dụng chạy các mô hình AI trực tiếp trên thiết bị Android để cải thiện hiệu suất và quyền riêng tư.

Tích hợp GenAI

Tích hợp các khả năng AI tạo sinh vào các ứng dụng Android.

Điện toán biên

Triển khai các mô hình AI trên thiết bị edge để giảm độ trễ và cải thiện khả năng phản hồi.

Ai sẽ được lợi từ Google AI

Nhà phát triển Android

Các nhà phát triển đang xây dựng các ứng dụng hỗ trợ AI cho thiết bị Android.

Nhà nghiên cứu AI

Các nhà nghiên cứu muốn triển khai và thử nghiệm các mô hình AI trên thiết bị edge.

Giá của Google AI

Google AI Edge cung cấp các công cụ và tài nguyên của mình miễn phí.