Di chuyển từ TensorFlow Lite sang LiteRT

Tất cả hoạt động phát triển mới cho môi trường thời gian chạy hiệu suất cao của Google dành cho AI trên thiết bị sẽ chỉ dành riêng cho LiteRT. Các ứng dụng sử dụng gói TensorFlow Lite sẽ tiếp tục hoạt động, nhưng tất cả bản cập nhật mới sẽ chỉ có trong gói LiteRT. Các API LiteRT chứa tên phương thức giống với API TF Lite, vì vậy, việc di chuyển sang LiteRT không yêu cầu thay đổi mã chi tiết.

Đối với các thay đổi về tên gói, hãy xem hướng dẫn di chuyển sau đây cho các nền tảng cụ thể.

Di chuyển bằng Android

Để di chuyển một ứng dụng Android bằng Tensorflow Lite, hãy thay thế phần phụ thuộc từ org.tensorflow:tensorflow-lite thành com.google.ai.edge.litert. Kho lưu trữ LiteRT Maven bao gồm các gói sau:

Bạn có thể thực hiện thay đổi này trong các phần phụ thuộc build.gradle:

dependencies {
  ...
  implementation `com.google.ai.edge.litert:litert:1.0.1`
}

Dịch vụ Play

LiteRT trong thời gian chạy Dịch vụ Play tiếp tục sử dụng phần phụ thuộc play-services-tflite. Nếu ứng dụng của bạn đang sử dụng môi trường thời gian chạy Dịch vụ Play với TensorFlow Lite, thì bạn không cần thay đổi mã nào.

Để sử dụng LiteRT trong Dịch vụ Play, hãy thêm các phần phụ thuộc sau vào phần phụ thuộc build.gradle:

dependencies {
...
    // LiteRT dependencies for Google Play services
    implementation 'com.google.android.gms:play-services-tflite-java:16.4.0'
    // Optional: include LiteRT Support Library
    implementation 'com.google.android.gms:play-services-tflite-support:16.4.0'
...
}

Di chuyển bằng Python

Để di chuyển mã Python bằng Tensorflow Lite, hãy thay thế gói PIP từ tflite-runtime thành ai-edge-litert.

Cài đặt LiteRT bằng PIP:

$ python3 -m pip install ai-edge-litert

Nhập LiteRT bằng các bước sau:

from ai_edge_litert.interpreter import Interpreter
interpreter = Interpreter(model_path=args.model_file)

Thư viện khác

SDK Swift và Objective-C cho iOS, SDK C++, Thư viện tác vụ và thư viện Trình tạo mô hình vẫn tồn tại trong các API TensorFlow Lite. Các ứng dụng sử dụng các SDK hoặc thư viện này không nên di chuyển sang LiteRT.