Apple được cho là đang lên kế hoạch dùng Hội nghị Nhà phát triển Toàn cầu (WWDC) tháng tới để nhấn mạnh năng lực AI chạy ngay trên thiết bị như một lợi thế cạnh tranh, dựa vào 15 năm kinh nghiệm về chip tùy biến để thuyết phục rằng các mô hình AI nên chạy cục bộ thay vì trên đám mây.
Những người am hiểu kế hoạch của Apple nói với The Information rằng công ty dự kiến sẽ trình diễn cách các con chip được thiết kế cho iPhone, Apple Watch và Mac tạo cho hãng lợi thế trong việc xử lý truy vấn AI trực tiếp trên thiết bị. Dù xử lý trên đám mây vẫn sẽ cần cho những truy vấn phức tạp, Apple sẽ định vị suy luận cục bộ như một lựa chọn vừa bảo vệ quyền riêng tư vừa tiết kiệm chi phí, đối trọng với những đợt xây dựng trung tâm dữ liệu khổng lồ mà các đối thủ đã theo đuổi.
Trong khuôn khổ thỏa thuận với Google, Apple được cho là sẽ dùng một phiên bản lớn của mô hình Gemini của Google để huấn luyện một phiên bản nhỏ hơn, tinh gọn hơn, có thể chạy cục bộ trên phần cứng của Apple. Apple cũng được nói là đang tìm kiếm các thương vụ mua lại để thúc đẩy công việc thu nhỏ mô hình, trong đó một công ty mà hãng đã cân nhắc là Liquid AI, một startup ở Massachusetts tập trung vào việc chạy AI cục bộ trên thiết bị.
Một số truy vấn vẫn sẽ cần xử lý trên đám mây. Apple được cho là đã phê duyệt việc dùng công nghệ confidential compute của Nvidia trong Google Cloud để xử lý mô hình Gemini lớn hơn. Tính năng bảo mật này mã hóa dữ liệu và các mô hình AI trong quá trình xử lý, khiến hiệu năng giảm nhẹ nhưng đổi lại là mức bảo vệ quyền riêng tư tốt hơn.
Thỏa thuận này cho thấy Apple đã lệch khá xa so với thông báo Apple Intelligence ban đầu, khi công ty nói rằng mọi truy vấn phải gửi lên đám mây sẽ do chính hạ tầng Private Cloud Compute của hãng, chạy trên Apple silicon, xử lý độc quyền. Những người am hiểu quan hệ hợp tác này nói với The Informationrằng Apple nhiều khả năng vẫn giữ nguyên tên gọi Private Cloud Compute dù có sự thay đổi này.
Cũng được cho là có những giới hạn đáng kể về mức độ Apple có thể đẩy xử lý trên thiết bị đi xa đến đâu. Mô hình Gemini đầy đủ của Google chạy ở quy mô hàng nghìn tỷ tham số, và The Information cho biết Apple đã gặp khó khi cố chạy nó trên chính hạ tầng Private Cloud Compute của mình, vốn dùng cùng loại chip Apple silicon như trên máy Mac.
Apple Intelligence lần đầu được công bố tại WWDC 2024, nhưng việc triển khai đã bị cản trở bởi phản hồi nhạt nhòa dành cho các tính năng ban đầu và sự chậm trễ kéo dài đối với phiên bản Siri cá nhân hơn. Apple hiện được kỳ vọng sẽ dùng WWDC 2026, diễn ra từ ngày 8 tháng 6, để định hình lại câu chuyện, giới thiệu lại các tính năng bị hoãn và ra mắt những tính năng mới.
