Google tuyên bố thuật toán mới giảm 6 lần bộ nhớ AI - Tin tốt cho RAM nhưng xấu cho Micron

Ngoài việc bong bóng AI vỡ hoặc cơn sốt giảm nhiệt, điều khác có thể giúp tình trạng thiếu hụt RAM dịu bớt là một thay đổi công nghệ dẫn đến giảm đáng kể lượng bộ nhớ mà AI cần. Về vấn đề này, Google đã tạo ra TurboQuant, một thuật toán nén mới hứa hẹn giảm nhu cầu bộ nhớ khoảng 6 lần. Và giá cổ phiếu của các nhà sản xuất bộ nhớ đã giảm, có lẽ là kết quả của điều này.

Mặc dù chúng ta nên tránh đơn giản hóa và cho rằng thuật toán mới của Google chịu trách nhiệm cho những thay đổi thị trường này—để không quên tác động đến nguồn cung vật liệu quan trọng nhờ chiến tranh ở Iran—nhưng việc tuyên bố giảm 6 lần nhu cầu bộ nhớ chắc chắn phải chiếm ít nhất một phần nguyên nhân. Theo Google, TurboQuant "tối ưu hóa giải quyết thách thức về chi phí bộ nhớ trong lượng tử hóa vector" và "đạt được mức giảm cao về kích thước mô hình mà không mất độ chính xác."

Nói cách khác, nó làm cho nén vector—vốn quan trọng để các mô hình AI hiểu và xử lý thông tin, vì chúng làm điều này bằng vector—cần ít bộ nhớ hơn so với trước đây và quan trọng là không bị mất độ chính xác thường đi kèm khi nén mọi thứ. Ý tưởng cơ bản, nếu loại bỏ nhiều chi tiết và đơn giản hóa rất nhiều, dường như là chuyển từ tính toán theo vector tiêu chuẩn sang sử dụng hệ thống tham chiếu tuyệt đối hơn.

Điều này, cuối cùng, có nghĩa là không cần chuẩn hóa dữ liệu, điều nên "loại bỏ chi phí bộ nhớ mà các phương pháp truyền thống phải chịu." Google đã thử nghiệm thuật toán mới trong một loạt bài kiểm tra chuẩn, và kết quả, theo Google, ít nhất cho thấy "TurboQuant đạt được kết quả hoàn hảo ở hạ nguồn trên tất cả các bài kiểm tra trong khi giảm kích thước bộ nhớ khóa-giá trị ít nhất 6 lần."

Một lần nữa theo Google, kết quả cũng "chứng minh sự thay đổi mang tính chuyển đổi trong tìm kiếm chiều cao... [cho phép] xây dựng và truy vấn chỉ mục vector lớn với bộ nhớ tối thiểu, thời gian tiền xử lý gần bằng không và độ chính xác hàng đầu." Tự nhiên, một cải tiến lớn như vậy, nếu đúng, có thể thay đổi đáng kể thị trường máy chủ AI. Điều đó có nghĩa là nó có thể thay đổi lượng bộ nhớ mà các công ty AI muốn mua từ Micron, SK Hynix và Samsung.

Như được xác định bởi các chuyên gia đầu tư, đó thực sự là điều thị trường dự đoán chúng ta sẽ thấy, vì giá cổ phiếu của ba nhà sản xuất bộ nhớ lớn đã giảm. Ví dụ, cổ phiếu của Samsung đã giảm khoảng 8% kể từ vài ngày trước, SK Hynix giảm khoảng 11% và Micron giảm khoảng 10%. Và tất cả những điều này thực sự là sau khi tính đến sự phục hồi nhẹ hôm nay.

Nếu các công ty AI cần mua ít bộ nhớ hơn, điều đó tất nhiên sẽ làm tăng lượng cung mở ra cho thị trường người tiêu dùng nói chung, bao gồm cho PC chơi game, máy tính xách tay, thiết bị cầm tay và các sản phẩm khác. Về lý thuyết, điều này có nghĩa là bộ nhớ trở nên rẻ hơn. Điều này làm nổi bật sự khác biệt rõ ràng giữa điều tốt cho các nhà sản xuất bộ nhớ và điều tốt cho chúng ta, người dùng cuối.

Đó là điều tôi đã nhận thấy rất nhiều trong vài tháng qua: càng ít cổ phiếu và càng nhiều nhu cầu, các nhà đầu tư và nhà phân tích bộ nhớ càng có vẻ hạnh phúc, và người tiêu dùng càng không hài lòng. Điều đó hiển nhiên, tất nhiên, nhưng thú vị là thấy nó đi theo hướng ngược lại để thay đổi. Tuy nhiên, chúng ta không nên coi bất cứ điều gì là đã xong. Rốt cuộc, Micron đã nói rằng có "nhu cầu vượt xa nguồn cung sẵn có của chúng tôi trong tương lai gần."

Vì vậy, theo như chúng ta biết, phần lớn sản xuất bộ nhớ 'được giải phóng' có thể chỉ quay trở lại thẳng vào các giá máy chủ AI thay vì PC của chúng ta. Còn có thực tế là những người AI háo hức tính toán cuối cùng sẽ chỉ chạy các mô hình lớn hơn nếu yêu cầu bộ nhớ giảm. Nhưng ít nhất có một cơ hội, và tôi sẽ tiếp tục nắm lấy nó.