Tether ra mắt công nghệ phá vỡ các quy tắc truyền thống của việc đào tạo AI

Tether vừa đưa thị trường AI lên một tầm cao mới. Công ty đã giới thiệu một khung công việc có thể huấn luyện các mô hình trực tiếp trên điện thoại thông minh. Đột phá này làm rung chuyển các tiêu chuẩn của ngành. Nhưng không chỉ vậy! Nó còn mở ra cơ hội cho trí tuệ nhân tạo dễ tiếp cận hơn.

Đây là cách Tether giúp huấn luyện mô hình AI trên điện thoại thông minh

Tether giới thiệu một hệ thống dựa trên kiến trúc BitNet và tinh chỉnh LoRA. Sự kết hợp này giúp giảm đáng kể yêu cầu về sức mạnh tính toán và tối ưu hóa bộ nhớ. Kết quả: một mô hình ngôn ngữ có thể chạy trên một chiếc điện thoại thông minh đơn giản.

Những con số thật sự gây ấn tượng. Một mô hình AI với một tỷ tham số thực sự được huấn luyện trong chưa tới hai giờ. Các thử nghiệm thậm chí còn cho thấy khả năng lên đến 13 tỷ tham số. Hiệu suất này dựa trên mô hình 1-bit, nhẹ hơn nhiều so với kiến trúc truyền thống.

Nhưng đó chưa phải là tất cả! Lợi ích về bộ nhớ còn đạt 77,8%. Điều này thay đổi cuộc chơi cho machine learning và deep learning. Các nhà phát triển không còn cần GPU cao cấp. Khung công việc cũng chạy trên nhiều chip bao gồm Apple, AMD và Qualcomm.

Quá trình suy luận (inference) cũng có tốc độ vượt trội hơn. GPU di động vượt trội hơn CPU với hiệu suất cao gấp 11 lần. Điều này đem AI đến gần cuộc sống hàng ngày hơn. Thực tế là việc huấn luyện mô hình đã rời khỏi các trung tâm dữ liệu và xuất hiện ngay trong túi của người dùng.

AI: tiến tới hạ tầng phi tập trung không cần Cloud hoặc Nvidia

Đổi mới này vượt xa thành tựu kỹ thuật đơn thuần. Nó thực sự định nghĩa lại hạ tầng AI khi giảm sự phụ thuộc vào các ông lớn cloud và GPU của Nvidia. AI phi tập trung giờ đây là một kịch bản khả thi.

Hệ thống ưu tiên federated learning. Dữ liệu nằm lại trên thiết bị. Xử lý dữ liệu được bảo mật hơn. Mỗi người dùng có thể tham gia tính toán phân tán mà không để lộ thông tin cá nhân.

Mô hình này phù hợp với triết lý “edge computing”. AI hoạt động gần nhất với người dùng. Cách tiếp cận này giúp hạn chế chi phí và tăng tốc xử lý. Nó cũng mở ra nhiều trường hợp sử dụng mới cho các ứng dụng di động.

Sáng kiến của Tether xác nhận một xu hướng rộng lớn hơn. AI ngày càng gần người dùng và rời xa các trung tâm dữ liệu. Sự tiến hóa này có thể tái định nghĩa cân bằng giữa Big Tech và các bên phi tập trung.