Mô hình AI rẻ tiền đáng ngạc nhiên của Deepseek thách thức những người khổng lồ trong ngành. Deepseek V3 của Startup, tự hào với các công nghệ tiên tiến như Dự đoán đa điểm (MTP), hỗn hợp các chuyên gia (MOE) sử dụng 256 mạng lưới thần kinh và sự chú ý tiềm ẩn đa đầu (MLA), ban đầu tuyên bố chi phí đào tạo chỉ 6 triệu đô la bằng cách sử dụng 2048 GPU. Tuy nhiên, con số có vẻ thấp này tương phản mạnh mẽ với các phát hiện bán phân giải này cho thấy cơ sở hạ tầng khổng lồ khoảng 50.000 GPU NVIDIA (bao gồm H800, H100 và H20) 944 triệu đô la.
Hình ảnh: Obligame.com
Hình ảnh: Obligame.com
Deepseek, một công ty con của quỹ phòng hộ cao, sở hữu các trung tâm dữ liệu của mình, thúc đẩy sự đổi mới và tối ưu hóa nhanh chóng. Bản chất tự tài trợ của nó và mức lương cao (một số nhà nghiên cứu kiếm được hơn 1,3 triệu đô la hàng năm) thu hút tài năng hàng đầu của Trung Quốc, góp phần vào thành công của nó. Con số 6 triệu đô la ban đầu chỉ phản ánh chi phí GPU trước khi đào tạo, bỏ qua nghiên cứu, sàng lọc, xử lý dữ liệu và chi phí cơ sở hạ tầng. Đầu tư thực tế của Deepseek vào phát triển AI vượt quá 500 triệu đô la. Mặc dù đầu tư đáng kể này, cấu trúc nạc của nó cho phép đổi mới hiệu quả so với các đối thủ lớn hơn, quan liêu hơn.
Hình ảnh: Obligame.com
Hình ảnh: Obligame.com
Trong khi tuyên bố "ngân sách cách mạng" của Deepseek được cho là tăng cao, thành công của nó nhấn mạnh tiềm năng cạnh tranh của một công ty AI độc lập được tài trợ tốt. Sự tương phản rõ ràng khi so sánh chi phí đào tạo: R1 của Deepseek có giá 5 triệu đô la, trong khi TATGPT-4 báo cáo có giá 100 triệu đô la, nhấn mạnh hiệu quả chi phí tương đối của Deepseek, ngay cả với khoản đầu tư đáng kể của nó.
