310 GWh mỗi năm

Theo CEO của OpenAI - Sam Altman - mỗi yêu cầu (prompt) gửi đến ChatGPT tiêu tốn trung bình 0,34 Wh điện. Với khoảng 1 tỷ yêu cầu mỗi ngày, tổng điện năng tiêu thụ mỗi năm có thể lên tới 310 GWh - tương đương lượng điện mà 3 triệu người ở Ethiopia sử dụng hằng năm, theo báo cáo của UNESCO tại Diễn đàn AI for Good ở Geneva.

Trước thực trạng AI tạo sinh đang được sử dụng ngày càng rộng rãi và tiêu tốn nhiều năng lượng, UNESCO đề xuất giảm quy mô mô hình bằng cách sử dụng các kỹ thuật nén. Bên cạnh đó, việc đặt câu hỏi ngắn gọn hơn và giới hạn độ dài câu trả lời cũng có thể giúp tiết kiệm đến 50% lượng điện tiêu thụ.

UNESCO nhấn mạnh, nếu kết hợp cả hai cách - sử dụng mô hình nhỏ và đặt câu hỏi ngắn - mức tiết kiệm năng lượng có thể lên đến 90%, mà vẫn đảm bảo “độ chính xác cao”.

Các công ty công nghệ bắt đầu triển khai mô hình nhỏ

Nghiên cứu cho thấy, mỗi ngày có hàng triệu câu hỏi yêu cầu giải thích khái niệm được gửi đến các mô hình ngôn ngữ lớn với độ dài trung bình khoảng 300 từ - tương đương lượng điện mà 38.000 hộ gia đình tại Anh sử dụng.

Trong khi đó, cùng một câu hỏi nhưng rút gọn còn 150 từ và gửi đến một mô hình nhỏ, chuyên biệt, thì mức tiêu thụ điện giảm mạnh, chỉ tương đương chưa tới 4.000 hộ.

Tuy vậy, nghiên cứu cũng lưu ý: “Mô hình nhỏ có thể hoạt động hiệu quả hơn trong một số tác vụ cụ thể, nhưng chưa chắc phù hợp với những nhu cầu mang tính tổng quát”.

Hiện nay, nhiều hãng công nghệ lớn đã phát triển các phiên bản mô hình AI thu gọn, nhằm giải quyết vấn đề tiêu thụ năng lượng. Google có Gemma, Microsoft giới thiệu Phi-3, OpenAI ra mắt GPT-4o mini. Tại Pháp, công ty Mistral AI cũng góp mặt với mô hình Ministral.

Nguồn:UNESCO đề xuất cách giảm tiêu thụ năng lượng của AI