Nvidia ra chip AI nhanh hơn chục lần thế hệ cũ
"Blackwell nhanh hơn Hopper, nhưng quan trọng là nó có khả năng tính toán trong mạng, yếu tố giúp tốc độ xử lý AI nhanh hơn nữa cũng như thực hiện những công việc khó khăn trước đây, như biến lời nói thành video 3D", CEO Nvidia Jensen Huang nói tại sự kiện GPU Technology Conference - GTC 2024 của công ty ở San Jose, California rạng sáng 19/3 (giờ Hà Nội).
Blackwell có 208 tỷ bóng bán dẫn, cao gấp đôi so với 80 tỷ trên chip H100, có năng lực xử lý AI đạt 20 petaflop (20 triệu tỷ phép tính mỗi giây), gấp năm lần mức 4 petaflop của H100. Theo Nvidia, trên thực tế, Blackwell xử lý tác vụ nhanh gấp 7-30 lần H100, đồng thời giảm 25 lần chi phí cũng như mức tiêu thụ năng lượng.
CEO Nvidia lấy ví dụ, trước đây việc huấn luyện một mô hình AI 1.800 tham số cần đến 8.000 GPU và 15 megawatt điện. Giờ đây, 2.000 GPU B200 có thể thực hiện khối lượng công việc tương tự với lượng điện năng chỉ 4 megawatt.
Một trong những cải tiến then chốt là hệ thống Transformer Engine thế hệ hai nhân đôi khả năng tính toán, băng thông và kích thước mô hình. Khi kết hợp bộ chuyển mạch NVLink, hệ thống có thể hỗ trợ tối đa 576 GPU giao tiếp với nhau, với băng thông hai chiều 1,8 Tb/giây.
Chip Nvidia B200. Ảnh: Nvidia
"Không có vấn đề về bộ nhớ, cũng không có vấn đề về bộ nhớ đệm. Đơn giản Blackwell là chip khổng lồ. Tham vọng của nó là vượt lên giới hạn của vật lý", Huang cho biết. "GPU Blackwell là động cơ thúc đẩy cuộc cách mạng công nghiệp AI mới, sẽ hiện thực hóa lời hứa về AI cho mọi ngành công nghiệp".
Huang chưa công bố giá cho B200. Trước đó, chip H100 có giá 30.000-40.000 USD. Hãng cũng hướng tới khách hàng mua số lượng lớn bằng cách đóng gói nhiều chip vào một thiết kế duy nhất, gọi là GB200 NVL72. Gói chứa 72 chip AI, 36 bộ xử lý trung tâm, 600.000 bộ phận và nặng 1.361 kg. CEO Nvidia cũng tiết lộ Amazon, Google, Microsoft và Oracle sẽ dùng GB200 NVL72 cho trung tâm dữ liệu của mình.
Cùng với phần cứng, Nvidia cũng giới thiệu công cụ phần mềm mới, được gọi là Microservice. Bộ công cụ này giúp cải thiện hiệu quả hệ thống cho nhiều mục đích sử dụng khác nhau, giúp doanh nghiệp dễ dàng kết hợp mô hình AI vào công việc hơn, giống như một hệ điều hành máy tính tốt có thể giúp ứng dụng hoạt động tốt.
Ngoài ra, tại GTC 2024, Nvidia ra mắt nền tảng nghiên cứu dựa trên đám mây, sử dụng AI để nghiên cứu và thử nghiệm 6G. Hệ thống sẽ bao gồm một ứng dụng mô phỏng các môi trường như tháp di động đơn lẻ hoặc toàn bộ thành phố, cho phép nhà nghiên cứu và tổ chức thử nghiệm mạng 6G theo thời gian thực mà không cần phải lắp đặt trong thực tế. Các đơn vị đầu tiên tham gia có Nokia, Ansys, Samsung, SoftBank và Đại học Boston.
Theo vnexpress.net
Tin cùng chuyên mục
- Quyết tâm chuyển đổi số sâu rộng, toàn diện, thực chất, hiệu quả 17.10.2024 | 15:31 PM
- Sóng nhiệt kỷ lục ở Nam cực đe dọa tương lai Trái đất 06.08.2024 | 09:46 AM
- 201 thí sinh tham gia Hội thi tin học trẻ tỉnh Thái Bình năm 2024 10.06.2024 | 19:17 PM
- Tổng kết và trao giải hội thi, cuộc thi sáng tạo khoa học năm 2022 - 2023 18.12.2023 | 16:35 PM
- Hội thảo khoa học về vai trò của khoa học và công nghệ trong việc sản xuất, tiêu thụ và phát triển sản phẩm nông nghiệp 16.12.2023 | 14:38 PM
- Hội nghị khoa học về chẩn đoán và điều trị bệnh lý tim mạch 28.10.2023 | 12:02 PM
- Ứng dụng công nghệ sinh học trong sản xuất nước mắm 15.02.2023 | 18:51 PM
- Tàu container lớn nhất thế giới 13.02.2023 | 08:42 AM
- Phát triển thị trường khoa học và công nghệ đồng bộ, hiệu quả, hiện đại và hội nhập 23.09.2022 | 21:19 PM
- Hội thảo tư vấn, phản biện về cơ chế, chính sách hỗ trợ các hoạt động phát triển khoa học, công nghệ 07.06.2022 | 16:39 PM
Xem tin theo ngày
- Tiếp tục chương trình kỳ họp thứ tám: Quốc hội thảo luận về dự thảo nghị quyết và các dự án luật
- Tiếp tục quan tâm, hướng dẫn thành lập chi hội, tổ hội nông dân nghề nghiệp
- Quốc hội thảo luận về các dự án luật và chủ trương đầu tư chương trình mục tiêu quốc gia phòng, chống ma túy
- Hội nghị Ban Thường vụ Tỉnh ủy
- Thống nhất nội dung, chương trình kỳ họp để giải quyết công việc phát sinh đột xuất và kỳ họp thứ chín, HĐND tỉnh khóa XVII nhiệm kỳ 2021 - 2026
- Họp Tiểu ban Tổng kết công tác kinh tế - xã hội, quốc phòng, an ninh phục vụ Đại hội đại biểu Đảng bộ tỉnh lần thứ XXI, nhiệm kỳ 2025 - 2030
- Tiếp tục chương trình kỳ họp thứ tám: Quốc hội thảo luận về các dự án luật
- Giá trị, tầm vóc và ý nghĩa thời đại của Cách mạng Tháng Mười Nga bất diệt
- Đồng chí Nguyễn Khắc Thận, Phó Bí thư Tỉnh ủy, Chủ tịch UBND tỉnh dự ngày hội đại đoàn kết toàn dân tộc khu dân cư thôn An Cư
- Tiếp tục chương trình kỳ họp thứ tám: Quốc hội thảo luận về các dự án luật