Samsung tuyên bố là 'công ty đầu tiên' phát triển bộ nhớ băng thông cao tích hợp sức mạnh xử lý AI

Samsung Electronics tuyên bố là "công ty tiên phong" trong việc phát triển bộ nhớ băng thông cao (HBM) tích hợp sức mạnh xử lý trí tuệ nhân tạo mà không yêu cầu bất kỳ thay đổi phần cứng hoặc phần mềm nào, cho phép tích hợp nhanh hơn vào các hệ thống hiện có. Thiết bị này có thể được áp dụng cho các sản phẩm nói chung như điện thoại thông minh thông qua sự phát triển của công nghệ.

Các hệ thống máy tính chủ yếu dựa trên kiến ​​trúc von Neumann, sử dụng các bộ xử lý và bộ nhớ riêng biệt để thực hiện các tác vụ xử lý dữ liệu phức tạp yêu cầu dữ liệu liên tục di chuyển qua lại, dẫn đến tắc nghẽn hệ thống làm chậm đặc biệt là khi xử lý khối lượng ngày càng tăng của dữ liệu. Bộ nhớ băng thông cao (HBM) là một giao diện bộ nhớ máy tính tốc độ cao được sử dụng cùng với bộ tăng tốc đồ họa hiệu suất cao, thiết bị mạng và trong một số siêu máy tính.

Xử lý trong bộ nhớ (PIM) là sự tích hợp của bộ xử lý với bộ nhớ truy cập ngẫu nhiên trên một chip duy nhất. Samsung cho biết kiến ​​trúc PIM mới của họ mang lại khả năng tính toán AI mạnh mẽ bên trong bộ nhớ hiệu suất cao để tăng tốc xử lý quy mô lớn trong các trung tâm dữ liệu, hệ thống tính toán hiệu suất cao và các ứng dụng di động hỗ trợ AI.

Samsung cho biết HBM-PIM của họ hiện đang được thử nghiệm bên trong các máy gia tốc AI, với tất cả các xác nhận dự kiến ​​sẽ được hoàn thành trong nửa đầu năm nay.

Samsung cho biết HBM-PIM của họ mang sức mạnh xử lý trực tiếp đến nơi dữ liệu được lưu trữ bằng cách đặt một công cụ AI được tối ưu hóa DRAM bên trong mỗi ngân hàng bộ nhớ, cho phép xử lý song song và giảm thiểu chuyển động dữ liệu. Khi được áp dụng cho giải pháp HBM2 Aquabolt của Samsung, kiến ​​trúc mới đã mang lại hiệu suất hệ thống gấp đôi trong khi giảm tiêu thụ năng lượng hơn 70%.