본문 바로가기
728x90

GPU4

NVIDIA Blackwell GPU 2024/3/18일, GTC 2024 에서 NVIDIA Blackwell 발표 AI Super chip 으로 불리며 블랙웰로 알려진다. 블랙웰은 미국 수학자/통계학자 데이비드 해롤드 블랙웰에서 따왔다. 기존 데이터센터에 많이 사용한 H100은 800억개 트랜지스트, GPU B200은 2080억개 트렌지스터 탑재 TSMC 4NP 노드 사용. TSMC의 N3 노드 보다 2년동안 안정화(수율등) 비용 절감 고려 한 듯. N3노드는 4nm 공정이고 웨이퍼 다이 면적이 814mm^2이다. NVIDIA 전세대 Hopper H100 은 800억개 트랜지스터는 이 다이에 꽉찬다. 그래서인지 비싼 N3 노드에서 하나의 칩으로 하지 않고 NVIDIA 의 NVHBI(Nvidia High Bandwidth Interface).. 2024. 4. 21. Industries
미국 주식시장에서 하루에 가장 높은 시총을 기록한 5종목 엔비디아... https://www.youtube.com/watch?v=UxpxgudTpEM&t=27s 엔비디아 시총, 그리고 이후의 시세 터짐, 관심은 5개중 2번을 차지할 정도로 관심이 높다. - AAPL 은 대체제로 MSFT 가 있다. 삼성폰이 있다. - META 는 엔비디아에 편승해 새로운 AI혁신의 아이콘으로 주목받는 점. 현재 엔비디아 체제는 독보적이다. 대체할 수 없다. GPU 벤더로서 AMD 가 십여년에 걸쳐 CUDA 를 대체하고자 하지만 성공을 못하고 있다. 2024. 3. 3. Industries
[AI] ML/DL을 위한 GPU 간단하게 GPU 와 ML 에 대해서 요약해 보았다. 관련해서 읽어 볼 만한 기사 링크를 걸어 두었다. 단, Intel 부분은 요약이 안되어 있다. GPU 에 대해서 ML/DL 특히 DL을 위해서는 많은 배열(행렬)로 구성된 2차원 배열 수치 데이터의 연산을 해야 한다. float16, float32 등의 실수형 수치에 대한 행렬 연산은 GPU 가 더 잘 수행할 수 있다. GPU는 2차원인 디스플레이의 i x j 배열의 픽셀에 컬러 값을 뿌려주는데 특화된 기계다 컬러는 R, G, B 컬러와 A 채널을 실수 값으로 표현한다. 컴퓨터 디스플레이에 GPU는 컬러로 구성된 즉 i x j 행렬을 연산해서 i x j 개의 픽셀에 빨리 뿌리도록 준비된 장치이다. NVIDIA는 1999년 부터 전용 GPU 를 선보이고 .. 2024. 2. 16. Industries